精华内容
下载资源
问答
  • 如来说,诸心皆为非心,名为心。所以者何?须菩提,过去心不可得,现在心不可得,未来心不可得 转载于:https://www.cnblogs.com/QuitGame/archive/2005/03/15/119188.html...
    如来说,诸心皆为非心,是名为心。所以者何?须菩提,过去心不可得,现在心不可得,未来心不可得

    转载于:https://www.cnblogs.com/QuitGame/archive/2005/03/15/119188.html

    展开全文
  • 正是这种乏味无聊的工作使得自动化调成为可能。在 RISELab 中,我们发现越来越有必要利用尖端的超参数调整工具来跟上最先进的水平。深度学习性能的提高越来越依赖于新的和更好的超参数调整算法,如基于分布的训练...

    在机器学习的大多数漂亮的结果背后,是一个研究生(我)或工程师花费数小时训练模型和调整算法参数。正是这种乏味无聊的工作使得自动化调参成为可能。

    2437d54245573b34ec60f8e81069991c.png

    在 RISELab 中,我们发现越来越有必要利用尖端的超参数调整工具来跟上最先进的水平。深度学习性能的提高越来越依赖于新的和更好的超参数调整算法,如基于分布的训练(PBT) ,HyperBand,和 ASHA。

    aae880ee20891e7b0c2700a8fe1f9431.png

    Source: 基于分布的训练大大提高了 DeepMind 在许多领域的算法。来源:https://deepmind.com/blog/population-based-training-neural-networks/

    这些算法提供了两个关键的好处:他们最大化模型的性能: 例如,DeepMind 使用 PBT在星际争霸中获得超人般的表现; Waymo 使用实现无人驾驶汽车的 PBT.

    他们将训练成本降到最低: HyperBand 和 ASHA 覆盖到高质量的配置 以前的方法所需时间的一半; 基于总体的数据增强算法 实现指数级削减成本

    然而,我们看到,绝大多数研究人员和团队没有利用这种算法。

    为什么?大多数现有的超参数搜索框架没有这些新的优化算法。一旦达到一定的规模,大多数现有的并行超参数搜索解决方案可能会很难使用ーー您需要为每次运行配置每台机器,并经常管理一个单独的数据库。

    实际上,实现和维护这些算法需要大量的时间和工程。

    但事实并非如此。我们相信,没有理由说超参数调优需要如此困难。所有的人工智能研究人员和工程师都应该能够在8个 gpu 上无缝运行并行异步网格搜索,甚至可以扩展到利用基于分布的训练或者云上的任何贝叶斯优化算法。

    在这篇博客文章中,我们将介绍 Tune, 一个基于 Ray 的强大的超参数调整库,旨在消除艰辛、设置实验执行和超参数调整过程中的难度。

    17f988561bdd0bc99409ce56015dc8a0.png

    在不更改代码的情况下,优化从单个机器到大型分布式集群的扩展训练

    Tune 是一个强大的 Python 库,可以加速超参数调整:提供了开箱即用的分布式异步优化Ray.

    您可以在不更改代码的情况下将超参数搜索从单台机器扩展到大型分布式集群

    Tune 提供了最先进的算法,包括(但不限于)ASHA 女名女子名, BOHB, 及Population-Based Training 以人口为本的培训.

    自动可视化结果TensorBoard or 或MLFlow.

    Tune 与许多优化库集成,如 Ax/Botorch, HyperOpt, 及Bayesian Optimization 贝叶斯优化 并且可以让你透明地扩展它们

    Tune 支持任何机器学习框架,包括 PyTorch、 TensorFlow、 XGBoost、 LightGBM 和 Keras

    除了 Tune 的核心特性,研究人员和开发人员更喜欢 Tune 而不是其他现有的超参数调优框架有两个主要原因: 规模和灵活性。

    0f7ac76bd4ee0788482a79829fae0369.png

    搜索算法注意: 从2019年8月12日起,HpBandSter 支持 HyperBand、 Random Search 和 BOHB。支持随机搜索、 HyperBand 和 Bayesian 优化。Optuna 支持中位数(百分位数)停止,ASHA,随机搜索和贝叶斯优化(TPE)。HyperOpt 支持贝叶斯优化和随机搜索。Tune 支持 PBT,BOHB,ASHA,HyperBand,Median Stopping,Random Search,Bayesian Optimization (TPE,等等) ,以及许多其他由于库集成而产生的功能

    Tune 简化了扩展

    通过添加少于10行的 Python 代码,利用机器上的所有核心和 gpu 来执行并行异步超参数调优。

    如果你遇到任何问题,请在评论中发表。

    42e58283bf758929f0f02dd90125db1d.png

    https://twitter.com/MarcCoru/status/1080596327006945281

    使用另一个配置文件和4行代码,在云上启动一个大规模分布式超参数调优集群,并自动关闭计算机(我们将在下面向您展示如何做到这一点)。

    通过 Tune 的内置容错、试用迁移和集群自动伸缩,您可以安全地利用 spot (抢占)实例,并将云成本降低高达 90%.。

    Tune 是灵活的

    2a06356a536e8d8bab731f3613c9fc61.png

    Tune 与 MLFlow 和 TensorBoard 等实验管理工具无缝集成。

    Tune 为优化算法提供了一个灵活的接口,允许您轻松地实现和扩展新的优化算法。

    您可以使用 Tune 来利用和扩展许多尖端优化算法和库,比如 HyperOpt (下面)和 Ax,而无需修改任何模型训练代码。

    使用 Tune 很简单

    现在让我们深入到一个具体的例子中,它展示了如何利用一个流行的早期停止算法(ASHA)。我们将首先在您的工作站上的所有核心上运行一个使用 Tune 的超参数调优脚本示例。然后,我们将使用10行代码使用 Ray 在云上进行同样的超参数优化实验。

    您可以在这里下载超参数调优代码的完整版本(这里是分布式实验配置)。

    我们将在这个例子中使用 PyTorch,但是我们也有 Tensorflow 和 Keras可用的例子。

    Tune 被包装成 Ray 的一部分。要运行这个示例,您需要安装以下命令:pip install ray torch torchvision

    让我们用 PyTorch 编写一个神经网络:

    要开始使用 Tune,向下面的 PyTorch 培训函数添加一个简单的日志记录语句。

    注意,在上面的培训脚本中有一些辅助函数; 您可以在这里看到它们的定义。

    运行 Tune

    让我们做一个试验,从学习率和动量的均匀分布中随机抽取样本。

    现在,你已经跑完了你的第一个Tune!通过指定 GPU 资源 ,您可以很容易地启用 GPU 的使用ー参见文档了解更多细节。然后我们可以绘制这个试验的表现(需要 matplotlib)。

    并行执行和提前停止

    93aef93324cdae9be8760dd909c27787.png

    ASHA 和提前停止

    让我们集成 ASHA,一个可扩展的早期停止算法(博客文章和论文)。ASHA 终止了不那么有前途的试验,并为更有前途的试验分配了更多的时间和资源。

    使用 num_samples 在计算机上所有可用的核上并行搜索(额外的试验将排队)。

    您可以使用与前面的示例相同的 DataFrame 绘图。运行后,如果安装了 Tensorboard,还可以使用 Tensorboard 来可视化结果: tensorboard --logdir ~/ray_results

    a6e78809495887526beebb00ab1147fc.png

    分布式执行

    启动一个分布式超参数搜索通常工作量太大。但是 Ray 和 Tune 使得一切变得简单

    使用简单的配置文件在云上启动

    f1a92a57a4bda7ed023005e843c6ad5c.png

    并在不更改代码的情况下启动集群分发超参数搜索

    首先,我们将创建一个配置 Ray 集群的 YAML 文件。作为 Ray 的一部分,Tune 与 Ray cluster launcher非常干净地互操作。下面显示的相同命令将用于 GCP、 AWS 和本地私有集群。除了头节点之外,我们还将使用3个工作节点,因此我们应该在集群上共有32个 vcpu,这样我们就可以并行地评估32个超参数配置。

    整合

    要在整个 Ray 集群中分布超参数搜索,您需要在脚本的顶部附加以下内容:

    考虑到计算量的大幅增长,我们应该能够增加搜索空间和搜索空间中的样本数量:

    您可以在这个博客中下载脚本的完整版本(作为 tune_script.py)。

    开始你的实验

    要启动实验,您可以运行以下命令(假设目前为止您的代码在一个文件 tune_script.py 中) :$ ray submit tune-default.yaml tune_script.py --start

    --args="localhost:6379"

    这将在 AWS 上启动您的集群,将 tune_script.py 上传到 head 节点,并运行 python tune_script.py localhost: 6379,这是 Ray 为启用分布式执行而打开的一个端口。

    脚本的所有输出都将显示在控制台上。请注意,集群将首先设置头节点,然后再设置任何工作节点,因此一开始您可能只看到4个 cpu 可用。一段时间后,您可以看到24个实验正在并行执行,其他实验将排队等待执行,只要实验是闲置的。

    要关闭集群,可以运行:$ ray down tune-default.yaml

    了解更多:

    Tune 有许多其他特性,使研究人员和从业人员加速他们的发展。这篇博客文章中没有提到的其他 Tune 功能包括:一个简单的 API 进行分布式容错实验

    分布式超参数搜索 PyTorch 分布式数据并行训练

    基于群体分布的训练

    对于那些可以访问云的用户,Tune 和 Ray 提供了许多实用程序,可以在笔记本电脑的开发和云端的执行之间实现无缝的转换。文件包括:在后台进行实验

    提交一个现有实验

    在 TensorBoard 中可视化一个分布式实验的所有结果调整的目的是规模实验执行和超参数搜索与方便。如果您有任何意见或建议,或者有兴趣为 Tune 做贡献,您可以联系我 或者 ray-dev 邮件列表。

    代码: https://github.com/ray-project/ray/tree/master/python/ray/tune

    文档: http://ray.readthedocs.io/en/latest/tune.html

    b739ec46bb5c46d9c0aa4ce35ba1ea56.png

    关于找一找教程网

    本站文章仅代表作者观点,不代表本站立场,所有文章非营利性免费分享。

    本站提供了软件编程、网站开发技术、服务器运维、人工智能等等IT技术文章,希望广大程序员努力学习,让我们用科技改变世界。

    [Ray Tune: 炼丹师的调参新姿势]http://www.zyiz.net/tech/detail-151045.html

    展开全文
  • 展开全部参数检62616964757a686964616fe59b9ee7ad9431333366303234验针对参数做的假设,非参数检验针对总体分布情况做的假设,这个区分参数检验和非参数检验的一个重要特征。参数检验和非参数检验的本质区别:...

    展开全部

    参数检62616964757a686964616fe59b9ee7ad9431333366303234验是针对参数做的假设,非参数检验是针对总体分布情况做的假设,这个是区分参数检验和非参数检验的一个重要特征。

    参数检验和非参数检验的本质区别:

    1.参数检验要利用到总体的信息(总体分布、总体的一些参数特征如方差),以总体分布和样本信息对总体参数作出推断;非参数检验不需要利用总体的信息(总体分布、总体的一些参数特征如方差),以样本信息对总体分布作出推断。

    2.参数检验只能用于等距数据和比例数据,非参数检验主要用于记数数据。也可用于等距和比例数据,但精确性就会降低。

    扩展资料:

    参数检验与非参数检验的优缺点。

    1)参数检验:优点是符合条件时,检验效率高;其缺点是对资料要求严格,如等级数据、非确定数据(>50mg)不能使用参数检验,而且要求资料的分布型已知和总体方差相等。

    2)非参数检验:优点是应用范围广、简便、易掌握;缺点是若对符合参数检验条件的资料用非参数检验,则检验效率低于参数检验。如无效假设是正确的,非参数法与参数法一样好,但如果无效假设是错误的,则非参数检验效果较差,如需检验出同样大小的差异的差异往往需要较多的资料。

    另一点是非参数检验统计量是近似服从某一部分,检验的界值表也是有近似的(如配对秩和检验)因此其结果有一定近似性。

    1、提出检验假设又称无效假设,符号是H0;备择假设的符号是H1。

    H0:样本与总体或样本与样本间的差异是由抽样误差引起的;

    H1:样本与总体或样本与样本间存在本质差异;

    预先设定的检验水准为0.05;当检验假设为真,但被错误地拒绝的概率,记作α,通常取α=0.05或α=0.01。

    2、选定统计方法,由样本观察值按相应的公式计算出统计量的大小,如X2值、t值等。根据资料的类型和特点,可分别选用Z检验,T检验,秩和检验和卡方检验等。

    3、根据统计量的大小及其分布确定检验假设成立的可能性P的大小并判断结果。若P>α,结论为按α所取水准不显著,不拒绝H0,即认为差别很可能是由于抽样误差造成的,在统计上不成立。

    如果P≤α,结论为按所取α水准显著,拒绝H0,接受H1,则认为此差别不大可能仅由抽样误差所致,很可能是实验因素不同造成的,故在统计上成立。P值的大小一般可通过查阅相应的界值表得到。

    两独立样本的非参数检验是在对总体分布不甚了解的情况下,通过对两组独立样本的分析来推断样本来自的两个总体的分布等是否存在显著差异的方法。独立样本是指在一个总体中随机抽样对在另一个总体中随机抽样没有影响的情况下所获得的样本。

    SPSS中提供了多种两独立样本的非参数检验方法,其中包括曼-惠特尼U检验、K-S检验、W-W游程检验、极端反应检验等。

    某工厂用甲乙两种不同的工艺生产同一种产品。如果希望检验两种工艺下产品的使用是否存在显著差异,可从两种工艺生产出的产品中随机抽样,得到各自的使用寿命数据。

    展开全文
  • 如图所示,1个参数的构造函数,一般在代码写组件,例如:new MyTextView(context)。2个参数,3个参数的构造函数,用于在配置文件中写组件。Attribute定义属性,defStyle为定义样式。

    如图所示,1个参数的构造函数,一般在代码写组件,例如:new MyTextView(context)。2个参数,3个参数的构造函数,用于在配置文件中写组件。Attribute定义属性,defStyle为定义样式。
    展开全文
  • Var是什么意思?怎么用?等等等,大家先别急,var不是一个生僻的函数,甚至说,这是一个会经常见到的函数,它可以跟很多函数搭配使用,甚至在调用时候也非常的好用,好了,话不多说,一起来看看吧~关于var函数:*var在...
  • Var是什么意思?怎么用?等等等,大家先别急,var不是一个生僻的函数,甚至说,这是一个会经常见到的函数,它可以跟很多函数搭配使用,甚至在调用时候也非常的好用,好了,话不多说,一起来看看吧~关于var函数:*var...
  • Var是什么意思?怎么用?等等等,大家先别急,var不是一个生僻的函数,甚至说,这是一个会经常见到的函数,它可以跟很多函数搭配使用,甚至在调用时候也非常的好用,好了,话不多说,一起来看看吧~关于var函数:*var...
  • 作者:Pushkar Mandot编译:ronghuaiyang导读今天给大家带来一篇...机器学习世界上发展最快的领域。每天都会出现大量的新算法,有些不怎么样,有些非常成功。我正在接触一个非常成功的机器学习算法,LightGBM。写...
  • Var是什么意思?怎么用?等等等,大家先别急,var不是一个生僻的函数,甚至说,这是一个会经常见到的函数,它可以跟很多函数搭配使用,甚至在调用时候也非常的好用,好了,话不多说,一起来看看吧~关于var函数:*var...
  • redisTemplate.opsForZSet().reverseRange(key, 0, -1) 如果zset的size为30,等价于 redisTemplate.opsForZSet().reverseRange(key, 0, 30)
  • Car mycar; 上面Car 是我们自己定义的一个类 mycar则先可看作...能够有这一作用的是什么呢?——构造函数。所以就有了 Car mycar= new Car(); 当我们自己定义了与类同名的有构造函数时,假设参数类型是整型的,...
  • 问题1:benchmark和...问题2:经常在论文中看见baseline但是不明白里面在写的什么? 问题3:什么样的paper叫baseline paper ? 问题四:在查找中看到知乎上的一个问题:深度学习论文中的baseline方法如何调
  • %load_ext autoreload是什么意思

    千次阅读 2019-04-05 19:16:09
    autoreload 意思是自动重新装入。 它后面可带参数。参数意思你要查你自己的版本帮助文件。一般说: 无:装入所有模块。 0:不执行 装入命令。 1: 只装入所有 %aimport 要装模块2:装入所有 %aimport 不包含的模块...
  • URL中的#是什么意思

    2020-12-04 11:27:19
    #号客户端bai参数,#号之后的du数就不会传zhi入到服务端,用dao于网页位置定位,zhuan 比如http://www.example.com/index.html#print 浏览器会shu自动聚焦到id='print'的区块,百度百科词条目录就是这么做的,...
  • //@NoArgsConstructor 生成无构造函数 //@AllArgsConstructor //生成全参数构造函数 @Data @AllArgsConstructor @NoArgsConstructor public class test implements Serializable { private static final long ...
  • python中explode有什么用发布时间:2020-12-11 09:29:05来源:亿速云阅读:62作者:小新这篇文章主要介绍python中explode有什么用,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!...
  • Typescript中的问号点(?.)是什么意思

    千次阅读 2020-11-20 16:50:43
    Typescript中的感叹号点、问号点是什么意思?我刚入坑react项目的时候看别人代码就看到这样的写法,以开始是懵逼的哈哈哈哈,毕竟是个小白,然后吭哧吭哧的百度查资料,最后发现了问号点(?.)奥义哈哈哈。 例子 data...
  • c++如下定义类函数后加冒号是什么意思 什么时候这么用 如 M( const char* in_file ):m_w(),m_object_morph(true) 这是对类成员初始化的意思,一般用于对父类成员初始化。 如果子类中有无构造函数而而父类中...
  • http://gocom.primeton.com/modules/techresource/article536.htm?utm_campaign=searchengine&utm_source=baidu&utm_medium=jjpm&utm_term=AJAX <br /><br />静态页面后有参数是什么意思 ?    ...
  • ObjectiveC基础-ivar是什么意思

    万次阅读 2014-01-27 16:52:43
    Objective-C运行时定义了几种重要的类型。 Class:定义Objective-C类Ivar:定义对象的实例变量,包括类型和名字。Protocol:定义正式协议。objc_property_t:定义...这个类型提供了方法的名字(就是**选择器**)、
  • 展开全部val一个将字符串62616964757a686964616fe59b9ee7ad9431333366306530数转换成数值的函数,字符串参数中一般要含有数字,且以数字开头,val函数才会将其中的数字转换成适当的数值。它能识别小数点和进位...
  • 那么涧下水命是什么意思呢?一起来八字入门里看一看吧!涧下水:涧下水者,山环细浪,雪涌飞端,相连南北之流,对峙坎离之脉。此水清澄,喜见金养,砂中、剑锋二金最宜。钗钏庚戌丁丑不宜,以丑戌相刑,辛亥见丙子则...
  • AMD 每个模板代表的意思是什么? 在主模块中 require() 一 [] 表示:【注入】其它子模块,主模块需要【依赖】其它子模块。这就是所谓的 依赖注入 二 回调函数。作用:处理主模块中所有的业务逻辑。其代码;和...
  • 参考答案如下某电路中需要60V电源供电,类执现在有两个30V的电压源,可以将这两个电压源串联使用...意思( )证流域的某一水文特征量移用到设计流域上来的一种方法利用一个回归方程,类执两个变量可以互相推算(...
  • Java中的public static void main(String[ ] args){}是什么意思? 首先从整体上看,这是一个带方法的声明 ①public 公开的,是一种修饰符,说明这个main方法的对外公开度,以后还会学习到private、protected等修饰...
  • 如果有一个带的构造函数的话,那一定要写一个不带的构造函数。复杂点说,隐藏对象的属性和实现细节,仅对外公开接口,控制在程序中属性的读和修改的访问级别。将抽象得到的数据和行为(或功能)相结合,形成一个...
  • 展开全部有构造:意思是e69da5e6ba903231313335323631343130323136353331333431373938你使用这个构造方法创建对象的时候需要给他传递两个参数。一个参数URL类型(对象本身的类型),另一个字符串类型。列如 URL ...

空空如也

空空如也

1 2 3 4 5 ... 12
收藏数 231
精华内容 92
关键字:

参是什么意思