在航空工业工程领域中，优化、鲁棒性和可靠性分析的重要性与日俱增。本文旨在介绍燃气轮机高压涡轮盘的优化设计方法，为减少计算量，采用了简化的轴对称2D模型。优化目标是降低涡轮盘的重量的同时延长其使用寿命，优化过程中首先开展敏感性研究，以确定与多目标优化最相关的几何结构参数。优化结果是得到一个帕累托前沿分布曲线，将其用于后续的可靠性分析和优化设计。
在航空工业工程领域中，优化、鲁棒性和可靠性分析的重要性与日俱增。本文将先介绍优化过程，然后分析改变输入参数所造成的影响，借助虚拟、简化的高压燃气涡轮盘模型演示这些方法的应用。
工程应用介绍
本文的工程对象是燃气轮机/航空发动机，类似民用飞机通常使用的推进系统。该发动机由三大核心部分组成：压气机、燃烧室和涡轮。涡轮提供动力来驱动压气机和驱动部件，它通过降低燃烧系统排放的高温气体的压力和温度，以产生驱动扭矩。涡轮可以由多级组成，每级使用一组固定喷嘴导流叶片和一组旋转叶片。这些叶片由涡轮盘支撑，高压涡轮盘就是本文介绍的应用对象（图1）。
分析模型和优化目标介绍
本次分析的涡轮盘承受着多重热和机械载荷，使用有限元分析软件Ansys Mechanical计算简化载荷工况的温度分布和应力分布。
对于预期优化和可靠性研究而言，完整的3D模型分析预计成本过高。因此，为减少数值分析工作量，本文采用了一种简化但运行快速的有限元模型。就结果准确性和分析时间而言，采用轴对称2D模型是足以满足要求的折衷方法，2D模型忽略了涡轮盘-叶片间的复杂3D几何结构。因此，涡轮将叶片的平均径向力直接施加到涡轮盘上，此外，还使用温度和传热系数作为边界条件进行稳态热分析。
通常，客户关注的两个优化设计目标：
涡轮盘生命周期尽可能长
涡轮盘重量尽可能低
这里使用简化的生命周期曲线计算了生命周期数。有限元分析得到的温度和应力结果作为这种易于使用的生命周期方法的输入条件，重量直接由几何模型确定。优化软件optiSLang被用于分析流程控制,由于它为Ansys Workbench提供了直接接口，因此设置分析过程变得简便。
敏感度分析
敏感度分析的目标是确定和优化目标量最相关的输入参数，以减少优化算法的计算量。本文采用拉丁超立方方法对513个样本进行实验设计（DOE）分析，仅考虑将几何结构参数作为输入变量，所有热边界条件，例如温度、传热系数都保持不变。据观察，最短寿命位置随着输入变量的实际值而变化。因此，将涡轮盘的截面划分为6个区域。根据输入变量的值，计算出的最短寿命位置出现在这6个区域内的其中一个。图3所示的是这些区域的布局，每个区域还指定了特定位置内全部DOE样本最短寿命的比例。
利用判定系数评估各种几何结构参数的相关性：
根据DOE结果开展分析，图4和图5展示了简单的线性案例结果，这种影响仅体现在4个最相关的几何结构参数上。
图5中的“global”列考虑了所有结果。不考虑最短寿命的具体位置。本案例中“hor2”和“hor4”显示为关联最强的几何结构参数。
图5中的“Region1”列只考虑给定最短寿命位置位于区域1的DOE样本。该案例结果与上述情况相反，参数“hor1”和“hor3”的影响最大。
图5里的“Region3”中有最短寿命的DOE样本。结果与第一个情况中的全局评估结果近似。
这些发现表明：DOE结果对于输入参数范围极其敏感。这表明在总结某个参数对优化任务相关性最强时，应小心谨慎，过度限制参数数量会限制优化所获得的改进。因此，在本研究中我们考虑了更多的参数（7个）来进行优化。
优化
这项研究要解决两个相互冲突的目标：预期寿命和涡轮盘重量，因此必须进行多目标优化。使用Ansys optiSLang提供的多目标进化算法。图6展示的是计算得出的帕累托前沿面，在分析110代后得出该结果。
根据该帕累托前沿面得出的结果作为后续可靠性分析的初始标准设计。这种设计决策通常是根据较高级的信息做出，例如客户对特定飞行任务的要求，因为这个涡轮盘无法适用于真实客户要求，所以需要设计出符合实际的生命周期数Nf。
图7所示的是做出的设计决策。选择额定预期寿命为35280次循环的设计，从而确定涡轮盘重量约为35kg。该标称设计用于鲁棒性和可靠性分析。
可靠性分析
可靠性分析的目的是评估所研究组件的可靠性。在optiSLang 中实现的新算法“自适应响应表面上的自适应采样”（ASonARS）就是为此而设计的。最相关的几何结构参数和边界温度值不同。每一个参数都通过假定的正态分布进行采样。
检查图7中选择的设计，用于核对预期寿命的可靠性。因此，将预期寿命定义为虚拟要求。假定其失效概率（POF）小于1.0 10-6。对于实际应用而言，需要回答如下问题：实现假定的失效概率（POF）需要多少个生命周期？
第一个分析中把预期寿命的极限状态函数值设置为30000个周期。从该极限值得到的POF是3.0 10-5，不符合设定要求。第二个分析将极限状态函数值设置为28000个周期，得到的POF是1.3 10-8，该值显然超出了要求范围。
因此在前文中做出的设计决策无法满足本案例的要求，因为它的目标是30000个周期下的POF小于1.0 10-6。必须从帕累托前沿中选取具有更高额定寿命的新设计点并重新检查其可靠性。显然这种在多目标优化后检查鲁棒性或可靠性的方法成本极高（参见图8）。对于每项设计决策（帕累托前沿上的点）而言，事前无从知晓它是否满足给定的鲁棒性或可靠性要求。
因此，似乎有必要将可靠性信息纳入多目标优化， 即开展可靠性优化（参见图9）.
总结及展望
本文以重量和预期寿命为研究对象，对简化涡轮盘模型进行研究。开展敏感性研究，以确定多目标优化最相关的几何结构参数。研究表明，如果不考虑最短寿命位置，简单的DOE就可能误导识别。多目标优化得到帕累托前沿，用于做出设计决策，对选定设计开展可靠性分析，寻找符合可靠性要求设计迭代过程的道路漫长而曲折。因此，我们希望在优化过程中整合失效概率，这样就能做出考虑所有要求的直接设计决策。
相关工具：
Ansys optiSLang
作者在此感谢DYNARDO（Dirk Ross博士）和CADFEM两家公司对该案例研究的大力支持，该案例研究为欧洲FP6研究项目VIVACE (FP6-502917)做出了突出贡献。
相关资料：
了解你所在行业的仿真实践、工程问题解决思路 
如何借助仿真技术实现连接器结构几何参数优化？ 
Ansys HFSS 如何实现智能优化？
技术控：Ansys Mechanical如何联合optiSLang实现材料参数标定？
干货：优化双频带缝隙天线案例解析（Ansys optiSLang）
干货：如何使用基于MOP的帕累托优化开展多标准电机设计？
一文详解利用Ansys Motor-CAD与optiSLang进行电机优化的方法
智能仿真，一文读懂仿真流程集成与多学科优化能解决哪些工程问题
想了解更多企业仿真解决方案应用、前沿技术资讯，可前往Ansys微信公众号：
ANSYS-China
来源：Bernd Meissner1, Roland Parchem1, Pierre Caraux2
1 Rolls-Royce Deutschland Ltd & Co KG, Blankenfelde-Mahlow (OT Dahlewitz)
2 EPF Ecole d'Ingénieurs, Sceaux
（本文原刊登于http://www.dynardo.de/en/library）

网络模型的鲁棒性与提升鲁棒性的方法

1.定义：在统计学领域和机器学习领域，对异常值也能保持稳定、可靠的性质，称为鲁棒性。比如说，计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下，能否不死机、不崩溃，就是该软件的鲁棒性。所谓“鲁棒性”，是指控制系统在一定（结构，大小）的参数摄动下，维持某些性能的特性。有一个与鲁棒性很相似的概念叫模型的泛化能力。

泛化能力：（generalization ability）是指机器学习算法对新鲜样本的适应能力，对具有同一规律的学习集以外的数据，经过训练的网络也能给出合适的输出，该能力称为泛化能力。

根据泛化能力好的网络设计的神经网络控制器的鲁棒性也会有所改善.泛化能力指对未知数据的预测能力;

2.我们先来看一组例子理解鲁棒性的表现：

例子1.



如上图，生成的对抗样本中的扰动对人类视觉来说不敏感，但是对于模型来说，原本以57.7%的概率被判成熊猫的图片在修改后以99.3%的概率被判成了长臂猿。则该系统的抗干扰性差，鲁棒性低。   

例子2.

                         

对于处于决策边界边缘的数据，只需要稍微在数值上增加一点点或减小一点点，所得到的结果就会截然不同。

例子3.



一味地追求精确度会降低系统鲁棒性。

3.影响鲁棒性的原因：

样本数据中含有噪音降低了数据质量。

样本中种类相似度较高，模型易混淆。

4.提升鲁棒性的方法：

（1）从数据上提升性能

收集更多的数据、产生更多的数据、对数据做缩放、对数据做变换、特征选择、重新定义问题

（2） 从算法上提升性能

算法的筛选、从文献中学习、重采样的方法

（3）从算法调优上提升性能

注意力机制（给与每个像素权重，来衡量像素间的相关性SPNet）、模型可诊断性、权重的初始化、学习率、激活函数、网络结构、batch和epoch、正则项、优化目标、提早结束训练

（4） 用融合方法提升效果

模型融合、视角融合、stacking、多尺度融合（使用不同尺度的卷积核，增加模型的感受野，典型代表金字塔Deeplab系列）

（5）增加模型宽度

将通道分成多组，每组单独进行卷积，然后再将通道合成可以减少模型的参数，提高模型准确率，增加鲁棒性（ResNext）。

 

 

健壮性（鲁棒性）和可靠性是有区别的，两者对应的英文单词分别是 robustness 和 reliability。健壮性主要描述一个系统对于参数变化的不敏感性，而可靠性主要描述一个系统的正确性，也就是在你固定提供一个参数时，它应该是产生稳定的，能预测的输出。例如一个程序，它的设计目标是获取一个参数并输出一个值。假如它能正确完成这个设计目标，就说它是可靠的。但在这个程序执行完毕后，假如没有正确释放内存，或者说系统没有自动帮它释放占用的资源，就认为这个程序及其“运行时”不具备健壮性或者鲁棒性
转载于:https://www.cnblogs.com/dalovess/p/6947217.html

AI 可靠性论文整理
鲁棒性  Robustness
相关文献
高优先级
对抗样本设计与抵御
鲁棒性评估
其他鲁棒性研究
次要优先级
公平性 Fairness
相关文献
高优先级
次要优先级
可解释性  Explainability
相关文献
高优先级
次要优先级
可追溯性 Lineage
相关文献
名词解释

鲁棒性  Robustness
通过暴露和修复漏洞来确保AI系统的安全性和可靠性

识别并防御新的攻击
设计新的对抗性训练方法来增强对攻击的抵御能力
开发新的度量来评估稳健性。

相关文献
高优先级
对抗样本设计与抵御
Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey
总结了目前主流的对抗性样本攻击及抵御方法
EXPLAINING AND HARNESSING ADVERSARIAL EXAMPLES
Goodfellow 等人对对抗性样本的解释以及控制方法
Synthesizing Robust Adversarial Examples
设计强大的对抗样本
DELVING INTO TRANSFERABLE ADVERSARIAL EXAMPLES AND BLACK-BOX ATTACKS
对抗样本通常不特定于某个模型或架构，针对某个神经网络架构生成的对抗样本可以很好地转换到另一个架构中。这意味着有可能对一个完全的黑箱模型创建一个对抗样本。伯克利的一个小组使用这种方法在商业性的人工智能分类系统中发起了一次成功的攻击
Exploring the Hyperparameter Landscape of Adversarial Robustness
探讨了对抗性训练的一些实际挑战，提出了一种实用的方法，利用超参数优化技术来调整对抗性训练，以最大限度地提高稳健性。
Towards Deep Learning Models Resistant to Adversarial Attacks
介绍了提高显著提高对抗性攻击抵御能力的方法
Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images
介绍了如何用对抗样本欺骗神经网络做出错误的判断
鲁棒性评估
Ensemble Adversarial Training Attacks and Defenses
Goodfellow 等人阐述了如何评判一个模型针对对抗扰动的抵抗性，以及同时进行白盒攻击和黑盒攻击的重要性。
CERTIFIED DEFENSES AGAINST ADVERSARIAL EXAMPLES
评估神经网络的对抗鲁棒性
CNN-Cert: An Efficient Framework for Certifying Robustness of Convolutional Neural Networks
提出一个通用且有效的框架：CNN-Cert，它能够证明一般卷积神经网络的鲁棒性。
Evaluating the Robustness of Neural Networks: An Extreme Value Theory Approach
提供了将鲁棒性分析转换为局部Lipschitz常数估计问题的理论证明，并提出使用极值理论进行有效评估。我们的分析产生了一种新的鲁棒性度量标准，称为CLEVER，CLEVER是第一个可以应用于任何神经网络分类器的独立于攻击(attack-independent) 的稳健性度量。
其他鲁棒性研究
Reluplex: An Efficient SMT Solver for Verifying Deep Neural Networks
深度神经网络的可验证性,，提出了一种用于神经网络错误检测的新算法 Reluplex
PROVEN: Verifying Robustness of Neural Networks with a Probabilistic Approach
提出了一种新的概率框架，可以通过统计保证 (statistical guarantees) 对神经网络进行概率论验证
Efficient Neural Network Robustness Certification with General Activation Functions
介绍了CROWN，这是一个根据激活函数来验证神经网络鲁棒性的通用框架。
次要优先级
Defensive Quantization: When Efficiency Meets Robustness
旨在提高人们对量化模型安全性的认识，并设计了一种新的量化方法，共同优化深度学习量化模型的效率和鲁棒性
Kernel-Based Reinforcement Learning in Robust Markov Decision Processes
设计了一种适用于潜在对抗行为的算法来确保马尔可夫决策过程在意外或对抗系统行为方面的稳健性
Analyzing Federated Learning through an Adversarial Lens

探讨了联合学习领域的一些恶意攻击的策略从而突出联合学习的脆弱性以及制定有效防御策略的必要性
L2 - Nonexpansive Neural Networks
优化了控制Lipschitz常数的方法，以实现其最大化鲁棒性的全部潜力，提出的分类器在针对白盒L2限制对抗性攻击的鲁棒性方面超过了现有技术水平
Structured Adversarial Attack: Towards General Implementation and Better Interpretability
提出了 StrAttack 模型来探索对抗性扰动中的群体稀疏性
Query-Efficient Hard-label Black-box Attack: An Optimization-based Approach
研究了在硬标签黑盒设置中攻击机器学习模型的问题
AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Blackbox Neural Networks
提出了一种可以高效查询的黑盒攻击通用框架 AutoZOOM
Anytime Best+Depth-First Search for Bounding Marginal MAP
引入了新的随时搜索算法，这些算法将最佳优先和深度优先搜索结合到图形模型中的边际MAP推理的混合方案中
Attacking Visual Language Grounding with Adversarial Examples: A Case Study on Neural Image Captioning
为了研究语言基础对机器视觉和感知中的对抗性扰动的鲁棒性，提出了Show-and-Fool，一种用于制作神经图像字幕中的对抗性示例的新算法。
BlockDrop: Dynamic Inference Paths in Residual Networks
介绍了 BlockDrop，动态的选择使用深层网络中的哪些层，从而在不降低预测准确率的情况下最佳的减少总计算量
Exploiting Rich Syntactic Information for Semantic Parsing with Graph-to-Sequence Model
采用图形到序列模型来编码句法图并解码逻辑形式。 通过编码更多的句法信息，也可以提高模型的鲁棒性。
Adversarial Phenomenon from the Eyes of Bayesian Deep Learning
考虑使用贝叶斯神经网络来检测对抗性实例
Protecting Intellectual Property of Deep Neural Networks with Watermarking
提出了一种水印植入方法，将水印注入深度学习模型，并设计了一种远程验证机制来确定模型所有权，用水印技术保护神经网络的知识产权。
Unravelling Robustness of Deep Learning based Face Recognition Against Adversarial Attacks
通过利用网络中隐藏层的响应适当地设计分类器，能够以非常高的精度检测攻击。最后，我们提出了几种有效的对策来减轻对抗性攻击的影响，并提高基于DNN的人脸识别的整体稳健性。
EAD: Elastic-Net Attacks to Deep Neural Networks via Adversarial Examples
我们通过对抗性的例子来描述攻击DNN的过程，作为弹性网络正则化优化问题。
公平性 Fairness
设计检测并且减消除偏见的方法来确保 AI 不会被人们的偏见影响，也不会激化人们的偏见

对数据集进行预处理，消除数据集中的偏见
消除模型带来的偏见
对模型进行公平性评估

相关文献
高优先级
Automated Test Generation to Detect Individual Discrimination in AI Models
解决了检测模型是否具有个体歧视的问题
Design AI so that it’s fair
寻找和消除神经网络带来的偏差
Fairness GAN: Generating Datasets with Fairness Properties using a Generative Adversarial Network
Fairness Gan
使用公平性的生成对抗网络生成数据集，产生公平合理的图像
AI Fairness 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias
介绍了一个新的开源python库：AIF360，为公平研究人员提供共享和评估算法的通用框架
Towards Composable Bias Rating of AI Systems
设想建立独立于API生产者和消费者的第三方机构来对AI系统的公平性进行评估
An End-To-End Machine Learning Pipeline That Ensures Fairness Policies
手动理解策略并确保不透明ML系统的公平性是耗时且容易出错的，因此需要端到端系统来确保数据所有者和用户始终遵守公平政策。该系统可以：1）理解用自然语言编写的策略，2）警告用户违反策略，3）记录执行的每个活动，以便后续证明策略合规性。
次要优先级
Scalable Fair Clustering
提出了一种线性时间的聚类算法，能更精细的控制聚类的平衡
Scalable Fair Clustering
研究人脸识别神经网络的公平性，提供了人类可解释的面部特征的定量测量，推动创建更公平和准确的人脸识别系统
Data Pre-Processing for Discrimination Prevention: Information-Theoretic Optimization and Analysis
Optimized Pre-Processing for Discrimination Prevention
介绍了一种新的概率预处理方法，用于减少歧视
Analyze, Detect and Remove Gender Stereotyping from Bollywood Movies
分析电影或者海报中的性别偏见
Modeling Epistemological Principles for Bias Mitigation in AI Systems: An Illustration in Hiring Decisions
本文提出了一种结构化方法，以减轻人工智能系统偏见造成的歧视和不公平。研究AI对招聘简历的分析。
Fairness in Deceased Organ Matching
研究如何公平地决定如何将已故捐献者捐赠的器官与患者相匹配
可解释性  Explainability
了解 AI 输出结果的依据是可信的关键要素，尤其是对企业级 AI 而言。为了提高透明度：

研究模型及输出的局部可解释性和全局可解释性
训练可解释模型并且将模型内的信息流可视化

相关文献
高优先级
Understanding black-box predictions via influence functions
描述神经网络的可解释性
Seq2Seq-Vis: A Visual Debugging Tool for Sequence-to-Sequence Models
设计了一款可用于 Seq2Seq 翻译模型 debug 的可视化工具
Teaching Meaningful Explanations
提出了一种可解释的方法，让训练数据除了包含特征和标签之外，还包含用户给出的解释，然后使用联合模型进行学习，针对输入特征输出标签和解释。
Explanations based on the Missing: Towards Contrastive Explanations with Pertinent Negatives
提出了一种对黑盒分类器提供对比解释的新方法，来证明分类是否合理
次要优先级
Why Interpretability in Machine Learning? An Answer Using Distributed Detection and Data Fusion Theory
使用分布式检测理论来表征系统的性能，并证明具有可解释性的分类系统优于黑盒系统
Collaborative Human-AI (CHAI): Evidence-Based Interpretable Melanoma Classification in Dermoscopic Images
提出了一种基于证据的皮肤图像分类方法
Interpretable to Whom? A Role-based Model for Analyzing Interpretable Machine Learning Systems
识别代理在机器学习系统中实现的不同角色以及如何影响其目标，并且定义可解释性的含义。
Improving Simple Models with Confidence Profiles
提出了 ProfWeight 方法将信息从具有高测试精度的预训练深度神经网络传递到更简单的可解释模型或低复杂度和先验低测试精度的非常浅的网络
可追溯性 Lineage
确保 AI 系统所有的部件和事件都是可追溯的

设计事件生成记录模块
设计可扩展的事件提取和管理模块
设计高效的可追溯查询模块来管理 AI 系统的完整生命周期

相关文献
FactSheets: Increasing Trust in AI Services through Supplier’s Declarations of Conformity
提出供应商的AI服务符合性声明（SDoC），以描述产品的沿袭以及它经历的安全性和性能测试，帮助增加对AI服务的信任。 我们设想用于人工智能服务的SDoC包含目的，性能，安全性，安全性和出处信息，由AI服务提供商完成并自愿发布，供消费者检查。 重要的是，它传达了产品级而不是组件级的功能测试。
名词解释
对抗性样本（Adversarial Sample）：
对输入样本故意添加一些人无法察觉的细微的干扰，导致模型以高置信度给出一个错误的输出。
误差放大效应（error amplification effect）：
由于神经网络的结构复杂，而且会经过多次叠加，即使很小扰动，累加起来也很可观。