网站建设管理经验做法,怎样把自己做的网站放到网上,室内设计培训班快速,wordpress小工具是哪个文件来源#xff1a;ScienceAI编译#xff1a;绿萝如果使用不平衡的数据集训练机器学习模型#xff0c;比如一个包含远多于肤色较浅的人的图像的数据集#xff0c;则当模型部署在现实世界中时#xff0c;该模型的预测存在严重风险。但这只是问题的一部分。麻省理工学院的研究人… 来源ScienceAI编译绿萝如果使用不平衡的数据集训练机器学习模型比如一个包含远多于肤色较浅的人的图像的数据集则当模型部署在现实世界中时该模型的预测存在严重风险。但这只是问题的一部分。麻省理工学院的研究人员发现在图像识别任务中流行的机器学习模型在对不平衡数据进行训练时实际上会编码偏差。即使使用最先进的公平性提升技术甚至在使用平衡数据集重新训练模型时模型中的这种偏差也无法在以后修复。因此研究人员想出了一种技术将公平性直接引入模型的内部表示本身。这使模型即使在不公平数据上进行训练也能产生公平的输出这一点尤其重要因为很少有平衡良好的数据集用于机器学习。他们开发的解决方案不仅可以使模型做出更平衡的预测还可以提高它们在面部识别和动物物种分类等下游任务中的表现。「在机器学习中将数据归咎于模型偏差是很常见的。但我们并不总是有平衡的数据。因此我们需要找到真正解决数据不平衡问题的方法」主要作者、麻省理工学院计算机科学与人工智能实验室 (CSAIL) 健康 ML 小组的研究生 Natalie Dullerud 说。定义公平研究人员研究的机器学习技术被称为深度度量学习deep metric learning它是表示学习的一种广泛形式。在深度度量学习中神经网络通过将相似的照片映射在一起并且将不同的照片映射得很远来学习对象之间的相似性。在训练期间该神经网络将图像映射到「嵌入空间」中其中照片之间的相似性度量对应于它们之间的距离。例如如果使用深度度量学习模型对鸟类进行分类它会将金雀的照片一起映射到嵌入空间的一部分中并将红雀的照片映射到嵌入空间的另一部分中。一旦经过训练该模型就可以有效地测量它以前从未见过的新图像的相似性。它会学习将看不见的鸟类的图像聚集在一起但在嵌入空间内离红雀或金雀更远。这张图片显示了鸟类颜色的两个不同的 PARADE 嵌入。Dullerud 说模型学习的相似性度量非常稳健这就是为什么深度度量学习经常被用于面部识别的原因。但她和她的同事想知道如何确定相似性指标是否有偏差。「我们知道数据反映了社会进程的偏见。这意味着我们必须将重点转移到设计更适合现实的方法上。」Ghassemi 说。研究人员定义了相似性度量不公平的两种方式。以面部识别为例如果与那些图像是肤色较浅的人相比如果将肤色较深的人更靠近彼此嵌入即使他们不是同一个人该指标将是不公平的。其次如果它学到的用于衡量相似性的特征对于多数群体来说比少数群体更好那将是不公平的。研究人员对具有不公平相似性指标的模型进行了许多实验但无法克服模型在其嵌入空间中学到的偏差。「这很可怕因为公司发布这些嵌入模型然后人们对它们进行微调以完成一些下游分类任务是一种非常普遍的做法。但无论你在下游做什么你根本无法解决嵌入空间中引发的公平问题」Dullerud 说。她说即使用户在下游任务的平衡数据集上重新训练模型这是解决公平问题的最佳情况仍然存在至少 20% 的性能差距。解决这个问题的唯一方法是确保嵌入空间一开始是公平的。学习单独的指标研究人员的解决方案称为部分属性去相关 (PARADE)涉及训练模型以学习敏感属性如肤色的单独相似性度量然后将肤色相似性度量与目标相似性度量去相关。如果模型正在学习不同人脸的相似度度量它将学习使用肤色以外的特征来映射靠近在一起的相似面孔和相距很远的不同面孔。任何数量的敏感属性都可以通过这种方式与目标相似度度量去相关。并且由于敏感属性的相似性度量是在单独的嵌入空间中学习的所以在训练后将其丢弃因此模型中仅保留了目标相似性度量。他们的方法适用于许多情况因为用户可以控制相似性度量之间的去相关量。例如如果模型将通过乳房 X 光照片诊断乳腺癌临床医生可能希望在最终嵌入空间中保留一些有关生物性别的信息因为女性患乳腺癌的可能性比男性高得多Dullerud 解释说。他们在面部识别和鸟类分类这两项任务上测试了他们的方法发现无论他们使用什么数据集它都能减少嵌入空间和下游任务中由偏差引起的性能差距。展望未来Dullerud 感兴趣的是如何迫使深度度量学习模型首先学习好的特征。「您如何正确审核公平性这是一个悬而未决的问题。你怎么知道一个模型是公平的或者它只在某些情况下是公平的那些情况是什么这些是我真正感兴趣的问题」她说。参考内容https://scitechdaily.com/injecting-fairness-into-ai-machine-learning-models-that-produce-fair-outputs-even-when-trained-on-unfair-data/https://openreview.net/pdf?idjs62_xuLDDv未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市大脑研究计划构建互联网城市大脑技术和企业图谱为提升企业行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
