人工智能时代前沿技术社区

首页 > 人工智能 > 热点

Facebook表示将在算法中寻找种族偏见

Facebook表示正在组建新的内部团队,以寻找驱动其主要社交网络和Instagram的算法中的种族偏见。

作者: | 2020-07-30 17:48:58

据《华尔街日报》报道, Facebook表示正在组建新的内部团队,以寻找驱动其主要社交网络和Instagram的算法中的种族偏见。尤其是,这些调查将解决机器学习对黑人,西班牙裔和其他少数群体的不利影响-机器学习可以在培训数据中对隐性种族主义进行编码。

 1596102586386463.jpg

在过去的几年中,越来越多的研究人员和激进主义者强调了AI的偏见问题及其对少数民族的不成比例的影响。使用机器学习来管理其25亿用户的日常体验的Facebook早就该进行这种内部评估了。例如,已经有证据表明Facebook的广告投放算法按种族区分,并允许广告商阻止特定的种族群体看到他们的广告。 

Facebook一直在躲避其系统中的偏见指控。为了达到这一点,民权组织花费了数年的负面压力和压力。在民权组织组织了为期一个月的广告抵制之后,Facebook成立了这些团队,这些组织导致可口可乐,迪斯尼,麦当劳和星巴克等大笔支出暂停他们的竞选活动。

但是,展开调查与真正解决种族偏见问题相差甚远,尤其是在没人真正知道如何解决这一问题时。在大多数情况下,训练数据中存在偏差,并且没有良好的商定方法来消除它。调整数据(一种算法的肯定行动)是有争议的。机器学习偏见也是社交媒体围绕种族的问题之一。如果Facebook要研究其算法,那它应该成为更广泛改革的一部分,该改革还应着重于为种族主义政客,白人至上主义组织和大屠杀否认者提供平台的政策。