人工智能时代前沿技术社区

首页 > 热点

在流感大流行期间的怪异行为正在扰乱AI模型

基于正常行为训练的机器学习模型显示出裂缝——迫使人类介入,使其恢复正常。

作者: | 2020-05-20 18:39:30


上个月的一周,排名前十的搜索词亚马逊网站分别是:卫生纸、面膜、洗手液、纸巾、溶血素喷雾剂、氯氧化物湿巾、面膜、溶血素、防菌面膜和N95面膜。人们不仅仅是在搜索,他们也在大量购买。

covid-19来临时,人们开始买以前从未买过的东西。这一转变是突然的:亚马逊十大手机壳、手机充电器、乐高(Lego)的支柱在短短几天内就从排行榜上消失了。

1589971226655991.png

截至今年2月底,亚马逊在多个国家的前十大搜索词用了不到一周的时间来填写与covid-19相关的产品。你可以通过我们购买的东西来追踪这种流行病的传播:这些商品首先在意大利达到顶峰,然后是西班牙、法国、加拿大和美国英国和德国稍显落后。

但它们也影响了人工智能,导致在库存管理、欺诈检测、市场营销等领域幕后运行的算法出现故障。基于人类正常行为训练的机器学习模型现在发现,正常行为已经改变了,有些已经不能正常工作了。

很明显的是,大流行已经揭示了我们的生活与人工智能是如何交织在一起的,暴露了一种微妙的相互依赖,在这种相互依赖中,我们的行为改变了人工智能的工作方式,而人工智能的工作方式改变了我们的行为。这也提醒我们,人类参与自动化系统仍然是关键。

机器学习模型是为应对变化而设计的。但大多数人也很脆弱;当输入的数据与他们接受过训练的数据相差太大时,他们的表现很差。