人工智能时代前沿技术社区

首页 > 大数据 > 热点

Facebook正在使用机器人来模拟其用户行为

Facebook开发了一种新方法来展示代码的后果。

作者: | 2020-04-23 20:38:53

与任何软件公司一样,Facebook在每次推送更新时对其产品进行测试。但是,拥有25亿用户时,普通规模的公司使用的调试方法还远远不够。此类方法通常着重于检查单个用户可能如何体验平台以及软件是否按预期响应了这些单个用户的操作。相反,只有当用户开始彼此交互时,多达25%的Facebook主要问题才会出现。很难看到功能的引入或隐私设置的更新如何在数十亿用户交互中发挥作用。

 1587645598697965.jpg

作为回应,Facebook 构建了其平台的缩小版本来模拟用户行为。它被称为WW,可帮助工程师在部署新更新之前识别并修复不良后果。它还会自动建议可对平台进行的更改,以改善社区体验。

Facebook一次使用硬编码机器人和基于机器学习的机器人来模拟数百至数千个用户。后者使用强化学习算法进行训练,该算法通过反复试验学习以根据某些目标优化其行为。然后使这些漫游器发挥不同的作用,例如,骗子试图利用其他用户,或者黑客试图访问某人的私人照片。例如,在骗局中,骗子机器人被赋予寻找最佳骗局目标的目的。相比之下,目标bot具有用户展示的最常见的易受攻击行为的硬编码。每个方案可能只有少数几个机器人来执行,但系统设计为可以并行运行数千个不同的方案。

在场景播放时,系统会自动调整模拟中的不同参数,例如漫游器的隐私设置或对其动作的约束。通过每次调整,它会评估哪种参数组合可以实现最理想的社区行为,然后向Facebook平台开发人员推荐最佳版本。

为了尽可能创建逼真的仿真,WW实际上是直接在实时平台上构建的,而不是单独的测试版本,这是与大多数测试方案的另一个主要区别。但是,僵尸程序仍处于幕后。当典型用户通过前端用户界面(例如个人资料和其他网站功能)与Facebook进行交互时,伪造的bot用户可以直接与后端代码进行交互。这样一来,他们就可以与真实用户共存,并且可以更准确地在平台上模拟不同的场景,而不会导致这些用户与他们进行错误的交互。

目前,该公司正在使用它来测试和改进功能,使不良行为者更难违反平台的社区准则。但是它也看到了系统的其他潜在应用程序,例如测试平台更新如何影响参与度和其他指标。