人工智能时代前沿技术社区

首页 > 人工智能 > 热点

机器学习系统的弱点:需要保护它们的5个原因

我们每日辛勤工作的最终目标就是能让生活更轻松方便,人类历史就是这样发展的。机器学习就是这样一种提升便利性的力量,它能从Spotify根据我们以前的播放列表提供的推荐,过滤垃圾邮件和网络钓鱼邮件。

作者: | 2020-10-19 22:21:15 | 来源:51cto

1603117310665550.jpeg

我们每日辛勤工作的最终目标就是能让生活更轻松方便,人类历史就是这样发展的。机器学习就是这样一种提升便利性的力量,它能从Spotify根据我们以前的播放列表提供的推荐,过滤垃圾邮件和网络钓鱼邮件。

虽然机器学习是一个先进技术带来的天才礼物,但总是屈服于臭名昭著的恶意软件和攻击。每个企业的发展都离不开客户和投资者的信任。只有在客户的数据不被泄露和隐私得到维护的情况下,这种信任才得以维持。

然而,随着数据成为新的“燃料”,这已成为一项艰巨的任务。每一个大大小小的组织都在争分夺秒地保护自己和客户不受数据泄露的影响。这篇文章将带你了解机器学习系统需要保护的5个原因。

数据盗窃

我们预计电子商务很快将突破万亿美元大关,这显然也将导致数字欺诈激增。据Juniper Research的报告称,预计到2023年,“无卡交易诈骗”(CNP)的规模将达到1300亿美元。另一个令人担忧的消息是,近50%的电子商务公司已经成为它的受害者。

知识产权盗窃

专利就像是你的创造力和技艺的“合法垄断”(美国专利和商标法长达20年)。在企业环境中,知识产权战争可能会比Eminem和IggyAzalea之间的斗争更严重。以下这些都是在不同行业所存在的知识产权被侵犯的形式:

  • 技术人员:雇员窃取计算解决方案或外包他们的工作,以赚取双倍薪水。

  • 医疗保健:医护人员和药剂师开出超出其授权能力的处方。

  • 教育:申请虚假助学贷款的人。

  • 财务:伪造虚假交易的发票。

不合规

网络安全法的实施无异于公司的责任,而公司的责任则伴随着大量的制衡。

  • 完整的隐私政策:根据2004年《加利福尼亚州在线隐私保护法》(California Online Privacy Protection Act),在加利福尼亚州(现在几乎覆盖整个美国)经营在线业务和网站或收集客户信息(跟踪或研究目的)的公司必须在网站上尽可能详细说明其隐私政策。该法解释了所收集信息的范围,以及第三方共享的目的。

  • 个人数据与个人信息或个人可识别信息有很大区别(可以互换使用它们,但每种都有特定的法律分类),甚至联邦贸易委员会(FTC)也需要提出隐私法并予以支持。

  • 计划把视野扩展到美国以外,但是记住要和你的律师预约。美国以外的数据隐私法与美国法律并不一致,比如欧盟的GDPR赋予其公民收集、删除公司获取的信息的权利;而中国的数据保护法允许政府干预并保存软件包的源代码副本。

服务质量(QoS)下降

服务质量揭示了计算服务的完整性能,攻击者可以利用该服务轻松地在系统中传输大量优化的授权。由此,攻击者可以降低服务质量或强制向人工操作人员升级。

支持QoS的网络容易受到另一种形式的攻击——QoS攻击。支持QoS的网络,例如差别化服务网络,以不同的成本提供不同类别的服务。这种收费差异可能会刺激一些用户窃取带宽或任何其他与网络相关的资源。

中毒分析

数据中毒是金融业最大的潜在威胁,因为它可以导致任何基于人工智能的安全系统漏洞。它具有很强的操纵性,在持续损害数据和破坏客户信任的同时,也容易被忽视。取证专家还发现,追踪如此复杂但易受攻击的状态向量极为困难,这表明基于云的基础设施还需要熟练的安全模块。

除了享受服务之外,还需要警惕潜在威胁。要始终保护和过滤潜在威胁的安全性,这有点像现代的数据角斗士。希望你现在可以更加意识到保护机器学习系统的紧迫性。