【摘要】 Resistant AI已经筹集了275万美元的风险投资，以开发一种保护算法免受自动攻击的人工智能系统。 Index Ventures和Credo Ventures
Resistant AI已经筹集了275万美元的风险投资，以开发一种保护算法免受自动攻击的人工智能系统。
Index Ventures和Credo Ventures领导了这项投资，其中包括Seedcamp，UiPath CEO Daniel Dines和Avast CTOMichal Pechoucek的参与。Resistant AI总部位于布拉格，致力于解决黑客利用AI操纵机器学习系统这一日益严重的问题。
专家曾预测，网络安全最终将导致攻击者与其目标之间进行AI军备竞赛。
Resistant AI联合创始人兼首席执行官Martin Rehak说：公司现在正在学习如何部署AI。另一方面，我们看到罪犯和欺诈者正在学习如何利用这些程序谋取利益，以及如何大规模地窃取金钱。我们的工作是保护AI和机器学习模型。
Resistant AI的团队包括一个在Cognitive Security工作的核心小组，该小组于2013年被Cisco Systems收购。Rehak表示，该团队最初于2006年开始从事AI的安全工作，而此时此技术似乎已遥不可及。
他说：头五年，当我告诉任何人我们在做什么时，他们告诉我我疯了。
在思科期间，与AI相关的工作变得越来越重要。但是，该小组最终独自出击，专注于将AI用来攻击AI的问题-或者，正如Rehak解释的那样，AI被用来攻击各种自动化决策系统。
专家们越来越担心对抗性攻击的兴起。这是指有人在外部将元素引入机器学习模型以破坏或操纵它的想法。
当Resistant AI在2019年推出时，它决定首先专注于金融公司，金融公司已开始转向自动化系统来批准各种产品的应用程序。
欺诈尝试可以多种方式发生。在一种基本情况下，人们使用公用事业账单或银行对帐单，其名称被更改为通过算法驱动的验证系统，从而成为开户或融资或批准贷款的工具。抵抗者的AI通过检测视觉异常或识别似乎可疑的数据进行干预，以阻止其进入批准系统。
抵制人员的服务还可以查看金融系统正在做出的决策，考虑所有输入，并在大批量中查找相关性或不一致之处。例如，单个批准请求看似无害，但在一组100，000个请求中，它可能具有类似于其他几个请求的异常情况。
Rehak说：这样一来，我们可以看到具有不同身份的人实际上正在对系统进行指纹识别并试图找到该漏洞。
通过指纹识别，Rehak意味着有人正在提交一系列文档和信息，以试图了解公司的算法和机器学习功能。
这种攻击的目标可能是双重的。首先，黑客可能试图弄清楚算法的参数，以进行欺诈。但是，他们也可能试图使用攻击来了解算法以进行复制。然后，他们可能会将信息出售给想要进行欺诈的其他人，或者甚至出售给被攻击公司的竞争对手。
Rehak说，在这两种情况下，黑客都越来越多地使用AI来自动化和适应他们自己的方法来探测这些机器学习系统。
展望未来，Resistance计划使用这笔钱来扩大其20名员工的规模，并扩展其在西欧的销售业务。