作为保护人工智能 (AI) 的长期努力的一部分，美国国家标准与技术研究院(NIST) 发布了指南，确定了操纵人工智能系统行为的网络攻击类型，并概述了如何缓解此类攻击。
　　执行任务的人工智能系统学习根据训练数据做出决策。例如，自动驾驶汽车可能会看到带有路标的高速公路和街道的图像，这些数据有助于人工智能预测如何在特定情况下做出反应。但挑战在于，人工智能系统所依赖的数据可能不值得信赖，因为网络攻击可能会破坏数据，甚至添加有偏见的语言。
　　新发布的 NIST 出版物是政府、学术界和工业界共同努力的结果，考虑了四种主要类型的攻击：逃避攻击、投毒攻击、隐私攻击和滥用攻击。该出版物《对抗性机器学习：攻击和缓解的分类和术语》(NIST.AI.100-2) 旨在帮助 AI 开发人员和用户“掌握他们可能预期的攻击类型以及方法”来减轻它们的影响”，根据 NIST 发布该报告的新闻报道。
　　NIST 确定了针对人工智能系统的四种网络攻击：
　　逃避攻击发生在人工智能系统部署后，并试图改变输入以改变系统对其的响应方式。NIST 报告称，这些攻击包括在停车标志上添加标记，使自动驾驶汽车将其误解为限速标志，或者创建令人困惑的车道标记，使车辆偏离道路。
　　中毒攻击发生在训练阶段，通过引入损坏的数据，例如聊天机器人在与客户操作/交互时可以将其解释为可接受的语言的不适当语言。
　　隐私攻击发生在部署过程中，是获取有关人工智能或其训练数据的敏感信息以滥用它的一种方式。
　　当从看似合法但受到损害的来源（例如网页或在线文档）插入不正确的信息时，就会发生滥用攻击，然后人工智能会吸收这些信息。
该研究的合著者、NIST 计算机科学家 Apostol Vassilev 表示：“尽管人工智能和机器学习取得了重大进展，但这些技术很容易受到攻击，从而导致严重故障并带来可怕的后果。” “我们概述了考虑所有类型人工智能系统的攻击技术和方法。我们还描述了文献中报告的当前缓解策略，但这些可用的防御措施目前缺乏充分缓解风险的有力保证。我们鼓励社区提出更好的防御措施。”