17611538698
webmaster@21cto.com

白宫发布人工智能风险的行政命令

资讯 0 792 2023-11-01 12:29:43

图片

美国总统拜登昨天上午推出了一项旨在管理与人工智能相关风险的行政命令(EO) 。据白宫称,该行政命令“为人工智能安全和保障制定了新标准,保护美国人的隐私,促进公平和公民权利,维护消费者和工人的利益,促进创新和竞争,提升美国在世界各地的领导地位等等” ”。该行政命令概述了为确保安全而制定的多项标准和最佳实践,包括如下:  

  • 要求人工智能系统开发商与政府分享安全测试结果

  • 建立标准、工具和测试以确保人工智能系统的安全性与可信性

  • 制定生物合成筛选新标准,防止人工智能被用来制造危险的生物材料

  • 创建检测人工智能生成内容的指南与技术最佳实践

  • 建立安全计划,开发找和修复人工智能漏洞的工具

  • 制定国家安全备忘录,指导人工智能和安全方面进一步行动的方向


在命令中进一步讨论了如何保护公民的隐私,因为人工智能使提取和利用个人数据变得更加容易。行政命令的最后一部分涉及政府负责任地使用人工智能。政府将向各机构发布人工智能合作指南,帮助他们获取人工智能产品和服务,并加快政府聘用人工智能专业人员。 

几位人工智能专家对新的行政命令发表了如下意见。

Protect AI(https://protectai.com/)CEO、亚马逊前人工智能主管伊恩·斯旺森 (Ian Swanson) 表示:“我们坚信,保护人工智能的必要性与其所能带来的巨大价值相匹配。为了构建与交付安全又值得信赖的人工智能,企业必须严格测试(“红队”)其人工智能,并了解用于创建该人工智能的元素的总体构成。”

Scibids(https://scibids.com/)作为一家将人工智能和广告活动相结合的公司,其首席营销官纳迪亚·冈萨雷斯 (Nadia Gonzalez)认为该行政命令令人鼓舞。她说,这表明白宫正认真对待人工智能,并且“正在让我们摆脱迄今为止在各州层面上出现的拼凑方法”。“人工智能有潜力大幅改善政府运作方式、保护广大隐私并促进技术创新,但必须注意确保监管力度足够强。”


评论