【AI 安全快讯】| 美白宫与AI头部企业就推进负责任人工智能创新展开对话

信息来源：美国白宫官网

2023年5月4日，副总统哈里斯和政府高级官员会见了谷歌、微软、OpenAI和Anthropic的CEO，就人工智能安全问题进行“坦诚”的交流。美总统拜登出席了会议并在会上强调，确保人工智能产品在部署或公开之前的安全是公司的基本责任。

（图源于网络）
总统和副总统明确表示，要想真正享受人工智能进步可能带来的好处，必须减轻其对个人、社会和国家安全构成的当前和潜在风险。这些风险主要包括：事故（safety）、安全(security)、人权、公民权、隐私、就业、价值观。上述四家公司在人工智能发展上处于创新前沿。鉴于其在美国人工智能创新生态系统中发挥的“头部”作用，政府官员呼吁他们发挥示范引领作用，树立负责任的行为模式，并采取行动确保负责任的创新和适宜(appropriate)的安全保障，保护人民的权利和安全。在进行人工智能创新时要符合拜登-哈里斯政府发布的《人工智能权利法案》和《人工智能风险管理框架蓝图》的要求。会议还就三个关键领域进行了坦率和建设性的讨论：公司的人工智能系统需要对政策制定者、公众和其他利益相关方更加透明；对人工智能系统的安全性（包括现实空间的safety和数字空间的security）、有效性进行评估、验证(verify)和确证(validate)的重要性；确保人工智能系统免受恶意行为者操纵和攻击的必要性。政府官员和首席执行官一致认为，需要做更多的工作来制定完善适当的保障保护措施，首席执行官承诺继续就此问题与政府保持接触，以确保美国人民能够从人工智能创新中受益。会议开始前，美白宫发布了《推进技术问责制和保护美国公众权利的关键行动》（Key Actions to Advance Tech Accountability and Protect the Right of the American Public）。

（图源于网络）

此前，美已发布多部人工智能治理法规，包括去年秋季的《AI权力法案蓝图》及其相关的执行部署，今年年初发布的《AI风险管理框架》《建立国家人工智能研究资源的路线图》。参会人员名单：
副总统卡玛拉·哈里斯商务部长吉娜·雷蒙多Arati Prabhakar，总统助理兼科技政策办公室主任Jeff Zients，总统助理兼幕僚长布鲁斯·里德，总统助理兼副幕僚长Mike Donilon，总统助理兼高级顾问杰克·沙利文，总统国家安全事务助理苏珊·赖斯，总统国内政策助理总统助理兼国家经济委员会主任莱尔·布雷纳德Stuart Delery，总统助理兼白宫法律顾问Sam Altman，OpenAI首席执行官Dario Amodei，Anthropic首席执行官微软董事长兼首席执行官萨蒂亚·纳德拉谷歌和Alphabet首席执行官桑达尔·皮查伊

往期回顾

这么好的内容，你不转一下吗