澳大利亚发布《在政府中负责任地使用人工智能的政策​》

2024年8月15日，澳大利亚发布了一份《在政府中负责任地使用人工智能的政策》。该政策旨在为澳大利亚政府在更广泛的安全和负责任的人工智能议程下树立典范提供一个框架。

根据该政策的描述，人工智能在改善社会和经济福祉方面具有巨大潜力。人工智能的开发和部署正在加速，并已渗透到机构、基础设施、产品和服务中，这种转变正在整个经济和政府领域发生。对于政府而言，采用人工智能的好处包括提高机构运作的效率和准确性、更好的数据分析和基于证据的决策，以及改善对民众和企业的服务。澳大利亚公共服务（APS）的许多领域已经在使用人工智能来改进工作和与公众的互动。

为了释放人工智能的创新应用潜力，澳大利亚需要一个现代且有效的监管体系。国际上，政府正在引入新的法规来应对人工智能的独特风险，重点是预防性的、基于风险的护栏，这些护栏适用于整个供应链和人工智能的生命周期。澳大利亚政府关于安全和负责任的人工智能的咨询表明，当前的监管体系并不适合应对人工智能带来的独特风险。

咨询还发现，公众期望政府在采用和使用人工智能技术方面树立典范。公众对人工智能和政府使用它的信任度很低，这阻碍了人工智能的采用。澳大利亚公共服务在人工智能的管理方面的准备程度和成熟度各不相同。人工智能技术迅速而广泛地变化，如果不迅速采取行动来减轻风险，就会带来进一步的风险。

这意味着政府在使用人工智能方面承担着更高的责任，并应遵守更高的道德行为标准。

澳大利亚政府对咨询的临时回应包括承诺创造一个建立社区信任并促进创新和采用的监管环境。它概述了确保在合法但高风险的环境中设计、开发和部署人工智能是安全的和可靠的途径，同时确保在低风险环境中的人工智能可以继续基本上不受阻碍地使用。

该政策是澳大利亚政府在安全和负责任地使用人工智能方面树立典范的旅程的第一步，符合澳大利亚社区的期望。它与整个经济的措施（如强制性护栏和自愿性行业安全措施）并行。

改政策旨在创建一种政府使用人工智能的协调方法，并已设计用于补充和加强（而非重复）澳大利亚公共服务正在使用的现有框架。

鉴于该领域变化的速度和规模，本政策旨在随着技术的变化、领先实践的发展和更广泛的监管环境的成熟而不断发展。

政策目标

本政策旨在确保政府在采用人工智能（AI）技术时发挥领导作用，为澳大利亚人带来福祉，同时确保按照社区的期望，安全、合乎道德和负责任地使用人工智能技术。

拥抱益处
本政策为政府提供了一个统一的方法，以便自信、安全且负责任地与人工智能进行互动，并实现其带来的益处。

澳大利亚公共服务（APS）各部门在采用人工智能技术和能力方面存在差异。本政策旨在通过提供关于人工智能的治理、保证和透明度的基本要求，来统一政府的方法。

这将通过增强各部门对人工智能方法的信心，并激励其为公众利益而安全、负责任地使用人工智能，从而消除政府采用人工智能的障碍。

增强公众信任
本政策旨在通过提供更高的透明度、治理和风险保证，来增强公众对政府使用人工智能的信任。

成功采用人工智能面临的最大挑战之一是公众对政府采用和使用人工智能缺乏信任。缺乏公众信任会阻碍人工智能的采用。公众担心他们的数据如何使用，人工智能的部署缺乏透明度和问责制，以及这些技术辅助的决策方式如何影响他们。

本政策通过为各部门实施强制性和可选措施来解决这些担忧，例如对性能进行监测和评估，提高其人工智能使用的透明度，并采用标准化的治理方法。

随时间适应
本政策旨在为政府使用人工智能嵌入一种前瞻性的、适应性的方法，该方法旨在随着时间的推移而发展和完善。

人工智能是一项迅速变化的技术，其变化的规模和性质是不确定的。本政策旨在确保对人工智能迅速变化的性质采取灵活的方法，并要求各部门在技术和政策环境发生变化时进行调整和适应。

政策实施

该政策自2024年9月1日起生效。

与其他全政府数字政策一致，根据《2013年公共治理、绩效与责任法案》的定义，所有非企业型联邦实体（NCEs）必须执行本政策。

同时，鼓励企业型联邦实体执行本政策。

国家安全豁免本政策不适用于国防领域的人工智能使用。

本政策不适用于《2018年国家情报机构法案》第4条所定义的“国家情报部门”（NIC）。国家情报部门包括：国家情报办公室（ONI）澳大利亚信号局（ASD）澳大利亚安全情报组织（ASIO）澳大利亚秘密情报局（ASIS）澳大利亚地理空间情报组织（AGO）国防情报组织（DIO）澳大利亚犯罪情报委员会（ACIC）澳大利亚交易报告与分析中心（AUSTRAC）、澳大利亚联邦警察局（AFP）、内政部和国防部的情报职能和作用。国防部门和国家情报界成员可在不损害国家安全能力或利益的前提下，自愿采纳本政策的部分内容。

现有框架政府使用人工智能带来的挑战复杂且与其他问题固有相关，如：

《澳大利亚公共服务行为准则》数据治理网络安全隐私伦理实践本政策旨在补充和加强（而非重复）涉及政府使用人工智能的现有框架、立法和实践。

该政策必须与现有框架和法律一并阅读和应用，以确保各机构履行其所有义务。

探索相关框架以下是与人工智能相关的现有框架的不完全列表。

人工智能定义虽然人工智能的定义多种多样，但就本政策而言，澳大利亚建议各机构应采用经济合作与发展组织（OECD）提供的定义：

人工智能系统是一种基于机器的系统，它为实现明确或隐含的目标，从其接收的输入中推断出如何生成输出，如预测、内容、建议或决策，这些输出可影响物理或虚拟环境。不同的人工智能系统在部署后的自主性和适应性水平各不相同。

各机构可参考经济合作与发展组织网站上的进一步解释材料。

鉴于人工智能的快速变化性，各机构应保持对本定义任何更新或变更的了解。随着更广泛的全经济监管环境的成熟，本政策中的定义将进行审查，以确保采取一致的方法。

原则和要求以下部分概述了“赋能、参与和演进”框架下的政策原则和要求。

赋能与准备

原则
安全地使用人工智能，以提高生产力、决策质量、政策成果和政府服务交付水平，造福澳大利亚人民。
澳大利亚公共服务（APS）官员在使用人工智能时，需要能够解释、证明并对其提供的建议和决策负责。
对采用人工智能有明确的责任划分，并理解其使用方式。
长期构建人工智能能力。

强制性要求
责任官员：各机构必须在本政策生效后的90天内，指定一名或多名责任官员负责实施本政策。

责任官员可由个人或机构主席承担。也可根据机构偏好，将责任分配给多名官员或现有角色（如首席信息官、首席技术官或首席数据官）。

责任官员的职责包括：

在其所在机构内负责实施本政策；
通过电子邮件（[e-mail]）通知数字化转型局（DTA），告知机构已发现新的高风险用例。DTA将利用此信息提高可见度，并为制定进一步的风险缓解方法提供依据。机构可使用风险矩阵来确定风险等级；
作为全政府人工智能协调的联络点；
参与全政府人工智能论坛和流程；
随时了解随时间演变而不断变化的要求。

各机构在指定责任官员或对其进行任何变更时，应通过电子邮件（[e-mail]）通知DTA。

建议行动

人工智能员工培训
强烈建议各机构实施以下措施：在本政策生效后6个月内，为所有员工提供与政策指导方针相一致的人工智能基础培训；

根据员工的角色和职责，为需要额外培训的员工提供培训，例如负责人工智能系统的采购、开发、培训和部署的员工。

数字化转型局（DTA）将很快发布关于为员工提供人工智能培训的指导。

机构需要考虑的事情

了解人工智能的使用情况

了解机构内部人工智能的使用地点和使用方式，并制定包含此信息的内部登记册。

现有框架
将人工智能的考量纳入现有的框架中，如隐私、保护安全、记录保存、网络和数据等。

详情可以点击原文了解。