点击观看👆
本书从生成式AI发展的态势和担忧出发，探讨了生成式AI产生的风险，分析了风险产生的原因，提出了敏捷治理、协同共治的治理理念；同时，分享了我们在生成式AI不同环节的风险治理实践和探索，为各界提供有益的参考。
2022年底，ChatGPT的火爆不仅引起了生成式人工智能相关产业的竞技式发展，其广泛的影响也引起了各国的高度重视。虽然生成式AI背后的核心技术是业界研究较深的深度学习，其应用也尚在起步阶段，但生成式AI的通用性提升与使用门槛降低等特点，使得其给人类社会带来了不少新风险与新挑战。
为了积极、高效地应对技术和产业的发展与变化，各国都在致力于基于既有的人工智能框架、制度与规范，设计针对生成式人工智能的治理方案。
为此，本白皮书不仅系统分析了生成式大模型中算力、数据、算法、生态、人才等五大构成条件，还分别对语言大模型、视觉大模型，围绕内容安全、个人信息保护、模型安全和知识产权等风险维度，进行了从产生原因到实践解决方案的深入剖析，助力新技术的健康发展与创新应用。
阿里云智能集团标准化业务副总裁朱红儒表示：任何新生事物在发展之初，都难免会存在这样那样的问题，关键是如何在发展中解决问题。踩下油门的同时，带好“安全带”也很重要。阿里巴巴要做“负责任的人工智能”，也提出并正在践行人工智能的可用、可靠、可信三个原则。我们认为，想要有先进且稳定的技术，就应该注重安全，并展现普惠、互信和尊重，同时也呼吁各界同仁借鉴“用技术来管理技术”的原则，提高治理效能，促进生成式人工智能成为让社会受益的好科技。
相比以往的AI技术，生成式AI可以直接利用自然语言和计算机进行交互，而且由于通用性，有可能成为一种影响各行业的底座型技术。其一旦被滥用或误用，迷惑性也比以往的人工智能技术更强，潜在风险也更大。
因此，无论是喂养人工智能的语料数据，还是模型本身，都必须高度关注其价值取向和基本立场问题。我们不能放任AI脱离人类的控制，不能无视AIGC“生成即传播”特性的潜在风险，对生成式人工智能进行有针对性的风险治理成为了政府侧和产业侧的共识。
白皮书分享了针对AIGC不同环节的风险治理，即从模型训练阶段、服务上线阶段、内容生成阶段、内容传播阶段四大阶段入手，提出了一系列具体的治理措施。
在模型训练阶段，应该加强对数据的监管和保护，确保训练数据的合法性和安全性。同时，需要加强对算法和模型的审查，防止出现偏差性或歧视性结果。在服务上线阶段，要加强对算法和模型的安全测试和评估，确保其稳定性和安全性。同时，需要加强对用户数据的隐私保护，避免用户数据被滥用或泄露。
在内容生成阶段，应该倡导人机合作，加强对生成内容的引导和审核，防止出现违法不良信息、歧视与偏见。在内容传播阶段，对生成的信息嵌入隐藏的标识，通过技术手段进行溯源和回溯传播者，从而在一定程度上解决虚假信息在内容传播方面的问题。
生成式人工智能的安全性是保障其发展的内在动力，技术层面的数据、模型、算法、系统是治理的四大核心支柱，而个人信息安全、内容安全和模型安全是关键主题。同时，营造政产学研用多主体协同共治的外部环境，是生成式人工智能创新与良性发展的重要保障。
阿里巴巴集团-橙盾科技-内容科技部总经理薛晖表示，面对当下AIGC等新热潮，企业既要选择正确的方向、投入坚持不懈的努力，更要广泛合作、拥抱变化和持续进化。新时代的新问题要靠创新的方法来解决，不能再用传统工业化的思维、体系和方法，来应对数字化和智能化带来的新挑战。
👇AAIG课代表，获取最新动态就找她