ISACA Blog | ChatGPT的“完美风暴”：管理风险，关注变革
ChatGPT是OpenAI基于其先进的大型语言模型家族开发的人工智能(AI)聊天机器人。自2022年11月推出以来，它的下载量碾压Instagram和TikTok等热门应用，并保持着用户群增长最快的记录。
置身于“完美风暴”之眼的ChatGPT
ChatGPT前所未有的采用率凸显了其在重塑当今以数字为中心的世界中的沟通和参与实践方面的变革潜力。最近在波士顿举行的ISACA数字信任世界会议上，我发表了题为“掌握ChatGPT”的演讲，其中强调了过去半年中几个关键事件的融合，最终形成了推动ChatGPT崛起的”完美风暴”。
这场风暴的核心是ChatGPT能力的快速发展，标志着我们所说的“人工智能时代”或“第四次工业革命”的到来。我介绍了ChatGPT的转型能力，特别是它重塑商业运营的潜力。根据我的个人经验，ChatGPT已经证明了在起草初始文档版本和创建LinkedIn帖子等任务，甚至建议合适的表情符号中的价值！然而，伴随这场风暴而来的是我们对相关风险的有限理解，再加上缺乏针对此类先进人工智能模型的监管框架，以及组织对人工智能驱动的未来的准备程度各不相同。
了解“完美风暴”：ChatGPT的影响
ChatGPT或任何人工智能技术的集成应被视为一项全组织范围的工作，要求跨学科合作，包括技术专长、监管合规、风险管理和业务理解。组织通过确保这种平衡和全面的方法，可以充分利用ChatGPT等人工智能技术的优势，同时减轻潜在的风险和陷阱。
研讨会结束后，许多与会者联系了我，表达了对ChatGPT影响的好奇和担忧，其中有以下三个关键主题：
1. 将ChatGPT用于治理、风险和合规（GRC）角色：参与者有兴趣了解这些领域的专业人员如何利用ChatGPT带来收益。例如，ChatGPT是否有助于评估风险场景？
2. 引导转型变革成为人工智能驱动的组织：与会者热衷于探索将组织转型为人工智能驱动的组织的战略。他们希望深入了解如何有效管理这一转型，同时解决关键风险。
3. 缓解劳动力流失：对这种颠覆性技术的流失效应的担忧也很突出。这引发了一些讨论，关于确定最有可能受到影响的角色，以及如何提供提高技能的机会，并使员工的技能与人工智能驱动的工作场所的新需求保持一致。
为了解决这些问题，我根据自身的专业知识，以及在“掌握ChatGPT”演讲中强调的关键概念，提供以下实用指导。
1. 将ChatGPT用于治理、风险和合规（GRC）角色？
对于GRC，ChatGPT提供了几个潜在的应用程序，在我与与会者的讨论中提出了一些实际的示例。以下是几个值得注意的例子：
风险和控制措施的关系：ChatGPT可以提供与特定控制措施相关的风险的见解，以及用于验证和确认目的的相关文档。
政策和治理制定：ChatGPT可以帮助GRC团队制定有针对性的信息并建立特定行业的政策，从而加强治理过程。
补救指导：ChatGPT能够提供个性化建议，概述缓解措施和战略，从而可解决已发现的差距。
将环境变化引入到流程中：在业务经历流程修改的情况下，ChatGPT可以提供宝贵的建议，创建新的控制措施或调整现有的控制措施，从而满足监管要求。
这些现实世界的应用程序显示了ChatGPT在增强GRC功能方面的变革潜力，展示了ChatGPT如何加快决策、政策制定、补救行动和合规验证，从而提高效率和效力。
2. 引导转型变革成为人工智能驱动的组织？
不可否认的是ChatGPT提供了一个变革性的机会，但承认使用ChatGPT带来的重大风险至关重要。尽管ChatGPT有很多好处，但我们知道它有很多风险：
更广泛地说，人工智能应用的不断增长加剧了人们对以道德、公平和负责任的方式使用有助于或取代人类决策的技术的担忧。部署人工智能系统需要仔细监督，不仅要防止对组织的品牌声誉造成意外后果，更重要的是，还要防止对员工、个人和社会造成意外后果。
考虑到这些潜在的不利影响，组织应该做些什么适应这个新时代？人工智能准备情况评估应该是第一步。评估应评估组织的当前状态，确定ChatGPT可以带来收益的潜在用例，优先制定业务路线图以开发有针对性的用例，并解决可能阻碍有效部署的人员、流程和技术方面的潜在差距。
人工智能就绪度评估示例：举一个例子说明这种方法是如何工作的。例如，组织可能希望增强其客户服务体验。该组织可以从关注ChatGPT能力的人工智能准备情况评估开始。该评估将从检查当前的客户服务流程、绩效指标和总体客户满意度水平开始。接下来，组织将确定ChatGPT可以增强这些领域的潜在用例，例如全天候客户支持或更快的查询解决方案。一旦确定了这些用例，组织就可以建立业务路线图。业务路线图可能涉及在客户服务中分阶段推出ChatGPT，首先是验证有效性的试点计划，然后是基于成功指标的增量扩展。
AI治理框架：AI治理框架是一套原则、政策和流程，旨在确保人工智能系统的道德、透明和值得信赖的使用。有几个现有的框架可以用来为人工智能活动提供治理，例如新加坡的人工智能治理模型框架、澳大利亚的人工智能道德框架、欧盟委员会的人工智能法律框架和AIGA框架。
作为一个开创性的框架，新加坡的人工智能治理模型框架旨在促进两个基本原则：可解释、透明和公平的人工智能辅助决策的必要性，以及以人为中心的人工智能系统的重要性。该框架通过提供最佳实践而脱颖而出，为确定人类参与人工智能增强决策和进行算法审计提供了指导。另一个特点是其技术不可知论方法，允许其在各个行业中应用。
可接受的使用政策：尽管ChatGPT存在风险，但其提高生产力的潜力不容忽视。在某些情况下，收益可能大于风险，但并非总是如此。员工是您的第一道防线，如果您允许员工访问，他们是否意识到潜在的风险？我认为，组织制定一项管理员工如何使用ChatGPT的政策至关重要。
这项政策可能包括：
对特定用例的限制，以及对已批准应用程序的建议和应从系统中排除的数据的指南。这可能需要员工验证模型的输出，考虑潜在的偏见，并评估相关风险，如机密性、隐私和知识产权。
鉴于该领域的快速发展，我强调持续的风险评估以及在组织内部就用例、机会和风险保持开放沟通的重要性。我相信，这种积极主动的方法使组织能够负责任、有效地利用ChatGPT的好处。
3. 缓解劳动力流失？
在20世纪90年代末和21世纪初，我见证了互联网作为一个商业平台的兴起，导致了电子商务的快速增长，被称为Dot-Com时代。这个时代创造了新的工作岗位，比如网络开发人员和SEO专家，而在这一时期之前，这些岗位几乎不存在。例如，网络开发人员在建设网站方面发挥了关键作用，这项任务在这个时代之前几乎不存在。同样，SEO专家的出现是为了优化这些网站，从而在搜索引擎排名中获得更高的可见性，这是一个新的专业领域。
现在，我们正处于人工智能时代。这一时代与Dot-Com时代一样，需要新的角色和技能。ChatGPT正在导致现有角色的转变，并产生新的角色。例如，随着人工智能重新定义客户服务，预计人工智能培训师将专门改进聊天机器人，实现更人性化的交互。此外，各组织应确定这些新出现的角色，并投资于提高技能的举措，使其员工为转型做好准备。具体而言，人工智能引入了新的职业，如人工智能伦理学家，他们确保人工智能应用符合道德标准和社会价值观；还有提示工程师，他们的任务是优化人工智能模型提示，获得更为高效和有效的响应。
为向人工智能集成劳动力的转型做好准备，将使企业能够充分利用技术的潜力，同时最大限度地减少相关的干扰。
在ChatGPT的“完美风暴”中生存和成长
ChatGPT带来的“完美风暴”虽然充满了变革潜力，但也带来了必须努力应对的挑战。从重新定义GRC的角色，到开创人工智能驱动的组织的新时代，再到解决劳动力流失的风险，这场风暴为我们提供了增长的机会，也为我们提供了试验。
我们通过人工智能准备情况评估、人工智能治理框架的建立和劳动力技能提升举措正面应对这些挑战，可以利用这场风暴的能量。这种方法确保了我们不仅能经受住这场风暴，而且能变得更强大，为人工智能驱动的未来做好更好的准备。因此，让我们扬帆起航，着眼于地平线，在这激动人心的水域中航行，预见挑战，并充分利用即将到来的机遇。这段旅程可能很复杂，但最终的目的地——一个人工智能作为增强和进步工具的世界——非常值得努力。
ISACA Blog | 在治理数据时识别隐藏风险和量化伦理分析
作者：Mary Carmichael，CRISC，CISA，注册会计师，ISACA新兴趋势工作组成员
翻译：唐四宝（Jerry Tang），CISA， CDPSE，CZTP，ISACA微信公众号特邀通讯员。
校对：姚凯（Kevin Yao），CISA，CISM，CRISC，CGEIT，CDPSE，ISACA微信公众号特邀通讯员，关注IT安全，隐私保护和数字化。