【安永观察】你能驾驭人工智能吗?

欢迎点击上方文字“安永中国海外投资业务部”关注我们

当前世界经济从信息时代向智能时代迈进，很多企业管理层都决定将人工智能（AI）应用在企业业务上，但在采用这项革命性技术的同时，如何提高AI系统的可信性以及监管治理，成为当前重要的技术应用关键。

安永大中华区数字化中心主管吴显光，于早前举办的独立非执行董事会信息研讨会上，就与诸多企业及董事局成员分享了如何建立一个值得信赖的AI系统或框架。

AI技术的兴起，让机器拥有智能去接收信息、思考并作出行动，其技术优点在于，可以增强企业处理信息及做出决策的能力，帮助企业制定决策，但同时，人工智能技术也会对企业带来许多挑战。

首先，企业应先辨识出人工智能将会为企业带来怎样的问题：

1

对抗性攻击

攻击者目前可以透过将对抗性数据输入AI系统，从而欺骗AI系统。例如，我们发现当前的自动驾驶技术中，一旦修改一些道路标志，将令自动驾驶系统很容易混淆讯号，包括错误地将“停止”标志识别为“不要停止”标志。

此外，许多网络攻击小组都有能力利用一些轻微缺陷，以混淆在现实生活中应用的AI系统。 企业在此方面缺乏周详考虑，将可能为企业带来巨大问题。

2

算法存在偏差

如果AI算法在运用数据进行训练中没有得到适当调整与发展，算法所产生的决策可能会出现偏差、甚至偏见。比如一家大型科技企业，在招骋过程中使用人工智能作为招聘程序及分析工具，其以企业以往的招聘数据作为参考，但这导致人工智能算法在进行招聘决策时，对应聘者的性别存有偏见，于是对企业形象带来一定负面影响。由此可见，AI若不是通过正确的方式开发，其能力及决策将难以确保。

3

精准度问题

使用AI技术背后需要大量数据的支持及分析，但其精准度将直接影响用户的信心。业界曾经有案例显示，企业在使用人工智能人脸识别技术时，其辨识错误率竟然可以高达95%。

如此一来，面对以上应用AI所带来的潜在问题，企业需要探究在实行上的三个主要问题：“如何通过信任和治理来构建AI”、“如何确保并能够理解AI功能正在做什么”以及“如何理解AI技术带来的风险”。

如何建立一个值得信赖的AI系统或框架?

对此，安永大中华区数字化中心主管吴显光指出，值得信赖的AI系统应该有五个方面。首先，它应该是不偏不倚的，以中国的图像识别系统为例，要确保能够识别中国人的同时，也要能够识别外国及其他种族人士。 此外，AI还应具有抵御攻击的能力，比如改善算法以确保自动驾驶汽车不会错误地识别路标。

另一方面，企业还需要确保AI是合乎逻辑的，可以让管理人员、决策者了解AI如何通过有逻辑的输入与计算而获得结果。同时，企业也要确保应用AI的过程具透明度、尤其AI应用在对外层面，因为对于企业客户，他们需要知道自己正在与机器还是人类作交流。 最后，企业需要确保AI反应够快，并具有良好表现。

吴显光在研讨会上也提出，在这个AI的年代，作为企业董事局成员以及监管人员，必须时刻警醒并关注以下三个问题。

• 企业是否已将AI开发和投资，与企业的愿景正确地联系起来？AI技术应用是否正在解决真实、确切的企业业务问题？

• 对于AI技术，企业具备合适的监管治理结构吗？

• 企业是否定期对AI进行监督？

在AI应用过程当中，企业透过AI技术向客户提供怎样的体验，直接影响外界对企业的观感。因此，吴显光认为，企业应确保满足四个条件，以建立用户对AI的信任。

吴显光也建议，企业董事局成员及独立非执董在执行AI时，可以从以下六个方面管理危机以及增加其可靠性。

事实上，自2000年开始，环球经济与商业已迈进数字化时代，我们相信数字化之后的下一个时代将是认知时代，届时我们将与机器一起共存，因此企业当前需要理解并拥抱AI。企业董事与管理层在考虑如何利用这些技术来解锁创新的同时，也要思考如何能大幅降低变革旅程中的风险。更甚的是，作为董事局成员，也应该思考如何可以为企业制定适合的人工智能战略。

人工智能在未来几年内将会出现爆炸性成长，但同时风险也会增加。董事局董事或执行董事，有责任帮助企业构建可信的AI框架，控制AI的性能、并确保AI系统能作出良好的决策成果。最后，为确保企业获得适当治理，企业的AI战略也必须确保覆盖企业在问责，社会责任以及可信性方面的考虑。人工智能是一个复杂的主题，大家共同面对的挑战仍然很多，企业必须提前计划。

欢迎联系我们。

点击查看近期文章：

【安永税务】荷兰众议院批准多边工具

长按以下二维码关注我们，获取更多专业资讯及活动信息。