微软提出的 AI 设计四原则，核心是什么？

关于 AI 产品应该如何设计，目前还没有哪家提出比较受认可的系统性指南。

设计和用户研究的同行们，可以行动起来了！

可供参考的标准，主要还是以前的 chatbots，聊天机器人的设计标准。但之前的聊天机器人跟现在的人工智能机器人，还是有很大不同。

微软在 Github 上的一个面向初学者的生成式AI课程里，提到了传统聊天机器人和生成式人工智能驱动的机器人之间的差别。

虽然说现在生成式人工智能的很多应用的载体是聊天机器人，但也有了很多其他应用形态。

还是在这个课程的后续章节（挪到最后点击原文），微软提出了 AI 产品的设计原则，包括四方面：

• • 可用性（usability）。这个概念大家都熟悉。简单易用是衡量AI产品成功的关键指标之一。产品的直观设计和用户友好的交互方式能极大提升用户满意度和忠诚度。

• • 可靠性（reliability）。高可靠性确保AI产品在不同条件下都能稳定运行，减少故障发生，并保护用户的数据安全。

• • 无障碍性（accessibility）。确保各类用户都能体验人工智能，包括各种残障人群。

• • 愉悦性（pleasantness）。也就是我们常说的满意度，让用户看着开心，用着舒心。

相比于以前的各种应用的用户体验指标，AI 用户体验的最大不同在于其强调的「可靠性」。

我们需要设计出让人类信任的 AI 应用。从根本上讲，无论AI技术的先进程度如何，如果不能在关键时刻发挥其应有的功能，用户的信任和依赖就会受到影响，进而影响整个产品的生命力和市场竞争力。

设计过程中要注意以下几点来体现产品的可靠性：

算法透明度与可解释性。

透明的算法设计让用户能够理解AI如何作出决策。这不仅能够提升用户的信任感，还能在出现错误时帮助快速定位问题。

微软在这个课程里尤其强调了可解释性，并用一个在线教育产品举了几个例子。

首先，应该给出 AI 可以做什么的详细示例。例如：

其次，对于不同的角色，AI 会如何使用反馈也要说清楚。在这个示例中，当学生问了一个问题，AI 不会直接告诉其答案，而是会引导进行思考过程。如果只告诉学生说我不能告诉你答案，你需要自己想，就还是没有发挥人工智能的作用。

最后，解释要易于理解。AI 的技术术语尤其难理解，例如「神经网络」这种词，不需要向用户展示。

稳健的错误处理

系统必须能够妥善处理各类异常情况。当AI无法解决用户的需求时，应该有一个平滑的过渡机制引导用户。之前的应用里可以提供回退选项，在AI应用里如何处理错误，也需要加以考虑，让用户可以选择人工服务或其他备选方案。

数据保护

在设计过程中应用最新的数据保护技术来确保用户数据的安全。对于 AI 产品来说，大量的用户数据是其智能决策的基础，因此保护这些数据免遭泄露或未经授权的访问至关重要。

之前也传出过用户创造的 GPTs 里上传的私人数据可以下载，也是让人怀疑 OpenAI 对数据隐私的保护不到位。

理解了这四个原则之后，在实践中要怎么做呢？

在AI产品的设计和开发过程中，围绕 AI 用户体验的四大要素 —— 可用性、可靠性以及无障碍性和满意度 —— 构成了指导原则的核心。

但我想强调一下，在应用这些原则之前，我们需要先了解用户需求。（用研同学又要上场了）。以下是如何将这些要素融入实际操作的具体途径。

1. 实际操作中理解用户需求

首先，开展全面的用户研究至关重要，这不仅包括问卷调查、访谈、用户观察，还应涵盖数据分析等现代技术方法。通过构建用户画像，开发团队能够在设计之初就考虑到用户的特征和行为模式，从而设计出符合用户预期和需求的 AI 产品。

其次，原型测试在设计阶段尤为重要。通过搭建原型并进行用户测试，设计师可以获得实时反馈，了解用户对产品的初步反应，并据此优化设计。同时，利用A/B测试等方法对不同的设计方案进行评估，找出最佳方案。

2.提高AI产品可用性的策略

设计直观、简洁的用户界面(UI)是提高可用性的关键。使用适当的视觉提示和合理的导航结构，可减少用户的认知负担，增加产品的易用性。同时，引入用户反馈机制，实时调整产品设计来响应用户的使用习惯和偏好。

可用性还涉及到产品性能的优化。产品的响应时间和处理速度直接影响用户体验。因此，在开发过程中持续优化代码，减少延迟，是提高AI产品可用性不可忽视的一环。

3. 确保 AI 产品可靠性的方法

技术可靠性的保证始于开发周期的早期阶段。使用严格的代码审查、持续的集成和自动化测试来预防错误和故障的发生。对 AI 算法进行透彻的测试，验证其决策逻辑的准确性和鲁棒性。

产品的可靠性与可解释性的设计，参考前边讲的例子。

4.无障碍性和愉悦性的整合方法

遵守无障碍设计原则，确保所有用户包括残障用户都能无障碍使用产品。实现这一目标，需要开发者了解不同用户的操作障碍，并使用辅助技术，例如屏幕阅读器和语音控制系统的支持。

针对满意度，将用户的反馈纳入产品迭代过程中。利用机器学习技术分析用户行为和反馈，持续调整和优化 AI 算法，以增进用户满意度。

此外，定期调研用户的满意度，并将这些见解反映在产品更新中。持续迭代产品功能和用户界面，以适应用户的变化需求和市场的新趋势。

————

产品设计这一块儿，OpenAI 也需要向微软学习。

后边相信也会有更多的 AI 设计原则出来，同行们，卷起来吧~