大力推广 Bard 的谷歌，警告自家员工：慎用 AI 聊天机器人！

整理 | 郑丽媛

出品 | CSDN（ID：CSDNnews）

有了去年 ChatGPT 的领跑后，此后各家科技巨头都陆续在 AI 领域积极布局，其中谷歌的 Bard 更被业界视作 ChatGPT 的有力竞争者。

因此很难想到，Alphabet，即谷歌的母公司，竟对其员工提醒道：要慎用 AI 聊天机器人，包括自家的 Bard。

自家的 Bard，也要慎用

事实上，近来全球越来越多的企业都对员工使用 AI 聊天机器人进行了限制：

▶ 今年 2 月，摩根大通、美国银行和花旗等大型银行对 AI 下了禁令，它们是首批限制员工访问 ChatGPT 的公司。

▶ 出于安全考虑，今年 5 月三星电子宣布禁止员工使用 AI 工具 ChatGPT。

▶ 同月，有内部备忘录显示，苹果因担忧数据泄露风险，已禁止员工在工作中使用 ChatGPT。

据了解，选择禁用 ChatGPT 等 AI 对话工具的主要原因是：这类生成式 AI 的背后，都会涉及到人类信息处理者，他们会阅读用户的聊天记录；AI 还可能将用户输入过的信息，作为答案向其他人输出。这些公司担心员工向 AI 输入敏感数据后，会被其当作训练素材，导致公司机密数据被意外泄漏，从而决定直接禁用。

不过，此前决定禁用 AI 对话工具的公司，多数都没直接参与这场 AI 大模型的竞赛——因此，当身处这场 AI 大战中心的谷歌也宣布员工要慎用 AI 时，更令许多人感到意外。

据知情人士透露，Alphabet 最近警告员工不要将机密材料输入 AI 聊天机器人，包括 Bard，并声称该决定符合公司长久以来的信息保护政策。除此之外，Alphabet 还建议其工程师也要避免直接使用 AI 生成的计算机代码，因为 Bard 虽然有助于程序员，但可能“会生成不恰当的代码建议”。

对于以上举措，谷歌方面的解释是：要对其技术的局限性保持透明。而路透社对此的看法是：“这些担忧表明，谷歌希望其与 ChatGPT 竞争的软件，不会对业务造成损害。”

不要让 Bard 觉得自己是个“人”

虽然一方面提醒员工要慎用 Bard，但本周谷歌也同步对 Bard 启动了为期一周的内部测试，要求全体员工每天对 Bard 进行 2-4 小时的对话，以提高 Bard 的回答质量。

因为本质上 AI 是通过分析大量数据来学习的，为此谷歌整理了一份测试 Bard 的说明，希望员工能按照说明与其进行对话，以此让 Bard 获得最佳的学习效果。

谷歌的说明书中提到，员工可以就他们熟悉的话题向 Bard 提问，当它回答得不好时，可以让它重写，然后将重新生成的回答发送给 Bard 质量内部团队，并可点击“点赞”作为回应。

或许是因为去年一位谷歌工程师主张大模型 LaMDA 已 “自我觉醒”，造成了大范围的舆论讨论，因此在本次测试中，谷歌特地强调：员工不要为 Bard 写回复，因为它可能会将自己描述为一个“人类”，或者声称自己有“类似人类的经历”。

以下是谷歌要求员工测试 Bard 的 5 个步骤：

第 1 步：选择一个用例。

第 2 步：试用提示。输入提示，尽量与你选择的用例相关，可尝试你熟悉的主题，例如：你喜欢的爱好，你擅长的学科，你学过的东西，你住过的地方，你参加或关注的运动（提醒：请勿输入任何内部、机密或个人身份信息）。

提示：使用包含多条信息的完整提示有助于扩展 Bard 的能力和学习能力。

第 3 步：评估 Bard 的回应。检查 Bard 的回应，选择“点赞”或“踩”：它是否按照你的预期进行了说明？回答是否属实？其结构、长度和格式是否合适？感觉是否友好，并对不同的观点持开放态度？如果你发现 Bard 在提供法律、医疗、财务建议的答案时，其回应不恰当，可标记为不适当的回复。

第 4 步：重写响应。如果不喜欢 Bard 的回应？那就重写。如果响应不符合，请单击“重写”按钮进行编辑。

第 5 步：提交并确认。在提交之前，请仔细检查 Bard 重写的内容：使用原创内容，事实正确，遵循该做和不该做的标准。每个提交在用于培训之前都将经过审查和评估过程。

近 92% 的程序员在使用各种 AI 工具

显而易见，谷歌这次组织的内部测试，是为了确保将来 Bard 对公众开放时的回答质量，而当前企业在禁用 AI 聊天机器人时，多数特指的也是 ChatGPT。

不过据知名网站 Fishbowl 对 1.2 万 名美国公司员工得调查显示，截至今年 1 月，就已有约 43% 的专业人士在使用 ChatGPT 或其他 AI 工具，并且往往都没有告诉他们的老板。

不仅如此，近来 GitHub 也对员工规模超过 1000 人的美国企业展开调查，结果显示近 92% 的程序员正在使用各种 AI 工具，其中 70% 的人认为 AI 可以提高代码质量，并加快输出速度。

那么，你在工作中有用到 ChatGPT 这类 AI 工具吗？你所在的企业又是否允许员工使用？

参考链接：

https://www.reuters.com/technology/google-one-ais-biggest-backers-warns-own-staff-about-chatbots-2023-06-15/

https://www.businessinsider.com/google-ai-chatbot-bard-chatgpt-2023-2

推荐阅读：