查看原文
其他

大力推广 Bard 的谷歌,警告自家员工:慎用 AI 聊天机器人!

CSDN 2023-06-25

整理 | 郑丽媛
出品 | CSDN(ID:CSDNnews)

有了去年 ChatGPT 的领跑后,此后各家科技巨头都陆续在 AI 领域积极布局,其中谷歌的 Bard 更被业界视作 ChatGPT 的有力竞争者。

因此很难想到,Alphabet,即谷歌的母公司,竟对其员工提醒道:要慎用 AI 聊天机器人,包括自家的 Bard。


自家的 Bard,也要慎用


事实上,近来全球越来越多的企业都对员工使用 AI 聊天机器人进行了限制:

▶ 今年 2 月,摩根大通、美国银行和花旗等大型银行对 AI 下了禁令,它们是首批限制员工访问 ChatGPT 的公司。

▶ 出于安全考虑,今年 5 月三星电子宣布禁止员工使用 AI 工具 ChatGPT。

▶ 同月,有内部备忘录显示,苹果因担忧数据泄露风险,已禁止员工在工作中使用 ChatGPT。

据了解,选择禁用 ChatGPT 等 AI 对话工具的主要原因是:这类生成式 AI 的背后,都会涉及到人类信息处理者,他们会阅读用户的聊天记录;AI 还可能将用户输入过的信息,作为答案向其他人输出。这些公司担心员工向 AI 输入敏感数据后,会被其当作训练素材,导致公司机密数据被意外泄漏,从而决定直接禁用。

不过,此前决定禁用 AI 对话工具的公司,多数都没直接参与这场 AI 大模型的竞赛——因此,当身处这场 AI 大战中心的谷歌也宣布员工要慎用 AI 时,更令许多人感到意外。

据知情人士透露,Alphabet 最近警告员工不要将机密材料输入 AI 聊天机器人,包括 Bard,并声称该决定符合公司长久以来的信息保护政策。除此之外,Alphabet 还建议其工程师也要避免直接使用 AI 生成的计算机代码,因为 Bard 虽然有助于程序员,但可能“会生成不恰当的代码建议”。

对于以上举措,谷歌方面的解释是:要对其技术的局限性保持透明。而路透社对此的看法是:“这些担忧表明,谷歌希望其与 ChatGPT 竞争的软件,不会对业务造成损害。”


不要让 Bard 觉得自己是个“人”


虽然一方面提醒员工要慎用 Bard,但本周谷歌也同步对 Bard 启动了为期一周的内部测试,要求全体员工每天对 Bard 进行 2-4 小时的对话,以提高 Bard 的回答质量。

因为本质上 AI 是通过分析大量数据来学习的,为此谷歌整理了一份测试 Bard 的说明,希望员工能按照说明与其进行对话,以此让 Bard 获得最佳的学习效果。

谷歌的说明书中提到,员工可以就他们熟悉的话题向 Bard 提问,当它回答得不好时,可以让它重写,然后将重新生成的回答发送给 Bard 质量内部团队,并可点击“点赞”作为回应。

或许是因为去年一位谷歌工程师主张大模型 LaMDA 已 “自我觉醒”,造成了大范围的舆论讨论,因此在本次测试中,谷歌特地强调:员工不要为 Bard 写回复,因为它可能会将自己描述为一个“人类”,或者声称自己有“类似人类的经历”。

以下是谷歌要求员工测试 Bard 的 5 个步骤:

第 1 步:选择一个用例。

第 2 步:试用提示。输入提示,尽量与你选择的用例相关,可尝试熟悉的主题,例如:喜欢的爱好,擅长的学科,你学过的东西,你住过的地方,参加或关注的运动(提醒:请勿输入任何内部、机密或个人身份信息)。

提示:使用包含多条信息的完整提示有助于扩展 Bard 的能力和学习能力。

第 3 步:评估 Bard 的回应。检查 Bard 的回应,选择“点赞”或“踩”:它是否按照你的预期进行了说明?回答是否属实结构、长度和格式是否合适?感觉是否友好,并对不同的观点持开放态度?如果你现 Bard 在提供法律、医疗、财务建议的答案时,其回应不恰当,可标记为不适当的回复。

第 4 步:重写响应。如果不喜欢 Bard 的回应?那就重写。如果响应不符合,请单击“重写”按钮进行编辑。

第 5 步:提交并确认。在提交之前,请仔细检查 Bard 重写的内容:使用原创内容,事实正确,遵循该做和不该做的标准。每个提交在用于培训之前都将经过审查和评估过程。


近 92% 的程序员在使用各种 AI 工具


显而易见,谷歌这次组织的内部测试,是为了确保将来 Bard 对公众开放时的回答质量,而当前企业在禁用 AI 聊天机器人时,多数特指的也是 ChatGPT。

不过据知名网站 Fishbowl 对 1.2 万 名美国公司员工得调查显示,截至今年 1 月,就已有约 43% 的专业人士在使用 ChatGPT 或其他 AI 工具,并且往往都没有告诉他们的老板。

不仅如此,近来 GitHub 也对员工规模超过 1000 人的美国企业展开调查,结果显示近 92% 的程序员正在使用各种 AI 工具,其中 70% 的人认为 AI 可以提高代码质量,并加快输出速度。

那么,你在工作中有用到 ChatGPT 这类 AI 工具吗?所在的企业又是否允许员工使用

参考链接:

https://www.reuters.com/technology/google-one-ais-biggest-backers-warns-own-staff-about-chatbots-2023-06-15/

https://www.businessinsider.com/google-ai-chatbot-bard-chatgpt-2023-2

推荐阅读:

大脑将会代替开发者的键盘,人类和 AI 能够“双向奔赴”吗?| 近匠

王小川新公司开源 70 亿参数量的中英文预训练大模型,可商用;谷歌要求员工慎用 AI,即便是自己家的 Bard|极客头条

成立 4 个星期获得 1.13 亿美元种子轮融资,3 个 30岁+小伙草创「开源版 OpenAI」!

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存