《智能法规 迫在眉睫》聊天机器人Replika 禁止欧洲“虚拟伴侣”身分应用
据了解，总部位于旧金山的人工智能聊天机器人制造商Replika 因违反欧洲大规模数据保护法，日前被意大利隐私监督机构下令停止处理本地用户数据。而Replika背后公司一直没公开发表评论，也没有回复媒体提问。
在一份宣布其干预的新闻稿中，监管机构表示：“人工智能驱动的聊天机器人使用文本和视频界面生成‘虚拟朋友’，暂时无法处理意大利用户的个人数据。意大利对开发运营该程序的美国公司实施数据处理临时限制；该限制将立即生效。”
它补充说：“最近的媒体报道在‘Replika’上进行测试表明，该应用程序对儿童带来事实风险。尤其是他们收到的回复，绝对都不适合他们的年龄。”
这表明《通用数据保护条例（GDPR)》可能是新一代聊天机器人的最强”紧箍咒”。已知欧盟《通用数据保护条例(GDPR)》旨在协调整个欧洲大陆的数据隐私法。
已知Replika“虚拟伴侣”应用程序的大部分用户只想浪漫关系交互。但自去年年底起，有用户开始抱怨这款机器人开始使用露骨文字和图片进行所谓的”性骚扰”。“我们已经看到，类ChatGPT已可被用来创建非常有说服力的网络信息钓鱼。”
据称，Replika乃完整接受过内部版本GPT-3模型培训，又该模型借用OpenAI公司来自互联网的大量数据在算法；然后，再生成对用户查询的独特响应。据了解，GDPR已要求该公司证明他们处理数据的方式绝对合理。
目前这些所谓生成人工智能（AIGC)所対外宣称功能上的支持承诺，将彻底改变既有互联网搜索的大未来。专家还警告称，GDPR监管机构要担心的事远比现在更多，特别是当机器人变得越加出色，甚至是无法将它们与人类区分开来之时。目前，该联盟是关于监管这些新机器人的欧洲讨论中心。其中，它的《人工智能法》（AI Act）据信已在权力走廊里磨好几个月，预计在今年内敲定。
专家说，生成式人工智能（AIGC)未必是个巨大风险，但领域专家们早已在研究其潜在问题，包括人工智能模型如何盗用个人数据等。
“总有一天，我们会看到GDPR和生成型人工智能模型间的高度紧张，”领域专家暨科技律师们纷纷表示。
值得一提的是，新款聊天机器人与传统人工智能算法完全不同。比如，由谷歌创建的人工智能里头早有其使用标规，任人无法恣意破坏更改。但生成式人工智能则不相同：用户可根据所好，重塑机器人的整个客制目的。
或者可以说，，只要足够聪明，即可绕过ChatGPT中所有防护措施，制定一个全新客制化内容规则”。随技术飞跃发展，一切相关复杂道德法律问题只会变得更加尖锐。据称，OpenAI最新型号GPT-4预计很快就会发布。据传它性能非常好，甚至已经无法与人类确切区分开来。
目前，鉴于这些机器人仍会犯下巨大事实错误且经常表现出不当偏见，甚至还会发表诽谤性言论等，不难想见一些人会如此强烈要求严格控制它们的顾虑所在。
而《言论自由》的作者雅各布·姆昌加马则深表不以为然。“即使机器人没有言论自由，我们也必须小心翼翼的分寸压制。”“从监管角度来看，目前最安全的选择是建立透明度暨义务，以确定我们在任何背景下，到底是与人类实体、还是人工智能应用程序互动。”专家一致表明同意，”透明度”至关重要。
设想在未来几年内，人工智能机器人将能够生成数百个新的已逝猫王埃尔维斯·普雷斯利歌曲，还是一系列没完没了专为个人欲望量身定做的的《权力的游戏》。
可预期的是，我们即将进入一个必须区分真人和人工智能相处的世界。而这将深刻改变你我人类的大未来。”
关注作者微信号