ChatGPT开始成网络黑帮钓鱼助手，AI立法及监管机制面临挑战
ChatGPT作为引领时代的新技术，正在解锁越来越多的应用，然而万事都有好坏两面，人工智能显然也被网络犯罪盯上了。
文|马兰
ChatGPT的确可以将人类从重复性的写作中解放出来。然而，过于逼真的写作能力不仅仅让教授们头大，也在助长网络犯罪分子的“壮大”。
网络安全公司Checkpoint Security的ChatGPT首席研究员Sergey Shykevich表示，已经看到网络犯罪分子对ChatGPT的利用，他们正在通过人工智能的力量来创建可用于勒索软件攻击的代码。
1
钓鱼“熟手”ChatGPT
Shykevich的团队自2021年12月开始研究人工智能与网络犯罪的关系。去年年底，他们找到了ChatGPT与网络犯罪相关的第一份证据。
据称，网络犯罪分子正在使用聊天机器人创建可以用于恶意软件攻击的Python脚本。Shykevich指出，代码虽然有一些错误，但大部分是正确的。而更有趣的是，发布这些代码的人以前从未开发过任何软件。
Shykevich指出，ChatGPT和OpenAI的另一个编码服务Codex正在让经验不足的人也能完成代码写作，而这显然是一把双刃剑。
网络安全公司Darktrace的网络情报与分析总监Justin Fier也声称，目前网络钓鱼攻击的进入门槛已经很低。人们只要提示到位，ChatGPT就能轻松创建出数十份具有针对性的诈骗电子邮件。
2月初，网络安全公司Blackberry的一份针对信息技术专家的调查显示，1500名专家中74%的人担心ChatGPT会助长网络犯罪，而71%的人认为ChatGPT已经被有心人“拉下海”了。
2
最惨背锅侠
ChatGPT参与违法犯罪，倒霉的OpenAI可能会被连带追责。
美国前联邦检察官Edward McAndrew指出，如果ChatGPT或类似的聊天机器人建议某人实施网络犯罪，那么创造出ChatGPT的公司可能要承担责任。
这与往常的场景不同。大多数科技公司不必对自己平台上的用户言论负责，但由于ChatGPT的文字内容来自人工智能本身，而人工智能开发者对人工智能学习和输出的内容负责。
McAndrew表示，如果出现问题，OpenAI很难免于民事或刑事诉讼。
然而，McAndrew也承认如果ChatGPT开源的话，追溯OpenAI的责任将变得很困难。此外，目前也没有一个机构或政府单位专门负责为人工智能行业制定授权。而人工智能领域往往需要国际间的合作，这可能将花费数十年的时间。
Shykevich也强调，现在的ChatGPT对犯罪分子来说也是危险的存在，因为它不仅爱“乱讲”，而且乱讲话的时候特别自信。这让犯罪分子需要小心翼翼地检查ChatGPT的每一句话，不然就很可能被ChatGPT带进沟里。
扫码入群，与产业同步共赢
相关链接
-END-
欢迎关注元透社视频号，关注国内外行业动态。