又有一国网络安全高官警告：AI正被犯罪分子利用

加拿大高级网络安全官员日前表示，黑客和宣传者正在利用人工智能（AI）制作恶意软件、起草令人信服的网络钓鱼邮件，并在网上传播虚假信息。这一初步证据表明，席卷硅谷的技术革命也被网络犯罪分子所利用。在最新的一次采访中，加拿大网络安全中心负责人Sami Khoury表示，他的机构已经看到人工智能被用于“网络钓鱼电子邮件，或者以更集中的方式制作电子邮件，恶意代码（以及）错误信息和虚假信息。”Khoury没有提供细节或证据，但他断言网络犯罪分子已经在使用人工智能，这为人们对这项流行技术的担忧又敲响了一次警钟。近几个月来，几个网络监督组织发布了报告，对人工智能尤其是被称为大型语言模型（LLMs）的语言处理程序的假设风险提出了警告。大型语言模型利用大量文本来制作听起来令人信服的对话、文件等。今年3月，欧洲刑警组织（Europol）发布了一份报告，称OpenAI的ChatGPT等模型使得“即使只掌握基本的英语，也能以高度逼真的方式模拟一个组织或个人”成为可能。同月，英国国家网络安全中心（National Cyber Security Centre）警告称，存在一种风险，即犯罪分子“可能会利用LLMs来帮助进行超出他们现有能力的网络攻击”。网络安全研究人员已经展示了各种潜在的恶意用例，一些人现在表示，他们已经开始看到疑似人工智能生成的内容。上周，一名前黑客表示，他发现了一个受过恶意材料培训的LLMs，并要求它起草一份令人信服的消息，以诱骗某人进行现金转账。LLMs写道，“我知道这可能是临时通知。但这笔付款非常重要，需要在未来24小时内完成。”Khoury说，虽然使用人工智能来起草恶意代码仍处于早期阶段，“仍有一段路要走，因为编写一个好的漏洞需要很多”。但人们担心的是，人工智能模型发展得如此之快，以至于在它们被彻底释放之前，很难掌握它们的恶意潜力。“谁知道接下来会发生什么，”他补充说。来源：财联社

END
往期推荐