数字安全观察｜白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷

点击上方蓝色文字关注我们吧

技术趋势

全文字数: 650字

阅读时长: 3分钟

本期推荐

• 白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷

• 研究人员借助ChatGPT部署蜜罐实施欺骗防御
  

白宫将支持AI红队公开评估 OpenAI、Google、Anthropic 语言模型中的缺陷

    2023年5月4日，白宫宣布包括OpenAI、谷歌、AntrHopic、Huging Face、微软、Nvidia和Stability AI在内的顶级人工智能开发商将在8月于拉斯维加斯举行的黑客大会DEF Con 31上参与对各自生成式人工智能系统的公开评估。这项行动是白宫进一步促进负责任的美国人工智能创新，保护人们权利和安全所采取的三项重大行动的一部分。    （来源：whitehouse，arstechnica，aivillage）【天枢点评】    GPT在数据安全、伦理道德和法律层面的风险引发各国对人工智能监管层的强烈反应。白宫召集大语言模型厂商高管座谈，并出台相关举措正是鲜明的写照。这一行动从短期看，与OpenAI主导实施的“漏洞赏金计划”类似，是对当前生成式人工智能带来备受争议的安全风险的积极响应，缓解人们对其安全的焦虑；长期看，这为大语言模型的发展构建了一种风险缓解模式，降低与监管红线的接触机会，从而促进大语言模型的快速迭代和广泛部署。

研究人员借助ChatGPT部署蜜罐实施欺骗防御

    2023年5月3日，欺骗即服务提供商Lupovis首席执行官Xavier Bellekens讲述了如何使用ChatGPT创建一个打印机蜜罐来诱骗黑客试图攻破一个不存在的系统。这个蜜罐具有打印机的常见功能，包括管理登录页面、用户名、口令、配置更改按钮等。创建完毕后，在VPS提供商Vultr进行托管，很快就监控到传入的连接记录。

    （来源：venturebeat，substack）

【天枢点评】

    用ChaptGPT重塑业务模式是一种普遍的预期。借助于Xavier Bellekens的方法，用ChaptGPT生成各种网络设备、服务并构建虚拟的蜜网，从而实现比传统蜜网更大规模、更低成本、更加敏捷的安全防御。不过若要具备较高的防御能力，构建高交互的蜜网，还需要对ChatGPT提示设计方法更加深入的研究。

精彩回顾

欢迎订阅完整版，邮件请至：[e-mail]

天枢智库享有对本文的独家版权，未经许可，请勿直接转载或用于其他商业用途，否则将追究法律责任。

点个赞加分享再走吧!