智能头条｜FTC给出了20页的质询函，OpenAI或面临最强监管

「Sam Altman对此感到非常失望」

撰文：张司钰

编辑：吴洋洋

据《华盛顿邮报》7月14日消息，美国联邦贸易委员会（FTC）已向OpenAI发出了一份长达20页的质询函，要求其提供有关如何解决AI模型相关风险的记录。这是迄今为止OpenAI在美国面临的最强监管。

质询函关于哪几个方面？

FTC的调查内容主要针对《联邦贸易委员会法》第5条，即OpenAI是否存在不公平或欺骗性行为。这份质询函提出了包括模型训练、隐私和提示词风险、API插件、个人信息等在内的49个问题，囊括200多个小问题。可以总结成下面几个部分：

· 公司背景：注册信息、成员构成、关联公司、财务收益等；

· 模型开发与训练：用于训练、测试、审计和监控模型的政策和程序，用于训练模型的数据来源、数据类型、数据保留和负责数据的个人或部门的详尽信息等；

· 风险评估与应对：采取降低模型输出包含非法、不安全、有偏见或误导内容风险的技术和组织安全措施等；

· 隐私和提示词风险及措施：用户投诉受到伤害的详细信息与公司回应，与AI系统的隐私、安全和伦理相关的政策和程序、内部针对模型安全性、偏见和事实正确性的沟通和评估和研究等；

· API集成及插件：与第三方就开发模型签订的所有协议等。

OpenAI对质询函的回应

接到质询函后，OpenAI首席执行官Sam Altman连夜更新了3条推文，称公司会与FTC合作，但FTC的要求从泄密开始，无助于建立信任，他感到非常失望，并声称：「我们在多年安全研究的基础上构建了GPT-4，并在完成初始培训后花了6个多月的时间使其更安全、更一致，然后才发布。我们保护用户隐私，并设计我们的系统来更了解世界，而不是（更了解）个人。」

两个月前，国会还对Sam Altman无比友好

「新皮层」曾报道，今年5月，Sam Altman曾在参议院司法委员会就隐私、技术和法律小组委员会作证。彼时参议员们提出的问题大多并不尖锐，更多时候，他们只是向Altman和其他证人就ChatGPT等生成式人工智能工具未来规则的制定寻求意见。

但两个月不到，风向似乎就变了。6月28日，北加州的一家律所对OpenAI提起集体诉讼，指控其在训练大模型时从网上抓取数据，侵犯了16位原告的著作权和隐私，要求赔偿30亿美元。随后又有几位作家分别起诉了OpenAI。

值得一提的是，3月初，OpenAI系统中的一个错误导致部分用户可以看到另一用户的姓名、电子邮件、支付地址、信用卡类型、信用卡号码的最后四位数、信用卡的过期日期，以及聊天记录的标题。虽然不久后公司回应称漏洞已修复，但本次FTC要求OpenAI对此作二次说明。

质询函原文可查看：

https://www.washingtonpost.com/documents/67a7081c-c770-4f05-a39e-9d02117e50e8.pdf?itid=lk_inline_manual_4

针对用户隐私泄露事件OpenAI的回应：

https://openai.com/blog/march-20-chatgpt-outage

-END-

我们是一个诞生于GPT浪潮、由《第一财经》YiMagazine孵化的全新内容IP。 

和每一位关心技术、关注人类命运的读者一样，我们希望在这个充满不确定性的时代，更好地理解快速变化的科技世界，也更好地理解生而为「高级智能」的我们自己。

在这个目标下，我们计划从学术、商业、伦理、监管等多个角度报道和讨论与「智能」相关的议题。请注意，我们说的智能，不只是 AI。

若想了解更多当日资讯，请点击阅读往期智能晚报

若想了解头条新闻，请点击阅读往期

与记者交流，可添加微信（请备注公司名称和姓名）：

王杰夫 微信号: wjfsty

张司钰 微信号: helianthus351

吴洋洋 微信号: qitianjiuye

喜欢就关注我们吧，记得「设为星标」