在昨天这封公开信长长的签名者中，一个签名显得格外引人注意，那就是”OpenAI CEO Sam Altman“。当然这个签名是别人冒名的，但Sam Altman近期关于“AI威胁论”的表态也再次引起了人们的注意。在推出了GPT-4之后，Sam Altman曾接受了ABC Newa的采访，承认他和公司都对 AI 的潜力感到 “有些害怕”，并认为AI未来可能会 “消灭” 很多工作。他也表示目前OpenAI也在跟相关政府监管部门保持定期的联系，认为整个行业的监管应该被同步推进。在此前的一次节目中，Sam Altman也表示 从ChatGPT开始，AI出现了推理能力。但并没有人能解释这种能力出现的原因。他还承认，AI确实有杀死人类的可能性，为了解决这个问题，就必须不断迭代学习并开发出新的技术保证AI的安全使用。“AI现在还并不那么可怕，但我们应该已经离可怕的AI不远了”。Sam Altman在不久前的推特中说道。最后，昨天这封公开信末尾说，人工智能技术无疑将给人类带来更繁荣、精彩的未来，我们在成功创建了强大的人工智能系统之后，现在可以享受一个充满收获的“人工智能之夏”，但我们仍然需要给机制、社会留出更多适应的时间。———“让我们享受一个漫长的人工智能之夏，而不是匆忙地跑进秋天”。而对于这个具有诗意的描述和呼吁，也有人回复说道，“我们也不应因为恐惧，而将它再次关进冬天”。附：公开信原文暂停巨型 AI 实验：一封公开信大量研究表明并得到顶级 AI 实验室的认可，具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。正如被广泛认可的Asilomar AI 原则中所描述的那样，高级 AI 可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解、预测、或可靠地控制。当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该 发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？我们不可以将此类决定委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。OpenAI最近关于通用人工智能的声明指出，“在某个时候，在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的工作来说，人们应该在合适的时间点限制用于创建新系统的计算增长率。” 我们同意，而当下就是这一时候。因此，我们呼吁所有 AI 实验室立即暂停至少 6 个月的比 GPT-4 更强大的 AI 系统训练。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑。这并不意味着总体上暂停 AI 开发，只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统，更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。与此同时，AI 开发人员必须与政策制定者合作，以加快开发强大的 AI 治理系统。涵盖内容至少应包括：专门负责 AI 的新的和有能力的监管机构；监督和跟踪高性能人工智能系统和大量计算能力；出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏；强大的审计和认证生态系统；人工智能造成的伤害的责任；为技术人工智能安全研究提供强大的公共资金；以及资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏。人类可以享受人工智能带来的繁荣未来。成功创建强大的 AI 系统后，我们现在已经可以享受人工智能之夏”，去收获回报，去设计这些系统以造福所有人，并为社会提供更长的适应机会和时间。过去我们已经暂停过其他可能对社会造成灾难性影响的技术。我们现在也可以这样这样做。让我们享受一个漫长的 AI 夏天，而不是毫无准备地跑入秋天。原文地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/注：封面图来自于网络，版权属于原作者。如果不同意使用，请尽快联系我们，我们会立即删除。023年品玩x声网RTE Plus城市系列沙龙成都站，免费参会报名中！本期活动亮点：- 实时音视频互动在泛娱乐社交领域的技术解决方案- 社交应用的用户增长与运营- 泛娱乐产业投资机会、未来发展趋势时间：2023年4月20日 13:30-17:30地点：四川省成都市高新区天府五街168号德必天府五街WE · 文章版权归硅星人/品玩所有，未经授权不得转载。· 发送关键词 转载、合作、招聘 到品玩微信公众号，获得相应信息。· 您亦可在微博、知乎、今日头条、百家号上关注我们。