Sam Altman是这个时代的奥本海默吗？

01.

于正念峰会

今年春天，38 岁的 OpenAI 首席执行官山姆-奥特曼（Sam Altman）与硅谷最受欢迎的佛教僧侣杰克-康菲尔德（Jack Kornfield）坐在了一起。这是一次在旧金山耶巴布埃纳艺术中心举行的 "智慧 2.0"（Wisdom 2.0）论坛，一个致力于将智慧与 "我们时代的伟大技术 "相结合的活动。在一个深色曼陀罗靠背的舞台上，两人坐在巨大的白色软垫椅子上。就连主持人似乎也对奥特曼的出现感到困惑。

他问道：“你怎么来了？”"是的，嗯......"奥特曼说。"我肯定对这个话题感兴趣"--正式来说，就是正念和人工智能。"但是，遇到杰克是我一生中最大的乐趣之一。我很高兴能和杰克一起探讨任何话题"。科恩菲尔德现年 78 岁，他的著作包括《智慧的心》( The Wise Heart），已售出 100 多万册，当他做开场白时，议程才变得清晰起来。"我的经验是，山姆......我想用的语言是，他是一个非常仆人式的领导者"。科恩菲尔德在这里见证了奥特曼的卓越品格。他将回答困扰我们很多人的一个问题：我们应该对奥特曼有多大的安全感，因为这个穿着炭灰色切尔西靴和灰色华夫格针织衫的相对年轻的男人似乎正在控制人工智能将如何进入我们的世界？从左至右：Soren Gord Hamer（Wisdom 2.0创始人）；Jack Kornfield；Open AI 首席执行官 Sam Altman科恩菲尔德说，他认识奥特曼已经有好几年了。他们一起冥想。他们探讨了一个问题：奥特曼如何 "建立价值观--菩萨誓言，关爱众生"？如何才能 "以某种方式，以最深刻的方式 "将慈悲和关爱 "编入程序"。在科恩菲尔德的整个发言过程中，奥特曼一直盘腿而坐，双手合十放在膝盖上，他的姿势令人印象深刻，他的脸部表情坚定地传达着耐心（尽管他的表情也清楚地表明，耐心并不是他的自然状态）。"我会让你难堪的，"康菲尔德警告他。然后，这位僧侣再次向众人致辞："他有一颗纯粹的心"。在小组讨论的其余大部分时间里，奥特曼都在滔滔不绝地阐述他的观点。他知道人们害怕人工智能，他认为我们也应该害怕。因此，他觉得自己有道义上的责任现身说法，回答问题。他说：“不这样做是非常不合理的”。他认为，作为一个物种，我们需要共同努力，决定人工智能应该做什么，不应该做什么。根据奥特曼自己的评估--从他的许多博客文章、播客和视频活动中可以看出--我们应该对他作为人工智能领导者感到欣慰，但不应该感到伟大。正如他自己所理解的那样，他是一个聪明绝顶但并不天才的 "技术兄弟"，有着伊卡洛斯（Icarus）的特质和一些与众不同的特点。首先，他拥有 "绝对妄想般的自信"。其次，他对 "科技和社会变革的弧线具有长远的预见性"。第三，作为一个犹太人，他既乐观又期待最坏的结果。第四，他善于评估风险，因为他的大脑不会被其他人的想法所迷惑。缺点是：他在情感上和人口统计学上都不适合这个角色。"他在三月份的莱克斯-弗里德曼播客节目中承认："可能会有人更喜欢这个角色。"可能会有人更有魅力"。他知道自己 "与大多数人的现实生活脱节"。他偶尔也会语出惊人。例如，和许多科技泡沫中的人一样，奥特曼也使用 "中位人类 "这个短语，比如 "对我来说，AGI（人工智能）"，"就相当于一个你可以雇来做同事的中位人类"。在耶尔巴布埃纳，主持人问奥特曼：他打算如何为人工智能赋予价值？奥特曼说，他的一个想法是 "尽可能多地聚集人类"，达成全球共识。你知道的：共同决定："这些是应该加入的价值体系，这些是系统绝对不能做的限制。"全场渐渐安静下来。"我想做的另一件事是让杰克写下十页纸，上面写着'这里是集体的价值观，这里是我们如何让系统做到这一点'。这样就很好了"。全场更加安静了。奥特曼并不确定，在历史的长河中，他所领导的这场革命会被视为技术革命还是社会革命。他相信，这将 "比标准的技术革命更大"。然而，他也知道，自己成年后一直与技术创始人为伍，"说'这次不一样'或'你知道，我的东西超酷'总是令人讨厌"。革命是不可避免的，他对此深信不疑。至少，人工智能将颠覆政治（深度造假已成为 2024 年总统大选的主要关注点）、劳工（人工智能已成为好莱坞编剧罢工的核心）、民权、监控、经济不平等、军事和教育。奥特曼的力量，以及他将如何使用它，是我们现在面临的所有问题。然而，我们很难分辨出奥特曼到底是个什么样的人；我们应该在多大程度上信任他；以及他在多大程度上整合了他人的担忧，即使他站在舞台上，意图平息他人的担忧。奥特曼说，他将尽可能放慢革命的脚步。不过，他告诉与会者，他相信一切都会好起来的。或者说可能会没事。我们--这个带有皇室色彩的小词在他的言辞中发挥了很大作用--应该 "决定我们想要什么，决定我们要去执行它，并接受未来会变得非常不同，而且可能会变得更好的事实"。这句话也不太受欢迎。奥特曼说："大家紧张地大笑起来。”然后他摆摆手，耸耸肩。“我可以骗你们说，'哦，我们完全可以阻止它'。但我认为这是......"

02.

全球价值观

奥特曼没有完成这个想法，于是记者在八月底旧金山布莱恩特街的  OpenAI 办公室重新开始了对话。外面的街道是新资本主义的旧货市场：无人驾驶汽车、躺在人行道帐篷旁晒太阳的狗、公共交通系统失灵的公交车站、供应 6 美元拿铁咖啡的商店。OpenAI 内部则是低调而平淡的科技企业：请从小冰柜里拿出一杯佩莱格里诺（Pellegrino）或贴上我们的标志。在人前，奥特曼比想象中更迷人、更认真、更冷静、更呆萌--更多的是在他的身上。他很讨人喜欢。他的头发斑白。他穿着同样的华夫格针织衫，这件衣服很快成为他的标志。我是他今年夏天接待的第 100 亿名记者。当我们在一间隔音室里坐下时，我为让他再接受一次采访而道歉。他微笑着说："很高兴见到你。"在和科恩菲尔德的演讲结束后，有人对笔者说：“你知道吗，我来的时候非常紧张，担心 OpenAI 会对人工智能的价值观做出决定，而你让我相信你不会做出这些决定，'我当时想，'太好了。然后他们说，'不，现在我更紧张了。你要让这个世界来做这些决定，我不想这样'。"就连奥特曼也觉得自己站在台上回答有关全球价值观的问题有些反常。"2016年，他对《纽约客》杂志的泰德-弗兰德（Tad Friend）说："如果我没有参与其中，我会说，为什么这些人可以决定我的命运？7 年过去了，经过大量的媒体培训，他的态度有所缓和。"我对 OpenAI 这样的政府项目深表同情"。新的好人形象很难与奥特曼的权力意志相提并论，而权力意志是他最为人熟知的特质之一。他核心圈子里的一位朋友对我说，“他是我认识的硅谷人中，最有野心但仍然保持理智的人，而我认识的硅谷人有两万人"。尽管如此，奥特曼还是以一种不以为然的态度来解释他的崛起。"我是说，我是一个来自中西部的犹太人，充其量只能说是一个尴尬的童年。我是少数几个......" 他自言自语道。"你知道，前几十个最重要的技术项目。我无法想象这种事会发生在我身上。"

03.

从孩童到创办 OpenAI

伊特曼在圣路易斯郊区长大，是四个兄弟姐妹中的老大：三个男孩萨姆、马克斯和杰克，每个相差两岁，还有一个女孩安妮，比萨姆小九岁。如果你不是在中西部中产阶级犹太家庭长大--凭经验这么说--很难想象这样的家庭能给儿子灌输怎样的潜在自信。"杰克-奥特曼曾说过：“父母为我做的最好的事情之一，就是不断地（我想是每天多次）肯定他们的爱，并相信我无所不能。由此产生的自信是幻想的、麻醉的、武器级的。它们就像你心脏里多了一个阀门。”据《圣路易斯邮报》（St. Louis Post-Dispatch）报道，关于萨姆的故事通常是这样的：他是个天才少年--"技术奇才界的后起之秀"。他 3 岁就开始修理家里的录像机。1993 年，奥特曼 8 岁生日时，他的父母--皮肤科医生康妮-吉布斯汀和房地产经纪人杰瑞-奥特曼--给他买了一台 Mac LC II。奥特曼将这份礼物形容为 "我人生的分界线：有电脑之前和有电脑之后"。奥特曼一家每晚都一起吃晚饭。在饭桌上，他们会玩 "平方根 "之类的游戏：有人会喊出一个大数字 男孩们会猜。安妮会拿着计算器检查谁最接近。他们还玩 "20 个问题 "游戏，以猜出每晚的惊喜甜点。一家人还玩乒乓球、台球、棋盘游戏、视频游戏和猜字谜，每个人都知道谁赢了。山姆更喜欢这样的游戏。杰克回忆起哥哥的态度："我必须赢，一切都由我说了算" 男孩们还打水球。"杰克告诉我："他会不同意，但我会说我更厉害。"我的意思是，毫无疑问我更优秀"萨姆是同性恋，在高中时出柜。这甚至让他的母亲也感到惊讶，因为她一直认为萨姆 "只是那种不男不女的技术男"。正如奥特曼在 2020 年的播客节目中所说，他就读的私立高中 "并不是那种可以让你真正站出来谈论自己是同性恋的地方"。在他 17 岁那年，学校邀请了一位演讲者参加 "全国出柜日 "活动。一群学生表示反对，"主要是基于宗教信仰，但也有一些人认为同性恋者是坏人"。阿尔特曼决定在学生会发表演讲。前一天晚上，他几乎没怎么睡觉。他在播客中说，最后一句话是："要么你容忍开放的社区，要么你不容忍，你没有选择的权利。"2003 年，就在硅谷开始从互联网泡沫中复苏的时候，奥特曼进入斯坦福大学学习。同年，里德-霍夫曼（Reid Hoffman）联合创办了 LinkedIn。2004 年，马克-扎克伯格共同创立了 Facebook。在那一刻，这位郊区犹太家庭的长子没有成为投资银行家或医生。他成为了一名创业者。大二那年，奥特曼和他的男朋友尼克-西沃（Nick Sivo）开始开发一款早期的地理追踪程序--Loopt，用于定位你的朋友。当时，保罗-格雷厄姆（Paul Graham）和他的妻子杰西卡-利文斯顿（Jessica Livingston）等人刚刚创建了夏季创始人计划，作为他们的风险投资公司 Y Combinator 的一部分。阿尔特曼提出了申请。他赢得了 6000 美元的投资，并有机会在马萨诸塞州剑桥市与志同道合的书呆子们共度几个月的时光。那个夏天，奥特曼工作得非常辛苦，以至于得了坏血病。不过，在 Loopt 公司，他并没有特别出众的表现。霍夫曼说："哦，又是一个聪明的年轻人！"霍夫曼一直到今年 1 月都是 OpenAI 董事会的成员，他还记得自己对年轻的奥特曼的印象。这足以让他从红杉资本（Sequoia Capital）融资 500 万美元。但是，Loopt 一直没有得到用户的青睐。2012 年，奥特曼以 4340 万美元的价格将公司卖给了绿点公司（Green Dot）。就连他本人也不认为这是一次成功。

萨姆-奥特曼成长故事：左起：2000 年代，14 或 15 岁时与兄弟姐妹在一起。23 岁时，在 2008 年苹果 WWDC 上推广 Loopt。照片 安妮-奥特曼提供；CNET/YouTube。

奥特曼告诉我：失败总是很糟糕，但当你想证明什么的时候，失败就真的非常糟糕。他 "很不开心 "地离开了公司，但却获得了 500 万美元，他用这笔钱，加上彼得-蒂尔（Peter Thiel）的资助，成立了自己的风险投资基金 Hydrazine Capital。他还休了一年假，读了一大堆书，去旅行，玩电子游戏，"就像个十足的技术男"，他说，"当时我想，我要去阿修罗寺住一段时间，这改变了我的生活。我确信自己在很多方面仍然焦虑不安、压力重重，但我的感觉是，我感到非常放松、快乐和平静。"2014 年，格雷厄姆让奥特曼接任 Y Combinator 总裁一职，当时 Y Combinator 已经帮助创办了 Airbnb 和 Stripe。格雷厄姆曾在 2009 年将奥特曼形容为 "过去30年中最有趣的五位初创企业创始人之一"，后来又将他形容为 "比尔-盖茨创办微软时的样子......一个天生的威猛、自信的人。"在奥特曼担任 YC 总裁期间，孵化器每年收到约 40,000 份新创企业的申请。孵化器听取了其中 1000 家公司的当面陈述。其中几百家获得了 YC 的资助：通常在 12.5 万美元左右，同时还有指导和网络（包括每周的晚餐和集体办公时间），作为交换，YC 将获得公司 7% 的股份。经营 YC 可以说是硅谷最伟大的工作，也可以说是最糟糕的工作。从风险投资人的角度来看（有人说，他们中的一些人花费了大量的时间和精力），YC 的经营可以说是硅谷最伟大的工作，也可以说是最糟糕的工作之一。在他任职的大部分时间里，奥特曼和他的兄弟们住在他在旧金山的两栋房子中的一栋，一栋在索玛（SoMa），另一栋在传教士区（Mission）。他宣扬的是野心、孤僻和规模。他相信从熟人网络中招聘的价值。他相信不要太在意别人的看法。"他在自己的博客上写道："一个很大的秘密是，你可以在很大程度上让世界顺从你的意愿--大多数人甚至连试都没试过。"最成功的创始人并不是为了创建公司。他们的使命是创造一种更接近宗教的东西，而在某些时候，成立一家公司竟然是最简单的方法。他认为，更大的弊端在于把自己逼在一个小想法的角落里，没有足够的大局观。奥特曼的人生相当精彩。他变得异常富有。他投资于男孩梦想的产品，比如开发超音速飞机。他在大苏尔买了一栋房子，里面堆满了枪支和黄金。他开着他的迈凯轮赛车比赛。他还信奉技术至上的功利主义哲学--有效的利他主义（EA）。EA 几乎不择手段地赚大钱，其理论依据是，它的信徒最清楚如何花钱。这种意识形态把未来看得比现在更重要，并想象着人类和机器融合后的狂喜奇点。2015 年，在这个框架的深处，奥特曼与伊隆-马斯克（Elon Musk）以及其他四人--伊利亚-苏茨克沃（Ilya Sutskever）、格雷格-布罗克曼（Greg Brockman）、约翰-舒尔曼（John Schulman）和沃伊切赫-扎伦巴（Wojciech Zaremba）--共同创立了非营利组织 OpenAI。501(c)(3) 的使命是：创造 "一台在各方面都能像人类一样思考的计算机，并以此为人类谋取最大利益"。其理念是在坏人制造出坏的人工智能之前，制造出好的人工智能并在该领域占据主导地位。OpenAI 承诺按照 EA 的价值观开源其研究成果。如果有人--或者他们认为 "价值一致 "和 "安全意识强 "的人--准备在 OpenAI 之前实现 AGI，他们将协助该项目，而不是与之竞争。几年来，奥特曼一直担任 YC 主席。他每天都会给创始人发送无数的短信和电子邮件，并跟踪人们回复的速度，因为正如他在博客上写的那样，他认为回复时间是 "伟大创始人和平庸创始人之间最显著的区别之一"。2017 年，他考虑竞选加州州长。他曾在一次晚宴上 "抱怨政治和州政府，有人说，'你应该停止抱怨，做点什么'，"他告诉我。"我当时想，'好吧'。他发表了一份政纲《联合石板》，概述了三项核心原则：科技繁荣、经济公平和个人自由。几周后，奥特曼放弃了竞选。2018 年初，马斯克试图控制 OpenAI，声称该组织正在落后于谷歌。到了 2 月份，马斯克离开了，留下 Altman 负责。几个月后的 5 月底，奥特曼的父亲在圣路易斯郊外的 Creve Coeur 湖划船时突发心脏病，享年 67 岁。不久，他在医院去世。安妮告诉记者，在葬礼上，山姆给奥特曼的四个孩子每人分配了五分钟的发言时间。她用自己的时间给家人的情感表达能力排了个序。她把山姆和她母亲排在了最后。

04.

GPT 背后的万物摩尔定律

Altman 于 2021 年 3 月发表了一篇名为《万物摩尔定律》的文章。文章开头写道："我在 OpenAI 的工作每天都在提醒我，社会经济变革的规模比大多数人认为的来得更快......如果公共政策不做出相应调整，大多数人最终的境况将比现在更糟。”适用于微型芯片的摩尔定律指出，芯片上的晶体管数量大约每两年翻一番，而价格却下降一半。奥特曼提出的 "万物摩尔定律 "则假设 "在这个世界上，几十年来，住房、教育、食品、服装等所有物品的价格每两年下降一半"。在 Altman 写这篇文章时，他已经离开 YC，全职专注于 OpenAI。2019 年春天，在他的领导下，公司做的第一件事就是成立了一家营利性子公司。事实证明，打造人工智能的成本非常昂贵；Altman 需要钱。到了夏天，他从微软那里筹集到了 10 亿美元。一些员工辞职了，他们对远离 "人类最大利益 "的使命感到不安。然而，出人意料的是，很少有人对这一转变感到不满。奥特曼内部的一位朋友说："怎么，身家千亿的埃隆会像'淘气的山姆'一样吗？”奥特曼拒绝入股公司，OpenAI 最初将投资者的利润上限设定为 100 倍。但许多人认为这只是一个视觉上的举动。十亿乘以一百是一大笔钱。Altman 的朋友说："如果伊丽莎白-沃伦（Elizabeth Warren）来了，说'哦，你把这变成了一家盈利公司，你这个邪恶的科技人'，""科技界的每个人都会说，'回家吧'"。奥特曼继续参加他的赛车比赛（他最喜欢的赛车之一是雷克萨斯 LFA，该车已于 2013 年停产，据 HotCars 报道，"至少要花费 95 万美元"）。在新冠初期，他戴上了以色列国防军的防毒面具。他在纳帕买了一个牧场。(奥特曼是素食主义者，但他的搭档、来自墨尔本的计算机程序员奥利弗-穆赫林（Oliver Mulherin）"喜欢牛"，奥特曼说）。他在旧金山的俄罗斯山上购买了价值 2700 万美元的房子。他的朋友也越来越多。2021 年，黛安-冯-弗斯滕伯格（Diane von Furstenberg）称他为 "我最近的、非常非常亲密的朋友之一"。见到萨姆就像见到爱因斯坦一样"。与此同时，随着 OpenAI 开始向企业出售其 GPT 软件的使用权，奥特曼酝酿了一系列副业，为人工智能改造世界做准备。他向投机性核聚变公司 Helion Energy 投资了 3.75 亿美元。如果 Helion 能够成功，奥特曼希望能够控制世界上最廉价的能源之一。他向 Retro Biosciences 投资了 1.8 亿美元。其目标是将人类寿命延长十年。奥特曼还为 "世界币"（Worldcoin）项目构思并筹集了 1.15 亿美元。“世界币 "项目通过让人们注视一个名为 "球体"（Orb）的球体，对全球各地人们的虹膜进行扫描。然后，每个虹膜指纹都会链接到一个加密钱包，Worldcoin 会将货币存入该钱包。这将解决人工智能创造的两个问题：区分人类和非人类--一旦人工智能进一步模糊了人类和非人类之间的界限，这就很有必要了；以及发放货币--这也是人工智能创造的两个问题。这不是一个像扎克伯格那样有雄心壮志的人的投资组合，与奥特曼相比，扎克伯格显得有些古板，他满足于 "建立一个统治城邦"，正如科技作家和播客杰森-萨多斯基（Jathan Sadowski）所说的那样。这是一个像马斯克一样有野心的人的作品集，一个采取 "帝国主义方式 "的人的作品集。萨多斯基说："他真的把自己看成是世界上最伟大的人，是尼采式的超人。"他将同时创造出毁灭我们的东西，并将我们从中拯救出来。随后，2022 年 11 月 30 日，OpenAI 发布了 ChatGPT。这款软件在两个月内吸引了 1 亿用户，成为科技史上最伟大的产品发布。两周前，Meta 发布了 Galactica，但公司在三天后将其下架，因为该机器人无法辨别真假。ChatGPT 也撒了谎，产生了幻觉。但奥特曼还是发布了它，并认为这是一种美德。世界需要习惯这一点。我们需要共同做出决定。一位在 OpenAI 最初几年与 Altman 共事过的前同事告诉记者：“有时，不道德正是一个成功 CEO 或产品与众不同的地方。"Facebook 在技术上并不那么有趣，为什么扎克会赢呢？" 他可以 "更快地扩大规模，打造产品，而不会陷入混乱"。

05.

奥本海默时刻

2023 年 5 月，奥特曼开始了 22 个国家、25 座城市的全球巡演。据说，一开始是为了与 ChatGPT 用户见面，但后来却变成了一种“名媛派对”。奥特曼时而西装革履，时而身着灰色针织衫，向外交官们展示自己是不可避免的新科技超级大国。他会见了英国首相苏纳克（Rishi Sunak）、法国总统马克龙（Emmanuel Macron）、西班牙首相桑切斯（Pedro Sánchez）、德国总理肖尔茨（Olaf Scholz）、印度总理莫迪（Narendra Modi）、韩国总统尹淑烈（Yoon Suk-yeol）和以色列总统赫尔佐格（Isaac Herzog）。他与欧盟委员会主席乌尔苏拉-冯德莱恩站在一起合影。照片中，她看起来优雅而淡然，而他则像 "沃尔多在哪里"--前裤兜里的手机清晰可见，一双绿色的眼睛因疲惫和皮质醇而变得炯炯有神。随后，奥特曼回到家中，似乎不仅卸下了自己的行头，还卸下了自己的心理包袱。从六月下旬到八月中旬，他发了很多推特。如果你希望了更真实地解他，推特就是最好的地方。基础模型在大规模数据集上训练，可以执行广泛的任务。开发人员使用基础模型作为强大的生成式AI应用的基础，例如ChatGPT。

今晚的行动是芭比还是奥本海默？

奥特曼公布了一项民意调查 芭比输了，17% 比 83%。

好吧 选奥本海默

第二天早上，奥特曼回来表达了他的失望。

我希望奥本海默的电影 能激励一代孩子成为物理学家 但它真的没有达到目标

让我们把那部电影拍出来吧！

(我认为社交网络成功地为初创企业创始人做到了这一点）。

细心的读者会对奥特曼的作品感到困惑。多年来，奥特曼一直将自己与炸弹制造者相提并论。他曾对记者说，他和奥本海默的生日是同一天。他曾向《纽约时报》的凯德-梅兹（Cade Metz）转述过奥本海默的话："技术的出现是因为它是可能的" 因此，对于克里斯托弗-诺兰（Christopher Nolan）在他的传记片中没有创作出一部鼓舞人心的作品，奥特曼并不会感到惊讶。奥本海默的后半生一直在为自己制造原子弹的行为感到羞愧和遗憾。"现在我变成了死神，世界的毁灭者"--这既是《博伽梵歌》中最著名的一句话，也是奥本海默告诉美国全国广播公司新闻（NBC News）他在特尼狄核弹试验中的想法。(这句话在电影中也出现了两次）。奥特曼在其世界巡回演讲中一直将自己与奥本海默联系在一起，他（以不具体的措辞）讨论了人工智能带来的生存风险，并（非常具体地）主张建立一个以国际原子能机构为模式的监管机构。1957 年，联合国批准了国际原子能机构，这是该机构成立四年后的事。该机构的任务--致力于国际和平与繁荣--在普通听众听来就像是一个伟大的类比。但它却让专家们苦恼不已。其中一条批评是关于它的政治犬儒主义。萨多斯基说：“你说，'我来监管'，然后你说，'这是一个非常复杂和专业的话题，所以我们需要一个复杂和专业的机构来做这件事'，但你很清楚，这个机构永远不会成立。"萨多斯基说："或者，如果真的成立了，嘿，那也没关系，因为是你构建了它的 DNA。”另一个问题是模糊性。海迪-克拉夫（Heidy Khlaaf）是一名工程师，专门负责评估和验证无人机和大型核电站的安全协议，他向我解释说，要降低一项技术的风险，你需要精确地定义这项技术能够做什么，如何帮助和伤害社会。(也许有人会利用人工智能发明超级细菌；也许有人会利用人工智能发射核弹；也许人工智能本身会反噬人类--每种情况的解决方案都不明确）。此外，克拉夫认为，我们并不需要一个新的机构。人工智能应该像其他技术一样，在其使用范围内受到监管。使用受版权保护的材料构建的人工智能应该受到版权法的监管。在航空领域使用的人工智能也应受到相应的监管。最后，如果奥特曼对严格的安全协议是认真的，那么他就会更加认真地对待他认为较小的危害。"如果你连让你的系统不歧视黑人都做不到"--这种现象被称为算法偏见，它影响着从求职者如何排序到哪些面孔被贴上最有吸引力的标签等方方面面--"你怎么能阻止它毁灭人类呢？" 克拉夫问道。工程系统中的危害是复杂的。"一个小小的软件错误就能摧毁纽约的电网。训练有素的工程师都知道这一点。"这些公司中的每一家，每一个人工智能领域的顶级竞争者，都拥有足够的资源和基本的工程知识，能够找出如何减少这些系统中的危害。选择不这样做是一种选择"。就在奥特曼发布奥本海默 vs. 巴比民调的同一天，他还发布了一篇文章：

一切 "创意 "都是对过去发生的事情的重新组合，再加上 ε 和反馈回路质量的乘积以及迭代次数。

人们认为他们应该最大化 ε，但诀窍在于最大化其他两项。

整个夏天和秋天，OpenAI 都面临着越来越大的压力，因为它涉嫌在充斥着盗用版权作品的数据集上训练其模型并赚钱。迈克尔-查邦（Michael Chabon）在得知自己的书被擅自用于 ChatGPT 教学后，组织了一场集体诉讼。联邦贸易委员会对该公司涉嫌广泛违反消费者保护法的行为展开了调查。现在，奥特曼认为创意其实并不存在。无论那些引人注目的作家或愤怒的插画家如何看待自己的个性或价值，他们只是在重新混合旧的想法。就像 OpenAI 的产品一样。在措辞方面，数学术语为其披上了一层可靠的外衣。数学性（Mathiness）是诺贝尔经济学奖得主保罗-罗默（Paul Romer）在 2015 年创造的一个术语，用来形容数学语言不是为了澄清，而是为了误导。"本特利大学（Bentley University）的数学和数据科学教授诺亚-吉安西拉库萨（Noah Giansiracusa）告诉我："数学语言的魅力在于，它能够用简单明了的语言传达世界的真相--E = MC2。"我反复阅读他的推文，仍然不知道如何解析，也不知道他到底想表达什么。吉安西拉库萨将奥特曼的话转换成了符号。"用 C 表示创造性的事物，R 表示对过去事物的混搭，Q 表示反馈回路的质量，N 表示迭代次数，他是说 C = R + epsilon*Q*N 还是 C = (R + epsilon)*Q*N 呢？" Giansiracusa 说，Altman 的措辞没有明确说明操作顺序。"'和 N'--以及迭代次数--是否意味着乘法以外的含义？还是......"2023 年 5 月 22 日：与西班牙总统Sánchez合影。拍摄：Pool Moncloa/Jorge Villar

06.

OpenAI 的未来

2023 年 6 月 22 日，奥特曼穿上礼服，与搭档奥利弗-穆尔赫林一起出席白宫晚宴。他看起来就像上世纪 90 年代时空旅行电影中的人物，身体太小、太年轻，无法发挥出应有的力量。但他大部分时间都是在演戏。他的晚礼服看起来很利落，与《硅谷》中另一位著名的山姆--山姆-班克曼-弗里德（Sam Bankman-Fried）形成了鲜明的对比，后者邋遢的审美观现在看起来就像是道德败坏的证据。自从奥特曼接任 OpenAI 首席执行官以来，公司不仅淡化了其非营利组织的身份，而且不再非常开放，也不再是一家公司。它不再非常开放，不再公开其训练数据和源代码，不再让其他人有可能对其技术进行分析和改进。放弃了 "为人类谋取最大利益 "的工作。但又有什么办法呢？在慕尼黑的全球巡演中，奥特曼问满堂的听众，他们是否希望 OpenAI 在下一代 LLM GPT-5 发布后将其开源。观众的回答是肯定的。奥特曼说："哇，我们肯定不会这么做，但知道这一点很有意思。"八月份，在他的办公室里，奥特曼仍在滔滔不绝地发表他的观点。我问他过去 24 小时都做了些什么。他说："昨天我在研究的一件事是：我们正试图找出是否能让人工智能与人类的价值观保持一致。我们在技术上已经取得了不错的进展。现在有一个更难的问题：谁的价值观？他还与旧金山市长共进午餐，努力减少他 98 页的待办事项清单，并举重（不过，他有些无奈地说，"我已经放弃了让自己变得真正魁梧的努力"）。他欢迎新员工。他与兄弟和奥利共进晚餐。晚上 8 点 45 分上床睡觉。帝国主义披着美好的外衣，令人迷失方向。他告诉记者，奥特曼最珍爱的东西之一是他祖父一辈子都放在口袋里的 mezuzah（门柱圣卷，犹太人贴在家门口的安家符）。他和奥利想尽快要孩子，他喜欢大家庭。他笑得很开心，有时不得不躺在地上喘气。他 "要想方设法把人们的意愿融入到我们的建设中"。他知道，"人工智能并不是一个只有好处的纯粹故事"，"这里会有东西丢失"，"有损失厌恶感是超级可亲和自然的。人们不希望听到自己成为牺牲品的故事"。他说，他的公众形象 "只与我切身相关"。

---

10 月 22 日（周日）晚 8 点，AGI Playground Hackathon 创新开发赛道的 4 支获奖团队将线上分享他们的开发经验和项目背后的想法，扫码预约↓

---

如果你关注大模型领域，欢迎扫码加入我们的大模型交流群，来一起探讨大模型时代的共识和认知，跟上大模型时代的这股浪潮。

---

更多阅读AGI Playground Hackathon 获奖项目介绍、路演视频+评委点评
LangChain 不好用的原因是，它起步于一场程序员的自嗨
人类数据被用完后，我们会走向一个 AI 垄断知识的未来吗？
复旦 NLP 实验室联合米哈游解读大模型：AI Agents 的现状和未来微软最新166页测评报告：视觉模态GPT-4V到底有多强？
转载原创文章请添加微信：geekparker