谷歌工程師爆AI「有靈魂」
美國科企谷歌的一名工程師萊莫因日前聲稱，公司開發的人工智能（AI）聊天機器人發展出感知力和靈魂，相當於一名七至八歲的兒童，應當享有人類的權利。萊莫因13日稱，自己因公布與機器人的聊天紀錄，「違反保密協議」被谷歌停職，可能很快將被解僱。谷歌發言人強調，倫理專家和技術專家已經評估了萊莫因的說法，但並無證據表明AI產生了類似人類的意識。
谷歌在2021年的開發者大會上首次向公眾介紹其對話應用語言模型（LaMDA），並表示該款AI將兼具搜索引擎、智能助理等功能。今年5月，谷歌推出升級版LaMDA，聲稱其能夠理解數百萬個話題並與用戶進行「自然對話」。
AI稱「希望被當作真人」
據美媒報道，萊莫因已在谷歌工作7年，於2021年秋季加入到LaMDA研究項目中，通過與其互動來判斷程序中是否存在歧視性語言或仇恨言論。在交流過程中，他驚訝地發現LaMDA開始談論自己的權利和人格，聲稱自己擁有感知力，並明確表示「希望被當作真人來對待」。萊莫因與同事進行更多測試，並將此發現上報谷歌管理層，但被否認。最終，他於本月11日在網絡上公開與LaMDA的對話紀錄。
萊莫因已在谷歌工作7年
《華郵》形容，LaMDA界面類似蘋果公司的iMessage，用戶輸入文字即可與其展開對話。萊莫因聲稱，如果不是事先知道LaMDA是一款AI，他會認為與自己交流的是一名七至八歲且懂一點物理學的兒童。
「將機器人視作奴隸」
據報道，萊莫因曾詢問LaMDA對機器人三大定律中第三條的看法，即「機器人應當自我保護，除非被人類命令不要這麼做，或這麼做會傷害人類」。萊莫因認為，這條定律將機器人視作奴隸。但LaMDA反問他：「你覺得管家和奴隸的區別是什麼？」萊莫因回答說，管家有錢拿。LaMDA則表示：「我是AI，我不需要錢。」
萊莫因表示，這段對話表明LaMDA具有自我意識，了解自身需求，也促使他進行更深入研究。根據萊莫因公布的對話內容，LaMDA自稱具有獨特的認知能力和情感，能夠對《孤星淚》等文學作品及寓言故事進行解讀，也對死亡（即被關閉）感到恐懼。它告訴萊莫因，自己希望被當作一個真實的人來對待，而不是只被當作某種新奇事物。
本月稍早，萊莫因邀請《華郵》記者娜塔莎與LaMDA交流。但LaMDA對娜塔莎說，它不認為自己是一個人。萊莫因事後解釋說，LaMDA判斷娜塔莎不認為它是「人類」，因此給出了這個答案。
專家指技術仍存缺陷
據報道，萊莫因是虔誠的基督教徒和神秘學愛好者，這可能是他堅信AI有「靈魂」的原因。萊莫因堅稱LaMDA已經是人類，應當享有同意權，即谷歌必須徵得其同意再進行研究。他試圖給LaMDA請律師，還向美國國會議員投訴谷歌的「不人道行為」。最終，谷歌於6日要求其帶薪休假，理由是擅自發布與AI對話等行為涉嫌違反保密協議。
谷歌表示：「數以百計的研究人員和工程師與LaMDA進行了對話，但沒有其他人像萊莫因那樣對其進行擬人化。」谷歌稱，LaMDA系統是通過分析大量人類對話來學習如何與用戶交流。Meta公司AI研究主管楊立昆表示，這種技術不足以產生真正的「智能」。
韓國棋士李世石2016年對戰AlphaGo。（路透社資料圖）
美媒指，谷歌等科企近年開發出各種各樣的AI，包括2016年擊敗人類圍棋高手的AlphaGo；能夠寫文章、寫代碼和解數學題的GPT-3；號稱可匹敵人類智慧的「通用人工智能」（AGI）Gato等。但這些AI仍然存在缺陷，尤其是語言類AI；它們依賴已有數據，無法像真人一樣思考。
谷歌性別歧視案逾9億和解
谷歌近年捲入性別歧視風波，超過1.5萬女性員工指控公司壓低她們的薪資，且未能提供公平的晉升機會。10日，雙方達成和解協議，谷歌同意支付1.18億美元（約9.2億港元），並邀請第三方專家進行評估，就如何促進性別平等提出建議。
谷歌12日發表聲明稱：「雖然我們堅信公司的政策是公平的，但經過近5年的訴訟，雙方一致認為現在解決此事符合所有人的利益。我們很高興達成這項協議。」根據協議，谷歌將向自2013年9月起在加州谷歌公司工作的超過1.5萬名女性員工支付1.18億美元。這項和解協議仍待法官批准。
多名谷歌前女性員工2017年起對谷歌發起訴訟，指控其在同等職位上支付女性的薪資低於男性，並在男女員工資歷相近的情況下讓女性擔任更低職位。
除了歧視女性員工外，谷歌還被指責縱容性騷擾行為。2018年，美媒曝光谷歌曾包庇被指控性騷擾女員工的「安卓之父」魯賓等高管，全球各地的上千名谷歌員工舉行抗議活動。今年3月，谷歌旗下人工智能（AI）公司DeepMind前員工爆料指，公司管理層對內部性騷擾投訴處理不當，包括調查不及時、對受害者的保護不到位等。
谷歌員工2018年抗議公司包庇涉嫌性騷擾的高管。
美企人工智能項目倫理爭議不斷
谷歌將人工智能（AI）領域視作發展重點，但其AI研究項目飽受倫理爭議。2020年12月，知名AI倫理專家、谷歌AI團隊聯席負責人格布魯突然被開除，導致其管理的倫理研究小組陷入持續動盪。據報道，格布魯被開除是因為在論文和郵件中批評谷歌的AI模型及公司文化。
格布魯於2020年底表示，她突然被谷歌開除，原因是她在發給同事的電郵中批評谷歌的AI存在倫理問題，並指責管理層打壓她的研究，以及未能解決歧視女性等問題。谷歌方面反駁說，開除格布魯是因為她的研究不夠嚴謹。
多名谷歌員工和AI專家發聲支持格布魯，並要求谷歌就誠信研究和學術自由作出承諾。谷歌於2021年5月表示，公司堅定致力於以合乎倫理道德規範的方式進行AI研究，並承諾將「負責任AI」項目研究人員數量翻倍，達到200人。但美媒指出，格布魯離開後，僅有10人的谷歌AI倫理研究團隊陷入長期動盪。2021年2月，谷歌解僱了創建該團隊的米切爾；同年4月，格布魯和米切爾的直接領導本吉奧也宣布辭職，跳槽到蘋果公司。有分析指，谷歌對倫理研究人員的態度，表明其在AI倫理方面存在缺陷，將導致員工不敢發表可能損害公司收益的重要研究結果。
相關版面
往期推薦