【封面專題】人工智慧和奇點降臨
人工智慧作為21世紀科技發展的最新成就，深刻揭示了科技發展為人類社會帶來的巨大影響。美國的未來學家雷·庫茲韋爾堅信，科學技術以及人工智慧將在未來扮演極為重要的角色。他曾提出了一個大膽的論斷：科技正以史無前例的速度發展，電腦將能夠趕超人類智慧的各個方面。在《奇點臨近》這本書中，他預測了這一發展的下一階段：人類與機器的聯合，即嵌入我們大腦的知識和技巧將與我們創造的容量更大、速度更快、知識分享能力更強的智慧相結合。
“奇點”有多遠
這種融合便是奇點的本質。在這個時代，我們的智慧會逐漸非生物化，其智慧程度將遠遠高於今天的智慧一個新的文明正在冉冉升起，它將使我們超越人類的生物極限，大大加強我們的創造力。在這個新世界中，人類與機器、現實與虛擬的區別將變得模糊，我們可以任意地裝扮成不同的身體，扮演一系列不同的角色。它所帶來的實際效果包括：人類將不再衰老，疾病將被治癒，環境污染將會結束，世界性的貧困、饑餓問題都會得到解決。納米技術通過使用廉價的處理器，幾乎能夠創造任意的實際產品，甚至可以最終解決起死回生的問題。
由此引發的社會與哲學的各分支的變革將是意義深遠的，同時它也暗含着巨大的威脅。即將到來的時代，既是數百年來科技、創意的頂點，也是對人類終極命運真摯的、鼓舞人心的願景。
“人工智慧”作為一個詞的誕生是在1956年的夏天，當時馬文·明斯基、羅賈斯特、申農等一群學院派信息工程專家聚集探討了機器模擬智慧的問題，由此賦予這個電腦分支領域一個新名稱。誰也沒想到它的飛躍發展會讓雷·庫茲韋爾在2005年拋出語驚天下的“技術奇點”論。
在《奇點臨近》一書裏，雷·庫茲韋爾在讚美科技進步的同時，描述了一個“改變世界的思想力量也在加速”的世界，並預言，指數式的進步速度將最終使得人工智慧出現飛躍，在大概2029年左右，人工智慧將趕上人類智慧。而到了2045，人和機器將會深度融合，達到一個奇妙的境地，生物學上的人類將不被理解，他將不存在。人們要重新審視自己與機器的關係。那就是奇點時刻。
奇點說，思考的是人與人工智慧關係是否有逆轉的可能，以及何時逆轉。熟悉19世紀早期德國古典主義哲學的人都知道，那時候“異化”這個概念逐漸被指向人與機器的結合，席勒看到了勞動分工下的積弊，認為被束縛在整體的個別小部件上的人，本身也變成了部件。後來馬克思把“勞動異化”發展成社會衝突論的經濟學武器，只是至今資本主義未亡，未能實現異化的解除。但不知道馬克思有否想到，有一天人類的異化物件不再是工廠裏轟隆作響的零件，而可能是更高級別的人工智慧，並且這種趨勢在加快。
同樣，在生物學界與馬克思同時代的達爾文應該也沒想到在進化論裏添置一個人工智慧，它不是自然進化的結果，更不是神造論者鼓吹的上帝之物。總之，科幻電影導演已經早早想到了，不論是《終結者》裏的天網，還是《我，機器人》裏面會殺人的NS-5型高級機器人，都已經逾越了創造它們的人類本身，開啟一場史上最大的“種族鬥爭”。這正如雷·庫茲韋爾所說，人類只要在臨界點上被超越，便淪為一種不可自控的掌中之物。
▲《奇點臨近》是2011年機械工業出版社出版的圖書，作者是雷·庫茲韋爾。該書講述了智能問題的數據結構及實現的算法，人工智能的應用。
會學習的“超級智慧”
目前，研究人工智慧未來走向最全面而系統的一本書應該是牛津大學人類未來研究院院長尼克·波斯特洛姆的《超級智慧》，這本書被比爾·蓋茨、馬斯克等人多次在公開場合推薦過。波斯特洛姆描繪出一幅由超級人工智慧“犯上作亂”的未來世界，它在各種情感模擬意識失靈後，淪為純粹工具理性控制的類生命體，它的行動能力比人類強百倍，並不受控制。
超級智慧比與人類並駕齊驅的人工智慧更勝一籌，是再往後發展的產物，波斯特洛姆並不能給出確切時間表，但在對人工智慧的預判上，他與雷·庫茲韋爾相差無幾。“10%可能在2030年；50%可能在2050年；90%可能在2100年。”
如今互聯網界所亟待解決的從監督式深度學習到非監督式學習的跨越，似乎暗合了波斯特洛姆勾畫的“智慧暴漲”的過程，當機器不再需要人類監督而具有自我學習能力，它的運算速度豈是人類可企及？波斯特洛姆說，人工智慧本身不需要關心社會性智慧生物關心的事，如果它的唯一目標是數清長灘島上的沙粒數量，計算圓周率的小數位……機器智慧一旦超過了“奇點”，它的學習能力就是在數位化時間尺度內執行的，這一點，相信“阿爾法狗”已經讓靠腦力吃飯的圍棋界看出點端倪。
“我們不能輕率假設如果一個超級智慧的最終目的是計算圓周率小數點後的位數，它就能限制在那個範圍，而不干涉人類事務，有這樣目標的智慧體很多情況下會有工具性趨同理由去獲取無限制的物資資源並消除威脅，人類可能構成一種潛在威脅，因為人必然是種物資資源。”於是波斯特洛姆的結論是，首個超級智慧來臨時，可能會有非擬人的終極目標，用工具性理由去追求無限資源。
超級智慧是進一步不可控的東西，波斯特洛姆為它預測了幾種惡劣失敗模式，它會有工具性理由去運行有情感的意識或違反道德的程式，可能會對類比意識提出威脅虐待或獎懲機制，以便激勵外部或勒索外部各個智慧體。
超級智慧可以建立一個具有道德意義的內部過程，因為一個對實際或假想的人類大腦非常精細的模擬就可以具有道德意識，被看作一個仿真人。它自己可能會為了改進對人心理和社會的理解，建立起萬億個具有道德意識的模擬意識，接受各種刺激，對其反應進行研究，一旦它們不能再提供新的信息，超級智慧就會把它們毀滅掉。這個操作加之於較高道德意識的存在體和模擬真人上，結果就可能發生殺戮。
▲11月5日，由中央電視台綜合頻道、中國科學院科學傳播局聯合主辦的大型科學挑戰類節目《人機大戰》在西安舉行首場項目徵集會。《人機大戰》是中科院和央視聯手搭建的中國科普擂台，將邀請頂尖人工智能向人類發起挑戰，是國內首檔聚焦人工智能的科學挑戰節目。（新華社圖片）
會有超人的智能嗎？
人類智慧當然未必是智慧的最高形式，所以“超人智慧”是個有意義的概念，儘管我們至今尚未得到任何關於其確實存在的證據。但即使是作為一個純粹理論上的可能性來說，目前相關的議論仍充斥着大量的概念錯誤，如“智慧”與“技能”的混淆以及不同類的“學習系統”之間的混淆。在“奇點”這個提法背後的基本假設就是智慧系統的智力會加速增長，以至於會造成質的差別。這個假設至少在人類歷史的尺度上是沒有證據的。和先秦諸子或古希臘先賢相比，今天的我們可以說知識和技能水準要高很多，但未必智力水準更高吧？就憑你會編程式或知道量子力學，就敢說自己比諸葛亮聰明？
美國天普大學電腦與信息科學系的學者王培認為，在物種進化的尺度上說，人類智慧的確是從低智慧的動物中發展出來的，但這不意味着這種能力會無限制地繼續發展。實際上，在任何領域中假定某個量以往的增長趨勢會自然推廣到未來的預測都是不可靠的。一個流行的說法是人工智慧會通過“給自己編程式”來進化，但這是缺乏電腦知識所導致的誤解。在設計一個電腦系統時，“程式”和“數據”的區分常常是相對的，而這二者的功能也或多或少可以互相替代。允許程式自我修改的程式設計語言早已存在幾十年了，但只要這種修改是基於系統過去經驗的，那麼這種“自我編程”和通過修改知識來改變系統行為並無本質區別(僅僅是改變了“知識”和“元知識”的區分方式而已) ，而且未必是個更好的設計。
隨着電腦的發展，人工智慧系統的運行速度、存儲容量、數據擁有量都會繼續大幅提升，這會使得電腦在越來越多的技能上趕上以至超過人類，但這都不意味着電腦因此擁有了超人的智慧。這就好比把同一個程式系統從一個普通電腦上移植到一台超級電腦上：這以後它自然在解決問題的能力上有極大提高，但這個系統並沒有因此而變得“更聰明”。我的觀點是：通用人工智慧將會在“元知識”層面上（即基本工作原理）和人類大致相當，既不更高也不更低。如果這種系統真能造出來，那說明我們已經基本搞清了智慧是怎麼回事。在那以後即使電腦在大量具體問題的解決能力上超過人類，並且可以通過學習進行自我提高，人類仍然可以根據其工作原理（包括其學習過程的原理）尋找用其利避其害的辦法。
▲在《人機大戰》全國項目徵集會西安站現場，教育機器人在表演舞蹈。（新華社圖片）
如何影響當今的世界
“阿爾法狗”贏了，人類則未必輸，未來充滿不確定性。谷歌的CEO認為，人工智慧將會在人類未來社會中全面滲透，而且勢必引起兩個變化：1，大部分工人的工作會被人工智慧取代（約90%），而這些工作往往不是他們原先想要去做的事情（僅僅為了養家糊口）。2，人工智慧會讓生活成本大大降低，人們可以過得比以前更舒適，去追求自己的理想，做自己想做的事情。未來越來越多的工作會要求創造性智慧、社交能力和利用人工智慧技術的事情。
毫無疑問，人工智慧對人類社會的影響將是巨大的。深度學習在圍棋上的成功，讓我們可以預見不遠的將來，是一個人工智慧無所不在的世界。一朵鮮花有智慧，它能根據主人的情緒來開放；每個人有一個人工智慧伴侶，能讓你的購買行為更加理性；甚至宗教界會用它幫助信徒選擇和決定信仰。
人工智慧可以替代很多東西，比如很艱苦的體力工作。一些複雜的精神活動，比如詩歌寫作、繪畫藝術等，也未嘗不可替代。你要旅行時，可以通過人工智慧替身。百度無人駕駛汽車就是這樣。推理一下，汽車可以人工智慧駕駛，飛機可不可以，工廠可不可以，政府可不可以？有篇小說就寫到，一個人工智慧是按照華盛頓的人格來設計的，最後它在競選中擊敗了現實中的人類參選者。
英國金融時報的一位作者也指出，首先，從經濟領域來看，雖然互聯網文化流行顛覆經濟學的思路，但是長期來看，經濟規律在未來仍舊適用。短期的衝擊不會缺席，最為明顯一點是金字塔尖的工作可能會減少，而且中層原有不少白領工作將會遭遇淘汰，機器人從打掃家務下一步將會進化到寫新聞稿審查賬目閱讀法律檔，這一天不會很遙遠。
但不可否認，人類有樂觀的理由。經濟的歷史揭示，每一次機器的躍升，都會帶來生產力的極大進步，也會創造出更多的工作崗位。無論從紡車還是蒸汽機，最終我們減少了紡織工人，卻收穫了更多的機織精品。人工智慧時代的邏輯類似，雖然這一過程的曲折程度或許超過預計。“阿爾法狗”所依據的演算法具有極強的通用性，意味着它不經改寫就可以應用於別的遊戲或者工作。這一通用性有可能讓人工智慧真正開始具備改寫經濟業態的能力—就如同電腦技術或者互聯網技術改寫經濟業態一樣。我們不難想像，當這一技術與各行各業的需求相結合的時候，更多的創新將會呈現，其結果不僅是效率的提升，而且是人與人互動的方式都可能在機器智慧的輔助之下進行，管理方式與商業模式可能再次被改寫。
其次，從社會來看，這一現象的衝擊將會更為巨大。經濟學家的樂觀基於長期，但是老話說長期來看，我們都會死，對比之下，短期的陣痛則更為現實。這種衝擊不僅僅在於經濟層面，更在於社會層面和倫理層面。以失業為例，白領工作的減少，意味着中產階級賴以生存的基礎遭遇動盪，這對於民主制度也會帶來潛在衝擊。雖然我們抱怨工作，但不少研究也揭示，人們工作時刻其實可能比休息時候更快樂，而且工作帶來尊嚴與社會認同，即使短期失業可以得到經濟補助，但是如何給予人們再就業機會以及減少挫折，這將是社會更值得注意的地方。
長按二維碼，關注我們