一張圖片引發的震盪
AI問世後，其造謠的能力比傳統騙子不知強大多少倍。
美東時間周一早上10時左右，一張五角大樓爆炸、冒出滾滾黑煙的照片首先出現在Facebook上，隨後推特多個經認證賬號轉載該照片，包括一個謊稱與彭博新聞有關的賬號Bloomberg Feed、金融新聞網站賬號ZeroHedge和今日俄羅斯(RT)賬號。印度一家電視台「共和國電視」播報了發生爆炸的「新聞」，並在其節目中展示了這張圖片。
首發賬號與極右團體有關
與「特朗普被捕」或者「教皇穿潮牌服裝」等令人一笑置之的AI生成照片不同，這次的五角大樓爆炸照造成了更加嚴重的現實影響，引發金融市場恐慌，導致美股短暫閃崩，道瓊斯指數曾下跌約80點，標普500指數一度急跌0.29%，隨後止跌回升。美債和黃金價格開始攀升，顯示投資者急於避險。
事件引起轟動，美國國防部發言人出面闢謠，稱網上流傳的照片「是假消息，五角大樓今天並未遭到攻擊」。弗吉尼亞州阿靈頓消防局也在推特澄清，五角大樓附近並未發生爆炸或意外，對公眾沒有危險。
加州大學伯克利分校計算機科學教授法里德表示，這張圖片具有AI合成的典型特點，圖片上的燈柱很奇怪，建築物圍欄扭曲，窗戶也和實物出入很大；如果在這樣的照片上加上煙霧，更容易達到混淆視聽的目的。開源情報組織Bellingcat沃特斯表示，如果五角大樓真的發生爆炸，網上不可能沒有其他目擊者拍攝的相片與影片，可見這張圖片真實性不高。
該照片的來源尚不清楚，但研究假信息的專家認為很大可能由AI生成。Fb上最早放出該照片的賬號被發現曾發布宣傳美國極右陰謀論團體「匿名者Q」的相關內容。CNN指出，馬斯克入主推特後，用戶只要付費即可獲得認證，而此次假消息的迅速傳播，正是由於大量經過認證的假賬號轉發所致。
警惕AI批量產出假消息
財經雜誌主編科別希表示，現在大部分的市場交易已經自動化，假消息的出現甚至哪怕只是帶有指向性的暗示，都可能對市場造成巨大傷害。金融分析師布朗認為，AI假圖影響金融市場，可能成為未來常態。
除了AI生成假圖片，美國新聞評級組織NewsGuard本月發布報告指出，他們發現至少49個由AI聊天機器人生成的「新聞網站」，有些提供突發即時新聞，有些介紹名人八卦。其中一個名為「名人死訊」的網站4月發表了一篇由AI生成的文章，內容是「美國總統拜登逝世、副總統哈里斯將出任代理總統，上午9時將發表講話」。
報告指出，這些網站大多數都是品質低劣的內容農場，通過大量發文來吸引點擊率，使用語言包括英文、葡萄牙文、泰文等。
此外，雖然「五角大樓爆炸」是假新聞，但美國特勤局23日發表聲明指出，一輛貨車22日晚間衝撞白宮附近護欄，並在車上搜出納粹旗幟。司機當場被捕，經證實是來自密蘇里州的19歲美國男子坎杜拉，他故意撞上拉斐特廣場的安全護欄，威脅要對拜登和哈里斯不利。據悉，他可能被控以致命武器蓄意傷害等罪名。
井水集|AI威脅來了?
文/龍眠山
AI發展得很快，也越來越聰明，被形容為第四次工業革命，影響深遠。科技是一柄雙刃劍，既可以造福人類，破壞力也一樣驚人，科學界為此感到擔憂，不少名人早前呼籲暫停進一步發展AI，其中一大憂慮就是製造假信息。雖然說，謊言自古就有，電訊詐騙更是愈演愈烈，但AI問世後，其造謠的能力比傳統騙子不知強大多少倍，其造成的傷害自然也是倍數效應。
網絡上，已有大量AI生成的照片、信息，令人真假莫辨，也已有受害者。由於AI的能力是受人訓練的，如果訓練者別有用心，刻意製造假信息，那真是防不勝防；也不能排除有國家機器處心積慮利用AI打擊其競爭對手，這是對國家安全的新的嚴重威脅。
世界處於百年未有之大變局，東升西降是大勢所趨，但這個過程是緩慢曲折的。霸權國家不甘心失去霸權，不願意平等對待一切國家，必然用各種手段打擊競爭者，拖慢其發展步伐，造謠可謂成本最低而效果可觀的「大殺傷力武器」。
在俄烏衝突中，世界已經見識「認知戰」的手段，這一手段也可能用在中國身上。香港作為中國的國際金融中心，扮演「內通外聯」的重要角色，是反華勢力圍堵中國的其中一個重要戰場，提防包括涉及AI製造的假資訊，保障金融市場和社會穩定，挑戰越來越大。
特區政府及有關部門只有充分掌握人工智能發展態勢，加強制度建設，同時做好科普宣傳工作，才能立於不敗之地。
內容來源：大公報A24版
大公報綜合彭博社、美聯社、CNN報道
報紙編輯：齊明喆、莫家威
網絡編輯：蘇萊
審校：京辰
相關版面
往期推薦