五角大樓被炸假圖瘋傳震蕩美股

　　中評社北京5月24日電／據大公報報導，綜合彭博社、美聯社、CNN報導：自ChatGPT、Midjourney等生成式AI火爆之後，AI杜撰新聞、散播錯誤信息，以及生成假圖片的情況屢見不鮮。22日，一張美國五角大樓爆炸的假照片在社交媒體上瘋傳，推特上有包括媒體在內的認證賬號轉發，多人信以為真，導致美股閃崩10分鍾。五角大樓隨後澄清，並未遭到攻擊或發生爆炸，網上流傳的圖片疑似是由AI生成。

　　美東時間周一早上10時左右，一張五角大樓爆炸、冒出滾滾黑煙的照片首先出現在Facebook上，隨後推特多個經認證賬號轉載該照片，包括一個謊稱與彭博新聞有關的賬號Bloomberg Feed、金融新聞網站賬號ZeroHedge和今日俄羅斯（RT）賬號。印度一家電視台“共和國電視”播報了發生爆炸的“新聞”，並在其節目中展示了這張圖片。

　　首發賬號與極右團體有關

　　與“特朗普被捕”或者“教皇穿潮牌服裝”等令人一笑置之的AI生成照片不同，這次的五角大樓爆炸照造成了更加嚴重的現實影響，引發金融市場恐慌，導致美股短暫閃崩，道瓊斯指數曾下跌約80點，標普500指數一度急跌0.29%，隨後止跌回升。美債和黃金價格開始攀升，顯示投資者急於避險。

　　事件引起轟動，美國國防部發言人出面辟謠，稱網上流傳的照片“是假消息，五角大樓今天並未遭到攻擊”。弗吉尼亞州阿靈頓消防局也在推特澄清，五角大樓附近並未發生爆炸或意外，對公眾沒有危險。

　　加州大學伯克利分校計算機科學教授法裡德表示，這張圖片具有AI合成的典型特點，圖片上的燈柱很奇怪，建築物圍欄扭曲，窗戶也和實物出入很大；如果在這樣的照片上加上煙霧，更容易達到混淆視聽的目的。開源情報組織Bellingcat沃特斯表示，如果五角大樓真的發生爆炸，網上不可能沒有其他目擊者拍攝的相片與影片，可見這張圖片真實性不高。

　　該照片的來源尚不清楚，但研究假信息的專家認為很大可能由AI生成。Fb上最早放出該照片的賬號被發現曾發布宣傳美國極右陰謀論團體“匿名者Q”的相關內容。CNN指出，馬斯克入主推特後，用戶只要付費即可獲得認證，而此次假消息的迅速傳播，正是由於大量經過認證的假賬號轉發所致。

　　警惕AI批量產出假消息

　　財經雜誌主編科別希表示，現在大部分的市場交易已經自動化，假消息的出現甚至哪怕只是帶有指向性的暗示，都可能對市場造成巨大傷害。金融分析師布朗認為，AI假圖影響金融市場，可能成為未來常態。

　　除了AI生成假圖片，美國新聞評級組織NewsGuard本月發布報告指出，他們發現至少49個由AI聊天機器人生成的“新聞網站”，有些提供突發即時新聞，有些介紹名人八卦。其中一個名為“名人死訊”的網站4月發表了一篇由AI生成的文章，內容是“美國總統拜登逝世、副總統哈里斯將出任代理總統，上午9時將發表講話”。

　　報告指出，這些網站大多數都是品質低劣的內容農場，通過大量發文來吸引點擊率，使用語言包括英文、葡萄牙文、泰文等。

　　此外，雖然“五角大樓爆炸”是假新聞，但美國特勤局23日發表聲明指出，一輛貨車22日晚間衝撞白宮附近護欄，並在車上搜出納粹旗幟。司機當場被捕，經證實是來自密蘇裡州的19歲美國男子坎杜拉，他故意撞上拉斐特廣場的安全護欄，威脅要對拜登和哈里斯不利。據悉，他可能被控以致命武器蓄意傷害等罪名。

　　AI生成圖片常見漏洞

　　人體器官錯誤

　　AI生成的圖片時常會出現人體某個部分比例失調的問題。例如人物有太多顆牙齒，頭與身體比例失調等。Midjourney等軟件經常在畫人的手時出現錯誤，有時畫中人有6根手指，有時衹有4根。

　　太完美反失真

　　許多AI生成照片中的人物，皮膚極其光潔，毫無瑕疵，甚至頭髮和牙齒也都十分完美。很多圖片呈現的光澤，即便是專業攝影師在攝影棚也難以做到。

　　背景扭曲模糊

　　AI生成的圖片背景經常出現不自然扭曲的情況，或者經常模糊背景。專家提醒，Hugging Face等某些專門用於識別AI圖片的工具，有時會把真實的圖片識別為假的。

　　美高中AI安檢掃描未測出學生帶刀

　　據BBC報導：美國校園槍擊案多發，紐約州普羅克特高中為防止有人將武器帶入校園，耗資370萬美元購買了AI武器掃描系統。然而，一名學生去年10月在校內持刀襲擊了另一名學生，這套天價掃描系統卻未能檢測出這把刀。

　　據悉，遇刺的18歲學生勒赫圖頭部、頸部、面部、肩部、背部和手部有多處刀傷。凶器長度超過22.8厘米。去年3月，當地13所學校購買了Evolv科技安全公司的AI武器掃描系統，並在暑假期間安裝。持刀襲擊事件發生後，校長等相關人士回看監控錄像時發現，凶徒經過武器掃描系統時並未發出任何警告。

　　Evolv科技安全公司標榜“能將強大的傳感器技術與成熟的AI技術相結合”，用AI武器掃描系統取代傳統的金屬探測器，打造“無武器區”。當該系統檢測到刀、炸彈或槍等隱藏的武器時，就會觸發警報。

　　然而，BBC去年的一項調查顯示，攜帶大型刀具經過該測試系統時，掃描儀未檢測出的概率高達42%。該系統的客戶包括美國多個體育場館和英國曼徹斯特競技場，以及全美數百間學校。