X 已推出一項嚴格的新政策,針對人工智慧生成的戰爭錯誤資訊傳播,從傷害創作者的錢包著手。
社交媒體平台 X 宣布對其創作者收益分享政策進行重大修訂,針對由人工智慧生成的武裝衝突影片。此舉正值中東戰爭升級以及對於戰爭期間錯誤資訊日益擔憂之際。
X 的產品負責人 Nikita Bier 表示,未披露AI生成戰爭影片的創作者將面臨90天的收益分享計劃暫停。重複違規者將被永久封禁。執行將依靠平台的群眾核查系統「社群備註」以及嵌入生成式AI工具的元資料和信號來進行。
Bier 強調,在戰爭時期,讓人們獲取真實的現地資訊至關重要,他警告說,現代AI使得製作誤導性內容變得輕而易舉。
此公告正值有關美國和以色列與伊朗之戰的錯誤資訊在網路上迅速傳播,這場衝突有擴大為更廣泛地區性衝突的風險。社交媒體平台正面臨越來越大的壓力,以防止合成媒體在危機期間扭曲公眾認知。
其中一段病毒式傳播的內容是一個高製作水準的AI影片,模擬USS Abraham Lincoln航空母艦的毀滅。美國中央司令部駁回了這些聲稱和影片。影片展現高超音速導彈壓倒美國Aegis防禦系統的場景。另一段影片聲稱展示中央情報局的區域總部被夷為平地;然而,事實查證者追蹤到這是2015年阿聯酋沙迦的一場住宅火災,經過AI數位增強,看起來像是軍事打擊。
像YouTube和TikTok等其他平台已引入AI生成內容的披露要求,但X的做法更為嚴格,因為它將合規性直接與貨幣化掛鉤。X 重度依賴「社群備註」作為去中心化的事實查證工具,這項新政策將該系統整合到執法中,有效地群眾外包未披露AI戰爭內容的偵測。