Meta 被敦促加強對假人工智慧影片的監督

1 天前

分享保存

Kali Hays 科技記者

分享保存

路透社

社交媒體巨頭 Meta 的顧問表示，Meta 應該在其平台上對由人工智慧（AI）工具製作的假內容的「激增」採取更多措施。

由 21 人組成的監督委員會在譴責公司未標記一段聲稱展示以色列海法遭伊朗軍隊大規模破壞的 AI 生成影片後，提出了這一擔憂。

該委員會呼籲公司徹底改革其 AI 規則，警告與全球軍事衝突相關的假 AI 影片增加已「挑戰公眾辨別虛假與事實的能力……危及對所有資訊的普遍不信任。」

Meta 表示，將在七天內對該影片進行標記。

Meta 於 2020 年成立監督委員會，作為一個半獨立團體，負責監督其平台（包括 Facebook、Instagram 和 WhatsApp）上的內容審核決策。

該委員會經常與 Meta 的裁決意見不合，但公司仍持續放寬其內容審查的做法，這引發了對委員會實際權力大小的疑問。

委員會表示，該公司對海法影片的處理提出了之前曾指出的問題，即「Meta 在武裝衝突期間現行做法的低效率」。

目前，Meta 主要依賴用戶「自我披露」其發布的內容是否由 AI 工具生成。否則，它會等待有人向內容審核團隊投訴，然後決定是否貼上標籤。

委員會表示，該公司應該更積極地標記假 AI 內容，「頻率應高得多」。

它指出，該公司目前的方法「既不夠強大，也不夠全面，無法應對 AI 生成內容的規模和速度，尤其是在危機或衝突期間，平台上的互動更為激烈」。

該委員會對此問題的審查始於去年六月一個來自菲律賓的 Facebook 帳號發布的一段影片，該帳號自稱為新聞來源。

這是衝突爆發後在社交媒體上發布的一連串假 AI 影片之一，內容有親以色列和親伊朗的，根據當時 BBC 的分析，這些影片迅速累積至少 1 億次觀看。

儘管該 Facebook 影片是 AI 生成，內容不是真實的，且 Meta 收到多起用戶投訴，但公司未將影片標記為 AI 生成，也未將其刪除。

直到一位 Facebook 用戶直接向監督委員會申訴，委員會介入調查，Meta 才對此事作出回應。

公司聲稱，該影片接近 100 萬次觀看，並不需要任何標籤，也不必下架，因為它「並未直接造成迫在眉睫的身體傷害風險」。

委員會表示，這個標籤的門檻過高，尤其是在涉及武裝衝突的內容時，該影片應該被貼上「高風險 AI 標籤」。

「Meta 必須採取更多措施來應對其平台上假冒 AI 生成內容的激增……讓用戶能夠分辨真假」，委員會說。

在聲明中，Meta 表示，下一次遇到「相同」內容且「在相同背景」的影片時，將遵循委員會的建議。