Meta的深度偽造內容審查不夠完善,監督委員會指出

Meta的深度偽造內容審查不夠完善,監督委員會指出

監督委員會批評Meta的深度偽造內容辨識方法不夠穩健

Meta針對深度偽造內容的辨識方法被評估為「不夠穩健或全面」,無法有效應對如伊朗戰爭期間誤傳資訊快速擴散的問題。這項評價來自於Meta的監督委員會(Oversight Board),該委員會是半獨立的機構,負責指導Meta的內容審查實務。

呼籲加強AI標註與C2PA措施

監督委員會現已要求Meta擴大其AI內容標註機制,包括引入C2PA(Content Provenance and Attribution)標準,以更有效地識別與處理深度偽造內容。

針對名人深度偽造詐騙的關注

委員會亦指出,Meta平臺上的名人深度偽造詐騙內容可能大量存在,且公司目前的審查機制未能有效遏制這些違規內容的擴散。

過去調查與決策

Meta Oversight Board曾針對非同意的深度偽造色情內容進行調查,並指出僅標註深度偽造親密影像並不足以解決問題,因為其危害來自於這些內容的分享與觀看,而非僅僅是存在本身。

此外,監督委員會已推翻Meta某項決定,即允許Facebook上的一則深度偽造貼文繼續存在,顯示其對內容審查的嚴格態度。

來源:https://www.theverge.com/tech/891933/meta-oversight-board-ai-labels-deepfake-c2pa-facebook-instagram

返回頂端