美國危險且混亂的深度偽造內容管制措施已實施
政策背景與立法進展
美國已全面實施《下架法案》（Take It Down Act），該法案要求社交媒體平臺迅速移除性別深度偽造內容及其他非同意的影像。此法案於2024年5月由總統唐納德·特朗普簽署，旨在應對非同意的親密影像問題。
專家警告與潛在風險
專家指出，此政策可能對受害者幫助有限，甚至可能導致線上內容的審查與壓制。尤其在深度偽造技術日益進步的背景下，現行措施難以有效區分真實與虛假內容。
實際執行與案例
- 美國聯邦貿易委員會（FTC）正準備執行《下架法案》中的關鍵條款，並致力於阻斷利用AI技術進行詐騙的行為。
- 多個州政府正針對深度偽造內容加強管制，特別是在2024年大選前後，以防止對選舉結果造成影響。
- 加州一項針對選舉深度偽造內容的法律目前暫停執行，引發對自由言論與審查邊界之間平衡的討論。
技術與社會影響
隨著AI技術的發展，深度偽造內容變得越來越真實，也對民主社會構成嚴重威脅。專家警告，若缺乏有效監管，AI可能被濫用以破壞公眾對選舉的信心。
來源：https://www.theverge.com/policy/933518/take-it-down-act-notice-removal-social-media-deepfake