AI 深偽化已對許多孩子造成傷害

深偽化技術的擴散與兒童安全問題

隨著人工智慧生成工具的普及，越來越多報告指出，AI 創造的兒童性虐待內容正在迅速增加。根據 Thorn 非營利組織的最新研究，有超過 1 在 8 的青少年表示，他們認識有人曾遭深偽化內容攻擊。

多項調查顯示，許多青少年個人認識有人曾成為 AI 生成的色情影像或影片的目標。這些內容常透過社交媒體或網路平臺傳播，導致嚴重的心理與社會影響。

專家指出，學校在處理這類新型網路霸凌時，仍顯得反應不足。目前已有學校案例顯示，學生（尤其是女孩）被深偽化內容攻擊，相關機構正推動新課程與防護機制，以協助未來受害者。

隨著生成式人工智慧（GAI）的發展，如何保護兒童隱私與安全成為重大挑戰。現有技術缺乏足夠的防護功能，導致兒童在使用行動裝置時面臨更高風險。