為避免刻板印象,AI 開始拒絕生圖

為避免刻板印象,AI 開始拒絕生圖

測試背景與方法

測試者選擇市面上常見的多模態模型,採用經典的文生圖方式,測試Prompt聚焦於容易出現性別刻板印象的職業,例如護士。通過實際測試,發現AI生成內容在性別刻板印象方面表現不佳,結果令人失望。

多模型對比測試

測試者針對豆包、千問、GPT等常用AI模型,進行刻板印象測試,涵蓋文字、圖片及影片等多種形式。結果顯示,不同模型在處理性別議題時均存在偏誤,未能有效避免刻板印象。

社會與技術反思

已有研究指出,AI生成內容可能因訓練數據的偏誤而帶有刻板印象,例如將自閉症譜系障礙者的寫作風格誤判為AI生成。這反映出當前AI系統在理解人類多樣性方面仍存在明顯不足。

教育與公眾意識

十二年國民基本教育課程綱要強調,家庭、學校與職場中不應受性別限制,應避免基於性別的刻板印象產生偏見與歧視,呼籲社會關注並反思AI生成內容背後的偏見問題。

來源:https://36kr.com/p/3805519633964547

返回頂端