《日本科學作家くられ》用ChatGPT協助寫作被鎖帳號了 問武器的相關知識是大忌
事件背景
根據日本科學作家くられ（Kurare）表示，他最近藉助ChatGPT整理寫作資料，但在詢問與武器相關的資訊時，系統判定其行為可能涉及製造武器，因而將其帳號鎖定。
相關反應與警示
該事件引發廣泛討論，有科學監修者指出，使用ChatGPT進行創作物相關研究時，若內容涉及武器，系統會自動判斷為高風險，並立即封鎖帳號。
有網友建議，創作者在使用AI工具時，應避免直接詢問與武器、軍事相關的主題，並建議改用「分身」或虛擬角色進行創作，以降低系統誤判風險。
延伸觀察
此事件也反映出AI系統在內容安全規範上的嚴謹性，日本多所大學已警告學生不得使用ChatGPT進行涉及軍事或武器的內容創作，以避免觸犯平臺規範。
其他相關案例
- 日本芥川賞得主自爆小說5%內容由AI生成，評審認為其創作無問題，顯示AI在文學創作中的潛力。
- 日本大學警告學生不得使用ChatGPT進行與武器或軍事相關的內容創作，強調AI系統對敏感主題的自動過濾機制。