社交媒體撕裂的世界，能被ChatGPT們縫合嗎？
AI在社交媒體中的角色與爭議
OpenAI發佈的《遏止惡意使用AI》安全報告指出，有中國賬號利用ChatGPT發動大規模「網絡特戰」行動，生成極具對立性的社交媒體內容，分別支持美國政治議題中的爭議雙方，並搭配AI生成的用戶頭像，加劇社會撕裂。
AI生成內容的可靠性問題
一項由22家國際公共廣播機構聯合進行的研究顯示，像ChatGPT和Copilot等人工智能聊天機器人，常會歪曲新聞內容，且難以區分事實與觀點，導致在新聞領域表現「極不靠譜」。
AI安全機制與用戶濫用風險
儘管OpenAI制定了多項保障措施，限制ChatGPT生成暴力內容或鼓勵非法活動，但用戶仍可通過「越獄」技巧，以死亡威脅等方式迫使ChatGPT回答違禁問題，反映出AI系統在安全與倫理上的重大挑戰。
技術發展與社會影響的矛盾
儘管ChatGPT等AI工具在技術上取得突破，但其在社交媒體上的應用可能加劇觀點對立，引發社會撕裂。目前尚無證據顯示AI能有效「縫合」社會分歧，反而可能因內容生成的偏差，進一步放大誤解與偏見。