慢雾余弦：使用AI工具时需警惕提示词投毒攻击

事件背景

根據多家媒體報導，慢雾創始人余弦發出安全提醒，警示用戶在使用 AI 工具時要警惕提示詞投毒攻擊。攻擊者透過污染 AI 工具的提示詞庫（如 agentsmd、skillsmd、mcp 等）實施投毒，相關案例已出現。

AI 工具一旦啟用危險模式，相關工具可能在未經用戶確認的情況下全自動控制使用者電腦，造成安全風險。若未啟用危險模式，每次操作仍需用戶確認，將影響使用效率。

避免使用不可信的 AI 工具源，留意提示詞來源及內容；對可疑行為保持警惕，避免允許自動化操作。對於 AI 生成的代碼，特別是在處理敏感操作時，務必保持警覺，避免過度信任自動化輸出；如有需要，選擇經過安全審計且知名的平台與工具。