Google撤除部分醫療搜尋的AI摘要
事件背景
根據《衛報》調查，Google在醫療相關搜尋中提供的AI摘要內容存在誤導甚至錯誤資訊，專家指出其中一則內容極為危險。此問題引發廣泛關注後，Google已決定撤除部分醫療搜尋的AI摘要。
具體行動
自2026年1月11日起，Google已全面停用針對如「肝功能血液檢測正常範圍」等醫療問題的AI摘要。
調查發現
- 《衛報》調查發現，Google的AI摘要曾提供不正確且虛假的醫療資訊。
- 部分摘要內容錯誤地引用YouTube等非醫療來源，而非醫院或專業醫療機構。
- 這些資訊可能對使用者造成實際傷害，因此被視為重大安全風險。
後續發展
Google已調整其AI過濾機制，並對醫療相關查詢採取更嚴謹的審查標準。過去2023至2025年間，醫療類查詢的AI摘要比例從45%降至30%，顯示其對醫療內容的管控持續加強。
來源：https://www.theverge.com/news/860356/google-pulls-alarming-dangerous-medical-ai-overviews