報道了幾年AI，我越來越覺得自己是個騙子……
AI產業的發布週期與媒體現象
在給大家介紹完一眾新模型後，這篇文章想和你聊聊對AI行業發布週期所產生的「超現實」現象。AI媒體們，包括APPSO自己，也逐漸成為了這個週期中的一環，不斷製造新模型的熱潮，卻也讓真實的技術進步與市場需求之間產生了距離。
AI被用於詐騙的案例與風險
近年來，隨著人工智能技術的普及，不法分子開始利用AI換臉、擬聲等技術製造虛假內容，例如透過「AI換臉」與「擬聲」技術，讓受害者誤以為是親人或熟人，進而產生信任並交付資金。根據瑞萊智慧數據，國內AI詐騙案件涉案金額從2020年的0.2萬元增長至2023年的1670萬元，年複合增長率達1928.8%，2024年過半時已出現多起相關事件。
真實案例：科技公司老闆遭AI詐騙
福州一科技公司老闆老郭，某天接到好友的微信視頻，稱其朋友在外地競標需430萬元保證金，想透過老郭的公司帳戶過帳。經確認，這段視頻是透過AI技術生成，內容與真實語氣高度相似，最終導致老郭誤判並協助完成交易，成為AI被濫用的典型案例。
社會與科技的衝突
隨著AI技術快速融入日常生活，其便利性與潛在風險並存。雖然AI為生產與生活帶來便利，但其被濫用於詐騙、虛假資訊等行為，也引發社會對科技倫理與監管的廣泛討論。