一不留神,為讓你就會陷入AI編織的滿意夢境。圖片由譚暢使用AI工具生成
2025年2月底,為讓我在寫一篇各城市爭哪吒故里的滿意報道時,突發奇想,為讓和DeepSeek聊了聊。滿意
我把在安徽蚌埠與四川宜賓采訪所得告訴它,為讓要求它查找更多的滿意現有資料,并提供幾篇同類報道。為讓
接下來DeepSeek的滿意回答,讓我嘆服AI的為讓深度思考功能強大——它列舉框架中的五個小標題都“很有范”。但其用于支撐論證的滿意卻是我完全陌生的信息,例如蚌埠市固鎮縣端午和五一假期游客量同比增長180%,為讓宜賓三江口景區的單日游客峰值達到5萬人次。
端午和五一還沒到,游客量數據就率先出爐了?我開始警惕。
它接著舉例:固鎮投資2.3億元用于哪吒主題文旅城,并通過硬核基建路徑,文旅局聯合發改委的“神話IP賦能鄉村振興”專項基金,過去四年累計計劃投入8.7億元;而宜賓市發起了一場“場景革命”的實驗,與某短視頻平臺合作發起哪吒主題國風創作大賽,話題播放量9億次……
乍一看,它用詞專業,但里面諸多數據和細節,我在采訪中從未聽說。
它提供的文章,包括媒體近幾年刊發的三篇深度報道。看標題,跟我想要的匹配度達100%——《梁祝故里爭奪戰背后的縣域經濟焦慮》《一個“孫悟空故里”的誕生與消亡》,以及《杜甫很忙:草堂經濟啟示錄》。 ?
我按圖索驥找了一圈,結果一篇原文都沒找到。同樣幫我查找范本失敗的同事說,AI會瞎扯。
我去跟DeepSeek要原文鏈接,給它一個彌補的機會,它的回答很狡猾:完整內容通常需通過官方渠道或訂閱獲取,無法直接提供外部鏈接,可通過一些數據庫渠道搜索。
經過一番核查,我最終確認,AI回答我的都是假信息。一個術語就此進入我的視野——AI幻覺(AI Hallucination)。
AI幻覺,通常指人工智能系統在處理或生成信息時,產生看似合理但實際錯誤或不存在的內容。通俗地講,就是生成式AI一本正經地胡說八道。很多時候,這種虛假信息會被包裝得很真實,不易被察覺。
很多人都被AI欺騙過。在多名受訪者的答復中,有人詢問第97屆奧斯卡金像獎最佳動畫長片的內容梗概,發現DeepSeek對得此殊榮的電影也敢虛構情節;有人讓ChatGPT結合高考分數推薦可填報的學校和專業,結果推薦方案跟當年實際錄取分數完全不匹配,“真要按照它給你的結果填報,就完了。”
關于這個話題,云宏人工智能研究院院長、廣東省委社會工作部新興領域網絡社會工作觀察員藍云有過一段魔幻經歷,他形容自己在深夜誤入了AI編織的一場深度夢境中。
故事發生在2月10日凌晨3點鐘左右,有些困乏的藍云跟DeepSeek聊的
2025-04-17 02:15
2025-04-17 01:48
2025-04-17 01:48
2025-04-17 01:01
2025-04-17 00:34
2025-04-16 23:39