2025-04-27 09:59:26
流言:現(xiàn)在 AI 已經(jīng)發(fā)展得很好,學(xué)習(xí)了很多人類的資料,所以它的話很準(zhǔn)確。
真相:并非如此。AI 語言模型本質(zhì)是基于生成式人工智能的預(yù)測工具,通過統(tǒng)計(jì)語言模式生成回答,其輸出完全依賴用戶提供的提示詞和上下文,既無自主思考能力,也無價(jià)值判斷。懷有惡意的用戶還可能通過誘導(dǎo)性提問,使 AI 生成符合語境的虛構(gòu)內(nèi)容;或選擇性截取片段,甚至刻意重復(fù)提問迫使 AI“改口”。此外,AI 訓(xùn)練數(shù)據(jù)本身包含現(xiàn)實(shí)世界的偏見與謠言,且無法驗(yàn)證信息真?zhèn)?,存在“編造事?shí)”風(fēng)險(xiǎn)。因此,在面對 AI 生成的信息時(shí),保持批判思維、追溯對話全貌、交叉驗(yàn)證事實(shí),才是應(yīng)對 AI 內(nèi)容可信度問題的關(guān)鍵。
(來源:科學(xué)辟謠)
責(zé)編:伍芳芳
一審:伍芳芳
二審:姚瑤
三審:黃維
我要問