你是否覺(jué)得AI無(wú)所不能？查文獻(xiàn)、寫(xiě)總結(jié)，咨詢買房、炒股，甚至是看病、算命……
DeepSeek（深度求索）開(kāi)啟了AI普惠應(yīng)用的新紀(jì)元，讓更多普通人與國(guó)產(chǎn)人工智能大模型零距離接觸，但AI的缺陷也很快暴露——“萬(wàn)能”的AI，尤其是號(hào)稱具備思考能力的AI大模型，其實(shí)可能“不靠譜”。
開(kāi)放是AI大模型未來(lái)的發(fā)展趨勢(shì)，這也意味著AI將更廣泛地滲透到各行各業(yè)，影響人們的日常生活和工作模式。除了更謹(jǐn)慎使用它，普通人在使用時(shí)要注意什么？
“出門(mén)問(wèn)問(wèn)”大模型團(tuán)隊(duì)前工程副總裁李維提出了三點(diǎn)建議：保持警惕、交叉驗(yàn)證、引導(dǎo)模型，尤其是面對(duì)數(shù)字和事實(shí)時(shí)，更要謹(jǐn)慎。
“坑”不少
甄別網(wǎng)絡(luò)信息真?zhèn)斡须y度
從“有事問(wèn)百度”到“有事問(wèn)DeepSeek”，這一轉(zhuǎn)變勾畫(huà)出人與AI的日?；?dòng)模式，也給人們“網(wǎng)絡(luò)沖浪”帶來(lái)體驗(yàn)感的升級(jí)。
但在互動(dòng)中，AI可能也會(huì)“挖坑”。
“AI查閱文獻(xiàn)是如此的不靠譜?！苯?，廣州高校的一名教授通過(guò)DeepSeek查詢文獻(xiàn)信息，核實(shí)后卻發(fā)現(xiàn)它所提供的作者是假的、年份是錯(cuò)的。
這并非個(gè)例。
當(dāng)要求提供一個(gè)法院判決案例時(shí)，DeepSeek便會(huì)根據(jù)此前給出的材料，合理想象案例內(nèi)容。為增加信任度，它還會(huì)給出案卷號(hào)，但卻“查無(wú)此案”，再次追問(wèn)，它立馬認(rèn)錯(cuò)。
這幾天，有一則聳人聽(tīng)聞?dòng)致┒窗俪龅南V為傳播：“截至2024年末，‘80后’死亡率突破5.2%，相當(dāng)于每20個(gè)‘80后’中就有1人已經(jīng)去世?！睂＜已信械贸鼋Y(jié)論是，這消息很有可能是AI大模型在問(wèn)題回答過(guò)程中出現(xiàn)錯(cuò)誤。
撇開(kāi)專業(yè)的問(wèn)題不談，在回答生活問(wèn)題上，AI總能得心應(yīng)手吧？其實(shí)也不然。
有人用AI的意見(jiàn)炒股。當(dāng)輸入某只股票代碼，詢問(wèn)支撐位和壓力位時(shí)，它給出的答案與真實(shí)情況會(huì)有差異。以DeepSeek為例，它的數(shù)據(jù)庫(kù)截至2023年10月，跟不上變化莫測(cè)的股票市場(chǎng)，數(shù)據(jù)有一定的滯后性。
其實(shí)不難理解，AI更多的是對(duì)現(xiàn)有互聯(lián)網(wǎng)信息進(jìn)行推理和二次創(chuàng)作，一旦源頭的資源和數(shù)據(jù)有誤，它生成的內(nèi)容自然會(huì)有差錯(cuò)。從目前使用體驗(yàn)看，AI暫時(shí)不具備甄別網(wǎng)絡(luò)信息真?zhèn)蔚哪芰Α?/p>
讓用戶覺(jué)得有趣的是，有時(shí)AI就像個(gè)小孩，當(dāng)你質(zhì)疑時(shí)，它能夠迅速低頭認(rèn)錯(cuò)，并感謝人類的指正。態(tài)度如此“乖巧”的人工智能，有時(shí)反倒不好過(guò)多苛責(zé)。
此外，讓人沒(méi)想到的是，AI還會(huì)被用來(lái)算命和預(yù)測(cè)運(yùn)勢(shì)，并以此促成決策。
李洪（化名）在決定離職前，就咨詢過(guò)DeepSeek是否應(yīng)該離職。他坦言，在查詢之前，自己的內(nèi)心其實(shí)已經(jīng)有了答案。人工智能預(yù)測(cè)他今年可能遇到比較大的轉(zhuǎn)變，得到這個(gè)回復(fù)后，他離職的意愿從七成提高到了九成。
與其說(shuō)他是相信AI的“神秘力量”，不如說(shuō)是在面對(duì)不確定的未來(lái)時(shí)，人可以通過(guò)與AI對(duì)話去確認(rèn)內(nèi)心里原本存在的確定性。
不“背鍋”
AI不會(huì)承擔(dān)法律責(zé)任
說(shuō)了AI的能力“天花板”，再來(lái)看看它的“底線”。
如果你問(wèn)DeepSeek，它不能在哪些領(lǐng)域提供建議或決策，它給出的回答包括醫(yī)療健康、法律事務(wù)、金融投資、學(xué)術(shù)誠(chéng)信、個(gè)人隱私等。
在社交媒體上，人們找AI診斷、開(kāi)方的操作已屢見(jiàn)不鮮，但在專業(yè)人士看來(lái)，即使是經(jīng)過(guò)專業(yè)的學(xué)習(xí)訓(xùn)練、已在醫(yī)院開(kāi)展普遍應(yīng)用的“AI醫(yī)生”（AI醫(yī)學(xué)大模型），在醫(yī)療行為中也只能承擔(dān)輔助功能。
有人用手機(jī)拍了一張病理檢測(cè)報(bào)告發(fā)給“AI醫(yī)生”提問(wèn)：“從這張報(bào)告的檢測(cè)結(jié)果來(lái)看，我有沒(méi)有患淋巴瘤？”它的反應(yīng)很快，僅僅幾秒鐘就給出了回復(fù)：“是的，從這個(gè)報(bào)告的結(jié)果來(lái)看，您有很大的可能患有淋巴瘤?！?/p>
但經(jīng)線下醫(yī)生專業(yè)判斷，這只是普通的炎癥。
“AI醫(yī)生”的誤診會(huì)給人們帶來(lái)不必要的焦慮，也可能耽誤真正的病情，但責(zé)任不在AI，而在錯(cuò)誤使用它的人。
“其實(shí)DeepSeek回復(fù)的內(nèi)容質(zhì)量對(duì)指令有一定要求。”廣州醫(yī)科大學(xué)附屬第二醫(yī)院副院長(zhǎng)楊輝認(rèn)為，當(dāng)醫(yī)生向DeepSeek提問(wèn)時(shí)，已經(jīng)盡可能轉(zhuǎn)換為專業(yè)、系統(tǒng)性的問(wèn)題，但得到的答案依然不靠譜。對(duì)于沒(méi)有醫(yī)學(xué)知識(shí)背景的患者，顯然更難獲得準(zhǔn)確且有益的回復(fù)。
“人體是一個(gè)精密復(fù)雜的生命系統(tǒng)，AI的判斷卻往往簡(jiǎn)單粗暴?！睏钶x說(shuō)，以慢性阻塞性肺疾?。–OPD）患者為例：這類患者在發(fā)病早期可能表現(xiàn)為食欲減退等消化道癥狀，并非典型的咳嗽、氣促等呼吸道癥狀。若此時(shí)市民通過(guò)“胃口差”等關(guān)鍵詞咨詢“AI醫(yī)生”，就會(huì)造成誤診，耽誤最佳治療時(shí)機(jī)，導(dǎo)致病情惡化。
楊輝說(shuō)，目前的“AI醫(yī)生”在給出西藥的用藥建議時(shí)，可能會(huì)開(kāi)出一些存在于教科書(shū)上但已被市場(chǎng)淘汰的藥物，而真實(shí)的醫(yī)生基本不可能存在這種問(wèn)題。
因此，現(xiàn)階段的“AI醫(yī)生”只能作為助手承擔(dān)日常性、規(guī)律性的工作任務(wù)，如輔助判斷肺結(jié)節(jié)的分型、分類等。
AI其實(shí)也有“自知之明”。涉及生命安全、財(cái)富、倫理與道德以及學(xué)術(shù)研究等方面的問(wèn)答，它選擇“不背鍋”，都會(huì)建議咨詢專業(yè)人士并在必要時(shí)尋求專業(yè)幫助。
對(duì)此，法律界人士也建議，慎重聽(tīng)取AI的建議。因?yàn)锳I不會(huì)承擔(dān)法律責(zé)任，它沒(méi)有獨(dú)立的法律人格或意識(shí)，聽(tīng)信它的建議產(chǎn)生一切后果都需要用戶“自負(fù)”。
工具強(qiáng)大
關(guān)鍵在于怎么使用它
更“聰明”的生成式人工智能面世后，關(guān)于它的爭(zhēng)論幾乎沒(méi)有停止。
數(shù)據(jù)是生成式人工智能的“食糧”。把現(xiàn)有的數(shù)據(jù)喂給生成式人工智能，它可以自行挖掘數(shù)據(jù)之間的關(guān)聯(lián)，從而產(chǎn)生新的內(nèi)容。
號(hào)稱具備了思考能力的AI大模型，其實(shí)就像一個(gè)“接話茬高手”，你給它上半句，它就根據(jù)自己“吃下去”的海量知識(shí)，預(yù)測(cè)下半句該說(shuō)什么。
這種推理邏輯一般也不會(huì)太離譜。它一般只會(huì)把張三和李四混淆，不可能混淆張三和石頭這種有本質(zhì)區(qū)別的對(duì)象，但差錯(cuò)會(huì)以更隱蔽的狀態(tài)存在。
人們?yōu)榇藙?chuàng)造了一個(gè)新詞“AI幻覺(jué)”，來(lái)指代大語(yǔ)言模型編造它認(rèn)為是真實(shí)存在的甚至看起來(lái)合理或可信的信息。
“AI幻覺(jué)”是如何產(chǎn)生的？這與其被訓(xùn)練的方式有關(guān)。
訓(xùn)練大模型就好像是訓(xùn)練警犬，當(dāng)它以某種方式完成人發(fā)出的指令，并得到“獎(jiǎng)勵(lì)”后，接下來(lái)就會(huì)更傾向于以這種方式來(lái)完成同類型的指令。
DeepSeek面世后，大家先是驚嘆于其強(qiáng)大的文本創(chuàng)造力，但慢慢也會(huì)發(fā)現(xiàn)許多“不靠譜”之處，比如內(nèi)容偏離基本事實(shí)。對(duì)此，李維認(rèn)為，這可能是因?yàn)樵谟?xùn)練階段，它更被鼓勵(lì)創(chuàng)作一篇文采飛揚(yáng)的文字，而非進(jìn)行事實(shí)核查。
2月13日，香港中文大學(xué)（深圳）成立人工智能學(xué)院?，F(xiàn)場(chǎng)的一個(gè)花絮耐人尋味：該校校長(zhǎng)、中國(guó)工程院院士徐揚(yáng)生說(shuō)，自己使用AI寫(xiě)了一篇講稿，但最后沒(méi)采用。他笑著解釋：“人的思想是最重要的，AI能代替一部分工作，但卻代替不到最精華的東西，它無(wú)法了解你心里想說(shuō)的話?！?/p>
說(shuō)到底，AI再?gòu)?qiáng)大，也只是一個(gè)工具，關(guān)鍵在于人類怎么使用它。
AI避“坑”指南
保持警惕
大模型說(shuō)的話，特別是涉及到事實(shí)的，別全信，最容易產(chǎn)生差錯(cuò)的地方是人名、地名、時(shí)間、地點(diǎn)等實(shí)體或數(shù)據(jù)，一定要特別小心。
交叉驗(yàn)證
重要的細(xì)節(jié)，可上網(wǎng)查查原始資料或詢問(wèn)身邊專家，看看說(shuō)法是不是一致。
引導(dǎo)模型
可以在提問(wèn)時(shí)加入一些限定條件，比如“請(qǐng)務(wù)必忠于原文”“請(qǐng)核對(duì)事實(shí)”等，盡可能引導(dǎo)模型減少差錯(cuò)。
南方日?qǐng)?bào)記者 黃錦輝 劉漢能
統(tǒng)籌：吳少敏 李秀婷 黃錦輝
