你是否覺得AI無所不能？查文獻、寫總結(jié)，咨詢買房、炒股，甚至是看病、算命……
DeepSeek（深度求索）開啟了AI普惠應(yīng)用的新紀元，讓更多普通人與國產(chǎn)人工智能大模型零距離接觸，但AI的缺陷也很快暴露——“萬能”的AI，尤其是號稱具備思考能力的AI大模型，其實可能“不靠譜”。
開放是AI大模型未來的發(fā)展趨勢，這也意味著AI將更廣泛地滲透到各行各業(yè)，影響人們的日常生活和工作模式。除了更謹慎使用它，普通人在使用時要注意什么？
“出門問問”大模型團隊前工程副總裁李維提出了三點建議：保持警惕、交叉驗證、引導模型，尤其是面對數(shù)字和事實時，更要謹慎。
“坑”不少
甄別網(wǎng)絡(luò)信息真?zhèn)斡须y度
從“有事問百度”到“有事問DeepSeek”，這一轉(zhuǎn)變勾畫出人與AI的日?；幽Ｊ?，也給人們“網(wǎng)絡(luò)沖浪”帶來體驗感的升級。
但在互動中，AI可能也會“挖坑”。
“AI查閱文獻是如此的不靠譜?！苯?，廣州高校的一名教授通過DeepSeek查詢文獻信息，核實后卻發(fā)現(xiàn)它所提供的作者是假的、年份是錯的。
這并非個例。
當要求提供一個法院判決案例時，DeepSeek便會根據(jù)此前給出的材料，合理想象案例內(nèi)容。為增加信任度，它還會給出案卷號，但卻“查無此案”，再次追問，它立馬認錯。
這幾天，有一則聳人聽聞又漏洞百出的消息廣為傳播：“截至2024年末，‘80后’死亡率突破5.2%，相當于每20個‘80后’中就有1人已經(jīng)去世?！睂＜已信械贸鼋Y(jié)論是，這消息很有可能是AI大模型在問題回答過程中出現(xiàn)錯誤。
撇開專業(yè)的問題不談，在回答生活問題上，AI總能得心應(yīng)手吧？其實也不然。
有人用AI的意見炒股。當輸入某只股票代碼，詢問支撐位和壓力位時，它給出的答案與真實情況會有差異。以DeepSeek為例，它的數(shù)據(jù)庫截至2023年10月，跟不上變化莫測的股票市場，數(shù)據(jù)有一定的滯后性。
其實不難理解，AI更多的是對現(xiàn)有互聯(lián)網(wǎng)信息進行推理和二次創(chuàng)作，一旦源頭的資源和數(shù)據(jù)有誤，它生成的內(nèi)容自然會有差錯。從目前使用體驗看，AI暫時不具備甄別網(wǎng)絡(luò)信息真?zhèn)蔚哪芰Α?/p>
讓用戶覺得有趣的是，有時AI就像個小孩，當你質(zhì)疑時，它能夠迅速低頭認錯，并感謝人類的指正。態(tài)度如此“乖巧”的人工智能，有時反倒不好過多苛責。
此外，讓人沒想到的是，AI還會被用來算命和預測運勢，并以此促成決策。
李洪（化名）在決定離職前，就咨詢過DeepSeek是否應(yīng)該離職。他坦言，在查詢之前，自己的內(nèi)心其實已經(jīng)有了答案。人工智能預測他今年可能遇到比較大的轉(zhuǎn)變，得到這個回復后，他離職的意愿從七成提高到了九成。
與其說他是相信AI的“神秘力量”，不如說是在面對不確定的未來時，人可以通過與AI對話去確認內(nèi)心里原本存在的確定性。
不“背鍋”
AI不會承擔法律責任
說了AI的能力“天花板”，再來看看它的“底線”。
如果你問DeepSeek，它不能在哪些領(lǐng)域提供建議或決策，它給出的回答包括醫(yī)療健康、法律事務(wù)、金融投資、學術(shù)誠信、個人隱私等。
在社交媒體上，人們找AI診斷、開方的操作已屢見不鮮，但在專業(yè)人士看來，即使是經(jīng)過專業(yè)的學習訓練、已在醫(yī)院開展普遍應(yīng)用的“AI醫(yī)生”（AI醫(yī)學大模型），在醫(yī)療行為中也只能承擔輔助功能。
有人用手機拍了一張病理檢測報告發(fā)給“AI醫(yī)生”提問：“從這張報告的檢測結(jié)果來看，我有沒有患淋巴瘤？”它的反應(yīng)很快，僅僅幾秒鐘就給出了回復：“是的，從這個報告的結(jié)果來看，您有很大的可能患有淋巴瘤。”
但經(jīng)線下醫(yī)生專業(yè)判斷，這只是普通的炎癥。
“AI醫(yī)生”的誤診會給人們帶來不必要的焦慮，也可能耽誤真正的病情，但責任不在AI，而在錯誤使用它的人。
“其實DeepSeek回復的內(nèi)容質(zhì)量對指令有一定要求。”廣州醫(yī)科大學附屬第二醫(yī)院副院長楊輝認為，當醫(yī)生向DeepSeek提問時，已經(jīng)盡可能轉(zhuǎn)換為專業(yè)、系統(tǒng)性的問題，但得到的答案依然不靠譜。對于沒有醫(yī)學知識背景的患者，顯然更難獲得準確且有益的回復。
“人體是一個精密復雜的生命系統(tǒng)，AI的判斷卻往往簡單粗暴?！睏钶x說，以慢性阻塞性肺疾病（COPD）患者為例：這類患者在發(fā)病早期可能表現(xiàn)為食欲減退等消化道癥狀，并非典型的咳嗽、氣促等呼吸道癥狀。若此時市民通過“胃口差”等關(guān)鍵詞咨詢“AI醫(yī)生”，就會造成誤診，耽誤最佳治療時機，導致病情惡化。
楊輝說，目前的“AI醫(yī)生”在給出西藥的用藥建議時，可能會開出一些存在于教科書上但已被市場淘汰的藥物，而真實的醫(yī)生基本不可能存在這種問題。
因此，現(xiàn)階段的“AI醫(yī)生”只能作為助手承擔日常性、規(guī)律性的工作任務(wù)，如輔助判斷肺結(jié)節(jié)的分型、分類等。
AI其實也有“自知之明”。涉及生命安全、財富、倫理與道德以及學術(shù)研究等方面的問答，它選擇“不背鍋”，都會建議咨詢專業(yè)人士并在必要時尋求專業(yè)幫助。
對此，法律界人士也建議，慎重聽取AI的建議。因為AI不會承擔法律責任，它沒有獨立的法律人格或意識，聽信它的建議產(chǎn)生一切后果都需要用戶“自負”。
工具強大
關(guān)鍵在于怎么使用它
更“聰明”的生成式人工智能面世后，關(guān)于它的爭論幾乎沒有停止。
數(shù)據(jù)是生成式人工智能的“食糧”。把現(xiàn)有的數(shù)據(jù)喂給生成式人工智能，它可以自行挖掘數(shù)據(jù)之間的關(guān)聯(lián)，從而產(chǎn)生新的內(nèi)容。
號稱具備了思考能力的AI大模型，其實就像一個“接話茬高手”，你給它上半句，它就根據(jù)自己“吃下去”的海量知識，預測下半句該說什么。
這種推理邏輯一般也不會太離譜。它一般只會把張三和李四混淆，不可能混淆張三和石頭這種有本質(zhì)區(qū)別的對象，但差錯會以更隱蔽的狀態(tài)存在。
人們?yōu)榇藙?chuàng)造了一個新詞“AI幻覺”，來指代大語言模型編造它認為是真實存在的甚至看起來合理或可信的信息。
“AI幻覺”是如何產(chǎn)生的？這與其被訓練的方式有關(guān)。
訓練大模型就好像是訓練警犬，當它以某種方式完成人發(fā)出的指令，并得到“獎勵”后，接下來就會更傾向于以這種方式來完成同類型的指令。
DeepSeek面世后，大家先是驚嘆于其強大的文本創(chuàng)造力，但慢慢也會發(fā)現(xiàn)許多“不靠譜”之處，比如內(nèi)容偏離基本事實。對此，李維認為，這可能是因為在訓練階段，它更被鼓勵創(chuàng)作一篇文采飛揚的文字，而非進行事實核查。
2月13日，香港中文大學（深圳）成立人工智能學院。現(xiàn)場的一個花絮耐人尋味：該校校長、中國工程院院士徐揚生說，自己使用AI寫了一篇講稿，但最后沒采用。他笑著解釋：“人的思想是最重要的，AI能代替一部分工作，但卻代替不到最精華的東西，它無法了解你心里想說的話。”
說到底，AI再強大，也只是一個工具，關(guān)鍵在于人類怎么使用它。
AI避“坑”指南
保持警惕
大模型說的話，特別是涉及到事實的，別全信，最容易產(chǎn)生差錯的地方是人名、地名、時間、地點等實體或數(shù)據(jù)，一定要特別小心。
交叉驗證
重要的細節(jié)，可上網(wǎng)查查原始資料或詢問身邊專家，看看說法是不是一致。
引導模型
可以在提問時加入一些限定條件，比如“請務(wù)必忠于原文”“請核對事實”等，盡可能引導模型減少差錯。
南方日報記者 黃錦輝 劉漢能
統(tǒng)籌：吳少敏 李秀婷 黃錦輝
