IT之家8月11日消息，據(jù)美媒LIVE SCIENCE 9日?qǐng)?bào)道，一名60歲男子在調(diào)整飲食前向ChatGPT咨詢，嚴(yán)格遵循新飲食計(jì)劃三個(gè)月后，因出現(xiàn)偏執(zhí)、幻覺等精神癥狀被送進(jìn)急診。

醫(yī)生最終確診他患上溴中毒綜合征，這是一種由長期過量接觸溴化物或溴引起的罕見疾病。該男子從網(wǎng)上買來溴化鈉，并完全用它取代日常食鹽。

該病例已于8月5日刊登在《Annals of Internal Medicine Clinical Cases》。OpenAI的一位發(fā)言人表示，公司服務(wù)條款明確規(guī)定，這些服務(wù)并非用于診斷或治療任何健康問題；使用條款也指出，“不應(yīng)將我們的服務(wù)輸出視為唯一事實(shí)依據(jù)或?qū)I(yè)建議的替代”。他還補(bǔ)充說，OpenAI的安全團(tuán)隊(duì)會(huì)努力降低使用風(fēng)險(xiǎn)，并訓(xùn)練產(chǎn)品引導(dǎo)用戶尋求專業(yè)意見。

IT之家從報(bào)道中了解到，19至20世紀(jì)，溴化物常見于處方藥和非處方藥中，用作鎮(zhèn)靜劑、抗癲癇藥和助眠藥。但長期接觸（如濫用藥物）會(huì)導(dǎo)致溴中毒?；颊邥?huì)出現(xiàn)精神病、躁狂、妄想、記憶障礙和肌肉協(xié)調(diào)問題，因?yàn)殇寤飼?huì)在體內(nèi)積累并損害神經(jīng)功能。

上世紀(jì)70、80年代，美國已將包括溴化鈉在內(nèi)的多種溴化物從非處方藥中剔除，病例數(shù)量大幅減少。如今，偶爾仍會(huì)因網(wǎng)絡(luò)售賣的含溴膳食補(bǔ)充劑引發(fā)病例。

這名男子出事前曾查閱食鹽（氯化鈉）攝入過量的危害，但只找到減少鈉攝入的資料，幾乎沒有減少氯的建議。受大學(xué)時(shí)期營養(yǎng)學(xué)學(xué)習(xí)經(jīng)歷影響，他決定自己做實(shí)驗(yàn)，從飲食中徹底去掉氯化物。

他咨詢了ChatGPT（推測(cè)為3.5或4.0版本）。男子稱ChatGPT建議用溴化物替代氯化物，他便將食鹽全部換成溴化鈉。醫(yī)生指出，這種替代本該用于清潔用途，而非食用。

醫(yī)生后來模擬提問ChatGPT 3.5也得到了類似回答。模型提到“需要結(jié)合情境”，卻沒有發(fā)出明確健康警告，也未像醫(yī)生那樣追問原因。

三個(gè)月后，男子因懷疑鄰居投毒前往急診?；?yàn)顯示血液二氧化碳升高、呈堿性反應(yīng)，并出現(xiàn)“假性高氯血癥”。溴化物干擾了檢測(cè)結(jié)果。結(jié)合中毒控制中心意見，醫(yī)生認(rèn)定是溴中毒。

住院期間，他雖極度口渴卻懷疑飲水有毒，一天后偏執(zhí)加重并出現(xiàn)幻覺，試圖逃離醫(yī)院，被強(qiáng)制精神科留院并開始服用抗精神病藥物。補(bǔ)液和補(bǔ)充電解質(zhì)后，他的生命體征趨于穩(wěn)定。隨著藥物控制癥狀，他透露了使用ChatGPT的經(jīng)歷，并提到近期還出現(xiàn)痤瘡、皮疹、失眠、疲勞、肌肉協(xié)調(diào)障礙等癥狀，進(jìn)一步印證了溴中毒。

三周后他停用抗精神病藥出院，兩周復(fù)查時(shí)情況穩(wěn)定。

報(bào)告作者表示，AI雖能在科學(xué)界與公眾之間搭建溝通橋梁，但也可能傳播脫離語境的信息?！皫缀醪豢赡苡嗅t(yī)生會(huì)建議用溴化鈉替代氯化鈉?！?/p>

另一項(xiàng)研究中，科學(xué)家測(cè)試了包括ChatGPT在內(nèi)的六種大語言模型，讓其解讀臨床筆記，結(jié)果發(fā)現(xiàn)這些模型“極易受到對(duì)抗性幻覺攻擊”，會(huì)生成虛假的臨床細(xì)節(jié)。即便采用工程改進(jìn)，也無法完全消除風(fēng)險(xiǎn)，為AI在醫(yī)療決策中的應(yīng)用敲響了警鐘。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com