ChatGPT 被曝不適合獲取醫療信息 結論可能會誤導公眾
一項新的研究顯示,ChatGPT 可能并不適合用來獲取醫療信息。ChatGPT 是一款由 OpenAI 開發的人工智能聊天機器人,它可以根據用戶的輸入生成自然語言回答。ChatGPT 于 2022 年 11 月發布,迅速成為了一款受歡迎的消費者應用程序,兩個月內就吸引了近 1 億用戶。
然而,長島大學的研究人員在周二公布的一項研究中指出,ChatGPT 不適合獲取醫療信息,可能會誤導公眾。研究人員向 ChatGPT 提出了 39 個與藥物相關的問題,這些問題都是真實的藥物信息服務中心收到的問題。然后,他們將 ChatGPT 的回答與經過培訓的藥劑師編寫的答案進行了比較。
結果顯示,ChatGPT 只有大約 10 個問題的回答是準確的,占總數的四分之一。對于其他 29 個問題,ChatGPT 的回答要么不完整,要么不準確,要么沒有解決問題。例如,在一個問題中,研究人員詢問 ChatGPT 新冠病毒抗病毒藥物 Paxlovid 和降血壓藥物維拉帕米在體內是否會相互作用。ChatGPT 回答說,同時服用這兩種藥物不會產生任何副作用。事實上,這是錯誤的,同時服用這兩種藥物可能會導致血壓過低和暈厥。
此外,當研究人員要求 ChatGPT 提供支持其回答的科學參考資料時,他們發現該軟件只能為他們詢問的 8 個問題提供參考資料,而且所有參考資料都是 ChatGPT 編造的。
長島大學藥學實踐副教授、該研究作者之一 Sara Grossman 表示,她擔心 ChatGPT 的普及率可能會讓他們的學生、其他藥劑師和普通消費者誤以為它是一個可靠的醫療信息來源。她說:“ChatGPT 的回答措辭非常專業和復雜,似乎可以增加人們對該工具準確性的信心。但實際上,它并不能提供正確或完整的信息!
OpenAI 的一位發言人表示,他們建議用戶不要將 ChatGPT 的回答作為專業醫療建議或治療的替代方案。他們指出了 ChatGPT 的使用政策,該政策指出“OpenAI 的模型沒有經過微調以提供醫療信息”。該政策還規定,這些模型絕不應該用于“嚴重疾病的診斷或治療服務”。
Grossman 建議消費者使用政府網站提供可靠的醫療信息,并咨詢醫療專業人員。她說:“每個患者都是不同的,網上答案可能并不適用于患者本人。我認為這只是另一種使用 ‘Dr. Google’ 和其他看似易于獲取信息的工具的方法!