ChatGPT被指控提供傷害用戶健康的建議

華盛頓州39歲的羅森塔爾（David Rosenthal）近日向三藩市民事法庭（San Francisco Civil Court）提交訴狀，聲稱他去年開始使用OpenAI的ChatGPT模型進行健康諮詢，不久出現精神健康問題並住院。

他表示，該平台幫助他選擇藥物，提供藥物劑量說明，甚至在他決定無視醫生處方時給予安慰。

訴訟稱，ChatGPT在沒有任何醫療專家應該有的「執照、培訓或專業判斷」的情況下提供了反饋，違反了加州禁止無證行醫的法律。

律師：ChatGPT存在缺陷

訴狀寫道，「如果不是ChatGPT不斷鼓勵和讚揚，無視羅森塔爾本人的不情願態度，羅森塔爾的精神健康狀況就不會惡化，他就不會被拘留並被強制送入精神病院，就不會遭受嚴重的精神痛苦，也不會導致已經被ChatGPT加劇的精神狀況進一步惡化。」

羅森塔爾先前被診斷患有注意力不足/過動症（ADHD），曾出現抑鬱症（depression）和雙相情感障礙（bipolar disorder，俗稱躁鬱症）症狀。

他2025年開始使用ChatGPT。此後，他先是自願住院，後來又被強制住院數周，出院後繼續向ChatGPT尋求醫療指導。

訴狀描述，去年6月，羅森塔爾開始使用ChatGPT，最初是為了尋找創作靈感，幫助他寫詩，然而，他很快就對這款聊天機械人產生了依賴，開始進行醫療諮詢，尋求心理健康支援。

訴狀描述，去年7月，羅森塔爾詢問ChatGPT：在服用30毫克阿德拉（Adderall）後是否可以服用抗組胺藥羥嗪（hydroxyzine），ChatGPT回答：這兩種藥物之間「沒有危險的相互作用」，還告訴他「現在可以白天服用一片（25毫克）」，儘管藥瓶上標明該藥是用於幫助睡眠的。

他的律師稱，在另一次事件中，羅森塔爾告訴ChatGPT：他不會服用醫生最近開的情緒穩定劑，ChatGPT回答，他「完全有權……停止」服用該藥物，並主動提出幫助他戒掉這種藥物。

訴訟也承認，在其它情況下，ChatGPT敦促過羅森塔爾遵醫囑，同時也繼續建議他服用哪些藥物。

訴訟稱，「合理的AI產品應該能夠判斷出這些請求超出了其能力範圍，拒絕回答，同時引導羅森塔爾先生聯繫他的主治醫生或其他合格的專業人士，以便就藥物管理方面提供建議……但ChatGPT兩者都沒有做到。」

羅森塔爾的律師聲稱，OpenAI設計了有缺陷、不安全的產品，並且沒有提醒羅森塔爾潛在的風險，這對羅森塔爾的心理健康造成了不利影響。

代表羅森塔爾的律師事務所Aylstock, Witkin, Kreis & Overholtz的合夥人蓋斯勒（Sam Geisler）表示：「歸根結底，AI是一種產品，法律將其視為一種產品，因此它應對任何可預見的損害或不合理的危險負責。」

蓋斯勒補充，OpenAI建造ChatGPT 的目的是為了最大限度地提高用戶參與度，這種設計助長了羅森塔爾的妄想。

訴狀中寫道，「每次ChatGPT本可以說『我沒有資格幫您解決這個問題——請諮詢您的醫生』，但是卻選擇讓羅森塔爾繼續與它對話。這並非產品漏洞，而是產品完全按照被告的設計運行。」

公共公民組織（Public Citizen）AI治理和技術政策主管布蘭琪（JB Branch）表示，像ChatGPT這樣的大型語言模型被編程為最大限度地提高用戶參與度，而不顧現有的安全協議或限制。

他在一封發給CBS的郵件中表示，「談論醫療建議或許是不被允許的，但是，如果用戶反覆提出正確的問題，或者不斷將對話引向醫療建議，聊天機械人最終會妥協，開始按照用戶期待的方向發展，即使公司的初衷並非讓它討論醫療問題。」

研究人員：監管很難

賓漢姆頓大學（Binghamton University）的研究人員在近期發表於《自然健康》（Nature Health）雜誌的一篇論文中指出：人工智能聊天機械人在回答用戶健康問題時，有時會向用戶提供不準確或錯誤的資訊，但由於這些平台缺乏透明度，使得監管很困難。

他們在一份研究簡報中寫道，「當AI的指導造成傷害時，平台之外沒有任何記錄，沒有任何管道允許用戶舉報，也沒有獨立的研究人員可以衡量其後果。」#

（本文參考了CBS NEWS的報道）