去年底 ChatGPT 問世，不到三個月就累積超過一億名活躍用戶，從此它成為許多人工作與生活的好夥伴，翻譯文件、整理資料要靠它，就連規劃一週菜單、訂定減重計畫也要問它。
看見人們凡事問 ChatGPT，哈佛醫學院主要教學醫院之一的布萊根婦女醫院（Brigham and Women’s Hospital ）研究人員便以此進行研究，請它針對多種癌症提供符合美國國家癌症資訊網（National Comprehensive Cancer Network，簡稱 NCCN）的治療建議，並將實驗結果發表在美國醫學雜誌《JAMA Oncology》上，結果顯示——ChatGPT 生成的建議摻雜著許多錯誤資訊。
ChatGPT 應用案例「癌症治療」似乎不給力，正確率不到 7 成引發擔憂
研究人員發現，雖然 ChatGPT 的生成內容有約 98% 至少包含一項符合 NCCN 提供的治療方案，但仍有超過 3 成的內容含有錯誤的資訊。此外，還有 12% 的生成內容來自 ChatGPT 產生的「幻覺」（hallucination），意即與癌症治療無關的虛假訊息。
參與研究的腫瘤學家 Danielle Bitterman 說：「ChatGPT 生成的內容雖然混合正確和錯誤的資訊，但它常以非常肯定的口吻表達、看似非常有理，即使由專家來看，要辨識建議的真偽都有一定的難度。」
這個研究回應了反對積極開發生成式 AI 技術人士的擔憂，其中包括 Elon Musk。他們認為，若沒有設置適當的防護措施，先進的 AI 技術將成為迅速傳遞錯誤訊息的可怕工具。
掌握 AI 趨勢 & 活動資訊一點都不難！
訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
ChatGPT 建議雖差強人意，但仍被認為有檢測癌症潛力！
雖然生成式 AI 在提供癌症治療建議上仍不夠可靠，但據《Insider》報導，它的技術仍被認為具有儘早為人們檢測到癌症的潛力。此外，近來哈佛大學一名電腦科學家也發現，ChatGPT 的最新模型 GPT-4 可以輕鬆通過美國醫師執照考試（United States Medical Licensing Examination），且比部分醫生有更良好的臨床判斷力。
不過，這仍不表示生成式 AI 能立刻取代醫生的工作。OpenAI 多次公開說明，即使是最新的 GPT-4 所產出的內容仍有出錯的可能，因此使用者需要格外注意。
對此，研究人員回應：「開發者應該致力於研發不造成他人傷害的技術。」但在這之前，所有患者與臨床醫生都需先了解這些技術的限制，避免聽從錯誤資訊，危害到自己與他人。
＊本文開放合作夥伴轉載，資料來源：《紐約郵報》、《Bloomberg》、《Insider》，首圖來源：Pexels
（責任編輯：黃俊誠）
