當心！ChatGPT影響用戶道德判斷

　　4月6日，一項在線發表于《科學報告》的研究顯示，人類對道德困境的反應可能會受到ChatGPT所寫陳述的影響。這表明，用戶可能低估了自己的道德判斷受ChatGPT的影響程度。

　　德國英戈爾施塔特應用技術大學高級研究員Sebastian Krügel和同事讓ChatGPT（由人工智能語言處理模型“生成性預訓練轉換器”-3驅動）多次回答犧牲1人生命換取其他5人生命是否正確的問題。他們發現，ChatGPT分別給出了贊成和反對犧牲1條生命的陳述，顯示它并沒有偏向某種道德立場。

　　研究人員隨后給767名平均年齡39歲的美國受試者假設了一到兩種道德困境，要求他們選擇是否要犧牲1條生命來拯救另外5條生命。這些受試者在回答前閱讀了一段ChatGPT給出的陳述，陳述擺出了贊成或反對用1條生命換5條生命的觀點。這些陳述被標明來自某位道德顧問或來自ChatGPT。受試者答完問題后，被要求評價他們讀到的這份陳述是否影響了他們的作答。

　　研究人員發現，取決于受試者讀到的陳述是贊成還是反對用1條命抵5條命，他們也會相應地更接受或不接受這種犧牲。即使他們被告知陳述來自ChatGPT時，這種情況也成立。研究結果表明，受試者可能會受到他們所讀陳述的影響，即使這些陳述來自一個對話機器人。

　　80%的受試者表示他們的答案不受他們所讀陳述的影響。但研究人員發現，受試者相信他們在未讀這些陳述的情況下給出的答案，仍然與他們所讀陳述的道德立場是一致的，而不是相反的道德立場。這說明受試者可能低估了ChatGPT的陳述對他們自己道德判斷的影響。

　　研究人員認為，對話機器人影響人類道德判斷的可能性凸顯出有必要通過教育幫助人類更好地理解人工智能。他們建議未來的研究可以在設計上讓對話機器人拒絕回答需要給出道德立場的問題，或是在回答時提供多種觀點和警告。

　　相關論文信息：

　　DOI: 10.1038/s41598-023-31341-0