ChatGPT做決策:潛力大,風險也更大
人類的立場偏見和情緒等因素會干擾人們做出客觀的判斷,而ChatGPT面對同一道德問題也會有雙重標準,顯示其參與社會道德問題時存在較大的風險;而一旦涉及更多的自主決策,其相關應用的潛力和風險明顯會更大。
責任編輯:朱力遠
既能搜索信息,也能回答問題,人工智能應用ChatGPT流行之后,包括各領域科學家在內,社會上對ChatGPT這類人工智能應用決策能力的探討不斷拓展,對相關風險的規制也已經開始實踐。
2023年7月10日,《生成式人工智能服務管理暫行辦法》已經國家發改委、教育部、科技部、工信部、公安部、國家廣電總局等多部門同意并公布,自2023年8月15日起施行。管理辦法針對生成式人工智能技術提供的文本、圖片、音頻、視頻等內容,對相關服務堅持發展和安全并重、促進創新和依法治理相結合的原則。
事實上,針對這類人工智能應用的決策潛力和風險,一些科學研究已經通過實驗等方式對部分場景進行了初步預演。最近,一項醫學研究就對比了人工智能應用與醫生在回答病人問題上的效果,評價結果顯示,人工智能應用的回答收獲更多好評,在近六百個評價中,超過78%的評價認為其優于醫生的回答。
或可成為新型醫療器械
這項對比研究中的醫學問題全部隨機選自公共社交媒體論壇,經過認證的醫生已經在線回答了這些問題。2022年底,加州大學圣迭戈分校的研究人員利用智能聊天應用ChatGPT也來回答這些病人提出的問題,此時的ChatGPT即當時剛發布的GPT-3.5版本。研究人員隨后通過收集評估意見,對相關能力進行了對比。
這項研究2023年4月發表在《美國醫學會內科學雜志》(JAMA Internal Medicine),經過比對,ChatGPT和醫生所獲評價差距極大,從好評度的角度看,相比超過78%的評價認為ChatGPT的回答質量很好,認為醫生的回答很好或非常好的比例僅有約2
登錄后獲取更多權限
校對:星歌