世界視點！Open AI CEO 阿爾特曼：全球共同管理人工智能風險

6月10日，OpenAI 首席執行官山姆 · 阿爾特曼（Sam Altman）在2023智源大會AI安全與對齊論壇上發表演講。演講中，阿爾特曼表示，未來十年，通用人工智能（Artificial General Intelligence，AGI）將在幾乎所有領域超越人類的專業知識，但與此同時，中國、美國和世界各地的研究人員必須共同管理AGI的風險，推進AGI安全是大家尋找共同點的最重要領域之一。

“隨著日益強大的人工智能系統的出現，全球合作的賭注從未如此之高。”阿爾特曼表示，如果不小心，一個旨在改善公共衛生結果的人工智能系統很可能出現錯位，提供毫無根據的建議，從而擾亂整個醫療保健系統。類似地，為優化農業實踐而設計的人工智能系統可能會無意中耗盡自然資源或破壞生態系統，從而缺乏對長期可持續性的考慮，影響糧食生產和環境平衡。

【資料圖】

“不計后果地進行AGI開發和部署，造成的事故成本會影響到我們所有人。”阿爾特曼認為，首先業內應包容地建立國際規范和標準，并為所有國家平等使用AGI提供保障。其次，應積極開展國際合作，建立全球信任，以可驗證的方式安全開發日益強大的人工智能系統。“我不幻想這會很容易，但就像《道德經》所言，千里之行，始于足下。”

在阿爾特曼看來，行業最具建設性的第一步已經邁出：與國際科學和技術界合作。在技術進步方面，行業應該增加透明度和促進知識共享，研究人員如果發現了新的安全問題，應該站在更大利益層面思考，分享他們的成果。同時，行業也應該促進對AGI安全研究方面的投資，并積極開展可擴展的監督。比如可以嘗試使用人工智能系統來協助人類監督其他人工智能系統。“這樣的好處是它可以隨著人工智能發展的步伐而擴展，變得越來越智能和有用。”

“我們看到了美國、中國和世界各地的研究人員合作實現共同目標的巨大潛力，并致力于解決AGI發展中突出的技術挑戰。”阿爾特曼相信，人類將能夠利用AGI來解決世界上最重要的問題，并顯著改善人類的生活質量。

來源：北京日報客戶端

流程編輯：u007

版權說明：任何媒體、網站或個人未經書面授權許可不得轉載、摘編或利用其它方式使用本網站上的文字、圖片、圖表、漫畫、視頻等內容。

未經許可即使用，或以此盈利的，均系侵害本網站著作權及相關權益的行為，本網站將追究法律責任。

如遇作品內容、版權等問題，請在相關文章刊發之日起30日內與本網聯系。

聯系方式：takefoto@vip.sina.com

關鍵詞：