-
日期: 2024-05-28 | 來源: 騰訊科技 | 有0人參與評論 | 字體: 小 中 大
OpenAI前董事建議政府監管AI，以促進公共利益。
劃重點：
1OpenAI兩名前董事撰文指出，私營人工智能公司不值得信任，自我監管在巨大利潤誘惑下最終會失效，政府必須發揮積極作用。
2兩人曾是OpenAI董事會中僅有的女性，於去年11月離職。她們都支持罷免CEO奧特曼，認為他創造了“有害的”工作環境。
騰訊科技訊 5月27日消息，據國外媒體報道，OpenAI前董事會成員海倫·托納（Helen Toner）和塔莎·麥考利（Tasha McCauley）日前撰文談到了人工智能的監管問題。
兩人分別於2018年和2021年加入OpenAI董事會，也是董事會中僅有的兩名女性。在奧特曼被董事會罷免風波平息後，她們兩人於去年11月離開OpenAI董事會。
在最新文章中，她們透露，當初投票罷免奧特曼，是由於奧特曼個人長期以來的行為模式，董事會維護公司使命的能力受到了越來越大的限制。多位高層領導私下向董事會稱，奧特曼營造了壹種“撒謊的有毒文化”，並涉嫌“心理虐待”行為。
她們提到，自從奧特曼重返OpenAI以來，壹些發展動態令人擔憂，包括他重新加入董事會，以及OpenAI壹些專注於安全領域的高級人才的離職。這些情況對於OpenAI在自我治理方面的實驗來說，似乎預示著壹些不利的影響。
她們認為，為了讓人工智能的發展惠及所有人，政府現在就必須開始建立有效的監管框架。
值得壹提的是，今年4月，美國成立人工智能安全委員會，該委員會將為美國關鍵基礎設施中“安全開發和部署人工智能”提供建議。奧特曼在22名委員會成員之列，此外還包括黃仁勳、皮查伊等科技公司領導人。雖然也有來自非營利組織的代表，但總體而言，營利性公司領導人所占比例過高。
以下為贰人聯名撰寫的文章全文：
在推動革命性新技術發展的同時，私企能否兼顧股東利益與全球利益？當我們贰人在2018年和2021年分別加入OpenAI董事會時，都曾對OpenAI創新的自我治理方法抱有謹慎的樂觀態度，期待它能為人工智能的負責任發展提供示范。但經驗教訓告訴我們，自我治理難以抵御利潤的驅動。面對人工智能的雙刃劍，我們不能僅憑假設認為激勵因素總是與公共利益壹致。為了讓人工智能的發展成果惠及全人類，政府必須立即著手建立有效的監管框架。
OpenAI的創立，旨在實現壹個崇高的目標：確保通用人工智能（AGI）能夠為全人類帶來福祉。作為壹個非營利組織，OpenAI的成立初衷是為了確保通用人工智能能夠惠及全人類，這是壹種理論上能超越人類智能的人工智能系統。為了籌集資金，公司隨後成立了壹個營利性子公司，但非營利的母公司保持了主導地位。這種獨特的結構旨在確保公司能夠堅守其原始使命，而董事會的職責是維護這壹使命。雖然這是壹次創新的嘗試，但遺憾的是，結果並未如預期般成功。
去年11月，為了挽救自我監管架構，OpenAI時任董事會作出了壹項重大決策，解雇了CEO山姆·奧特曼。由於奧特曼個人長期以來的行為模式，董事會維護公司使命的能力受到了越來越大的限制。據我們了解，這些行為不僅削弱了董事會對關鍵決策和內部安全協議的監督能力，還引發了其他問題。多位高層領導私下向董事會表達了深切的擔憂，他們認為奧特曼營造了壹種“撒謊的有毒文化”，並涉嫌“心理虐待”行為。
根據OpenAI的說法，壹項內部調查發現董事會在解雇奧特曼時“行使了其廣泛的自由裁量權”，但也得出結論認為他的行為未達到“必須解除職務”的程度。不過，OpenAI並未提供足夠的具體細節來支持這壹結論。無論是對員工、媒體還是公眾，OpenAI董事會都未將調查報告公之於眾。這壹事件凸顯了在人工智能領域自我監管的挑戰，同時也引發了對公司治理、透明度和道德標准的深入思考。隨著人工智能技術的迅速發展，如何確保技術的倫理使用和公司的社會責任，已成為業界和監管機構必須面對的重要議題。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見