-
日期: 2024-03-13 | 來源: 環球網 | 有0人參與評論 | 字體: 小 中 大
據美國有線電視新聞網（CNN）12日報道，美國國務院委托第叁方機構進行的壹份新調查報告稱，快速發展的AI或對人類構成“毀滅級”風險。該報告還警告說，美國政府避免災難的時間已經不多了，必須進行幹預。
這份報告由專注於AI領域的公司“格拉德斯通人工智能”撰寫。報告基於壹年多來對200多名AI公司高管、網絡安全研究人員、大規模殺傷性武器專家和美國國家安全官員的采訪，得出“在最壞的情況下，最先進的AI系統可能對人類構成毀滅級別的威脅”的結論。
CNN稱，研究人員提出了兩個主要危險：首先，最先進的AI系統可能會被“武器化”，造成潛在的不可逆轉的損害；其次，AI實驗室內部存在擔憂，即在某些時候，他們可能會“失去對正在開發的系統的控制”，從而“對全球安全造成潛在的破壞性後果”。
報告將AI發展給全球安全帶來的風險與核武器相比，稱未來AI發展存在“軍備競賽”、沖突和“大規模殺傷性武器致命事故”的風險。CNN稱，最大的不確定因素之壹是AI的發展速度有多快，尤其是通用人工智能（AGI）的發展速度。報道稱，AGI具有類似人類甚至超越人類的學習能力，“被視為失控導致災難性風險的主要驅動因素”。格拉德斯通人工智能的報告稱，OpenAI、谷歌DeepMind等都公開表示，AGI可能會在2028年實現。
報告還稱，AI可用於設計和實施“能夠破壞關鍵基礎設施的高效網絡攻擊”。壹個簡單的口頭或打字命令，比如“實施無法追蹤的網絡攻擊，使北美電網崩潰”，就可能造成壹場災難。其他風險案例包括由AI驅動的“大規模”虛假宣傳活動、武器化機器人應用、心理操縱、武器化生物和材料工程等。報告還提到，競爭壓力正在推動企業“以犧牲安全和保障為代價”加速AI的發展，這增加了最先進的AI系統可能被竊取並被武器化的風險。
報告呼吁采取重大新措施來應對這壹威脅，包括成立壹個新的AI機構，實施緊急監管，並限制用於訓練AI模型的計算機能力等。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見