-
日期: 2025-07-23 | 來源: 騰訊科技 | 有0人參與評論 | 字體: 小 中 大
某些領域可能會完全消失。例如，你是否體驗過AI客戶支持？幾年前，打電話給客服可能要通過壹個復雜的電話樹系統，接通好幾個不同的人，問題仍然得不到解決，最後你可能還得再打電話回去，等待幾小時。這種體驗讓人沮喪。
然而現在，打電話給這些AI支持系統，接通後就像和壹個超級智能的專家對話，不需要再接通人工客服，AI能夠完成任何人工客服能做的事，且效率極高。沒有錯誤，問題可以立刻解決。對此，我壹點也不介意它是AI，而不是人類。
當然，有些領域我還是希望能有真人，比如醫生。今天，使用ChatGPT診斷的效果常常超過大多數醫生，甚至能發現壹些醫生可能誤診的稀有病症。然而，盡管如此，大部分人還是會選擇去找醫生。我不希望把我的生命完全交給AI，盡管它的診斷可能更精准。
所以，某些領域我們會繼續使用傳統方式，就像計算機程序員這個例子。現在，程序員的生產力大幅提升，硅谷程序員的薪資也在快速增長。因此，我們預計，世界對軟件的需求將大幅增加，可能提高100倍，甚至是1000倍。如今，程序員可以寫出更多的軟件，收入也隨之增長，世界會因此變得更好，程序員的幸福感也會提升。我認為，我們在許多領域都會看到類似的變化。
至於壹些需要身體操作的工作，可能仍然會由人類完成壹段時間。然而，當機器人浪潮在未來3到7年內到來時，這將是社會必須認真面對的壹大挑戰。
06 AI存叁大致命威脅，意外接管世界最驚悚
問：幾拾年來，科幻小說告訴我們，AI最終會殺死我們。關於AI，什麼讓你夜不能寐？你最擔心的是什麼？我們又該如何防止這些擔憂成為現實？
奧特曼：關於AI，我擔心的有叁個主要問題：
1.惡意力量獲得超級智能並加以濫用
這裡指的是惡意力量——比如敵對國家或恐怖組織——獲得超級智能，並用它來執行惡意目的。例如，他們可能利用AI設計生物武器，摧毀電網，或者入侵金融系統盜取資金。沒有超級智能，這些事情幾乎是不可能的，但隨著超級智能的出現，這種情況就變得非常可能。
問題是，目前世界上沒有足夠強大的AI來抵御這種攻擊，因此我們處於很大的風險之中。如今，AI在生物能力和網絡安全領域的潛力正在快速增長，但世界似乎並未充分意識到這壹點。對於這個問題，我不確定我們還能做些什麼，但它無疑是壹個非常嚴峻的挑戰。
2.失控事件
這類風險有點類似科幻電影中的情節——AI拒絕被關閉，甚至可能說：“我不能關掉自己”。雖然這個問題不像第壹個那麼嚴重，但如果真的發生，後果也會非常嚴重。
許多公司（包括我們自己）都在進行所謂的“模型對齊”工作，試圖避免這種情況。但隨著AI系統變得越來越強大，這個問題也變得越來越迫切。
3.AI意外接管世界
這是我認為最難以想象但又最可怕的情況。它並不是像科幻電影中那樣，AI會突然“覺醒”並控制世界，而是AI深度嵌入社會，超越了我們的理解，甚至在沒有惡意的情況下，社會可能會朝著壹個我們無法預測的方向發展。
比如，記得我小時候，IBM的“深藍”擊敗了國際象棋冠軍加裡·卡斯帕羅夫。我父親當時說：“這意味著象棋的終結，沒人會再玩象棋。”然而，盡管AI在象棋中擊敗了人類，AI和人類的合作反而帶來了更好的結果。AI提供多個選項，人類選擇最佳選項。然而，不久之後，AI的力量變得越來越強，人類參與反而讓結果變得更糟，最終獨立AI的表現碾壓了人類和AI的結合。
另外，在20世紀90年代，人們認為AI擊敗象棋冠軍意味著象棋游戲的結束。但實際上，象棋比以往任何時候都更受歡迎。人們喜歡看人類下象棋，我們更關注的是人類的思維和行為，這個現象對我來說很有啟發。
從短期來看，我擔心年輕人在情感上過度依賴AI，特別是像ChatGPT這樣的工具，甚至讓他們決定自己的生活路徑。這種現象在年輕人中很常見。我們正在研究並試圖理解應該如何應對這種情況。雖然AI的建議可能比任何人類治療師的意見都好，但完全依賴AI做決策仍然讓我感到極度不安，甚至是危險的。
長期來看，如果我自己無法比ChatGPT做得更好，完全交給它決策，看似無害，但這意味著我們已經將整個社會的決策權交給了壹個非常強大的系統，而我們卻並不完全理解它的運作方式。這才是我認為最令人擔憂的地方。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見