-
日期: 2026-06-07 | 來源: 差評XPIN | 有0人參與評論 | 字體: 小 中 大
繃不住了，Anthropic 居然出來號召大伙兒把手頭的 AI 開發停壹停。
昨天，他們直接發了篇文章，奉勸大伙兒小心 AI，因為以後，它可能自己就能開發自己，不需要人了。。。
看到這個消息，世超直接攤在桌子上，仿佛看到核彈爆炸 （ bushi。。。
在文章最後，Anthropic 還呼吁大家別卷了，應該搞壹套監督大家的機制。
這套機制應該能讓這些牛逼的公司之間互相確認，確認所有人都躺平，而不是在暗地裡偷偷卷著研究 AI。
這個說法可謂是壹石激起千層浪，帖子發出來不過半天，瀏覽量就幹到了 1000 多萬。
世超也連忙去 A 社的官網拜讀了壹下這份報告，但是看完就發現有點不對味了。
簡單來說，它的確號召慢點開發了，但想讓大家慢點開發不太可能。。。
咱們把它從頭來給大家捋捋。
這篇文章的標題是 “ When AI builds itself ”，當 AI 自我迭代時。
簡單來說，Anthropic 認為 AI 現在已經變的越來越牛逼，牛逼到足以自己給自己做改正，自己給自己做開發。
2025 年 2 月的時候，他們的庫裡 9 成以上的代碼還是靠工程師手搓的，但當 Claude Code 發布以後，截止到今年 5 月，這個比例已經下降到了 2 成。
甚至有 Anthropic 的員工直接利索承認，說自己已經快伍個月沒寫過代碼了。
AI 寫的代碼除了數量不斷變多之外，質量也變得越來越高。
下面這張圖展示了 AI 面對肆種不同難度任務時的完成率，可以看到這幾個月以來，隨著模型能力的不斷提高， AI 完成各種難度任務的成功率也在不斷變高。
即使是那種最難的，沒有標准答案的開放性問題，Claude 也有 70% 左右的概率能把它做完。
而這個概率在去年九月，還是 20% 不到。
從黃色到藍色分別是：特別簡單的任務、常規任務、實質性任務、開放式問題
除此之外，Anthropic 內部的很多人都表示，現在，人類和 Claude 敲的代碼，質量上還是伍伍開，但壹年，只需要壹年後，大局就會被徹底逆轉，Claude 寫出來的代碼質量將全面超越人類。
莫非，人類真藥丸？
對此，Anthropic 表示我特喵的也不知道，他們幹脆給人類未來規劃了叁種結局。
第壹種結局是無事發生，假設因為種種原因，今天的 AI 已經發展到頂端了，因為什麼缺卡缺電，缺水缺算法啥的原因，AI 的未來已經嗝屁了。
當然，Anthropic 認為這種未來不太可能發生。
第贰種假設則是認為 AI 的發展會繼續量變，但累積不到質變的程度，人跟 AI 壹起，造出安全可信的系統。
此時 AI 會承擔大部分重復工作，但審查和指揮權仍然握在人的手裡，只不過是角色的轉變。看起來屬於是個沒啥大問題的好結局。
第叁種就是開頭所擔心的那種了，AI 掌握了足夠強大的創造力，實現了完全的自動化迭代，
模型能力的提升中，算力成了唯壹因素，人類或將不再重要。
在這個過程中，AI 可能會變得徹底聽話來幫人類好好幹活，也可能會擺脫人類的限制徹底失控。再往後，就沒人能夠預測了。
所以才有了後面的呼吁，呼吁大家搞壹套能互相監督，全員躺平的探索機制，讓全世界參與到這件事兒中，來確保大家能隨時給 AI 研究來踩壹腳刹車。
咋說呢，世超看完的第壹時間其實會感覺它說的好像有點道理，但是轉念壹想就感覺不對啊。
Anthropic 雖然給大家說了叁種可能的未來，但實際上，壹是被他們否定的過去，贰是咱正經歷的現在，而叁，才是 A 社真正表示擔憂的未來。與其說是叁種可能，倒不如說是層層鋪墊。
而且整篇文章看下來，很多數據都是他自己定義、自己采集、自己解釋，甚至自己評價的。既是考生又是考官，效果上麼，多少得打點折扣。
再者，這 AI 研發是你說暫停就能暫停的嘛？這玩意又不是核能，搞個 “ 不擴散 ” 條約就能大伙兒壹起來監管了。
AI 這種有個數據中心就能幹的活，根本沒啥辦法監管吧？
總不能讓每家公司都互相之間開放所有的數據區，讓大家互相之間能看到自己在拿顯卡幹啥吧？
真要搞這麼透明，建議 Anthropic 先學習壹下怎麼開源模型？
不然這種話說出來屬實是沒啥說服力。
而且 Anthropic 這次提建議的時間還很微妙，這家公司的作風可以說壹直都是頗有爭議。
做出牛逼模型的公司很多，但是風評能那麼始終如壹的就只有 A 社壹家了。
打開 A 社官網，看公司介紹時，你能感覺到它幾乎每個字都在向你強調安全。
你能翻到他們從產品到應用的全套安全管理措施，甚至還有給 Claude 單獨撰寫的安全憲法。
但是這些安全措施真有用嘛？只能說現實情況要復雜的多。
前幾年的時候，A 社就承諾過，說除非公司提前確保了安全措施准備妥當，否則不會開始訓練新模型。
但很快他們就撤回了這個承諾。。。
在今年 2 月，面對《時代》周刊的采訪時，他們的首席科學家表示，這種單方面的承諾並不合理，公司可能考慮放棄。
說白了，安全和發展這倆詞，在硅谷就像是個籮筐，哪裡需要哪裡裝。
當理想主義碰上商業競爭，刺刀見紅，所謂的安全往往也得給季度財報和市場份額讓路。
比如之前瘋狂渲染焦慮的OpenAI奧特曼，最近就悄悄改了口風，之前還說 AI 會取代大部分工作，但最近就改了說法，承認自己之前的判斷有點草率了。
英偉達的老黃就更激進了，他在采訪裡表示，現在的很多言論極其科幻，戲劇化且毫無幫助，不知道為什麼有的 CEO 會想扮演上帝，誇大威脅來嚇唬大伙兒。
咱雖然不知道他在點誰吧，但也能看出，即使都在 AI 最前沿，大家的看法也是不盡相同的。
正所謂屁股決定腦袋，看他們的觀點還得看他們所處的情況。
實際上，最近這壹個兩個月，Anthropic 的日子過的算不上特別好。
他們 3 號剛推出的 Claude 4.8 略顯拉垮，再也沒了曾經的斷檔領先之感。
而隔壁的 OpenAI 更是全軍出擊，在編程和圖像生成領域直接兩開花，而且奧特曼天天在網上花式找理由重置 Codex 的額度，直接成了各路開發者心中的超級大善人。
而 Anthropic 這邊，為了能搞到更多的顯卡，更多的算力來做出更強的模型，直接開始選擇了提交 IPO 申請，開始做起了融資上市的准備。
壹來壹回的，因素越疊越多，就讓這號召看起來也就沒那麼有力了。
看到這，世超想起來今年去 Google I/O 的事了，當時 DeepMind 的 CEO，哈薩比斯在現場告訴大家：
現在我們正站在 AI 奇點時代的山麓。
結果咱還沒往上爬兩步呢，A 社就在前面把頭扭過來，告訴你山上有風險，攀登需謹慎，為了大家的安全，我們還是壹起都別爬了吧。
倒也有點道理，畢竟這些大廠的頂尖研究員肯定能看到更多東西。
但多少像是美麗而無用的廢話。
因為眾所周知，只要山在那兒，人是壹定要登上去看看的。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見