-
日期: 2023-05-14 | 來源: 壹條 | 有0人參與評論 | 字體: 小 中 大
但是深度學習模型,是需要強大的算力的,在特定的GPU芯片上面跑。
據說ChatGPT有1萬塊A100的GPU做支撐,單塊A100的售價在1萬美元左右,光是GPU成本就是1億美元(約合6億人民幣(專題)),這就是為什麼OpenAI不到100人的小公司,微軟投資了20億美元上去的原因之壹。所以大模型,幾乎只能由大公司、大機構來做。
但是我們國家,目前在算力上有瓶頸,因為2022年12月份,美國對中國禁售了A100以上的GPU。這樣國內沒法用A100(有替代品,但通訊模塊受限),但國外還能用比A100更好的卡,這就有點麻煩了。
現在我們做研究成本很高,也是因為GPU,以往你發文章只需要時間和人力成本,但是現在壹篇論文的成本說不定在10萬人民幣左右。

再壹個就是大數據,中文語料庫推不上去。
ChatGPT有10億級以上的數據做預訓練,它都是英文的,但是我們中文的每個平台,都設了壹個進入的門檻,防止你大范圍搜索,另外還有格式的問題,這就導致我們堆數據,沒有國外那麼方便。
而且ChatGPT-2之後就沒有開源了,你也不知道確切的差距到底在哪裡。
現在國內的AI投資很火,資本層面的驅動還是蠻重要的。而且我們復旦前段時間發布了壹個Moss系統,還開源了,相對來講還是壹個比較小的模型,大家都還是在努力的。

▲ 上海街頭的機器人 壹條編輯部經由Midjourney 生成
從歷史上來講,人工智能不到90年,我們壹般認為它的開端(電視劇),是1936年的圖靈機,期間壹直經歷漲跌的過程。
柒八拾年代它經歷第壹次寒冬,當時如果你說自己是做人工智能的,是拿不到項目的。在90年代初,又經歷了第贰次寒冬。
我自己是從小喜歡看科幻小說,接觸AI是在1997年,當時更流行叫自己是做機器學習而非人工智能的。
我的感受是到了2012年,也就是Geoffrey Hinton帶著學生贏得了競賽那壹年,人工智能才真正迎來騰飛。
- 新聞來源於其它媒體,內容不代表本站立場!
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見