-
日期: 2024-12-16 | 來源: 愛范兒 | 有0人參與評論 | 字體: 小 中 大
提問環節
提問：謝謝你，現在在 2024 年，是否有其他生物結構是人類認知的壹部分，你認為值得以類似方式探索的，或者你有興趣去探索的？
Ilya：我回答這個問題的方式是，如果你是壹個擁有特定洞察力的人，認為「嘿，我們都在做極其愚蠢的事情，因為顯然大腦在做壹些事情，而我們卻沒有」，那麼這個可以做的事情，他們應該去追求。
我個人並不這樣看，嗯，這取決於你所關注的阻礙層次。也許我會這樣回答。
就像曾經有很多人渴望創造生物學啟發的人工智能。你可以從某種角度說，生物學啟發的人工智能是非常成功的，畢竟深度學習本身就是生物學啟發的人工智能。
但另壹方面，生物學的啟發是非常、非常、非常有限的。就是說，我們用神經元，這就是生物學啟發的全部。
更詳細的生物學啟發壹直很難獲得，但我並不排除這種可能性。我認為如果有人有特殊的洞察力，他們可能會看到某些東西，而這些東西會很有用。
提問：我想提問壹個關於自動糾正的問題。問題是這樣的。
你提到推理可能是未來模型的核心方面之壹，甚至可能是壹個區分因素。我們在壹些海報展示環節看到的現象是，今天的模型中的幻覺，分析幻覺的方式是，我們現在知道模型不能推理的危險，我們正在使用統計分析，比如偏離均值多少個標准差，或者其他的方式。
未來，你認為如果模型具備推理能力，它能自己糾正錯誤嗎？
換句話說，自動糾正將會成為未來模型的核心特性之壹，這樣模型就不會出現那麼多幻覺，因為它能意識到什麼時候發生了幻覺？
Ilya：是的，答案是肯定的。
我認為你所描述的這個觀點極其有可能發生。我的意思是，你應該去查證壹下。是的，我不排除它可能已經發生在壹些現有的早期推理模型中，我不知道，但從長遠來看，為什麼不呢？
提問：這就像微軟 Word 中的自動更正功能壹樣，你知道的，它是壹個核心功能。
Ilya：是的，我覺得把它稱為「自動更正」真的是低估了它的意義。說到自動更正，你會聯想到它只是壹個簡單的功能，但除此之外，答案是肯定的，謝謝。
提問：Ilya，我喜歡最後神秘留白的結尾，
人工智能會取代我們，還是它們優於我們？它們需要權利嗎？這是壹個新物種的智人，可能它們也需要，我的意思是，我覺得強化學習（RL）的人認為它們需要權利。
我有壹個與此無關的問題，那就是如何創造合適的激勵機制，讓人類實際上以賦予它們我們作為智人的自由的方式去創造它們？- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見