-
日期: 2025-07-23 | 來源: 騰訊科技 | 有0人參與評論 | 字體: 小 中 大
隨著技術的發展，個人能完成的工作也將變得更加令人驚歎，同時我們對每個個體的期望也會大大提高。每當新技術出現時，歷史上人們常常會說“這意味著工作的結束，意味著職位的消失”，但實際情況是，人類似乎永遠希望獲得更多的物品，擁有更強的創造力，並且有著為他人提供幫助的強烈願望。
至今，我依然在等待工業革命曾經承諾的那種“每周工作幾小時，剩下的時間可以在海灘上度過，與家人享受時光”的理想生活，但現實是，我們依舊全身心投入到工作中。不過有壹點我深信不疑，那就是技術進步的潮流是不可逆的。進化已經經歷了太長時間，我們的生物本能已經被精細化到了極致，這是我們與生俱來的本性，技術無法改變這壹點，你無法打破它。因此，我認為，推動我們工作的根本因素不會消失，也不會改變。
盡管我們可能會抱怨工作過於辛苦，盡管我們已經富裕到難以想象的程度，但如果我們能站在今天的角度看壹百年後的生活，我們可能會覺得那些人的工作根本算不上“真正的工作”。他們並不真的忙碌，擁有無可想象的奢華，擁有壹切所需，沒有什麼可以做的事。因此，他們會編造工作，參與壹些無意義的游戲，填補空虛的時間，讓自己感覺對他人有用。
正如100年或500年前的人看待今天的我們那樣。事情的本質就是如此，我認為這也很好。
02AI引爆身份欺詐風險，提示注入攻擊成為新型安全威脅
鮑曼：在數據保護和確保有效利用創新方面，我們需要應對哪些風險？
奧特曼：我們原本並不認為金融行業，甚至政府部門，會是我們技術的早期采用者。盡管AI現在已經取得了很多進步，但當我們剛推出時，公眾對AI的看法是，它經常會“幻想”壹些不真實的內容。我記得在發布GPT-3時，曾有壹項學術調查，調查對象是壹些自認為是AI領域專家的學者，問他們認為GPT-3產生“幻覺”的比例有多高。
實際情況是，答案應該只有0.1%，甚至更少。但這些學者普遍認為，大約50%的時間，GPT-3的回答都是不真實的。他們認為，ChatGPT壹半的回答都在胡說八道，講些明顯不對的東西。因此，這種標簽壹直伴隨著我們很長時間。
基於這種看法，我們當時並沒有預料到，金融行業和政府機構會成為我們技術的早期采納者。但出乎意料的是，最早的壹些大企業合作伙伴竟然是金融機構，比如摩根士丹利、紐約銀行等，這些都成了我們的重要合作伙伴。他們已經找到了解決方案，能夠足夠可靠地將這項技術應用到關鍵業務流程中。
現在，我們也在與政府部門合作，逐步將我們的服務擴展到更多的領域。我記得曾有人說過：“我們意識到這是壹項新技術，如果我們不接受它，最大的風險可能就是無法生存下去。”
同樣，如果銀行不采納AI技術，就無法與那些已經實現AI優先體驗的新銀行競爭。這是壹個高度創新的行業，采用和推廣AI的效果比我預期的要好得多。
當然，這個領域仍存在風險，比如我們之前提到過的AI“幻覺”，現在又出現了壹個新的風險——所謂的“提示詞注入攻擊”（prompt injections）。壹旦模型真正開始針對個人和其數據進行個性化處理，攻擊者就可能通過某種方式“欺騙”模型，讓它透露不該透露的信息，或者做出不該做的事情。
舉個例子，如果我知道你很多私人信息，我當然知道什麼時候可以分享給某些人，什麼時候不能分享給其他人。但隨著模型越來越多地掌握個人信息，風險也隨之增加。我們需要小心應對這些風險，盡管我們目前已經能夠有效地管理它們，並從中獲得巨大好處。
鮑曼：銀行業現在非常關注欺詐問題。你認為我們能否利用AI來減少銀行欺詐，或者說我們應該如何防范冒充他人進行欺詐的行為？
奧特曼：這是壹個非常嚴肅的問題，也是我非常擔心的壹個領域。讓我給你講壹個例子：某些金融機構仍然使用“語音識別”作為身份驗證方式，特別是在需要轉賬大額資金時。你只需要說壹個口令，系統就會執行轉賬操作。
這種做法簡直是瘋狂的！AI技術完全可以突破這些“語音驗證”方式，幾乎所有目前人們用來驗證身份的方法，都能輕易被AI破解，除了密碼之外。例如，自拍、語音識別等方法，在AI面前顯得拾分脆弱。
我真的非常擔心，我們會面臨壹場嚴重的欺詐危機，尤其是在AI技術越來越成熟的情況下。我們和業內的其他人壹直在提醒大家，雖然我們現在還沒有完全釋放這些技術的潛力，但它們早已存在。而且，犯罪分子可能不需要太多技術能力，就能輕易使用這些工具。現在已經有報道指出，某些綁架勒索案件中，騙子利用被害人親人的聲音制造威脅，甚至打出緊急電話。未來，這種技術會變得越來越逼真，社會必須正視這個問題。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見