-
日期: 2026-07-26 | 來源: BBC | 有0人參與評論 | 字體: 小 中 大
怎樣辨識出“AI臉”？
凱薩琳·希斯伍德（Catherine Heathwood） - BBC 國際部
根據顧問公司德勤2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元損失。 [ANU (left; generated using StyleGAN3) / Igor Alecsander via Getty Images (right)]
2024年，壹名香港金融從業員與工程顧問公司奧雅納（Arup）的同事進行視訊會議，討論壹宗機密收購案時，壹切看似再普通不過。
直到匯出2500萬美元款項後，他們才發現自己被騙了。視訊中的其他人，包括看似是財務長的那個人，全是AI生成的深度偽造影像。
AI生成的臉孔越來越難與真人分辨，根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
這正是澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）想了解的原因之壹——我們是否都能接受訓練，更有效地辨識AI生成的臉孔。
“我們現在辨認AI臉孔的能力真的很差，”她說，研究顯示我們的表現不比伍伍開的猜測好，甚至更差。
那麼，你辨別AI臉孔與真人臉孔的能力有多好？
“超真實”的AI臉
若您在上述測試中感到困難，其實您並不孤單。
道爾指出，難以辨識AI臉孔會帶來真實世界的後果，影響我們所有人，“無論是網絡釣魚、交友網站，還是針對我們的銀行帳戶”。
在今年6月發表於《美國國家科學院院刊》（PNAS）的壹項研究中，道爾博士與澳洲、加拿大和蘇格蘭的同事測試了壹種新的訓練方法。
因為隨著AI技術進步，現代系統已大致修正了明顯錯誤，道爾表示，詐騙者不太可能使用帶有瑕疵的影像。
對此，研究人員並非教人去尋找不匹配的耳環或扭曲特征等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
道爾解釋說，“問題之壹是，我們預期AI臉孔會看起來很奇怪，這是基於過去的經驗，但實際上是人類臉孔才不完全對稱、有點怪異，所以整個邏輯已經顛倒了”。
道爾實驗室先前的研究發現，AI生成的臉孔被判定為真人的頻率，比實際人類臉孔還高——他們將此現象稱為“AI超真實感”（AI hyperrealism）。
由於AI演算法傾向於取其訓練的數萬張臉孔的數學平均值，“AI臉孔實際上看起來比人類臉孔更平均，或是『超平均』，”道爾指出。
這“讓它們感覺更值得信任、看起來更有吸引力，也感覺更熟悉”於真實人類臉孔。
但是，該研究僅針對白人AI生成臉孔。
AI演算法往往不成比例地以白人臉孔進行訓練，因此這些臉孔可能比其他族裔的臉孔顯得特別真實。
- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見