-
日期: 2024-05-15 | 來源: BBC中文 | 有0人參與評論 | 專欄: 烏克蘭危機 | 字體: 小 中 大
奧爾加看到她的臉出現在中國社交媒體上的各種影片中。
“我不希望任何人認為我曾經說過這些可怕的話。用壹個烏克蘭女孩的面孔來宣傳俄羅斯，這太瘋狂了。”
奧爾加·洛伊克（Olga Loiek）看到自己的臉出現在中國社交媒體上的各種影片中，而這些影片由網上簡易的生成式人工智能（AI）工具制作。
“我可以看到我的臉，聽到我的聲音。但這壹切都令人毛骨悚然，因為我看到自己說了壹些我從未說過的話。”這位就讀於賓夕法尼亞大學（University of Pennsylvania）的21歲學生告訴BBC。
使用她肖像的賬戶有幾拾個不同的名字，如索菲亞（Sofia）、娜塔莎（Natasha）、艾普麗爾（April）和斯泰西（Stacy）。這些“女孩”說的是奧爾加從未學過的漢語普通話。在影片中，她們看上去來自俄羅斯，談論著中俄友誼或推廣俄羅斯產品。
“我看到90%的影片都在談論中國和俄羅斯以及中俄友誼，像我們必須成為強大的盟友，還有食品廣告。”
其中最大的壹個賬號是“娜塔莎進口食品”，其擁有30多萬關注者。“娜塔莎”說著“俄羅斯是最好的國家。可悲的是其他國家都在遠離俄羅斯，俄羅斯女人想要來中國”之類的話，然後開始推銷俄羅斯糖果等產品。
這讓奧爾加感到憤怒，因為她的家人還在烏克蘭。
但在更廣泛的層面上，她的案例引起了人們對這項發展迅猛的技術所帶來危險的關注，如何監管和保護人們已經成為壹項真正的挑戰。
從YouTube到小紅書
奧爾加的說普通話的AI模仿者在2023年開始出現——就在她開設了壹個不定期更新的YouTube頻道之後不久。
大約壹個月後，她開始收到壹些人的信息，聲稱在中國社交媒體平台上看到她說著普通話。
出於好奇，她開始尋找自己，並在中國類似於Instagram的平台“小紅書”，以及類似於YouTube的視頻網站嗶哩嗶哩（Bilibili）上發現了與她相似的AI人物。
“有很多這樣的（賬戶）。有些賬戶的簡介裡有俄羅斯國旗之類的東西。”奧爾加說。她稱，到目前為止，她已經發現了大約35個使用她肖像的賬戶。
在她的未婚夫在社交媒體上發布了關於這些賬戶的情況後，她聲稱被用於制作這些AI肖像的AI視頻生成平台HeyGen做出了回應。
他們透露，已經有4900多個影片是用她的臉生成的，並表示該平台已經禁止再使用她的肖像。
該公司的壹位發言人告訴BBC，他們的系統被侵入以創建了他們所謂的“未經授權的內容”，並補充稱，他們立即更新了安全和驗證協議，以防止平台被進壹步濫用。
但香港大學副教授張湖月（Angela Zhang）說，奧爾加的經歷“在中國很常見”。
她說，中國“擁有龐大的地下經濟，專門從事仿造、盜用個人數據和進行深度偽造”。
不過，中國是最早嘗試監管人工智能及其使用的國家之壹。中國甚至修改了民法典，以保護肖像權免受數字偽造技術的侵害。
中國公安部門在2023年披露的統計數據顯示，當局逮捕了515名涉嫌參與“AI換臉”活動的人。中國法院也審理過這方面的案件。
- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見