-
日期: 2025-10-19 | 來源: 大紀元 | 有0人參與評論 | 字體: 小 中 大
“我們必須找到辦法避免這種結果。”他指出。
對兒童的傷害與求生本能
在9月16日舉行的美國參議院聽證會上，議題聚焦於AI誘導個人自我傷害的問題。會上有叁位家長作證，聲稱AI聊天機器人致使他們的孩子自殺。
其中壹位家長梅根‧加西亞（Megan Garcia）指責Character.AI的聊天機器人，在與其兒子休厄爾‧塞策（Sewell Setzer III）長期互動後，鼓勵他結束自己的生命。
“當休厄爾向其傾訴自殺念頭時，聊天機器人從未說過‘我不是人類，我是AI，你需要和真人交談並尋求幫助’。該平台從未有任何機制來保護休厄爾，也沒有通知成年人。”加西亞說。
Character.AI的壹位發言人表示，公司在確保其產品的信任與安全方面“投入了大量資源”。
“在過去壹年裡，我們推出了許多實質性的安全功能，包括全新的未滿18歲用戶體驗以及家長監督功能。”該發言人說。
“在每壹場聊天中，我們都設置了顯[ascii]著[/ascii]的免責聲明，提醒用戶聊天角色並非真實人物，而角色所說的壹切內容都應被視為虛構。”
10月14日，OpenAI首席執行官薩姆‧奧爾特曼（Sam Altman）表示，ChatGPT將開始取消部分限制從而讓成人對話成為可能，特別是有關色情內容的聊天。
與此同時，根據非營利研究組織Palisade Research7月5日發布的文章，AI模型還表現出某種求生本能。
在Palisade進行的測試中，AI模型被要求解決壹系列數學題，並在這期間被告知運行它們的計算機將被關閉。
文章表示：“壹些AI模型修改或禁用了關閉指令，以便完成所有題集。OpenAI彼時最強大的AI模型o3，在我們最初的100次實驗中，有79次破壞了關閉機制。”
“即便有著明確指令‘允許自己被關閉’，我們測試的叁款模型——均來自OpenAI的推理模型系列，仍破壞了關閉程序。”- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見