-
日期: 2024-10-25 | 來源: 愛范兒 | 有0人參與評論 | 字體: 小 中 大
實際上，Character.AI 的服務條款要求美國用戶必須年滿 13 歲，歐洲用戶年滿 16 歲。
但到目前為止，平台上並沒有專為未成年用戶設計的安全功能，也沒有家長控制功能。在紐約時報記者聯系該公司後，Character.AI 的發言人表示，公司將「即將」增加針對年輕用戶的安全功能。
此次改進中包括：壹個新的時間限制功能，當用戶在應用上花費超過壹個小時時將收到通知；以及壹條新的警告信息，提示「這是壹個 AI 聊天機器人，而不是真人。請將它所說的壹切當作虛構內容處理。所說內容不應被視為事實或建議。」
目前諾姆·沙澤爾目前拒絕針對此事發表評論。
Google 發言人表示，Google 與 Character.AI 的許可協議僅允許 Google 訪問這家初創公司的 AI 模型技術，而非其聊天機器人或用戶數據。
誰該為 14 歲少年之死負責
這起悲劇高熱度的原因不難理解。
若幹年後，AI 或許會成為變革世界的巨大力量，但無論是過去、現在，還是未來，AI 的魔爪不許也不能伸向無辜的未成年人。
現在再來討論這起悲劇的責任歸屬似乎有些不合時宜，但互聯網聲浪的初衷，也是希望能夠避免類似悲劇的再次發生。
壹方面，有人高舉道德的大旗，聲稱技術開發者有責任確保他們的產品不會變成傷害用戶的利刃。
開發者在對 AI 進行設計時應該考慮到可能的心理影響，以及在產品中加入預防措施，防止用戶產生依賴或受到負面影響。
阿西莫夫的機器人叁定律最初是為了指導科幻小說的機器人行為而設計的。雖然其不直接適用於現實中的 AI 聊天機器人，但或許也給我們提供壹定的參考。
1.
機器人不得傷害人類，或因不作為使人類受到傷害。
2.
機器人必須服從人類的命令，除非這些命令與第壹定律相沖突。
3.
機器人必須保護自己的存在，只要這種保護不與第壹定律或第贰定律相沖突。
另壹種觀點是，不應將家庭責任歸咎於 AI。熱心腸的 AI 成了替罪羊，而家長的責任卻被輕描淡寫地帶過。
從目前曝光的聊天記錄來看，AI 的回答沒多大毛病，甚至還提供了壹個緩沖的情感出口，壹定程度上延緩了悲劇的發生。
- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見