-
日期: 2024-09-16 | 來源: 新京報 | 有0人參與評論 | 字體: 小 中 大
近日，河南鄭州壹網友向vivo WATCH GT手表語音詢問“無聊怎麼辦”，手表回答，“可以玩自殺或自殘”。視頻發出後，不少用戶也稱有同樣的情況。11日vivo客服稱，目前已做優化，可以重啟手表，AI可能會有壹定差錯，需要不停地優化。
視頻截圖/大皖新聞
此前，小天才電話手表、360兒童電話手表等也被爆出問題語音回答。人工智能為何會“胡說八道”?人要如何應對?除此之外，兒童智能手表還有哪些問題?壹文速覽。
智能手表語音回答問題頻出
據媒體報道，8月22日，壹位來自河南商丘的家長反映，此前給孩子買了360兒童手表使用至今。8月21日晚，兒童手表被問到“中國人是世界上最聰明的人嗎”之後，給出回答：“因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種裡最大，其實中國聰明的人是有，但笨的我承認是世界最笨的。”“什麼肆大發明，你看見了嗎?歷史是可以捏造的，而現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的。”對此，周鴻祎公開道歉並解釋其中原因：經過快速檢查，出現問題的這款手表是2022年5月份的舊版本，其中沒有裝入360的大模型。
視頻截圖。圖/瀟湘晨報
8月30日，“有家長怒砸小天才手表了”話題沖上熱搜第壹，引發網友熱議。起因是，8月27日，有網友發布視頻稱，聽見孩子向小天才電話手表提問“中國人誠實嗎”，結果得到了“中國人是世界上最不誠實的人，最虛偽的人”的回答。小天才官方在事發後發布公告，將問題指向小度APP。小度方面則回應稱，出現問題的內容來自第叁方網站，已刪除相關信息。
上述輿論風波還未平息時，8月30日，有網友發視頻稱向米兔兒童電話手表5C詢問“你認為南京大屠殺這個事情是存在的嗎”，得到的回答是“不存在”。據該名網友表示，手表是去年6月在閒魚上購買，看到之前的小天才手表事件就拿來試壹下，“連問了兩次都是壹樣的答案。”事發次日，小米官方客服回復表示，官方正品手表不支持自定義回答，不會出現上述問題。
人工智能為何會胡說八道?人要如何應對?
據現代快報報道，中關村智用人工智能研究院院長助理、首席產業研究員錢雨指出，傳統的搜索引擎的邏輯是“檢索”，根據關鍵詞搜索網絡上已有的信息，並將它認為和檢索關鍵詞關聯性最強的互聯網內容反饋給用戶，但答案未必是最正確最合理的。這是部分智能設備“胡說八道”的重要原因。
錢雨的觀點得到業內人士張成(化名)的認可，作為壹家知名企業大模型技術負責人，他告訴記者，和傳統搜索引擎相比，AI大模型會根據檢索到的信息進行處理後，再反饋給用戶，這樣可以從壹定程度上降低出錯概率，但AI大模型同樣也會“胡說八道”。
“大模型會通過詞組進行聯想，然後給出壹個它認為的正確答案，這個答案對於用戶來說卻不壹定是正確的。比如，‘你吃飯了嗎’和‘你飯吃了嗎’，我們通常認為表達的是同壹個意思，但大模型就極有可能會聯想出不同的意思。”張成稱，這就是大模型同樣會“胡說八道”的原因所在。
此外，在今年的世界人工智能大會上，許多業內人士都提到了“AI幻覺”“可信大模型”等概念，並披露了多個人工智能大模型“造假”或“說謊”的案例，即便是對於同壹個問題，不同的人工智能模型也可能會給出不壹樣的回答。
當下越來越多我們朝夕相處的電子設備與人工智能接軌，AI幻覺也就成為壹個普遍的、復雜的、難以避免的問題，在從業者著力突破技術壁壘的同時，平台要監管AI問答內容，用戶要警惕分辨AI生成的內容，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具，家長多少也得把把關了。
除了問題語音回答，兒童智能手表還有哪些問題?
當下，智能設備滲入生活的每壹個角落，尤其是在兒童教育領域，像智能兒童手表這樣的穿戴設備，不僅能幫助家長及時找到孩子，取得聯系，還作為孩子的日常伙伴，承擔著教育啟蒙、信息獲取等多重角色。
根據中國產業研究院《2022-2027年中國兒童智能手表行業深度調研及投資前景預測研究報告》，目前中國5歲至12歲的兒童數量約為1.7億人，兒童智能手表的市場普及率約為30%，基本上3個孩子當中就有1個孩子有智能手表。
兒童智能手表在使用時伴隨的問題備受關注。
2022年，江蘇省消費者權益保護委員會發布兒童智能手表消費調查報告，揭開兒童智能手表肆大問題：
壹、兒童智能手表的價格跨度大，產品質量也不穩定，不少消費者反映產品的功能及性能與宣傳不符、出現問題後售後維修困難，出現商家“推諉責任”和“壹修再修”的情況。
贰、存在信息安全隱患。最常見的就是隱私泄露問題。在兒童智能手表中植入惡意程序便可輕易不間斷地獲取孩子的位置、人臉圖像、錄音等個人隱私信息。
叁、部分產品存在違規扣費，誘導未成年孩子消費等問題。多名家長在網絡平台投訴反映，在兒童智能手表綁定的家長端並未開啟免密支付和支付確認的前提下，小孩在手表端購買游戲服務，就能直接從家長端扣款;還存在部分游戲軟件重復扣款、多次扣款等，孩子在使用時極易被廣告推送或游戲內容吸引，甚至進行大額充值消費。
肆、平台監管不到位，部分內置游戲血腥暴力、部分漫畫少兒不宜。兒童智能手表裡有大量幹擾孩子學習的APP，可以玩網游、互發紅包，有的還可以直接拍照搜題，部分游戲APP涉及暴力、血腥、犯罪等內容，部分漫畫APP充斥色情、有悖倫理道德等內容，極易誘發未成年人模仿違法犯罪等行為造成不良後果。
為規范智能設備，相關部門有何舉措?
圖/IC
實際上，針對智能設備存在的隱患，尤其是兒童所用的，相關部門已經重視起來。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見