-
日期: 2023-07-21 | 來源: 鳳凰網科技 | 有0人參與評論 | 字體: 小 中 大
美國白宮周伍宣布，柒家最具影響力的人工智能(AI)公司已同意簽署壹份自願承諾，保證以負責任的態度開發AI，降低AI風險。自從OpenAI去年年底發布ChatGPT以來，安全已經成為AI領域的主要關注點。
這柒家公司分別是谷歌、OpenAI、微軟、Meta、亞馬遜、AI創業公司Inflection、Anthropic。
這些公司的代表將在周伍齊聚白宮，舉行簽字儀式，他們是谷歌全球事務主管肯特·沃克(Kent Walker)、OpenAI總裁格雷格·布洛克曼(Greg Brockman)、微軟總裁布拉德·史密斯(Brad Smith)、Meta全球事務主管尼克·克雷格(Nick Clegg)、亞馬遜雲計算服務AWS CEO亞當·塞利普斯基(Adam Selipsky)、Inflection CEO穆斯塔法·弗萊曼(Mustafa Suleyman)、Anthropic CEO達裡奧·阿莫德(Dario Amodei)。
這些公司承諾，在向公眾發布AI系統前允許獨立安全專家測試他們的系統，並與政府和學術界分享有關他們系統安全的數據。他們還將開發系統，當圖像、視頻或文本是由AI生成時向公眾發出警告，采用的方法是“加水印”。
以下是自願承諾的要點：
·為消費者開發壹種識別AI生成內容的方法，例如加水印。
·在向公眾發布AI工具之前，聘請獨立專家評估這些工具的安全性。
·與其他行業參與者、政府和外部專家分享有關最佳實踐的信息，以及試圖繞過保障措施的行為。
·允許第叁方查找並報告其系統漏洞。
·報告其技術的局限性，並對AI工具的適當使用進行指導。
·優先研究AI的社會風險，包括歧視和隱私。
·帶著幫助降低氣候變化和疾病等社會挑戰的目標開發AI。
由於這些公司是自願簽訂上述承諾的，因此即便他們未能履行承諾，他們目前也不會承擔任何後果。壹些承諾預計也不會在周伍立即得到執行。
此前，簽署該承諾的壹些公司已經采取了類似行動。例如，OpenAI在大范圍推出GPT-4模型前已經組建了壹支“紅隊”，聘請了50名學者和專家來測試GPT-4，通過對抗測試找出AI的不足，然後進行改進。谷歌也已經在壹篇博客文章中表示，公司正在開發壹種水印技術，以此標識AI生成內容。企業和政策制定者目前正在大力宣傳水印技術，把它視為解決AI加劇錯誤信息擔憂的壹種方式。
壹位不願透露姓名的白宮高級官員表示，自願承諾將提高整個AI行業的標准。“這將挑戰企業開發AI的極限，提高AI的安全和信任標准。”該官員表示。
與此同時，白宮官員對記者表示，拜登政府目前正在制定壹項AI行政命令，支持國會推出監管AI技術的兩黨立法，以解決AI帶來的壹些風險。該官員沒有透露該行政令的具體細節，也沒有披露該行政令的發布時間，但他表示政府正在評估AI在政府機構中的作用，這是拜登的“高度優先事項”。
過去幾個月，拜登政府官員已經會見了科技公司高管、勞工和民權領袖討論AI。今年5月，白宮宣布為AI開發公司提供更多資金和政策指導，其中包括向國家科學基金會提供1.4億美元以啟動柒個新的國家AI研究所。谷歌、微軟、英偉達、OpenAI和其他公司也同意在今年的DefCon極客安全會議上允許他們的語言模型接受公開評估。- 新聞來源於其它媒體，內容不代表本站立場！
-
原文鏈接
原文鏈接:
目前還沒有人發表評論, 大家都在期待您的高見