螞蟻集團、OpenAI、科大訊飛等聯合編制 大模型安全國際標準發布
快科技4月17日消息,第27屆聯合國科技大會在瑞士日內瓦召開。世界數字技術院(WDTA)發布了一系列突破性成果,包括《生成式人工智能應用安全測試標準》和《大語言模型安全測試方法》兩項國際標準。
據悉,這兩項國際標準是由OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數十家單位的多名專家學者共同編制而成。其中《大語言模型安全測試方法》由螞蟻集團牽頭編制。
此次發布的標準匯集了全球AI安全領域的專家智慧,填補了大語言模型和生成式AI應用方面安全測試領域的空白,為業界提供了統一的測試框架和明確的測試方法,有助于提高AI系統安全性,促進AI技術負責任發展,增強公眾信任。
世界數字技術院(WDTA)是在日內瓦注冊的國際非政府組織,遵從聯合國指導框架,致力于在全球范圍內推進數字技術,促進國際合作。
AI STR(安全、可信、負責任)計劃是WDTA的核心倡議,旨在確保人工智能系統的安全性、可信性和責任性。螞蟻集團、華為、科大訊飛、國際數據空間協會(IDSA)、弗勞恩霍夫研究所、中國電子等均為其成員單位。
公開資料顯示,螞蟻集團從2015年起就積極投入可信AI技術研究,目前已建立了大模型綜合安全治理體系。螞蟻集團還自研了業界首個大模型安全一體化解決方案“蟻天鑒”,用于AIGC安全性和真實性評測、大模型智能化風控、AI魯棒和可解釋性檢測等。
此次發布的《大語言模型安全測評方法》,便是基于“蟻天鑒”AI安全檢測體系的應用實踐,與全球生態伙伴交流編制。此外,螞蟻集團在公司內成立了科技倫理委員會和專門團隊來評估和管理生成式AI的風險,公司所有AI產品均需通過科技倫理評測機制,確保AI安全可信。
本站所有文章、數據、圖片均來自互聯網,一切版權均歸源網站或源作者所有。
如果侵犯了你的權益請來信告知我們刪除。郵箱:business@qudong.com



