生成式人工智慧安全大賽是由北京市網際網路信息辦公室和中國科學院網路安全和信息化領導小組辦公室共同指導，中國科學院信息工程研究所和信息內容安全國家工程研究中心共同主辦。
基本介紹
- 中文名：生成式人工智慧安全大賽
- 主辦單位：中國科學院信息工程研究所、信息內容安全國家工程研究中心
活動歷程,主辦單位,歷屆概況,
活動歷程
2024年4月，在2024年中關村論壇數據安全治理與發展論壇上，首屆生成式人工智慧安全大賽正式啟動。
主辦單位
中國科學院信息工程研究所、信息內容安全國家工程研究中心
歷屆概況
第一屆
大賽以“共築安全星河，護航AI發展”為主題，依託中國科學院信息工程研究所Galaxy（星河）生成式人工智慧安全風險測評平台為比賽環境。該平台提出“以攻促防，攻防相長”的大模型安全測評技術體系，研製了一套大模型自我博弈與安全能力循環升級工具集，以助力夯實我國智慧型時代的安全底座，保障人工智慧技術安全健康、可持續發展。
大賽設定安全攻擊、安全檢測、對齊防護三大賽道，旨在從攻、檢、防三個方面，聚集國內優勢力量，有效發現、分析、應對大模型安全風險，不斷提升人工智慧基礎底座的安全可控水平，更好地促進北京市及全國的大模型產業安全發展。
