《安全人工智慧系統開發指南》由英國國家網路安全中心同美國網路安全和基礎設施安全局與行業專家以及來自其他21個國際機構和部委合作制定。
當地時間2023年11月26日，包括美國、英國在內的18個國家簽署並公布《安全人工智慧系統開發指南》。
基本介紹
- 中文名：安全人工智慧系統開發指南
- 頒布時間：2023年11月26日
協定內容,修訂信息,內容解讀,
協定內容
主要內容包含了監控AI系統的濫用、保護數據不被篡改，以及審查軟體供貨商等等一般性建議，並稱其將敦促企業打造“從設計層面就注重安全”的人工智慧（AI）系統。
修訂信息
當地時間2023年11月26日，包括美國、英國在內的18個國家簽署並公布《安全人工智慧系統開發指南》。
內容解讀
美國網路安全和基礎設施安全局局長伊斯特利稱，本次《指南》簽署的重要性在於“如此多國家都支持人工智慧建設需要將安全放在第一位”。但路透社也表示，《指南》討論了如何防止人工智慧技術被黑客劫持的問題，並包括一些建議，例如只有在經過適當的安全測試後才發布模型。但“該協定並沒有解決如何使用AI的棘手問題，也未提到這些模型應如何收集數據”。IT行業媒體cnBeta也發表評論稱，《指南》對人工智慧領域的某些爭議問題未提及，包括對圖像生成模型的使用、深度偽造、不恰當的數據收集方法，以及在訓練模型中的使用應採取哪些可能的控制措施等。而在這些問題上，多家人工智慧公司曾遭到起訴。
