《人工智慧北京共識》由北京智源人工智慧研究院聯合北京大學、清華大學、中國科學院自動化研究所、中國科學院計算技術研究所、新一代人工智慧產業技術創新戰略聯盟等高校、科研院所和產業聯盟共同發布。
基本介紹
- 中文名：人工智慧北京共識
- 外文名：Beijing AI Principles
- 發布日期：2019年5月25日
機構發布,主要內容,共識全文,研發,使用,治理,重要意義,
機構發布
2019年5月25日，北京智源人工智慧研究院人工智慧倫理與安全研究中心揭牌成立。北京智源人工智慧研究院聯合北京大學、清華大學、中國科學院自動化研究所、中國科學院計算技術研究所等單位，共同發布《人工智慧北京共識》，提出人工智慧的研發、使用、治理，應該遵循有益於人類命運共同體構建和社會發展的15條原則。
主要內容
《人工智慧北京共識》針對人工智慧的研發、使用、治理三方面，提出了各個參與方應該遵循的有益於人類命運共同體構建和社會發展的15條原則。
研發方面，提倡要有益於增進社會與生態的福祉，服從人類的整體利益，設計上要合乎倫理，體現出多樣性與包容性，儘可能地惠及更多人，要對潛在倫理風險與隱患負責，提升技術水平控制各種風險，並最大範圍共享人工智慧發展成果。
使用方面，提倡善用和慎用，避免誤用和濫用，以最大化人工智慧技術帶來的益處、最小化其風險，應確保利益相關者對其權益所受影響有充分的知情與同意，並能夠通過教育與培訓適應人工智慧發展帶來的影響。
治理方面，對人工智慧部分替代人類工作保持包容和謹慎態度，鼓勵探索更能發揮人類優勢和特點的新工作，廣泛開展國際合作，共享人工智慧治理經驗。人工智慧的準則與治理措施應做到適應和適度，並開展長遠戰略設計，以確保未來人工智慧始終保持向對社會有益的方向發展。
共識全文
人工智慧的發展關乎全社會、全人類及環境的未來。下述準則對推進人工智慧的研發、使用、治理和長遠規劃提出倡議。通過推動人工智慧的健康發展，助力於人類命運共同體的構建，實現對人類和自然有益的人工智慧。
研發
人工智慧的研究與開發應遵循以下原則。
- 造福：人工智慧應被用來促進社會與人類文明的進步，推動自然與社會的可持續發展，造福全人類與環境，增進社會與生態的福祉。
- 服務於人：人工智慧的研發應服務於人類，符合人類價值觀，符合人類的整體利益；應充分尊重人類的隱私、尊嚴、自由、自主、權利；人工智慧不應被用來針對、利用或傷害人類。
- 負責：人工智慧的研發者應充分考慮並盡力降低、避免其成果所帶來的潛在倫理、法律、社會風險與隱患。
- 控制風險：人工智慧及其產品的研發者應不斷提升模型與系統的成熟度、魯棒性、可靠性、可控性，實現人工智慧系統的數據安全、系統自身的安全以及對外部環境的安全。
- 合乎倫理：人工智慧的研發應採用符合倫理的設計方法以使得系統可信，包括但不限於：使系統儘可能公正，減少系統中的歧視與偏見；提高系統透明性，增強系統可解釋度、可預測性，使系統可追溯、可核查、可問責等。
- 多樣與包容：人工智慧的發展應該體現多樣性與包容性，儘可能地為惠及更多的人而設計，尤其是那些技術套用中容易被忽視的、缺乏代表性的群體。
- 開放共享：鼓勵建立人工智慧開放平台，避免數據與平台壟斷，最大範圍共享人工智慧發展成果，促進不同地域、行業藉助人工智慧機會均等地發展。
使用
人工智慧的使用應遵循以下原則。
- 善用與慎用：人工智慧的使用者應具備使人工智慧系統按照設計運行所必需的知識和能力，並對其所可能帶來的潛在影響具備充分認識，避免誤用、濫用，以最大化人工智慧帶來的益處、最小化其風險。
- 知情與同意：應採取措施確保人工智慧系統的利益相關者對人工智慧系統對其權益的影響做到充分的知情與同意。在未預期情況發生時，應建立合理的數據與服務撤銷機制，以確保用戶自身權益不受侵害。
- 教育與培訓：人工智慧的利益相關者應能夠通過教育與培訓在心理、情感、技能等各方面適應人工智慧發展帶來的影響。
治理
人工智慧的治理應遵循以下原則。
- 最佳化就業：對於人工智慧對人類就業的潛在影響，應採取包容的態度。對於一些可能對現有人類就業產生巨大衝擊的人工智慧套用的推廣，應採取謹慎的態度。鼓勵探索人機協同，創造更能發揮人類優勢和特點的新工作。
- 和諧與合作：應積極開展合作建立跨學科、跨領域、跨部門、跨機構、跨地域、全球性、綜合性的人工智慧治理生態系統，避免惡意競爭，共享治理經驗，以最佳化共生的理念共同應對人工智慧帶來的影響。
- 適應與適度：應積極考慮對人工智慧準則、政策法規等的適應性修訂，使之適應人工智慧的發展。人工智慧治理措施應與人工智慧發展狀況相匹配，既不阻礙其合理利用，又確保其對社會和自然有益。
- 細化與落實：應積極考慮人工智慧不同場景、不同領域發展的具體情況，制定更加具體、細化的準則；促進人工智慧準則及細則的實施，並貫穿於人工智慧研發與套用的整個生命周期。
- 長遠規劃：鼓勵對增強智慧型、通用智慧型和超級智慧型的潛在影響進行持續研究，以確保未來人工智慧始終向對社會和自然有益的方向發展。
重要意義
人工智慧倫理與規範是未來智慧型社會的發展基石，已經引起了各國政府和學術界、企業界等的廣泛關注。歐盟、英國、日本等國際組織和國家，均發布了人工智慧的倫理準則。《人工智慧北京共識》強調促進人工智慧相關準則的“落地”，為未來打造“負責任的、有益的”人工智慧。這一共識的發布，為規範和引領人工智慧健康發展提供了“北京方案”，對於實現人工智慧“自律”“善治”“有序”具有重要意義。
