2020年9月14日，我國首個針對兒童的人工智慧發展原則《面向兒童的人工智慧北京共識》由北京智源人工智慧研究院聯合北京大學人工智慧研究院、清華大學人工智慧研究院、中科院計算所、中科院自動化所、中科院心理所、清華大學人工智慧國際治理研究院等高校院所，以及小米、曠視、好未來、高思、極客邦、奇虎360、新一代人工智慧產業技術創新戰略聯盟等人工智慧企業和聯盟組織在北京共同發布。
基本介紹
- 中文名：面向兒童的人工智慧北京共識
- 外文名：Artificial Intelligence for Children: Beijing Principles
- 發布日期：2020年9月14日
- 發布地點：北京
機構發布,主要內容,共識全文,以兒童為中心,保護兒童權利,承擔責任,多方治理,落地實施,
機構發布
2020年9月14日，我國首個針對兒童的人工智慧發展原則《面向兒童的人工智慧北京共識》在北京發布。
這是北京智源人工智慧研究院（簡稱“智源研究院”）聯合北京大學人工智慧研究院、清華大學人工智慧研究院、中科院計算所、中科院自動化所、中科院心理所、清華大學人工智慧國際治理研究院等高校院所，以及小米、曠視、好未來、高思、極客邦、奇虎360、新一代人工智慧產業技術創新戰略聯盟等人工智慧企業和聯盟組織共同發布的。
主要內容
作為我國首個針對兒童的人工智慧發展原則，《面向兒童的人工智慧北京共識》是《人工智慧北京共識》針對兒童群體的實施細則，涵蓋“以兒童為中心”“保護兒童權利”“承擔責任”和“多方治理”四大主題，共包括19條細化原則，呼籲社會各界高度重視人工智慧對兒童的影響，人工智慧的發展應保護和促進兒童的權益，避免剝奪和損害兒童的權利，助力實現兒童健康成長。
共識全文
兒童是人類發展的希望，同時兒童也是弱勢和脆弱群體，需要全社會的特別關注，尤其是在當前人工智慧的發展正以前所未有的方式給社會帶來深刻和廣泛影響的背景下。
社會各界應高度重視人工智慧對兒童的影響，發展對下一代負責任的人工智慧。人工智慧的發展應保護和促進兒童的權益，避免剝奪和損害兒童的權利，助力實現兒童健康成長。
以兒童為中心
面向兒童的人工智慧發展應符合以下價值觀：
尊嚴：人工智慧的發展應維護兒童的尊嚴。人工智慧的發展應重視並尊重兒童自身的思想、意願、情感、興趣愛好、自尊心等，避免對兒童的人格尊嚴造成傷害。
成長：人工智慧的發展應保護和促進兒童的自由發展與多元成長。人工智慧應促進兒童的多元智慧型發展和個性成長，積極反饋兒童的好奇心，助力激發兒童的潛力，助力引導兒童形成科學的、正確的價值觀。
公平：人工智慧的發展應公平對待和服務於所有兒童，不應對任何兒童造成歧視或傷害。人工智慧的研究與套用，凡涉及兒童享有的基本權利，不應因兒童或其父母、法定監護人及其他看護人的種族、膚色、性別、語言、宗教、政治或其他見解、國籍或社會出身、財產、傷殘、出生或其他身份等而有任何區別。
兒童優先：人工智慧的發展應優先考慮增進兒童的福祉。人工智慧在研究、設計、開發、部署和使用時應優先考慮兒童的需求和權益，優先給予兒童充分保護，優先促進兒童的發展。
保護兒童權利
人工智慧的發展應保護以下兒童權利：
安全保障：人工智慧的發展應助力於保護和促進兒童的身心安全。人工智慧應助力於保護兒童免受任何形式的身心摧殘、傷害或凌辱，忽視或照料不周，虐待或剝削，包括性侵犯，助力打擊對兒童的拐賣、猥褻等犯罪行為。
身心健康：人工智慧的發展應助力於保護和促進兒童的身心健康。如：助力增強診斷和治療兒童疾病的能力，助力解決因貧窮、飢餓、環境污染等問題引發的兒童營養與健康問題，助力保護兒童正常的認知、性格、能力、健康習慣和行為等。
隱私保護：人工智慧的發展應更嚴格地保護兒童隱私。收集兒童信息應遵循合法正當必要的原則，確保監護人的知情與同意，避免對兒童信息的非法收集和濫用。人工智慧系統應確保兒童、父母、法定監護人或其他看護人具有同意、拒絕、數據刪除、授權撤銷等權利。
優質教育：人工智慧的發展應助力於為兒童提供更包容、更公平、更優質的教育。人工智慧的發展應助力保護兒童接受教育的權利，助力為兒童提供科學優質的、合乎倫理的教育，幫助兒童充分發展個性、才智和能力，避免導致危險的、強制灌輸的、有害健康的、不道德的教育。
意願表達：人工智慧的發展應助力於維護兒童自由表達意見與意願的權利。人工智慧研發者應當通過合適的渠道認真聽取、重視並思考兒童的意見。兒童在與人工智慧互動時，應被允許自由表達意見與意願。父母、法定監護人或其他看護人可在考慮兒童意願的情況下幫助兒童與人工智慧互動。
承擔責任
面向兒童的人工智慧應承擔以下責任：
負責任：人工智慧的發展應秉承對下一代負責任的態度，充分考慮並盡力降低、避免人工智慧可能給兒童帶來的潛在倫理、法律、社會風險與隱患。人工智慧的研究、設計、部署、使用應邀請兒童及其父母、法定監護人和其他看護人參與討論，積極回應社會各界關注和重視的問題，建立及時有效的糾錯機制。
控制風險：人工智慧的套用應秉承嚴格、審慎的原則，努力控制並最小化給兒童帶來的潛在風險。目前關於人工智慧對兒童心理、生理以及行為的影響仍有待研究，且兒童自身的思維與行為具有較高的不確定性，因此面向兒童的人工智慧技術及產品應在成熟度、穩健性、安全性、可靠性、可控性等方面符合更高的標準和要求。
適度解釋：人工智慧模型、產品、套用與服務應在不斷致力於提高自身透明性與可解釋性的基礎上，進一步考慮不同階段兒童的認知水平、自身需求和表達能力，提供相應的透明程度與解釋水平，並為兒童提供有效的反饋與互動方式。
確保知情：涉及人工智慧技術的非人類互動對象或非真實內容，應以明確的、可理解的方式告知兒童及其父母、法定監護人或其他看護人，確保其認知不被誤導、不受人工智慧可能帶來的負面影響。
培訓引導：應積極引導兒童、父母、法定監護人或其他看護人正確認識和理解人工智慧服務。通過多途徑、多方式的培訓，引導兒童、父母、法定監護人或其他看護人形成合理的認識，避免出現對人工智慧套用的盲信、沉迷、誤解等。
可持續：應將對兒童成長、發展的持續有利作為面向兒童的人工智慧的發展目標。應關注人工智慧長期套用中的不確定性，避免為追求短期利益而可能給兒童帶來負面影響的短視行為。
多方治理
面向兒童的人工智慧治理應遵循以下原則：
制定政策：應研究和制定保護兒童權益的人工智慧發展政策、倫理規範等。應加強人工智慧對兒童潛在影響的研究，制定前瞻性的行為準則、法律法規和技術規範，建立長期追蹤研究和周期性評估機制。鼓勵和推動人工智慧向保護與促進兒童權益的方向健康發展。
健全法治：人工智慧的利益相關者應自覺嚴格遵守兒童相關的行為準則、法律法規和技術規範。人工智慧立法應關注人工智慧對兒童權益的影響，促使其在法律體系中得到明確有效的體現。應設立治理機構，建立嚴格的審查和追責機制，嚴厲懲處濫用人工智慧侵害兒童權益的個人及組織。
多方協作：應鼓勵兒童、父母、法定監護人或其他看護人，以及政府、相關企業、民間團體等社會各界人士參與討論人工智慧對兒童的潛在影響，並倡導多方協作共擔責任的治理模式，實施跨學科、跨領域、跨部門、跨機構的面向兒童的人工智慧治理。
開放共享：應建立跨地域、全球性、綜合性的人工智慧治理開放合作平台，共享面向兒童的人工智慧治理經驗和方法，促進全球面向兒童的人工智慧治理共同發展，助力人工智慧時代下的全球兒童健康成長。
註：
1.有關兒童的定義，建議參考聯合國《兒童權利公約》及各個國家或地區的規定。
2.本共識中有關價值觀和兒童權利的描述，部分參照了聯合國《兒童權利公約》文本。
落地實施
目前，《面向兒童的人工智慧北京共識》已得到中科院幼稚園、北京大學附屬國小、好未來、高思、極客邦、童行學院等教育機構的支持，將與這些機構深度協作探索共識落地和未來的不斷演進。未來智源研究院希望在相關機構的支持下，推動《面向兒童的人工智慧北京共識》在其他幼稚園、中國小，以及社會教育機構中的落地實施，為推動兒童及青少年的健康發展提供重要支撐。作為初步的探索與實施工作，好未來、高思、極客邦、童行學院等教育機構和曠視、小米、奇虎360等人工智慧企業已經表示要藉助“人工智慧與兒童”工作組，結合自身AI產品與業務積極踐行《面向兒童的人工智慧北京共識》。
