簡介
世界衛生組織(WHO)於2021年6月28日正式發布了“世界衛生組織衛生健康領域人工智慧倫理與治理指南(Ethics and Governance of Artificial Intelligence for Health: WHO Guidance)”。這項指南依託世界衛生組織任命的衛生健康領域人工智慧倫理與治理專家組編寫,歷時18個月。受國家衛健委和科技部推薦,
中國科學院自動化研究所曾毅研究員作為世界衛生組織衛生健康領域人工智慧倫理與治理專家組成員參與了報告編寫發布的全過程。
世界衛生組織總幹事
譚德塞(Tedros Adhanom Ghebreyesus)在指南發布聲明中指出:“就像所有其他的新技術一樣,
人工智慧對於提升世界上數以億計民眾的
健康潛力巨大。但也正如其他技術一樣,也能夠被誤用和帶來危害。這份重要的新報告為不同的國家最大化
人工智慧的益處和最小化其風險並避免危害提供了一份有價值的指南。”
內容解讀
報告概述了
人工智慧在醫療與衛生中的各種套用,指出人工智慧在相對富裕的國家已經被用於提升治療的速度和精準度以及疾病的篩查,協助臨床護理,加強衛生研究與藥物研發,支持疾病監測,疫情應對和衛生系統管理等多種公共衛生干預措施。
報告還指出人工智慧可以使患者能夠更好地掌控自身的健康情況,並更好地了解自身不斷變化的需求。它還可以使資源貧乏的國家和農村社區能夠彌合獲得保健服務方面的差距,因為那裡的病人接觸到保健工作者或醫療專業人員的機會都是非常有限的。
世衛組織的新報告告誡,不能高估
人工智慧對
健康的益處。機會與挑戰和風險高度相關,包括不符合
倫理地收集和使用健康數據、算法中的偏見,人工智慧對患者安全的風險、網路安全和對環境產生的負面影響。
報告提出了確保
人工智慧符合所有國家公共利益的六項原則:
在衛生健康方面,這意味著人類自身應確保繼續掌控醫療決策過程和對醫療系統的控制;
隱私和保密應受到保護,患者必須通過適當的數據保護法律框架給予有效的
知情同意。
促進人類福祉、安全以及公共利益。
人工智慧技術的設計者應確保滿足對明確定義的使用案例或指示的安全性、準確性和有效性的監管要求。必須提供實踐中的質量控制措施並對使用人工智慧改進質量提供有效測度。
確保透明度、可解釋性和可理解性。
透明度要求在設計或部署人工智慧技術之前發布或記錄足夠的信息。這些信息必須很容易獲得,並對就技術的設計方式以及應如何使用或不應使用技術進行有意義的公眾諮詢和辯論提供便利。
促進責任和問責。
雖然現有人工智慧技術仍是執行特定的任務,但利益相關者有責任確保在恰當的條件下使用,並由受過恰當培訓的人員使用。應提供有效的機制支持問詢,並為受到基於算法決策不利影響的個人和團體提供補救措施。
確保包容性和公平性。
包容性要求
人工智慧在健康領域的套用應鼓勵儘可能廣泛的公平使用和獲取,而不論年齡、性別、收入、
種族、
性取向、能力或受人權法保護的其他特徵如何。
促進負責任和可持續的人工智慧。
設計人員、研發人員和用戶應在實際使用期間持續、透明地評估人工智慧套用,以確定人工智慧是否對套用期望和需求做出充分和適當的回響。還應設計人工智慧系統,以儘量減少其環境負面影響並提高能源效率。政府和公司應積極應對工作場所中可預期的問題,包括培訓衛生與健康領域工作者以適應人工智慧系統的使用,以及由於使用自動化系統而可能產生的失業問題。
曾毅還記得,2019年10月在日內瓦召開的第一次會議期間,專家們就討論到緊急公共衛生危機期間
AI套用涉及到的相關方和可能帶來的風險和
倫理挑戰。新冠對
公共衛生的挑戰是全球性的,也更凸顯了
世界衛生組織發布健康領域
人工智慧倫理與治理指南的意義。“下一步這些指南和原則在不同國家如何進行技術和社會落地,促進人類衛生健康共同體的形成,是與提出原則本身至少同樣重要的問題。”
曾毅強調。