詞語解讀
生成式人工智慧指稱一種通過學習大規模數據集生成新的原創內容的新型人工智慧,它是基於算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。提供生成式人工智慧產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗。
《2023年十大新興技術報告》中指出生成式人工智慧是一種通過學習大規模數據集生成新的原創內容的新型人工智慧,在2022年底因ChatGPT發布而引起了公眾廣泛關注。生成式人工智慧將在教育和研究等多個行業引發顛覆性變革。
2023年以來,以ChatGPT為代表的生成式人工智慧成為全球科技熱點,它不僅影響著人類的生活和生產方式,還為各種行業的創新和發展提供了新的工具和視角。
技術簡介
該機器學習方法從其數據中學習內容或對象,並運用數據生成全新、完全原創的實際工件。
用途風險
用途
可用於多種活動如創建軟體代碼、促進藥物研發和有針對性的行銷。
風險
也有被濫用於詐欺、欺詐、政治造謠、偽造身份等風險。
數據比例
預計到2025年生成式人工智慧將占所有生成數據的10%,而目前這一比例還不到1%。
管理辦法
2023年4月11日,為促進生成式人工智慧技術健康發展和規範套用,國家網際網路信息辦公室就《生成式人工智慧服務管理辦法(徵求意見稿)》向社會公開徵求意見。徵求意見稿提出,提供生成式人工智慧產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗,禁止非法獲取、披露、利用個人信息和隱私、商業秘密。《徵求意見稿》要求,利用生成式人工智慧產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的網際網路信息服務安全評估規定》向國家網信部門申報安全評估,並按照《網際網路信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。
2023年7月,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智慧服務管理暫行辦法》,自2023年8月15日起施行。出台《辦法》,旨在促進生成式人工智慧健康發展和規範套用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。
發展情況
2023年5月,IBM發布了新的人工智慧和數據平台Watsonx。Watsonx將使IBM的客戶能夠發布基礎模型和生成式人工智慧,並在任何雲環境的一個地方存儲和管理它們。
2023年6月13日,東京都知事小池百合子宣布,東京都所有的政府部門都將引入以 ChatGPT 為代表的生成式 AI,該計畫將於 8 月起全面施行。
2023年6月14日,歐洲議會投票通過了《人工智慧法案(AI Act)》,禁止實時面部識別,並對ChatGPT等生成式人工智慧工具提出了新的透明度要求。
2023年8月15日起,國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局發布的《
生成式人工智慧服務管理暫行辦法》正式施行,這也是我國首個針對生成式人工智慧產業的規範性政策。
2023年9月21日,亞馬遜推出了一系列全新的設備,並為其語音助手Alexa加入了生成式人工智慧功能,該公司希望藉此鞏固其在人工智慧競賽中的地位。
2023年12月,生成式人工智慧入選“漢語盤點”發布2023年度中國媒體十大新詞語。12月26日,生成式人工智慧入選“
2023年度十大科技名詞”。
學者觀點
生成式人工智慧的倫理法律風險受關注
2023年是世界網際網路大會烏鎮峰會第十年,全球科技行業的熱詞,非人工智慧莫屬。由ChatGPT帶動的生成式人工智慧、大模型熱潮,引起學界廣泛的關注和討論。
有學者指出,從醫療健康到交通運輸,從金融領域到農業生產,人工智慧正引領著各個領域的變革。然而,我們也需要認識到人工智慧套用所帶來的挑戰和風險。在推動人工智慧技術發展的同時,我們必須確保其套用符合法律法規和倫理原則,避免潛在的負面影響。
有學者認為,生成式人工智慧的廣泛運用會強化目前已經顯現的各種社會倫理問題,帶來偏見和歧視。如果用於開發人工智慧算法和模型的訓練數據有偏見,算法和模型也會有偏見,從而導致生成式人工智慧的回應和建議出現歧視性的結果。還有如信息誤導、信息濫用以及對個人自主性的干預,如生成式人工智慧在商業上可能被用來影響或操縱用戶的行為和決策。
有學者從法律方面分析認為,人工智慧的發展所產生的最大挑戰就是引發侵權風險。與傳統的侵權行為不同的是,ChatGPT引發的侵權行為,主要是侵害人格權和著作權。如生成式AI可能引發大規模隱私或者個人信息泄露問題。不法行為人有可能通過攻擊大規模語言模型,提取出訓練數據中的核心隱私和敏感個人信息,從而導致個人信息、隱私的大規模泄露,形成“大規模微型侵害”的現象。
還有學者認為,生成式人工智慧的普及套用將對重複性、模板化的工作崗位帶來衝擊,催生大量“無用階層”,導致社會階層固化,將造成更為嚴重的社會及政治不平等。與人類歷史上的其他任何時期相比,這種信息技術有可能造成更大的收入差距。應高度重視科學技術對經濟社會的影響,及早做好技術創新和疊代發展的公共政策、社會政策儲備工作。
還有學者認為,隨著人工智慧在國家競爭力、國家安全等方面的作用凸顯,各國都在加緊相關規劃部署和政策制定,人工智慧已經成為國際競爭新的焦點所在。大模型對算力的巨大消耗也對低碳轉型目標的實現帶來新的挑戰,這些新的問題成為各國政府關注的新課題。
社會影響
2023年12月,生成式人工智慧入選“2023年度十大科技名詞”。
2024年2月,廣州網際網路法院生效了一起生成式AI服務侵犯他人著作權判決,這也是全球範圍內首例生成式AI服務侵犯他人著作權的生效判決。該案認為,被告(某人工智慧公司)在提供生成式人工智慧服務過程中侵犯了原告對案涉奧特曼作品所享有的複製權和改編權,並應承擔相關民事責任。