《人工智慧時代新聞媒體的責任與使命》是新華社國家高端智庫發布的智庫報告，於2024年10月14日發布。
基本介紹
- 中文名：人工智慧時代新聞媒體的責任與使命
- 發布單位：新華社國家高端智庫
- 發布時間：2024年10月14日
發展歷史,內容全文,內容解讀,
發展歷史
2024年10月14日，新華社國家高端智庫發布《人工智慧時代新聞媒體的責任與使命》。
新華社國家高端智庫發布了《人工智慧時代新聞媒體的責任與使命》
內容全文
目錄
導言
第一部分機遇：人工智慧賦能傳媒發展
一、產能新驅動
二、體驗新升級
三、業態新前景
第二部分挑戰：人工智慧催生多重風險
一、虛假信息引發信任危機
二、技術濫用破壞輿論生態
三、快速發展加劇治理憂慮
四、智慧型套用加大發展鴻溝
第三部分使命：堅持以人為本推動智慧型向善
一、加快智慧型驅動，提升媒體價值
二、立足善意使用，健全倫理規範
三、加強對話合作，完善全球治理
第四部分調查：全球新聞媒體人工智慧認知及套用現狀
結語
編寫說明與致謝
參考文獻
從全球範圍看，媒體智慧型化進入快速發展階段。我們要增強緊迫感和使命感，推動關鍵核心技術自主創新不斷實現突破，探索將人工智慧運用在新聞採集、生產、分發、接收、反饋中，用主流價值導向駕馭“算法”，全面提高輿論引導能力。①
——習近平
導言
生成式人工智慧技術的快速發展及廣泛套用，引發席捲全球的人工智慧熱潮，新聞媒體也再一次迎來變革發展的機遇。科幻小說中那個神秘的“技術奇點”正從想像走入現實，帶領人類進入一個充滿未知的嶄新時空。“智媒”時代正向我們走來。
人工智慧為新聞媒體行業帶來無限可能性，但正如之前歷次傳播技術革命一樣，人工智慧的發展也無法擺脫“科林格里奇困境”，新興技術的利弊在得到實踐檢驗之前，仍處於“黑箱”之中。
構建有效的治理機制，促進人工智慧造福人類，已經成為國際社會的廣泛共識。2023年10月，中國國家主席習近平在第三屆“一帶一路”國際合作高峰論壇上提出《全球人工智慧治理倡議》。《倡議》指出，人工智慧治理攸關全人類命運，是世界各國面臨的共同課題。在世界和平與發展面臨多元挑戰的背景下，各國應堅持發展和安全並重的原則，通過對話與合作凝聚共識，構建開放、公正、有效的治理機制，促進人工智慧技術造福於人類，推動構建人類命運共同體。圍繞人工智慧發展、安全、治理等問題，《倡議》提出了“以人為本”“智慧型向善”等基本原則，為解決人工智慧治理難題貢獻了中國方案。
人工智慧時代，新聞媒體面臨哪些機遇與挑戰？推動智慧型向善，新聞媒體應該如何履行職責使命？圍繞這些問題，新華社國家高端智庫課題組以中、英、法三種語言面向全球新聞媒體機構開展問卷調查，最終得到有效問卷1094份，受訪者來自53個國家和地區，包括報刊、廣電、通訊社、網站、移動套用服務商等。與此同時，課題組還廣泛走訪全球各大主流媒體、科技公司與科研院所，聚焦人工智慧時代新聞媒體的機遇與挑戰、責任與使命開展深入調研。基於調研數據及訪談結果，課題組進行了科學的定性和定量分析，經過深入研究、反覆研討，最終形成《人工智慧時代新聞媒體的責任與使命》研究報告。
報告發現，全球新聞媒體整體上（66.0%）對生成式人工智慧對行業的影響持積極態度，多數媒體（67.6%）已切身感受到人工智慧帶來的變化，超半數媒體（51.2%）已開始套用人工智慧。媒體對生成式人工智慧的期待主要聚焦於提高新聞報導的時效性（74.6%）與生產效率（74.4%）等，同時警惕人工智慧帶來的“新聞線索和素材失真失準”（76.4%）等可信度風險。多數新聞媒體（85.6%）認為需要對生成式人工智慧的套用加強監管。
報告認為，人工智慧給新聞媒體的發展帶來產能新驅動，從內容的採集、生產、分發、評估等環節促生了媒體新質生產力；賦予媒體及其消費者超越時空、虛實融合、人機交流的體驗新升級；開創了萬物媒介化、媒體平台化、產業數智化的新興業態。
報告提出，人工智慧的不確定因素及其濫用惡用，催生了多重風險挑戰。虛假信息在規模、形態和傳播路徑上不斷升級，引發了全球範圍內的真實性危機；技術的自身局限與使用者的私利訴求產生“合謀”，污染了輿論生態，對個體認知和社會輿論造成負面影響，並加重了國際層面的信息對抗；廣泛存在的價值爭議和倫理困境，令人工智慧在發展與治理中陷入“兩難”；“智慧型鴻溝”或將進一步拉大人際、城鄉和南北差距，助長技術霸權，加劇全球發展失衡。
報告提議，新聞媒體需肩負社會責任使命，堅持“以人為本”，推動“智慧型向善”，從加快智慧型驅動、提升媒體價值，立足善意使用、健全倫理規範，加強對話合作、完善全球治理等方面堅守人工智慧時代下的責任與使命，為構建人類命運共同體，建設更加美好世界匯聚強大的媒體力量。
第一部分機遇：人工智慧賦能傳媒發展
把握數位化、網路化、智慧型化融合發展契機，在質量變革、效率變革、動力變革中發揮人工智慧作用，提高全要素生產率。②
——習近平
新一代人工智慧正在全球範圍內蓬勃興起，為經濟社會發展注入了新動能，正在深刻改變人們的生產生活方式。③在新聞媒體領域，智慧型“湧現”與5G、大數據、雲計算、物聯網、區塊鏈等技術共同點燃了新一輪媒介革命的引擎。透過徐徐拉開的人工智慧變革大幕，我們看到，新聞媒體正迎來產能新驅動、體驗新升級、業態新前景的良好機遇。
一、產能新驅動
當今，人工智慧迎來爆發式增長，算法推薦、語音互動、知識問答、圖像生成等技術套用不斷突破，生成式人工智慧的熱潮蔓延全球。2022年底，美國OpenAI公司研發的生成式人工智慧ChatGPT橫空出世；2024年，文生視頻大模型Sora再度驚艷世界；近來，OpenAI推出最新o1模型、快手“可靈”入局文生視頻賽道、Kimi大模型助手更新支持到200萬字超長文本分析……多模態及垂直領域大模型不斷在世界各地湧現，人工智慧技術在全球呈現加速發展的趨勢。
人工智慧技術“井噴式”發展為新聞媒體提供了新的產能驅動。眾多媒體紛紛把握這一技術先機，爭做人工智慧“早鳥”。新華社課題組調查顯示，目前全球已有10.2%的媒體機構全面擁抱人工智慧，在機構層面設立了相應機制，由上而下地將人工智慧引入生產流程；41.0%的媒體機構正在積極探索人工智慧技術套用，鼓勵和支持部分新聞業務板塊試用人工智慧技術。人工智慧正在成為新聞媒體促生新質生產力、實現高質量發展的重要增量。
圖片1
1.聚合信息，豐富來源
新一代人工智慧技術通過精準的搜尋引擎、分析引擎和可視化組件，自動收集背景信息，推薦訊息來源和線人，進行訊息源驗證和核查，為采編人員提供更具價值的新聞線索和多元觀察視角。
新華社研發的“新聞雷達（NewsRadar）”，能夠自動預警突發事件，並根據事件性質和規模預測事件熱度；BBC研發的新聞聚合和內容抽取系統“榨汁機（Juicer）”，能夠自動抓取全球免費新聞網站的內容，利用人工智慧將新聞分類、貼標籤，為記者提供新聞素材和選題參考；《紐約時報》開發的數據分析機器人“Blossomblot”，通過對社交平台上推送文章的分析，預測適宜在社交平台上傳播的信息，幫助打造“爆款”內容；美聯社推出由人工智慧驅動的多模態搜尋平台，用戶可以通過語義搜尋更容易地找到符合條件的照片和視頻，為豐富新聞媒體的信息來源提供幫助。
2.輔助生產，最佳化品質
在新聞生產環節，智慧型創作平台以“知識服務+AI”的方式，為媒體從業者提供更多的知識輔助與支撐；寫作機器人、AI創作助手等技術套用，能完成語音轉文字、自動剪輯、字幕生成、智慧型配樂、自動翻譯、文本圖片轉視頻等一系列工作任務。人工智慧的深度套用，讓媒體人從大量重複瑣碎的人工勞動中解放出來，專注於內容創新創意。
新華社自主打造可控、可靠、多智慧型體融合生產引擎“新華新語”，在內容核查、虛假信息鑑別、智慧型態勢分析、知識增強的智慧型策劃、視覺增強的智慧型創作等方面表現突出。人民日報推出的“創作大腦AI+”平台，集納了近20款智慧型工具，可及時製作、快速生成多模態新媒體產品，一站式完成採訪、拍攝、直播、剪輯、發布等全流程工作；全息採錄眼鏡支持實時人臉識別、AI語音互動、實時直播流發起等多種功能。在垂直報導領域，針對各類細分行業的專業模型也不斷湧現。彭博社是人工智慧、機器學習和自然語言處理在金融領域套用的開拓者，其開發的Bloomberg GPT TM語言模型專門針對各種金融數據進行訓練，為進一步最佳化金融信息服務打開了新空間。
課題組調查顯示，在套用場景上，媒體機構有組織探索較多的前三個方向是：
1.輔助編輯，如事實核查、語音轉文字、配字幕、翻譯等；
2.創作內容，如生成摘要、製作圖表海報、數字主播配音等；
3.策劃選題或草擬提綱。
圖片2
3.精準畫像，個性分發
在內容分發環節，人工智慧依託廣泛串聯的數據信息，幫助媒體開啟深度洞察，勾勒用戶畫像，與用戶建立深度聯接，更好實現精準推送。
今天，藉助人工智慧技術，個性化推薦已經成為新聞分發的主流方式。媒體的推薦邏輯不僅基於歷史瀏覽記錄，還將更多精細化的數據納入考量。美國新聞聚合網站BuzzFeed、風靡全球的短視頻平台TikTok都將用戶數據分析做到極致，根據用戶點擊的頻次、停留的時間、喜好的內容等做出綜合分析，指導內容策劃、運營和推廣。
不僅如此，生成式人工智慧還賦能“點對點”信息傳播。這意味著，用戶能夠通過嵌入在各種搜尋引擎和應用程式里、專屬於自己的“信息管家”，獲得特定場景下所需要的內容。藉助“點對點”傳播，智慧型分發甚至不必通過集中性的平台就能實現。目前，微軟、谷歌、百度等均已在搜尋引擎中部署了生成式人工智慧程式，大型語言模型與搜尋引擎的融合，或將成為新的流量入口和新聞分發渠道。
4.科學評價，高效管理
人工智慧技術能精準實現傳播效果評估與數據考核，幫助媒體進一步提升管理效率。如通過分析用戶觀看時長、點擊率以及分享次數等數據來量化評估內容的吸引力；通過情感分析工具捕捉客群在觀看過程中的情感變化和社交媒體上的討論，判斷傳播內容的感染力；通過觀察用戶的互動行為，如評論數量、點讚、踩、舉報等，來評估用戶的參與熱情。
在《華盛頓郵報》“中央廚房”編輯室的螢幕上，可視化數據圖表同步顯示網站的登錄人數、每篇文章的閱讀數排名、用戶喜歡作者排名以及讀者喜歡閱讀的文章類型百分比等數據。英國《金融時報》會用機器人檢查報導中引用的信源是否過多地來自特定人群。
課題組調查顯示，有74.6%的受訪媒體預期，生成式人工智慧有助於提高新聞報導的時效性；有74.4%的受訪對象認為，生成式人工智慧有助於提高新聞生產效率；預期生成式人工智慧對提升新聞分發精準度和作品呈現創造性有幫助的媒體占比分別達到66.7%和63.3%。
圖片3
二、體驗新升級
人工智慧技術與新聞媒體的深度結合，不僅強力賦能新聞信息生產，而且為新聞信息的消費者帶來充滿驚喜的新變化。人工智慧時代的媒介消費，將是一種以人為本、聯通萬物的全新體驗，“四全媒體”（全程媒體、全息媒體、全員媒體、全效媒體）的發展圖景更加清晰、機遇空間更加廣闊。
1.超越時空，隨時觸達
人工智慧技術的廣泛套用，讓傳播超越時空限制，在任何時間、任何空間、任何場景都能到達用戶。
媒體智慧型系統能夠根據用戶行為、立場、興趣偏好的動態變化，第一時間捕捉用戶的即時需求，在重大新聞事件爆發時，迅速識別並推送相關資訊。大模型還可以根據已知信息進行信息補全，模擬事件發生經過和還原新聞現場，用具象化的方式解釋新聞事件，確保用戶在“黃金時間”獲取真實、全面的信息。
智慧型驅動的場景感知貼身服務，能夠識別用戶的地理位置信息，推送與其生活緊密關聯的內容。NBC環球在巴黎奧運會期間新推出電子商務廣告工具“虛擬售貨亭”，結合客群觀看節目時的消費習慣，推出不同類型的廣告服務。未來，越來越複雜的算法總能隨時隨地感知用戶對於信息獲取、商品交易、享受服務等多元需求，用戶到哪裡，服務就延伸到哪裡，並以合適的方式呈現出來。
2.虛實融合，身臨其境
人工智慧與虛擬現實（VR）、增強現實（AR）、混合現實（MR）等技術結合，搭建起全方位、多感官、多維度的傳播場景，為沉浸式體驗增添智慧型維度。
全息通訊疊加強大的算法、算力，讓高保真的數位化影像實時呈現，用戶可化身為與自己等比的虛擬形象，在虛擬世界中通過“數字分身”實現實時互動，不僅可在人與人之間創建更真實的情感聯結，更能夠使用戶“親身”體驗難以獲得的現實經歷。中央廣播電視總台利用“虛幻引擎+XR+虛擬演播室技術”，在颱風“摩羯”等相關報導中實現室內與戶外多場景的絲滑轉場，不僅顯著增強了信息傳遞的有效性，也提升了報導的藝術表現力；《紐約時報》《泰晤士報》《時代周刊》等也利用AR技術還原NASA火星任務、重溫阿波羅11號執行任務全程、呈現亞馬遜熱帶雨林變遷，給用戶帶來更真實、直觀的感受。
人工智慧與多模態技術的融合，還將實現文化、地域、傳統、美學的數位化躍遷，廣泛套用於歷史文化藝術的傳播。用戶可以用手代槌敲響虛擬國家一級文物——曾侯乙編鐘，親身體驗國寶魅力；用戶可以深入一磚一瓦、每一幅壁畫、每一處雕刻都被精準還原的巴黎聖母院，以全息全感的方式領略這座世界級文化遺產的歷史迴響與藝術精髓。
3.人機交流，達意傳情
媒體利用大模型技術，採用人性化的對話方式提供信息內容，打破傳統媒體與客群間的單向傳播模式，實現雙向交流和互動，使用戶在信息獲取過程中有更多的參與感。隨著機器對人類心理洞察、情緒感知能力的不斷增強，人工智慧還將推動媒體從“物理性媒介”向“心理性媒介”過渡，使用戶在信息接收過程中，得到內心撫慰和情感滿足。
當前，生成式人工智慧在新聞活動中已有一定的“主體性人格”，藉助人工智慧開發的“新聞管家”“信息伴侶”等垂直化套用，將具有更強的社交智慧型，能根據其所定位的角色、個體信息和個性化需求來定製功能。隨著聊天的不斷深入，用戶會發現，這些人工智慧在互動中越來越主動，會自行引入新的話題、提供意想不到的額外信息和情感支持，用戶也可以對人工智慧的回答進行反駁、質疑，促使其不斷提高回答質量。在互動中，人工智慧已逐步從“工具”發展成為“夥伴”。
三、業態新前景
人工智慧是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的“頭雁”效應。④在人工智慧驅動下，一些國家和地區的傳媒業態正從簡單的“+AI”（將人工智慧作為輔助工具）逐步提質升級到“AI+”（人工智慧成為核心驅動力）的新高度。展望未來，在人工智慧技術的加持下，傳媒業態或將加速呈現萬物媒介化、媒體平台化、產業數智化的新前景。
1.萬物媒介化
以信息技術、人工智慧為代表的新興科技快速發展，大大拓展了時間、空間和人們認知範圍，人類正在進入一個“人機物”三元融合的萬物智慧型互聯時代。⑤人工智慧，正攜手5G、物聯網、大數據、雲計算等技術，讓“萬物皆媒”成為現實。
在人工智慧的賦能下，信息傳播將突破人的限制，實現人與人、人與物、物與物的泛在化連線。如無人機、攝像頭、感測器等套用，延伸了人的“感官”，可觸達遠距離、多維度的信息。生成式人工智慧則更像“人腦”，具有歸納總結、推理演繹、內容生成等功能。這些具備了泛媒介化媒體屬性的“智慧型體”，與人協同融合、自我進化。
在“萬物皆媒”的時代，幾乎任何智慧型終端都不僅是內容分發接收終端，也是人機互動、協同、陪伴的能動主體。智慧型家居、智慧型汽車、智慧型音箱、智慧型手錶等終端的傳播潛能日漸凸顯，對智慧型終端及其採集數據的控制和利用，也將成為傳媒業及媒介生態中的新競爭力。新聞媒體積極適應智慧型網聯汽車發展趨勢，面向高速移動環境下的媒體套用場景，基於人工智慧、生物感測、情感計算等技術進行個性化音頻內容推送,拓展新聞信息傳播套用場景，打造感測器技術與新聞傳媒融合新模式。未來，人體終端化、腦機接口技術等，更將不斷擴展人類信息傳播和精神交往的廣度和深度。
2.媒體平台化
平台作為數字基礎設施，具有強大的技術、龐大的用戶群以及將不同群體相連線的能力，成為“重構傳播權力”的重要力量。在人工智慧技術的驅動支撐下,“媒體平台化”的現實可能和未來空間進一步被拓展。
媒體平台化意味著，通過技術創新和用戶參與，新聞媒體實現了信息的快速傳播、個性化推送和多樣化表達，增強了信息傳播的便捷性和互動性，並整合傳統媒體和新媒體的優勢，通過多渠道傳播提供綜合服務，實現傳播觸角、內容生態、商業模式、運營機制的全新塑造。新華社客戶端不斷最佳化提升算法，升級智慧型推薦、精準推送能力，將用戶閱讀習慣、專業新聞判斷與前沿計算機技術結合，突出主流價值導向，探索打造移動網際網路時代的新型訊息總匯和主流傳播平台。
在媒體平台化的過程中，新聞媒體既是傳播媒介，即內容生產機構和運營機構；又是技術載體，即利用數據、算法、人工智慧技術等對社會關係產生影響；同時具有商業資本的屬性，通過聚合連線，實現對市場資源的匹配和再分配。由此，智慧型化的媒體平台在新傳播場景中可以占據更多主動，成為社會信息傳播的主要場景和容納各類社群的服務載體。
3.產業數智化
人工智慧帶來了巨大的產業機遇和廣闊的市場前景。中國《新一代人工智慧發展規劃》提出，到2030年，中國人工智慧核心產業規模超過1萬億元，帶動相關產業規模超過10萬億元。越來越多的新聞媒體率先接納、堅持、尋求數位化和智慧型化技術帶來的轉型與突破，從傳統媒體向智慧型媒體不斷邁進。
數智化轉型意味著傳媒產業從內容驅動向技術、資本和內容等多重驅動的轉變，這種轉型升級不僅體現在內容與技術的緊密結合，更涉及整個產業鏈的深度融合與重構。在人工智慧的推動下，傳媒產業鏈上下游及其關係發生深刻變化：上游內容創作者與技術專家更緊密地合作，共同參與內容創作全過程，使得內容創作更加便捷和高效；中游媒體平台加強與技術公司合作，建立“智慧型中台”，在提升全要素生產效率的同時連線更廣泛的社會資源，為傳媒產品的創意策劃、內容審核等提供科學、高效的技術解決方案；下游終端渠道重視內容分發和推廣策略制訂，精準推送內容給目標用戶，增強傳播效果和用戶黏性。
傳媒產業鏈的升級演變，將推動傳媒產業結構進一步調整和最佳化，為傳統傳媒業突破發展瓶頸、實現更高質量發展提供更多可能性。新京報依託空間漫遊技術，推出《沉浸中軸(AR+VR)：全景穿越京城脊樑》視覺產品，立體形象地重現了北京中軸線上的15個申遺遺產點位，助力文化傳承與申遺保護工作，探索挖掘衍生文創產品等商業價值。齊魯晚報基於虛擬設計、AI數字人、光學動捕拍攝等技術打造了元宇宙平台“壹點天元”，推出“雲祭孔”元宇宙發布會、齊魯國際車展元宇宙展廳、元宇宙醫院，建設元宇宙文化綜合社區，探索新型商業模式。未來，人工智慧技術將為媒體的多元化跨界“淘金”，實現“增產增收”帶來更多可能。
第二部分挑戰：人工智慧催生多重風險
人工智慧技術發展和其他技術進步一樣，是一把“雙刃劍”。⑥
——習近平
一切技術發展，都具有“福禍相依”的兩面性。著名物理學家霍金曾發出警告，強大人工智慧的崛起對人類來說，可能是最好的事情，也可能是最糟糕的事情。由於人工智慧技術自身的不確定性和套用的廣泛性，人工智慧發展在賦能新聞媒體的同時，也催生出種種風險。
一、虛假信息引發信任危機
真實性是新聞的生命，事實是新聞的本源，虛假是新聞的天敵。⑦人工智慧技術的濫用惡用使得虛假信息生產及傳播呈現大規模、多樣化、病毒式等特點，不僅侵蝕著新聞媒體的社會信任基礎，還引發了全球信息環境的真實性危機。
1.“無限量產”更具災難性
人工智慧的介入從技術上降低了虛假信息生產傳播的門檻和成本，大幅提升了正常信息環境中虛假信息的數量級，為人類正確認知社會製造出層層“信息迷霧”。
在一項針對人工智慧大模型的測試中，研究人員向ChatGPT提出充滿陰謀論和虛假敘述的問題，結果它以新聞、散文和電視腳本等形式，在幾秒鐘內編成大量看似令人信服卻毫無信源的內容。業內人士感嘆，“這個工具將成為網際網路上有史以來最強大的傳播錯誤信息的工具。”
課題組調查顯示，生成式人工智慧在傳媒領域已引發行業變局，不過不同媒體機構的感知存在“溫差”。有32.4%的受訪媒體表示生成式人工智慧對他們的影響“尚不明顯”。67.6%的受訪對象則明顯覺察到近在眼前的變局，共鳴較多的三個側面是：
1.生產流程需要改造，編輯記者工作方式面臨轉變；
2.媒體之間、尤其是來自自媒體的競爭更激烈；
3.需抽出更多精力來分辨虛假新聞、虛假照片等。
圖片4
不同國家的調查數據都表明，人工智慧在虛假信息傳播中發生強力推動作用。清華大學新聞與傳播學院新媒體研究中心2024年4月發布的報告《揭秘AI謠言：傳播路徑與治理策略全解析》指出，人工智慧工具的不當使用使得AI謠言量高速增長，近半年信息量增長65%，其中經濟與企業類AI謠言量增速甚至高達99.91%。美國新聞可信度評估與研究機構在2023年底發布的一份報告稱，利用人工智慧代理創建的假新聞網站在7個月內從49個激增至600多個，“人工智慧正在成為下一個‘錯誤信息超級傳播者’”。
課題組調查顯示，多數媒體機構對生成式人工智慧的套用較為審慎，擔心被其拉低可信度。對於“您所在媒體機構遇到過或預期會遇到哪些生成式人工智慧帶來的問題”這一提問，高達76.4%的受訪對象表示，擔心出現“新聞線索和素材失真失準”的情況，明顯超過回答數量排在第二位的“著作權及權責歸屬問題”（占比為61.1%）。
圖片5
人工智慧助長虛假信息泛濫已經引起全球範圍內的警惕與擔憂。韋氏詞典、劍橋詞典分別選擇“Authentic（真實）”“Hallucinate（幻覺）”為2023年度辭彙，均是對人工智慧引發真實性危機的回應。在世界經濟論壇2024年年初公布的《全球風險報告》中，人工智慧生成的錯誤信息和虛假信息也被排在氣候變化、戰爭和經濟疲軟等問題之前，成為人類世界在短期內要面對的頭號風險。
對於未來3至5年生成式人工智慧與傳媒行業融合會否提升信息環境可信度可靠性的問題，有36.4%的受訪對象持悲觀預期，比持樂觀預期者（24.1%）高出12.3個百分點。另有39.5%的受訪對象持中性預期。
真實可信是新聞報導的生命。由此推測，多數媒體機構短期內或許只會讓生成式人工智慧在內容生產環節扮演有限的輔助角色。
圖片6
2.“深度偽造”更具迷惑性
人工智慧的多模態功能拓展，使得虛假信息的內容形態更加多元，也更加難以被普通人所辨別。以“深度偽造”為代表的前沿技術突破文字限制，可以通過對圖像、聲音、視頻的篡改或偽造，產生高度逼真且難以甄別的多媒體信息。
隨著深度偽造技術的成熟和普及，過去只有在影視大片中才能出現的虛構場景，如今只需一個軟體就能一鍵生成。有些偽造內容不僅僅是“張冠李戴”“捕風捉影”，甚至還可以“無中生有”。這種迷惑性極強的技術套用大大助長了電信詐欺、色情視頻合成等社會性犯罪活動，也令新聞信息更加真假難辨。近年來，各種針對公眾人物的深度偽造視頻屢次掀起輿論風波。2023年底，不法分子利用深度偽造技術，篡改了新加坡前總理李顯龍在國慶民眾大會上的講話和接受CGTN主持人訪談時的錄像，用以宣傳加密貨幣的投資騙局，相關視頻在網路上廣泛流傳。李顯龍在社交媒體發文進行澄清，“利用深偽技術傳播虛假信息的現象將繼續增加，我們須保持警惕，學會保護自己和親人免受這類騙局的侵害。”
課題組調查顯示，對於那些尚在觀望的媒體機構，阻礙其成建制套用生成式人工智慧的眾多因素中，排在前三位的分別是：
1.人工智慧自身還不完善，如生成內容的準確性、可靠性等達不到預期和要求；
2.人機協作難，缺乏相應融合型人才；
3.技術投入成本高。
圖片7
基於對深度偽造技術的擔憂，公眾對虛假信息的風險感知意識也在不斷加深，對任何信息來源，包括新聞媒體等傳統信源也逐漸產生警惕和懷疑，社會整體信任無疑遭到嚴重侵蝕。路透社發布的《2023年數字新聞報告》稱，受深度偽造等技術影響，只有40%的受訪者表示信任媒體報導的新聞。
3.“仿真傳播”更具隱蔽性
人工智慧不僅在生產層面助推了虛假信息的泛濫，還在傳播層面為其提供了更加強大的工具。以“社交機器人”為代表的新一代“網路水軍”散布在全球各大社交媒體上，成為無孔不入的“網路隱形病毒”。
“在網際網路上，沒有人知道你是一條狗”，多年前美國雜誌《紐約客》上的這句話隨著網際網路的普及而被世人熟知。在人工智慧時代，越來越多的智慧型大模型通過了用以檢驗機器人類特徵的“圖靈測試”，人們愈發難以判斷網際網路的另一端是人還是機器，也無從知曉每一條信息背後的真正主體和行為動機。
作為一種運行在社交媒體平台上的智慧型代理，“社交機器人”能夠根據操控人的意願自動生成內容，並模仿人類真實用戶的狀態和行為參與互動交流，製造各種“虛假熱度”“虛假共識”。相比於“人工操作+匿名賬號”的傳統“網路水軍”，由“社交機器人”構成的“機器人水軍”可以輸出個性化觀點，並24小時不間斷工作，持續打造自身的“人設形象”，使得虛假信息的傳播更加隱蔽和難以察覺。2022年8月底，美國史丹福大學網路觀察室（Stanford Internet Observatory，簡稱SIO）和社交平台分析公司Graphika聯合發布報告，披露美國利用社交媒體操縱全球涉疆輿論，“社交機器人”就在其中扮演了重要角色，其操作套路包括：用人工智慧生成照片當頭像、冒充“獨立”新聞機構、製造熱門標籤引起話題討論等。
二、技術濫用破壞輿論生態
營造良好的輿論環境，是治國理政、定國安邦的大事⑧。安全、和平、清朗的國際輿論空間，也對全球合作與發展意義重大。人工智慧在信息傳播領域的廣泛套用，為全球輿論生態注入新變數，在個體、社會和國際等多個層面形成新的風險挑戰。
1.算法偏見誘導個體認知
人是輿論的主體，也是輿論環境的關鍵構成要素。人工智慧難以擺脫內嵌於數據和算法中的偏見，以及定製化內容的“繭房”效應，對獨立、理性、健康的個體認知與價值塑造帶來挑戰。
由於機器深度學習的特點，大型語言模型無可避免地會繼承數據語料庫和人類設計師的刻板印象或價值偏見。這些或明或暗的立場、偏見如果不加以限制，機器控制人類的場景很有可能成為現實。在劉慈欣的科幻小說《三體》中，高級文明可以通過技術手段將某種思想或信念刻印在個體意識中，書中稱之為“思想鋼印”。人工智慧目前雖然無法直接作用於人的大腦，但已經深入參與到社會信息流動的各個環節中，可以憑藉“量”的碾壓和“時間”的積累逐漸占領社會意識生產領域，最終實現對用戶的價值傳導甚至是認知侵蝕。
即使人工智慧始終秉持“為人類服務”的宗旨，其所遵循的個性化生產和精準化推送的算法邏輯，也可能會限制用戶的信息認知範圍，使認知窄化、思維固化、群體極化等問題更加突出。尤其是在傳媒領域的注意力爭奪中，用戶往往偏好那些具有強烈視覺衝擊力、故事性和情感化的信息內容，人工智慧可能會為了滿足大眾喜好，予以相關內容更高的權重和更多的曝光，而有深度有價值的內容則面臨被不斷邊緣化的風險。
2.機器水軍操控社會輿論
在人工智慧技術的加持下，輿論操縱的手法不斷翻新、工具持續升級，輿論生態進一步複雜化與渾濁化，極大增加了社會意見分裂、秩序混亂、心理動盪的現實風險，對社會的正常穩定運行構成嚴重威脅。
“輿論是社會的皮膚”，公眾圍繞公共事務形成敏銳、理性的輿論，社會肌體也就有了能夠感知民意的健康皮膚。輿論是現代民主社會持續穩定運行的重要基石，但其強大的社會影響力也令各方“虎視眈眈”。高級人工智慧的出現為影響甚至控制輿論提供了便利，為社會輿論應有的透明性、公正性蒙上陰影。
在政治領域，人工智慧很早即被用於影響目標對象的價值判斷和政治立場，或破壞敵對勢力的輿論環境和社會形象。2016年，劍橋分析公司未經同意收集臉書數千萬用戶的個人信息進行選民分析，為唐納德·特朗普的總統競選活動投放政治廣告，成為技術干預政治選舉的一大標誌性事件。隨著人工智慧技術的升級疊代，各種“操縱工具”更加唾手可得，隱蔽性欺騙性大幅提升。2024年，各方對利用人工智慧干擾選民、操縱選舉、破壞穩定的擔憂愈加強烈。在社會領域，惡意操控者還利用人工智慧工具發布大量情緒化內容，在種族、移民、貧富差距等社會敏感議題上激化社會矛盾、影響輿論走向。在商業領域，人工智慧也被廣泛用於“刷數據”“刷評分”“刷銷量”等，以達到歪曲和禁止真實評價、促銷商品或詆毀競爭對手的目的，對市場秩序造成嚴重破壞。
3.智慧型武器加重信息對抗
在社會矛盾多發、地緣政治緊張的國際局勢下，人工智慧被廣泛套用於“情報戰”“輿論戰”“認知戰”中，使國際輿論關係更加緊張，對抗升級、衝突爆發的風險大大增加。
人工智慧為廣泛開展網路入侵、情報蒐集、輿論攻擊等提供了極大便利。通過數據差異化投送，人工智慧可以瞬時製造輿論潮流，影響群體認知。通過數據跟蹤和算法策略，人工智慧可以預判不同地域、群體認知態勢，輔助規劃、推動實施核心敘事和議題。
在社交媒體上，利用人工智慧捏造虛假信息、煽動群體對立、開展意識形態滲透的行為也已司空見慣。2022年，關於烏克蘭總統澤連斯基要求其軍隊投降與俄羅斯總統普京宣布戰爭結束的偽造視頻廣泛流傳。本輪巴以衝突以來，社交媒體上也產生了大量虛假內容，如將效果逼真的遊戲視頻篡改成哈馬斯發動襲擊的錄像，偽造國際知名人物揮舞巴勒斯坦國旗的照片等。在人工智慧技術散布的戰爭信息迷霧中，真與假混淆，猜疑與分歧滋長，人工智慧改變了現代戰爭的性質、手段、方式。
三、快速發展加劇治理憂慮
隨著新型人工智慧的密集湧現，對於未來技術顛覆人類價值可能性的討論不斷升溫，引發不同程度擔憂，人工智慧帶來的價值爭議和治理難題也已成為全球焦點。
1.發展路徑之爭
人工智慧具有基於程式自我學習控制等特點，即使是人工智慧算法的設計者，也難以完全預測其經過自我最佳化學習後的數據處理方式，這種“技術黑箱”令人工智慧的“未知”遠大於“已知”，引發了對其發展路徑的廣泛爭議。
“加速”還是“價值對齊”？圍繞人工智慧的未來發展方向，研發人員逐漸分化為兩個陣營。支持“加速”的一方認為，社會進步依賴技術創新，推動人工智慧發展是人們不斷追求的目標。而“價值對齊”派則主張首先考慮人工智慧的倫理影響和社會後果，確保技術沿著符合人類價值的軌道前進。2023年3月，包括圖靈獎得主約書亞·本吉奧（Yoshua Bengio）、特斯拉CEO埃隆·馬斯克（Elon Musk）等在內的數千名AI領域企業家、學者、高管發出了一封題為《暫停大型人工智慧研究》公開信，集中表達了人類社會對超級人工智慧的種種擔憂，並強烈呼籲共同制定和實施一套全人類共享的安全協定。但與此同時，全球各大科技公司都在加緊部署研發，各類新產品新套用層出不窮。
在未來很長一段時間內，人工智慧的發展仍將處於兩種理念的博弈之下。面對人工智慧這一未來核心戰略資源，利益相關方可能產生更大分歧。技術倫理問題被政治化、商業巨頭間的“科技競賽”、國家間的“軍備競賽”等，無疑將為後續全球立法和治理帶來更多阻礙。
課題組調查顯示，大部分觀望中的媒體機構並不排斥或輕視生成式人工智慧，而是計畫在相關條件成熟時再入局，他們優先考慮的前三個條件是：
1.確定可用人工智慧來顯著提升生產力、節省人力的業務板塊；
2.人工智慧的性能躍升，準確性、可靠性等大幅改善；
3.確保不會陷入新聞倫理爭議、監管麻煩或法律糾紛。
僅有6.4%的受訪媒體表示，無論如何都暫不考慮採用生成式人工智慧工具。
圖片8
2.價值對齊之困
隨著“人工智慧威脅論”的聲量日漸擴大，“價值對齊”已經成為人工智慧治理領域最根本也最具挑戰性的概念之一。但在實際操作中，價值對齊面臨多方面挑戰。
價值對齊旨在讓人工智慧在道德原則、倫理規範和價值觀上與人類保持一致，以確保其能以對社會無害的方式運轉。但在全球多元文化背景下，“向誰對齊”“如何對齊”的問題依然難以解決。在媒體領域，不同國家的媒體人在新聞價值判斷、職業身份認同和采編操作慣例上都存在差異，很難對人工智慧技術的媒體套用標準進行對齊。哪怕是“真實”“公正”“非歧視”等原則性的新聞理念，通過技術路徑進行抽象、量化和對齊也存在失靈風險。例如，當亞馬遜公司嘗試利用人工智慧篩選求職履歷時，人們很快就發現算法在大量“過濾”女性申請人，類似的性別偏見、種族歧視等在新聞編輯部的人工智慧套用中同樣難以避免。
更值得注意的是，人工智慧與新聞生產緊密結合，其操作規範和運行邏輯會影響編輯記者對什麼是新聞、什麼是好新聞、什麼是有價值的新聞的評價標準，新聞價值體系面臨新的調整與更迭。而如果新聞生產過度強調以技術規則限定記者行為、以流量數據評估新聞質量、以程式規範衡量新聞價值，將可能導致工具理性偏離價值理性、新聞價值偏離公共價值、新聞媒體偏離社會主流，影響其正向社會功能的發揮。
3.監管制度之失
人工智慧等新技術新套用快速發展，催生一系列新業態新模式，但相關法律制度還存在時間差、空白區⑨。尤其在隱私、著作權等具體問題上，相關共識達成和制度建設仍需加快步伐。
隱私數據保護與人工智慧發展之間存在著天然矛盾。海量的人類行為和知識數據是人工智慧升級疊代的關鍵要素，其各種套用場景同樣基於大量個人數據，人工智慧對數據的高度依賴令隱私“無處遁形”。2023年，義大利就曾因隱私數據問題一度禁用ChatGPT，並限制OpenAI公司處理義大利用戶的相關信息，英國、愛爾蘭等多國也啟動了針對人工智慧大模型違規收集數據隱私的調查。在媒體領域，用戶數據雖然有助於新聞媒體提供更加便捷、精準、高效的信息服務，但也讓隱私泄露風險進一步加劇。作為社會公共利益的守衛者，媒體在劃定隱私邊界、化解隱私悖論中面臨更為苛刻的倫理期待，人工智慧則進一步提高了這一問題的廣泛性與敏感性。
隨著信息生產權、加工權、發布權和轉載權不斷下放，人工智慧帶來的著作權爭議也日益凸顯。對媒體而言，專業、優質的新聞報導是人工智慧的重要學習數據集，但其生成內容不可避免地帶有原始數據的影子，容易對部分專業媒體的內容著作權構成侵犯。2023年12月，紐約時報正式向OpenAI及其投資人微軟公司提起侵犯著作權訴訟，指控這兩家機構未經許可就採集該報數百萬篇文章以訓練人工智慧。這是全世界首個人工智慧公司被大型媒體機構起訴侵犯著作權的案例，也成為了媒體在人工智慧時代面臨著作權問題的一個縮影。此外，人工智慧輔助生產的新聞產品的著作權歸屬與利益分配問題，同樣處於懸而未決的狀態。如何保障各方合法權益，建立公正透明的著作權機制，對各國立法者提出了迫切要求。
四、智慧型套用加大發展鴻溝
和任何其他影響深遠的技術突破一樣，新一代人工智慧技術的廣泛套用必然會帶來社會財富和權力的轉移，引發一系列社會政治和經濟問題，帶來關於貧富差異、城鄉差別、南北差距等問題的討論。這些問題的核心，是如何公平分享技術發展帶來的紅利，讓技術成果惠及全人類。
1.個體差異與“弱勢群體”
擁有人工智慧技術的人在未來將更具競爭力和優勢毋庸置疑。但由於認知能力、資源占有、人工智慧素養的差異，老年人群體、低學歷群體、低收入群體等在人工智慧套用發展演進的過程中不斷被邊緣化，成為人工智慧時代新型的“弱勢群體”。
以老年群體為例，《數位化生存》的作者尼古拉斯·尼葛洛龐帝曾斷言，“人類的每一代都會比上一代更加數位化”，在全球老齡化程度日益加深與人工智慧技術高速發展的雙重作用下，老年群體往往因信息技能水平不高、學習能力下降、身體機能退化等，無法獲取人工智慧所帶來的“紅利”，走向“抵制”與“沉迷”兩種極端。一方面，大多數老年人對新技術新事物更容易產生牴觸心理，很難接受並掌握新的技術套用；另一方面，部分老年群體則極易陷入“數字沉迷”，更易遭受虛假信息、算法欺騙、信息繭房等帶來的傷害。
2.城鄉差別與“智慧型窪地”
全球範圍內普遍存在的城市和鄉村間的“智慧型鴻溝”不僅是一個技術問題，更是一個社會和經濟問題。這種差距不僅存在於社會發展、要素配置、教育水平、基礎設施等方面，還在於個體收入、文化素養、信息技術能力、知識觀念等方面。
在中國，城市用戶多已接入5G和千兆光網，而農村網路服務在速度和穩定性方面跟城市相比仍存在不小差距。人工智慧新技術公司也大多集中在北京、長三角和珠三角地區，西部地區寥寥無幾。在美國，人工智慧“窪地”甚至“荒漠”也大範圍存在。《華盛頓郵報》在2024年6月的一篇報導中指出，“美國農村地區對寬頻服務的等待已久，多數地方仍依賴通過銅線傳輸速度較慢的網際網路，無法傳輸大量數據，一些地區甚至根本沒聯網。”在少數族裔和原住民居住的廣大鄉村地帶，“斷網”問題尤為突出。
人工智慧時代的教育資源失衡等問題也愈加突出。生活在城市的孩子從小有機會親身體驗科技的魅力，感受人工智慧所帶來的新奇與便捷，了解人工智慧背後的科學邏輯；而對大多數鄉村孩子而言，“人工智慧”只是一個抽象的詞語、模糊的概念，他們對此缺乏具體感受和理性認知。顯然，人工智慧“窪地”的普遍存在將在一定程度上加大社會的分化與撕裂，技術發展的“紅利共享”仍任重道遠。
3.南北差距與“智慧型鴻溝”
中國駐聯合國大使傅聰在聯大介紹《加強人工智慧能力建設國際合作決議》草案的發言中提到“當前全球人工智慧技術飛速發展，對各國經濟社會發展和人類文明進步產生深遠影響。但大多數國家特別是開發中國家人民尚未能真正接觸、使用人工智慧並從中受益，全球數字鴻溝仍有擴大之勢。”隨著全球經濟加速向人工智慧驅動轉型，欠已開發國家面臨著被更遠落下的局面，與已開發國家間經濟和社會發展鴻溝正不斷加劇。人工智慧技術的不平衡套用正成為遠超經濟增速本身的關鍵性問題。
目前，人工智慧的經濟和社會效益在地理上主要集中在全球北方。英國媒體Tortoise於2023年發布第四版《全球AI指數》，根據投資、創新、實施三個維度對全球62個國家和地區進行排名，其中美國排名第一，中國、新加坡分列第二、三位，在前二十的國家中，有11個歐洲國家。在ChatGPT、Sora、工業機器人已經在領先國家廣泛使用之際，非洲、拉美等國家還有不少人口只能用2G網路打電話、發簡訊，甚至處於完全“斷聯”狀態。隨著未來社會生產方式進一步向智慧型化轉型，南北方之間的全要素生產率、經濟成長、教育水平、數字素養與研發能力的分化趨勢或將更加嚴重。特別是大語言模型的訓練與開發、頂尖人才的培養與招募，以及通信網路、大數據平台、算力中心、算法庫等人工智慧基礎設施建設都離不開巨額資本投入，這將成為開發中國家短期內難以逾越的“智慧型鴻溝”。
國際勞工組織2024年《注意人工智慧鴻溝：塑造關於未來工作的全球視野》報告指出，人工智慧技術在為創新和發展帶來巨大機遇的同時，其在各國之間不均衡的投資建設和部署套用極有可能加劇收入水平和生活質量的不平衡。當前，“智慧型鴻溝”正在形成，高收入國家在有關技術發展和套用中獲益，而以非洲為代表的中低收入國家則較為落後。具體到人工智慧技術對勞動市場的衝擊上，不同國家和地區也是處境各異。已開發國家的各類工作更多處在智慧型化、自動化大潮之下，但這些國家同時也能更好地利用人工智慧技術，以此提高生產力。相比之下，開發中國家雖然因為缺乏數字基礎設施建設，在短期內不會受自動化替代風險影響，但長期來看將面臨生產力瓶頸。報告警告稱，若不採取措施加強國際合作幫助開發中國家，這一鴻溝將進一步擴大，甚至抵消掉人工智慧技術本身對社會經濟發展的促進作用。
人們還注意到，當前，一些已開發國家還憑藉人工智慧技術的“先發優勢”，試圖謀求科技霸權，構建排他性小圈子，阻撓他國技術發展，人為製造科技壁壘，惡意阻斷全球人工智慧供應鏈。種種形式的“小院高牆”勢必進一步加深全球南北方之間人工智慧的發展鴻溝，導致“強者恆強、弱者恆弱”。
第三部分使命：堅持以人為本推動智慧型向善
如何正確回答時代課題，廣泛凝聚世界共識，媒體肩負著重要社會責任⑩
——習近平
今天，加強人工智慧監管，已經成為世界各國的共識。中國國家主席習近平在《全球人工智慧治理倡議》中提出了“以人為本”“智慧型向善”等基本原則，為解決人工智慧治理難題貢獻了中國方案。在人工智慧掀起的時代浪潮下，世界各國媒體需要機遇共享、風險共擔，以專業優勢營造良好的信息環境和輿論生態，為構築開放、公正、有效的人工智慧全球治理機制，構建人類命運共同體，建設更加美好世界匯聚強大的媒體力量。
一、加快智慧型驅動，提升媒體價值
新聞媒體要充分發揮人工智慧的工具價值，探索將人工智慧運用在新聞採集、生產、分發、接收、反饋全流程、全要素中，以人工智慧打造媒體新質生產力，為人們提供更好的新聞產品和新聞服務。
1.以智慧型化提升系統效能
為應對萬眾皆媒、去中心化的挑戰，新聞媒體要更注重自我技術賦能，從傳統“信息加工者”轉型為“智慧型信息生產者”。構建人工智慧支撐和驅動的生產傳播體系、數據技術體系、組織管理體系、效果反饋體系，著力提升新聞媒體的傳播力、引導力、影響力、公信力。以智慧型技術為依託，提升新聞傳播的速度、深度、廣度和準度，增強新聞媒體連線社會、凝聚共識的作用。
課題組調查顯示，多數媒體機構認識到，生成式人工智慧正以不可阻擋之勢滲入傳媒行業，無論現在是下場共舞還是靜觀其變，媒體都面臨自我變革的壓力以適應行業變局。
對於如何自我變革來應對變局，受訪媒體機構認可度較高的三個路徑是：
1.增強采編隊伍的適應能力；
2.增加技術投入；
3.改造采編髮業務流程。
圖片9
2.以標準化確保全全可靠
針對人工智慧時代業態變化特點，媒體應不斷改進升級新聞生產與傳播標準，在採集、生產、發布和傳播等各個環節，既充分運用人工智慧技術賦能，又盡力規避人工智慧技術風險，在媒體領域建立人工智慧風險測試評估和防範保障體系。針對深度偽造內容、自動寫作內容和各類算法推薦內容，新聞媒體要進一步完善新聞內容真實性審核機制，運用人工智慧技術，對線索、素材進行嚴格的驗證，確保向公眾提供的信息可信可靠。加大事實核查技術研發和專業人才培養投入，並鼓勵公眾積極參與事實核查。
3.以專業化升維新聞品質
在“信息過載”和“信息繭房”並行的背景下，報導的深度與專業性具有更加寶貴的價值，是媒體履行社會責任、彰顯自身公信力的重要體現。一方面應加強采編團隊在細分領域的專業能力，另一方面可充分利用人工智慧技術對信息進行挖掘、篩選、鑑別、關聯、分析，延伸報導觸角，以更有深度更有品質的新聞產品，滿足客群需求，推動社會進步。
二、立足善意使用，健全倫理規範
人工智慧時代，媒體不僅是新聞信息傳播的橋樑和紐帶，更是社會價值觀的塑造者和守護者。全球媒體在強化技術套用的同時，要堅守新聞倫理、踐行社會責任，以人類主流價值駕馭“機器算法”，將新聞倫理貫穿於媒體人工智慧套用的全流程、全要素，健全以人為本的倫理規範體系。
課題組調查顯示，針對生成式人工智慧在傳媒行業的套用可能產生的負面效果，只有14.4%的受訪對象認為“現有規則框架具有足夠約束力”，85.6%的受訪對象都支持以某種形式加強規範與治理。
圖片10
1.以新聞真實破除信息迷霧
新聞真實是媒體維繫公信力和影響力的基石所在。脫離新聞真實性的技術創新都是捨本逐末。新聞媒體要以新聞真實性作為套用人工智慧技術的最終標準，用真實報導構建公眾可信賴的基礎認知空間。要把新聞媒體專業優勢和人工智慧技術優勢相結合，向客群提供真實、公正、全面、及時的信息，破除信息失真、信息污染、信息孤島、信息誤導。各國媒體應發揮示範效應，不製造虛假信息，不操縱輿論干涉他國內政，不充當不淪為“認知戰”工具,努力成為防禦虛假信息傳播的“守夜人”和“防波堤”。
2.以新聞倫理駕馭工具理性
媒體從業者是人工智慧套用的直接使用者，其倫理意識水平將直接影響技術套用的社會效果。媒體應加強對從業者的人工智慧倫理教育，通過持續的培訓和學習，提升其倫理意識和技術素養，確保人工智慧在實際操作中的規範合理套用。媒體在利用人工智慧技術進行數據獲取、算法設計、技術和產品研發運用的過程中，應特別關注產品中可能存在的失真與偏見，確保信息的多樣性、公正性和包容性，主動識別消除可能有悖於公平性和非歧視性原則的因素，減少公眾誤解、分歧與敵視。媒體應以全人類共同價值為基準，做好新聞信息把關人和社會價值引領者，主動消除對沖網路極端信息和有害信息，共同阻遏極端思想和恐怖主義內容擴散。媒體應堅持新聞倫理，強化社會責任，努力營造“真實為本、理性溝通、多元包容、健康積極”的認知環境和輿論生態，推動知識有效傳播和技術紅利普惠，為增進人類福祉和推動社會進步注入積極動力。
3.以規範機制保護數據隱私
媒體要更加關注人工智慧潛在的技術安全風險、網路安全風險和經濟社會風險，監督反映人工智慧模型算法“黑箱”帶來的個人隱私和國家機密泄露、深度偽造風險、著作權歸屬問題。媒體應深刻認識數據安全、用戶保護尤其是未成年人保護的重要性，建立健全機制，確保用戶信息在採集、存儲、處理和傳輸過程中得到充分保護。遵循“數據最小化”原則，儘量減少對個人信息的採集和存儲。在使用人工智慧技術分析數據時，應嚴格控制數據的訪問許可權。媒體在設計和使用人工智慧算法時，應遵循適度透明化算法的運行機制，確保用戶知情權，形成行業自律機制，提升整個行業的運行規範水平。媒體還應通過加密技術和安全協定等手段，防範數據泄露和網路攻擊等風險，通過風險監測、事實核查等方式，維護各國認知域空間安全，增進國際間溝通互信。
三、加強對話合作，完善全球治理
各國媒體應通過對話與合作凝聚共識，構建開放、有效、公正的人工智慧全球治理機制，促進人工智慧技術造福人類。
1.彌合智慧型鴻溝，實現公平普惠
各國媒體應當共同致力於彌合不同社會群體、不同地區國家之間存在的數字鴻溝、智慧型鴻溝，充分運用人工智慧技術，通過多語種、多形式的內容生產，確保知識傳播能夠覆蓋到社會各個群體，推動社會整體認知水平提升。高度重視人工智慧套用的南北差距，在技術研發、內容生產、數據分析、規則制定、人才培養等領域分享經驗、共享資源、協同共進，反對人工智慧領域的“小院高牆”、技術霸權。全球南方國家媒體應積極參與全球媒體領域各類人工智慧規則標準的制定，增強自身在國際規則制定中的代表性和發言權，以實際行動爭取各國人工智慧發展與治理的權利平等、機會平等、規則平等。
2.加強共享共建，推動務實合作
各國媒體要聯合專業機構，加強信息交流和技術合作，共享最新動態和知識成果，鼓勵技術開源，探索人工智慧媒體運用標準。在共識度較高的領域，如自然語言處理、圖像識別、用戶行為分析等方面，可考慮共同開發人工智慧工具和系統，減少重複研發、避免資源浪費；針對“黑箱效應”“信息繭房”等突出問題，可聯合開展風險測試評估，分享實踐經驗。要提升人工智慧在虛假信息甄別和應對中的套用水平，整合各方資源，設立長期運行的聯合核查項目或機制。探索多邊媒體對話機制，搭建長期化、常態化交流平台，為聯合傳播、合作研究奠定基礎。
3.尋求價值對齊，改進全球治理
各國媒體不僅是信息傳遞的媒介，也是文化傳承、文明交流的重要力量。和平、發展、公平、正義、民主、自由等全人類共同價值，是全球不同文明之間能夠達成共識的基礎，是推動全球治理的重要思想源泉，也是擺脫人工智慧價值對齊之困的“金鑰匙”。各國媒體應圍繞全球人工智慧治理議題，開展多層次、多形式的議題傳播，引導理性討論，倡導共同價值，推動公眾關注、認識和參與治理進程，為形成國際共識營造良好社會環境；基於廣泛參與、協商一致、循序漸進的原則，在充分尊重各國政策法規和實踐差異基礎上深化對話交流，促進各國法律法規和行業規範的對接；堅持以人為本，推動智慧型向善，致力於構建基於共同價值的人工智慧倫理準則和全球治理範式，使人工智慧朝著有利於構建人類命運共同體的方向發展。各國媒體應藉助“文化+科技”的雙向賦能，提高不同文明在國際傳播中的話語權和影響力，打造國際社會的“網路大外交”平台，深化文明交流互鑒，消除隔閡誤解，促進民心相知相通，推動構建人工智慧時代的人類命運共同體。
第四部分調查：全球新聞媒體人工智慧認知及套用現狀
圍繞全球新聞媒體對人工智慧的認知態度與套用情況，新華社國家高端智庫於2024年7月至8月啟動一項面向全球新聞媒體機構的問卷調查。問卷以中、英、法三種語言發放，受訪者來自53個國家和地區的新聞媒體機構，包括報刊、廣電、通訊社、網站、移動套用服務商等。調查共收回1207份答卷，其中有效答卷1094份。
對於以生產文圖視等內容為主業的新聞媒體機構而言，以ChatGPT為代表的生成式人工智慧帶來的影響和衝擊較大，故本次問卷調查以此為焦點，力求透視人工智慧引發的傳媒新變局、新圖景。對有效答卷的分析發現：
一、多數新聞媒體（66.0%）對生成式人工智慧持積極態度
新事物的出現一般都會伴隨爭議與疑慮，生成式人工智慧亦然，它既被視作一種新質生產力而備受推崇，又因幻覺、偏見、思維定勢、“政治正確”等問題而屢遭質疑。本次調查結果顯示，媒體機構整體上對生成式人工智慧對行業的影響持積極態度。
數據顯示，分別有20.3%和45.7%的受訪媒體高度認同和基本認同“生成式人工智慧給傳媒行業帶來的機遇大於挑戰、益處大於弊端”，不認同和極不認同者分別只占2.8%和1.6%，另有29.6%的受訪機構認為生成式人工智慧的利弊尚無定論。
圖片12
這組數據較大程度上表明，整體而言，全球媒體機構對事關全行業共同命運的科技變革保持高度關注，樂見生成式人工智慧成為傳媒行業的“遊戲規則改變者”。
二、多數新聞媒體（67.6%）已切身感受到生成式人工智慧帶來的變化
生成式人工智慧在傳媒領域已引發行業變局，不過不同媒體機構的感知存在“溫差”。有32.4%的受訪媒體表示生成式人工智慧對他們的影響“尚不明顯”。67.6%的受訪對象則明顯覺察到近在眼前的變局，共鳴較多的三個側面是：
1.生產流程需要改造，編輯記者工作方式面臨轉變；
2.媒體之間、尤其是來自自媒體的競爭更激烈；
3.需抽出更多精力來分辨虛假新聞、虛假照片等。
圖片13
從中可以看出，多數媒體機構認識到，生成式人工智慧正以不可阻擋之勢滲入傳媒行業，無論現在是下場共舞還是靜觀其變，媒體都面臨自我變革的壓力。
對於如何應對變局，受訪媒體機構認可度較高的三個路徑是：
1.增強采編隊伍的適應能力；
2.增加技術投入；
3.改造采編髮業務流程。
圖片14
三、超半數新聞媒體（51.2%）已開始套用生成式人工智慧
2024年是生成式人工智慧大規模套用元年，作為內容生產引領者，眾多媒體爭做“早鳥”。目前全球已有10.2%的媒體機構全面擁抱人工智慧，在機構層面設立了相應機制，由上而下地將人工智慧引入生產流程；41.0%媒體機構正在積極探索人工智慧技術套用，鼓勵和支持部分新聞業務板塊試用人工智慧技術；36%的受訪媒體雖然未由機構管理層牽頭由上而下地把生成式人工智慧融入生產，但其內部員工已開始在機構默許的情況下在個人層面試水；12.8%的受訪媒體表示，本機構內極少有人使用或機構禁止使用。
圖片15
在機構層面推動生成式人工智慧套用的受訪對象中，其套用路徑主要為採用ChatGPT等市面上對公眾開放的通用型工具，選擇這一路徑的媒體占比達54.6%。有32.5%的媒體選擇的套用路徑是與第三方合作研發、定製生成式人工智慧工具，另有12.9%的媒體選擇自主研發與訓練。由此來看，私有化部署的新聞領域垂類大語言模型仍有較大發展空間。
在套用場景上，媒體機構有組織探索較多的前三個方向是：
1.輔助編輯，如事實核查、語音轉文字、配字幕、翻譯等；
2.創作內容，如生成摘要、製作圖表海報、數字主播配音等；
3.策劃選題或草擬提綱。
圖片16
對於那些尚在觀望的媒體機構，阻礙其成建制套用生成式人工智慧的眾多因素中，排在前三位的分別是：
1.人工智慧自身還不完善，如生成內容的準確性、可靠性等達不到預期和要求；
2.人機協作難，缺乏相應融合型人才；
3.技術投入成本高。
圖片17
不過，大部分觀望中的媒體機構並不排斥或輕視生成式人工智慧，而是計畫在相關條件成熟時再入局，他們優先考慮的前三個條件是：
1.確定可用人工智慧來顯著提升生產力、節省人力的業務板塊；
2.人工智慧的性能躍升，準確性、可靠性等大幅改善；
3.確保不會陷入新聞倫理爭議、監管麻煩或法律糾紛。
僅有6.4%的受訪媒體表示，無論如何都暫不考慮採用生成式人工智慧工具。
圖片18
四、新聞媒體對生成式人工智慧的期待聚焦於時與效
無論是否已在機構層面套用生成式人工智慧，受訪媒體普遍對這種新技術助力傳媒行業的潛力抱有一定期待。受訪媒體希冀生成式人工智慧重點在“時”與“效”上推動新聞報導再上新台階。
有74.6%的受訪媒體預期，生成式人工智慧有助於提高新聞報導的時效性；有74.4%的受訪對象認為，生成式人工智慧有助於提高新聞生產效率；預期生成式人工智慧對提升新聞分發精準度和作品呈現創造性有幫助的媒體占比分別達到66.7%和63.3%。
圖片19
媒體機構看重的生成式人工智慧賦能排名前三的領域分別為：
1.智慧型檢校及智慧型事實核查；
2.智慧型創作圖表、視頻及音樂；
3.文字生成/機器人寫稿/翻譯。
圖片20
五、新聞媒體對生成式人工智慧的警惕集中在可信度
多數媒體機構對生成式人工智慧的套用較為審慎。對於“您所在媒體機構遇到過或預期會遇到哪些生成式人工智慧帶來的問題”這一提問，高達76.4%的受訪對象表示，擔心出現“新聞線索和素材失真失準”的情況，明顯超過回答數量排在第二位的“著作權及權責歸屬問題”（占比為61.1%）。
圖片21
另外，對於未來3至5年生成式人工智慧與傳媒行業融合會否提升信息環境可信度可靠性的問題，有36.4%的受訪對象持悲觀預期，比持樂觀預期者（24.1%）高出12.3個百分點。另有39.5%的受訪對象持中性預期。
真實可信是新聞報導的生命。由此推測，多數媒體機構短期內或許只會讓生成式人工智慧在內容生產環節扮演有限的輔助角色。
圖片22
六、多數新聞媒體（85.6%）認為需要對生成式人工智慧的套用加強監管
針對生成式人工智慧在傳媒行業的套用可能產生的負面效果，只有14.4%的受訪對象認為“現有規則框架具有足夠約束力”。85.6%的受訪對象都支持以某種形式加強規範與治理，認同度較高的治理形式包括“行業自律”“國家出台法規”“各媒體機構自律”等。
這反映出，生成式人工智慧除了技術本身內生性的缺陷引發媒體機構警覺之外，其被無意錯用、有意濫用而導致錯誤信息、虛假信息流傳的風險也使得媒體機構心存防範，而這類風險難以僅靠“各掃自家門前雪”的方式得到遏止。
圖片23
調研說明：本次問卷調查採取線上問答和當面訪談相結合的方式進行。其中，線上答卷者均為受邀參與的機構代表，大多為新華社的全球媒體用戶，受訪對象全都是機構型媒體且一家媒體只提交一份答卷。從最終回收的有效答捲來看，受訪對象在類型、規模、國別分布、客群群體等方面具有廣泛代表性，他們對生成式人工智慧的認知和應對能夠大致反映全球傳媒行業的整體情況。
本次問卷調查在對回收數據進行分析和解讀的部分環節，用到了生成式人工智慧作為輔助，吸納到本報告中的機器生成內容均經過人工溯源和確認。
結語
人類的一切都正在被人工智慧重塑。經過多年演進，人工智慧如今進入爆發期，成為科技革命、產業變革乃至社會變革的重要驅動力量。近兩年以ChatGPT、Sora等為代表的生成式人工智慧技術正引發全球人工智慧技術與產業的新一輪浪潮。
未來已來，但未知大於已知。人工智慧正不斷挑戰著人們的認知邊界和倫理邊界。人類對自己創造出的“新物種”有點措手不及。人們甚至不知道，是自己創造了人工智慧這一“工具”，還是人類不過是在人工智慧演進中“充當了歷史的不自覺的工具”？
人們驚嘆著、欣喜著、焦慮著、憂愁著，處於人工智慧帶來的“文化震驚”中。
幸運的是，人類的理性也在同步覺醒，開始思考探索人機融合的新形態。面對人工智慧發展在監管、法律、安全、道德倫理、就業等方面面臨的一系列新課題，國際組織和世界多國已開始探索人工智慧治理的可行路徑並達成一些共識，努力在發展和安全之間尋求平衡。目前，有關國家和地區發布的關於人工智慧治理的法律法規、行政指令、倫理規範已達數百項。
人工智慧時代的信息環境正在發生重要變化。在虛擬與現實邊界消融、線上與線下高度統合的媒介生態中，信息傳播營造的“擬態環境”在構建人類認知、影響主體決策、引導文明走向等方面，變得更具有決定性意義。人工智慧從“工具”向“主體”的演化，無疑讓信息環境變得更為複雜。
在此背景下，新聞媒體塑造信息環境和認知環境的傳統社會角色被重新構建。全球新聞媒體應站在人類文明的高度，共同思考人工智慧時代的新角色、新使命、新責任，更好地捍衛全人類共同價值，為推動構建人類命運共同體注入更多正能量。
編寫說明與致謝
《人工智慧時代新聞媒體的責任與使命》智庫報告由新華通訊社社長、新華社國家高端智庫學術委員會主任傅華任組長，新華通訊社副總編輯任衛東任副組長，課題組成員包括劉剛、文建、劉華、陳怡、李飛虎、何慧媛、李成、陳誼娜、何小凡、李桃、申麗、趙熠煊、竇書棋、周瑜、李利軍、劉蓉蓉、郭信峰、李雪笛、朱俊清、黃鑫川、王仲豪、陳國權、梁洽聞等。
課題立項啟動後，課題組廣泛走訪媒體、科技公司與科研院所，並以中文、英文、法文三種語言面向全球媒體發放調查問卷，最終完成撰寫、修改、審校、翻譯等工作。
在報告寫作過程中，中國社會科學院教授胡正榮、清華大學教授瀋陽、中央民族大學教授郭全中，以及中國網路空間研究院、賽迪研究院、騰訊、百度、阿里巴巴等機構的專家給予了多方面的幫助和指導，調查問卷得到53個國家和地區包括報刊、廣電、通訊社、網站等上千家媒體機構的反饋支持，在此一併表示誠摯謝意。
由於課題組所掌握的材料和作者水平有限，錯漏之處在所難免，敬請批評指正。
參考文獻
①習近平在十九屆中央政治局第十二次集體學習時的講話（2019年1月25日）。
②習近平在十九屆中央政治局第九次集體學習時的講話（2018年10月31日）。
③習近平致二〇一八世界人工智慧大會的賀信（2018年9月17日）。
④習近平在十九屆中央政治局第九次集體學習時的講話（2018年10月31日）。
⑤習近平在中國科學院第二十次院士大會、中國工程院第十五次院士大會和中國科學技術協會第十次全國代表大會上的講話（2021年5月28日）。
⑥習近平在十九屆中央政治局第九次集體學習時的講話（2018年10月31日）。
⑦習近平在黨的新聞輿論工作座談會上的講話（2016年2月19日）。
⑧習近平同志在會見中國記協第九屆理事會全體代表和中國新聞獎、長江韜奮獎獲獎者代表時講話（2016年11月7日）。
⑨習近平在中央全面依法治國工作會議上講話（2020年11月16日）。
⑩習近平致第四屆世界媒體峰會的賀信（2021年11月22日）。
內容解讀
2024年10月14日在新疆烏魯木齊舉行的第六屆世界媒體峰會開幕式上，新華社國家高端智庫發布了《人工智慧時代新聞媒體的責任與使命》智庫報告。
新華通訊社社長、新華社國家高端智庫學術委員會主任傅華表示，智庫報告圍繞“人工智慧與媒體變革”主題，分析了媒體在人工智慧時代的機遇與挑戰，闡釋了媒體在人工智慧時代的使命，展現了全球新聞媒體人工智慧認知及套用現狀。這份報告是新華社發揮中國特色新型智庫作用，在廣泛走訪媒體、科技公司與科研院所，並以多種語言面向全球媒體開展問卷調查基礎上，推出的最新研究成果。
《人工智慧時代新聞媒體的責任與使命》思維導圖
報告全文約2.3萬字，包括“機遇”“挑戰”“使命”“調查”4個部分。報告提出，人工智慧給新聞媒體帶來產能新驅動，從內容的採集、生產、分發、評估等環節促生了媒體新質生產力。人工智慧的不確定因素及其濫用惡用，也加劇了虛假信息傳播、輿論生態破壞、倫理價值失范、“智慧型鴻溝”擴大等風險挑戰。
報告呼籲，全球新聞媒體應站在人類文明的高度，共同思考人工智慧時代的新角色、新使命、新責任，堅持以人為本，推動智慧型向善，更好地捍衛全人類共同價值，為推動構建人類命運共同體注入更多正能量。
