機器人在生產線上精準作業(yè)、無人駕駛汽車穿梭于城市街道、智能算法推送心儀的商品和服務……人工智能正以前所未有的發(fā)展速度重塑著我們的世界。“AI+”的未來，正從科幻小說的情節(jié)撞進現實。
隨著AI技術加速迭代演進，各國紛紛把AI作為推動經濟社會發(fā)展的核心驅動力和科技競爭的戰(zhàn)略焦點。近年來，中國大力推進“人工智能+”行動，2017年國務院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》，為我國人工智能發(fā)展指明了方向。2024年，“人工智能+”首次被寫入《政府工作報告》，標志著我國人工智能戰(zhàn)略從技術導向邁向場景導向的新階段。2025年7月31日召開的國務院常務會議審議通過《關于深入實施“人工智能+”行動的意見》，強調深入實施“人工智能+”行動，大力推進人工智能規(guī)模化商業(yè)化應用。
然而，人工智能的廣泛應用也帶來諸如數據安全、倫理合規(guī)、算法偏見等治理挑戰(zhàn)，如何平衡技術創(chuàng)新與風險防控？如何構建健全的治理體系以推進人工智能健康、可持續(xù)發(fā)展？這些問題正日益成為政策界、產業(yè)界和學術界共同關注的焦點。圍繞“人工智能+”行動與人工智能治理的關鍵議題，《新經濟導刊》特邀請清華大學蘇世民書院院長、清華大學人工智能國際治理研究院院長薛瀾展開深入探討。
“人工智能+”旨在造福民生，人機協(xié)同是未來方向
新經濟導刊：自2024年《政府工作報告》提出開展“人工智能+”行動以來，人工智能高效賦能千行百業(yè)，形成了一批具有示范效應的重大應用場景。日前，由您擔任總主編、清華大學人工智能國際治理研究院牽頭組織編寫、中國發(fā)展出版社出版的“人工智能重大應用場景叢書”在2025世界人工智能大會“人工智能的全球發(fā)展與治理：共贏與共治之路”論壇上發(fā)布，在國家深入推進“人工智能+”行動背景下，這套叢書的出版恰逢其時。請您向讀者介紹一下這套叢書的出版背景、目的及亮點內容。
薛瀾：當前人工智能已進入大規(guī)模應用階段，但在實際落地過程中，無論是對于開發(fā)者還是用戶來說，仍面臨諸多挑戰(zhàn)，尤其是在人工智能相關法規(guī)和治理機制方面仍有待完善。為此，清華大學人工智能國際治理研究院組織研究團隊，選取了多個重要應用場景開展深入調研，并在此基礎上完成了本套叢書的編寫。
本叢書的出版與我國深入實施“人工智能+”行動計劃高度契合，其核心目標在于連接人工智能企業(yè)、用戶與治理機構，共同識別重大應用場景，系統(tǒng)分析其在落地過程中所面臨的挑戰(zhàn)，并通過政策支持與多方協(xié)作，加速推動人工智能技術的廣泛應用與推廣。
本叢書的內容涵蓋多個行業(yè)領域，力求從實際應用出發(fā)，結合豐富的典型案例，幫助讀者全面理解人工智能技術在不同場景中的價值與意義，深入認識人工智能的巨大潛力，推動其在具體實際場景中的應用；同時，叢書為人工智能企業(yè)和開發(fā)者在商業(yè)應用等方面提供了重要參考，有助于促進企業(yè)與用戶之間的溝通與協(xié)作。此外，叢書還可為相關機構在政策與法規(guī)制定方面提供依據，從而支撐人工智能更廣泛、更安全地落地應用。我們相信，通過各方共同努力，人工智能將在推動社會經濟發(fā)展、提升公共服務水平、優(yōu)化產業(yè)結構等方面發(fā)揮更重要的作用。同時，叢書也為構建開放、協(xié)同、安全的人工智能生態(tài)體系貢獻一份力量。希望讀者能夠從中獲得啟發(fā)，進一步推動人工智能的創(chuàng)新發(fā)展與實踐應用。
新經濟導刊：從戰(zhàn)略層面講，國家推動“人工智能+”行動的核心目標是什么？與歐美等國家的人工智能發(fā)展戰(zhàn)略相比，中國的路徑有何特點？
薛瀾：我國發(fā)展人工智能最根本的目標是推動人工智能向善，促進經濟社會發(fā)展，最終造福于人民。這一點與歐美國家尤其是美國所主導的發(fā)展路徑存在根本差異。當前，一些歐美國家媒體在人工智能國際發(fā)展敘事方面，往往將其描繪成中美之間的一場“巔峰對決”，認為這是大國在前沿領域的競爭。當然，中國也有一批企業(yè)在不斷研發(fā)先進模型，但我們發(fā)展與應用人工智能的核心宗旨，始終是造福人類、服務社會。因此，我們更積極地推動人工智能在經濟社會各領域的廣泛應用，為我國的高質量發(fā)展提供支撐與保障。而最前沿領域的模型競爭并不是我們發(fā)展人工智能的核心目標，我國更注重推動人工智能安全廣泛地應用以實現造福民生的目的。
新經濟導刊：當前，“人工智能+”行動正在全國范圍內如火如荼地推進。在您看來，哪些行業(yè)或重點領域更具發(fā)展?jié)摿Γ客瑫r，您認為在推進過程中還存在哪些政策、市場等層面的挑戰(zhàn)？
薛瀾：人工智能的應用范圍非常廣泛，正因其作為一項通用型技術，能夠滲透到眾多場景中，而人工智能技術的不斷進步也將深刻影響社會的方方面面。以醫(yī)療領域為例，人工智能在醫(yī)療技術中的應用前景十分廣闊，正成為醫(yī)療行業(yè)的關鍵賦能者，其價值不僅體現在提升醫(yī)療質量和效率上，更致力于讓優(yōu)質的醫(yī)療服務變得更具普惠性和可持續(xù)性。未來，隨著技術與臨床實踐的深度融合，AI有望進一步重構人類健康的守護體系。例如，人工智能賦能影像診斷已經較為普遍，此外還有許多企業(yè)正在積極開發(fā)各類診斷模型。如我們調研過的一家專注于大模型的人工智能公司—百川智能，其聯手北京兒童醫(yī)院、小兒方健康科技（北京）有限公司推出的一款兒科診斷大模型—“福棠·百川”是全球首個兒科診斷大模型。兒科診斷本身難度較大，幼兒往往無法清晰表達不適，更多依賴醫(yī)生的經驗進行判斷。該模型覆蓋了兒童常見病與疑難病癥的立體化知識體系，具備較強的兒科臨床推理能力，并首創(chuàng)兒科“循證模式”。在兒童疑難病癥的診斷方面，人工智能在某些測試中的表現甚至已經超過了有經驗的醫(yī)生。由此可見，在醫(yī)療影像和輔助診斷等領域，人工智能具備巨大的發(fā)展?jié)摿Α?br>
當然，人工智能在賦能醫(yī)療領域過程中也面臨著一些挑戰(zhàn)，比如目前仍無法完全保證模型不會產生“幻覺”或誤判。因此，即便模型平均表現優(yōu)于人類，但我們依然需要人類醫(yī)生的最終審核和確認，這意味著人工智能系統(tǒng)必須與醫(yī)生協(xié)同工作，而不是替代醫(yī)生。同樣的情況也適用于處方權問題：人工智能可以提供治療方案或藥物使用的建議，但最終處方必須由醫(yī)生簽字確認。因此，人機協(xié)同將是未來發(fā)展的核心方向。
AI治理如何跟上技術狂奔？“敏捷治理”是破題密碼
新經濟導刊：隨著人工智能規(guī)模化商用進程的加速推進，人工智能的科學治理正日益成為全球各方關注的重要議題。當前，國際社會在AI治理方面呈現出哪些主要趨勢？面臨哪些風險與挑戰(zhàn)？
薛瀾：從宏觀角度來看，自清華大學人工智能國際治理研究院正式成立之前，我們就已開展相關研究。縱觀近幾年的發(fā)展，一個非常明顯的趨勢是，全球各國和相關領域的專家都開始高度關注人工智能治理問題，全球人工智能治理也在不斷推進中。
然而，這一進程并非一帆風順。在近期召開的2025年世界人工智能大會（WAIC）期間，我與國際專家進行了廣泛交流，大家普遍認為2023–2024年堪稱人工智能治理議題的一個“高潮期”，全球范圍內，人工智能治理主題的國際會議廣泛召開，相關治理規(guī)則和機制的探討與實踐正在持續(xù)深化。但近期也出現一些回落跡象，部分國家治理態(tài)度上有所反復。這與人工智能技術本身的發(fā)展歷程相似，必然伴隨起伏。但總體而言，國際社會對AI潛在風險的認識正不斷深化，相應治理措施也在持續(xù)完善。
國際上的專家把發(fā)展人工智能帶來的風險概括分為三大類。第一類是“惡意使用”或“濫用”帶來的風險，即有意利用人工智能從事加害行為，例如，極端分子可能借助AI開發(fā)生化武器，造成大規(guī)模傷害；濫用深度偽造技術或從事違法行為。
第二類風險源于技術本身的缺陷。比較典型的情況就是所謂“幻覺”的產生，即AI模型可能會生成不實或誤導性內容，甚至是完全虛構的信息內容。而其中最令人擔憂的是技術失控風險—人工智能若脫離人類控制、形成自主意識和行為，將構成根本性威脅，這也是國際專家普遍關注的焦點。
第三類風險涉及AI大規(guī)模應用對社會結構的長期影響，包括對就業(yè)、知識產權、社會認知等方面的影響。當前最受關注的是就業(yè)問題，AI未來可能替代體力勞動，還可能影響腦力勞動和高技能白領崗位，其潛在影響廣泛且深刻，對社會發(fā)展提出了嚴峻挑戰(zhàn)，亟須構建系統(tǒng)性的應對策略。
總體來看，人工智能治理仍處于動態(tài)發(fā)展、多方博弈的階段，但認知在深化，機制也在逐漸健全。
新經濟導刊：隨著人工智能技術的快速迭代演進，其帶來的風險和挑戰(zhàn)也日益增多。如何構建能夠適應AI技術快速演進的治理框架？是否需要動態(tài)調整監(jiān)管政策？您有哪些建議？
薛瀾：動態(tài)調整監(jiān)管無疑是必要的，但當前面臨的最大挑戰(zhàn)在于：技術發(fā)展速度很快，而治理體系的調整、新法律法規(guī)的出臺往往相對滯后。我們很難控制技術的快速發(fā)展，等待治理規(guī)則完善之后再繼續(xù)推進，這顯然是不現實的。因此，我們必須采取“敏捷治理”的方式，努力跟上技術發(fā)展的步伐，“邊發(fā)展、邊治理”，在實踐中不斷迭代和完善治理體系。
具體來說，我提出以下幾個方面的建議。首先，要轉變傳統(tǒng)治理觀念。過去我們傾向于出臺一套全面的、覆蓋所有方面的法規(guī)，但在AI領域，這種做法很容易錯失治理時機。更有效的方式是：針對新出現的風險點，及時制定相應的治理措施或辦法。關鍵是要先建立治理框架，再從實踐中持續(xù)優(yōu)化和調整。
其次，應重新定位監(jiān)管者與被監(jiān)管者的關系。以往，監(jiān)管部門與企業(yè)之間可能存在一種“貓鼠游戲”：企業(yè)尋找監(jiān)管漏洞，監(jiān)管部門專注于查處違法行為。然而在AI治理領域中，很多風險不僅政府不了解，企業(yè)自身也可能尚未意識到。因此，政府和企業(yè)應站在同一戰(zhàn)線，加強溝通協(xié)作，共同識別和應對AI可能帶來的各類風險，探索更適宜的監(jiān)管方式。
最后，要推動監(jiān)管工具多樣化。政府應根據企業(yè)行為采取差異化監(jiān)管措施，對出現輕微風險或非故意違規(guī)的企業(yè)，可以通過提醒、警告等方式引導其改正；對屢教不改或造成嚴重后果的，則依法嚴厲處罰。監(jiān)管的目標不是扼殺創(chuàng)新，而是推動人工智能在合規(guī)前提下更好地發(fā)展，應采取輕重手段結合的方式，既保持約束力，也給予企業(yè)成長的空間。
中國積極引領全球AI治理，國內立法需平衡好發(fā)展與安全
新經濟導刊：未來5年，全球AI治理可能呈現怎樣的格局？中國應如何提前布局？
薛瀾：在全球人工智能治理方面，我們期待建立起一個有效的全球治理體系。目前，聯合國已在此方面做出積極努力，包括計劃成立一個全球性專家小組，旨在及時研判人工智能發(fā)展過程中出現的各類風險。同時，也致力于構建一套安全檢測與評估體系，確立相關標準并形成評測機制。該體系要求各國前沿大模型必須通過安全測試，才能進入實際部署階段，以確保人工智能在大規(guī)模應用中的安全性與可信性。
與此同時，推動人工智能的普惠發(fā)展也至關重要。中國在國際社會中積極倡導并推動人工智能的開放、共享與普惠發(fā)展，致力于縮小“數字鴻溝”，中國在推進全球人工智能治理方面做出了多方面努力。一方面，中國在聯合國框架下提出多項倡議，例如，2024年7月第78屆聯合國大會協(xié)商一致通過中國提出的加強人工智能能力建設國際合作決議，140多國參加決議聯署；另一方面，中國已舉辦多期國際交流研討會，幫助發(fā)展中國家的政府官員和技術人員提升人工智能治理與運用能力。此外，國務院總理李強出席2025世界人工智能大會暨人工智能全球治理高級別會議開幕式并致辭時宣布，中國政府倡議成立世界人工智能合作組織。強調要堅持統(tǒng)籌發(fā)展和安全，加強各國對接協(xié)調，推動早日形成具有廣泛共識的人工智能全球治理框架和規(guī)則。中國在人工智能治理方面提出了眾多務實倡議，并持續(xù)付諸行動。
未來五年，全球人工智能治理可能逐步形成以聯合國為核心的全球治理框架，中國在推動人工智能國際合作、能力建設和普惠發(fā)展等方面將發(fā)揮更加積極的作用。
新經濟導刊：隨著加快人工智能領域立法呼聲漸高，全國人大常委會2025年度立法工作計劃將人工智能健康發(fā)展等方面的立法項目列為預備審議項目。如果請您為將來的人工智能立法提幾點建議，您最想寫進哪些話？
薛瀾：人工智能立法確實是一個受到各方高度關注的議題。首先，關于中國是否有必要盡快推進人工智能立法的問題，過去幾年已經持續(xù)引發(fā)討論，許多法律領域的專家也為此進行了大量的前期準備工作。例如，中國社科院、中國政法大學等機構都分別提出了各自的專家建議稿，這表明我國法學界已經為此奠定了良好的基礎。然而，正如前面提到的，人工智能技術發(fā)展極為迅速，而立法本身通常需要一個充分討論和謹慎推進的過程，以全面考量各方利益與技術現實。因此，如何在“盡快立法”與“審慎穩(wěn)妥”之間取得平衡，仍需社會各方進一步凝聚共識。
在推動人工智能專項立法方面，以下幾個方面值得重點考慮。一是立法定位問題。我們究竟要制定一部以促進人工智能發(fā)展為導向的“促進法”，還是以風險監(jiān)管為核心的“監(jiān)管法”？例如，歐盟的《人工智能法案》就明顯側重于風險規(guī)制。而我國在立法中也需要思考如何既有效防范風險，又為技術創(chuàng)新留有空間，實現創(chuàng)新發(fā)展與安全之間的平衡。二是監(jiān)管框架與風險分級機制。目前，歐盟《人工智能法案》雖然對風險進行了分類，但劃分仍相對宏觀，具體實施尚需配套細化的規(guī)則。若立法條款過于注重原則性，可能會影響其可操作性與應用效果。因此，立法路徑選擇至關重要，即是針對特定應用場景出臺專門的法規(guī)，還是制定一部全面的綜合的人工智能基本法，這需要結合實際情況審慎決策。三是與現有法律體系的銜接問題。實際上，盡管我國尚未出臺專門的人工智能法，但已經初步建立起一套覆蓋多層面的治理體系。例如，《中華人民共和國個人信息保護法》《中華人民共和國數據安全法》《中華人民共和國網絡安全法》等基礎性法律已發(fā)揮重要作用，而針對生成式人工智能等特定領域也出臺了相應的管理規(guī)定。未來任何新立法都應充分考慮與現行法律法規(guī)的協(xié)調性，避免規(guī)則沖突，確保制度體系的整體性和一致性。綜上所述，人工智能立法是一項系統(tǒng)工程，仍需在立法定位、監(jiān)管設計和體系融合等方面開展深入研究和廣泛討論。來源：中國發(fā)展觀察 作者：薛瀾
