中國網：近日，名為DeepSeek的國產天生式人工智能應用產品一經問世就引發了社會各界的關注，尤其是它表現出的低本錢特點、完整開源的戰略更遭到熱烈討論。DeepSeek的到來會對行業格式和社會層面帶來怎樣的變化？在不斷涌現的人工智能海潮下，人類與AI應若何共生、共存？本期節目，特邀中國科學院自動化研討所研討員、聯合國人工智能高層顧問機構專家曾毅進行解答。
中國科學院自動化研討所研討員、聯合國人工智能高層顧問機構專家曾毅接收《中國訪談》專訪。（董寧 攝）
中國網：曾傳授您好，歡迎您做客中國網《中國訪談》。
曾毅：掌管人好，列位網友大師好。
中國網：近日，國產年夜模子DeepSeek一經問世就引發了社會各界的關注。那您認為DeepSeek和ChatGPT有哪些區 別？以及它的到來能否會重塑行業格式，對于社會還有人類生涯形式會帶來哪些影響？
曾毅：我覺得，從OpenAI發布ChatGPT開始，可以說天生式的人工智能確實從方方面面開始有了機遇往改良我們的人類社會，從經濟和社會的發展，以及觸及到我們生涯、應用的方方面面。實際上，原來我們更多的接觸到的人工智能叫做判別式的人工智能。好比說識別一個物體，包含現在有一些應用識別看你吃的什么，含幾多卡路里，來幫你計算是不是安康的食品。
可是天生式的人工智能是應用年夜規模的互聯網語料往天生，根據互聯網上的文本或許是圖像視頻天生一些具有統計顯著性的謎底。所以，天生式人工智能，可以說從用戶交互的角度來講，還是有很是年夜的顯著的特點。這也是為什么像ChatGPT發布了以后，能夠贏得這么多的互聯網的用戶。
DeepSeek的誕生實際上還是給了我們更多的等待。因為以前的天生式人工智能的發展，良多的互聯網年夜企業都在跟我們的公眾甚至是當局在傳遞一個很是主要的信息，就是年夜規模的數據必不成少，年夜規模的算力也是必不成少的。甚至有一些企業就會往講，構建人工智能前沿的這個基礎模子，基礎上只要年夜廠才幹做，初創的企業或許是說前沿的人工智能的研討機構，已經沒有太多的機會往做前（沿）人工智能的基礎模子的創新了。你只要在這個領域的微調，（在）應用上往唱工作。這些前沿基礎模子的創新都要由年夜廠，有很年夜的資源才幹往做。基礎上當時大師已經接收了這個事實，可是DeepSeek的誕生告訴大師并不是這樣的。
中國網：就打破了大師之前的（這種認知）。
曾毅：可以說打破了大師的認知。DeepSeek告訴我們什么呢？第一，我對統一個問題，在答覆的時候，別的天生式的人工智能的年夜模子，它的思慮的深度是不夠的，沒有進行真正地對問題的反思包養網，對于數據應用的反思和充足的分化。而當（DeepSeek）有了這樣的深度思慮的才能以后，即便說數據并沒有變，可是，由于增強了深度的推理才能和對用戶意圖的揣測才能，使得問題的答覆達到了史無前例的相當高的質量。
另一方面，即便做了這么多的深度的思慮，但其實對于算力的需求并沒有增添良多。能夠它應用的這個算力資源，甚至是小于ChatGPT10倍甚至100倍。這樣的話帶來的是什么呢？就是這個本錢是節約的。現在我沒有這么年夜的算力，我沒有這么多的資源的投進，也可以來進行這種深度的問題求解，並且這個工作變得可及了。
（DeepSeek與ChatGPT）最年夜的區別就是創新形式的區別。ChatGPT，就OpenAI最開始在成立的時候，盼望是一個更開放的形式往構造人工智能。所以，大師開打趣說，OpenAI走的這個路線現在是CloseAI，可是DeepSeek走的確實是開放的形式。
中國網：是，完整開源的一個特點。
曾毅：這個開源的懂得實際上對于現代來講，它是有一個從頭的詮釋，前沿人工智能模子的開源，今朝重要是以開放權重的方法、開放算法的方法、模子架構的方法，而不是開放源代碼。開放源代碼對于人工智能來講實際上就是存在很年夜的挑戰。我覺得不僅僅是保護創新的這方面，最重要的是什么呢？人工智能前沿的年夜模子，它存在著良多的不確定性、風險和平安的隱患。假如真開放了源代碼，這種有能夠的風險和平安隱患影響的范圍能夠會更年夜，更能夠被誤用、濫用和和惡用。
像現在的良多開源的人工智能，特別是前沿人工智能的年夜模子，實際上重要指的是模子架構權重的開放，指的是算法的表露，可是它并不是真正意義的源代碼的開放。所以，我剛才也講了源代碼的開放，從現在人工智能的科學研討角度，其實并沒有證明，把源代碼完整的開放是更好的。這個現在在學術界、科技界其實還是存在良多爭論的。有良多前沿的人工智能的研討者都不太贊同完整的把源代碼開放。可是，我覺得這個問題現在并沒有真正的謎底。因為讓我們來看開源的精力和它真正發展的路徑，假如沒有真正的開放源代碼，能夠也確實沒有像Unix、Linux這樣優秀的操縱系統的誕生，也沒有這么強年夜的開源的社群來支撐新系統的構建。所以，真正開放源代碼這個層面，其實它還是各有利害，還需求很是謹慎地往摸索。
所以，我覺得OpenAI和ChatGPT，它們跟DeepSeek比起來，DeepSeek講了更多的實話，數據可以被更好的應用，在沒有那么強年夜的算力的支撐下，依然可以晉陞智能的程度。這個工作也并紛歧定只要年夜廠才幹來做，並且應用天生式人工智能的本錢可以年夜幅下降。所以，你能夠也留意到了當DeepSeek上線以后，我們國內良多其他的人工智能的前沿年夜模子的服務，第二天就開始降價了。為什么？這就證明其實它這個本錢，實際上并沒有我們想象的那么高。對于用戶的可及性來講的話，你的價錢降下往，它的包涵性、用戶的可及性，以及我們賦能的才能，賦能更多的千行百業，以及我們的技術走出往，被良多的中低支出國家應用，都打開了無限的能夠。
中國網：像ChatGPT還有DeepSeek這些都是比較優秀的天生式AI代表。可是您以前曾經提到過，像這樣的技術能夠它不是智能的本質。那畢竟什么才是真正意義上的人工智能呢？
曾毅：我們可以說天生式的人工智能，它從行為上來講的話，確實是彌補了判別式人工智能相對來說比較單一維度的對于智能行為的模擬。但天生式人工智能，總體來講的話，它其實還是外行為上來模擬人類的智能，還不是完整從機制上來模擬人類的智能。不論是以前的判別式人工智能，還是現在主流的這種前（沿）人工智能年夜模子，天生式人工智能，它的起點都是數據，就是你若何往更好地往應用這個數據。但其實人類就是通過數億年的天然演變，我們現在的起點不完整是數據，我們隨著數億年天然演變的錘煉，我們的學習、發育、演變的機制，以及我們年夜腦的結構，這個也是我們智能的起點。
人工智能特別是傳統意義上的年夜數據的機器學習，實際上，它重要談的是學習的這個維度。並且從解決問題的機制來講的話，就存在著千差萬別。為什么以前的天生式人工智能它會用這么年夜的算力、這么多的數據？就是因為它的智能結構和算法設計不夠好。可是大師要了解，我們整個人類演變的過程，它在干什么？它在不斷的做優化。假如你這樣解決問題欠好，我的年夜腦結構就這樣往組織。假如說是解決一個問題，像DeepSeek比來就有一個很是主要的一個進展，叫做動態路由機制。這個跟年夜腦就很是相接近了。動態路由的這個機制，現在我做的這個是什么任務，最開始做一個判別以后，它就把這個任務路由到整個的年夜規模網絡當中，更適合解決好比說數學類的問題，更適合解決交互式的對話問題，還是說更適合解決一些物理、化學類似于這樣的問題。我們人類年夜腦是這樣的。
中國網：相當于分類了。
曾毅：對，我們的人類年夜腦是這樣的。我現在解決這個問題，需求用到的是哪些腦區，就自動地、自立地往動態地規劃哪些腦區應該參與到計算的這個過程當中。所以，DeepSeek它現在引進的良多計算機制，已經從機制和結構這個角度慢慢地接近人類的年夜腦。我并不覺得它的目標是要仿製年夜腦，因為我們構建人工智能是沒有需要完整的反向地重構一個年夜腦的，你需求的是從年夜腦解決問題的過程當中往遭到啟發。
好比，我們剛才說的動態路由機制，這個就是年夜腦很是明確的問題求解的一個妙招。再好比說像DeepSeek當中引進的多層的留意力的機制。人在求解問題的時候也是這樣的，我們在開車的這個過程當中，旁邊好比說良多過往的樓、建筑、人，可是你在開車的過程當中，其實你不會留意每一個細節。你能夠會留意到的第一個就是你感興趣的，第二個就是在你看來對于開車這件工作能夠有風險的工作。所以，留意的機制，特別是多層的留意機制，是人的年夜腦在解決問題的過程當中會應用的。這些機制可以說在原來良多的天生式的人工智能當中的產品和服務當中做的都不是很好。
中國網：您對于未來人工智能的技術發展持有一個怎樣的態度呢？您是更樂觀的對待，還是說相對比較悲觀呢？
曾毅：我認為是這樣，近期人工智能技術的進展可以說是這樣的。以前的人工智能它外行為的產出上還跟人類具有很年夜的距離。可是現在天生式人工智能的進展，在這種行為上的表現上，已經拉近了跟人類行為之間的距離，是史無前例的拉近了。
我們在構建一個通用的東西，叫做General Purpose AI，通用的人工智能，一個通用東西。可是這個跟人工通用智能是包養紛歧樣的。人工通用智能，我們說的叫做AGI，就是Artificial General Intelligence。那個說的是什么呢？那是真正的人類聰明的方方面面都具備，達到了人類的程度。所以，我們說現在的天生式人工智能的發展，距離我們真正構造一個通用的東西來講，可以做個比方：假設說有一棵年夜樹，原來我們能夠在這個樹根往上爬，還沒到達樹干，還沒到達這些分支上，現在的天生式人工智能最新進展，使得我們基礎上快達到樹梢了，基礎上快夠到這個樹的最高的地位了。可是，這個樹的最高地位是通用人工智能，就是General Purpose AI，可是人工通用智能就是真正意義的AGI，其實是那個月亮。所以，你看到真正的區別了。
在我看來，工程意義的外行為程度上達到人類的程度，工程優化方面達到通用的人工智能，這個能夠是兩三年會獲得一個很是主要的衝破。可是真正從機制上，真君子類聰明的這種本質上來達到人工通用智能的程度，在我看來，我覺得還要20年到30年真正的科學的摸索。
關于（對技術的發展）是不是樂觀的，良多人說你們做人工智能風險和平安的研討，會不會人類最后被人工智能替換，人工智能是不是真正威脅到人類的保存？我覺得那取決于我們若何往構造一個人工智能。現在的方式就是人工智能，包含其實DeepSeek這次采取的這種強化學習，完整強化學習的方法往訓練一個年夜模子的時候，強化學習實際上是什么呢？就是告訴它對錯，做什么是可接收的，是對的，做什么是不對。這時候取決于誰往教它，大好人往教它，它就學做一個大好人。你給它丟到一個壞人窩里，它學到的那就是它干功德兒人家就往懲罰它，它干壞事人家就往獎賞它。這個時候人工智能將會走向何方呢？所以，最關鍵的還是我們若何往塑造人工智能才是關鍵的。
現在天生式人工智能的進展中，特別是（關于）它的平安風險里面有一個詞叫做越獄，我們想什么樣的人關在監獄里呢？能夠犯了法的人，犯了罪的人，或許普通意義上來說，人們說是這個壞人能夠是更多的關在這個監獄當中的，但那是什么意思呢？實際上意思就是說，似乎人工智能本質是壞的，我要把它關起來，不要讓它做壞事。所以，這不是更長遠的、更可持續往塑造人工智能的方法。
假如一個人工智能我們最開始，就是往塑造它的自我感知的才能，讓它獲得本身的經驗，獲得感情共情、認知共情的才能，讓它產生品德的直覺、利他，具有品德推理這樣的才能。在構造人工智能的過程當中，在塑造的是人工智能的善，在塑造的是這個智能的本質，牽引它向善的往發展。要像真正往培養孩子一樣，讓它往基于懂得，往懂得人類社會的規則和人類社會交互的這種方法，以這樣的方法往塑造它的話，那我對于人工智能未來，依然長短常樂觀的。
因為在我看來，假如人工智能是真正意義的通用人工智能、超級智能，那它應該也是超級利他的。我們人類其實也沒有結束演變。最開始人類不斷地討取天然的資源，但我們也有反思。后來這個聰明，我們講綠水青山就是金山銀山，我們了解若何往跟動物、生態進行和諧的相處，適度的討取，而不是無度的揮霍天然的資源。這也是人類社會發展過程當中一個不斷的反思的過程。所以，這個演變的趨勢就是這樣的，就是利他的這個行為的趨勢，超級利他的人工智能才是人工智能的未來。
現在人工智能是這樣的，我用中國的聰明來對它進行解讀的話，王陽明的心學當中有一個很是主要的思惟，用四句話來表達的。人工智能最開始是“無善無惡心之體”。人工智能在沒有接觸人類數據的時候，它就是個算法，是無善無惡的。后來接觸了人類的數據，它就變得有善有惡了，所以叫做“有善有惡意之動”。第三個階段叫做“知善知惡是知己”。人工智能現在是不會知善知惡的。你想教給它，讓它知善知惡，告訴它什么是對的，什么是錯的。可是，你告訴它，跟“知”是兩個概念，我們真正說的“知”是懂得。最后就是“為善往惡是格物”。現在人工智能只是“有善有惡”，我們要讓人工智能塑造為“知善知惡”，塑造為“為善往惡”。但這個過程當中，不是說就逗留在這，繼續往前推就可以了。有能夠在科學意義上的人工智能，也許要顛覆現在的人工智能的這種形式，再進行一個極致的創新。
所以，大師看到現在包含DeepSeek的發展，當時梁文鋒師長教師在講DeepSeek跟其他的人工智能年夜模子的摸索的最年夜區別是什么？他也講到了，就是原始創新的這種才能。原始的創新才能，它能夠是我們講的慢慢迭代的。我們自頂向下，越來越迫近智能的本質和智能的機制。別的一方面自底向上，假如對智能的機制有科學的研討，然后往上推，再構建外行為意義上的人類程度的人工智能。這樣自頂向下和自底向上的結合，遭到人類智能機制和程度的啟發，構造真正科學意義上的人工智能。這才是我們構造的真正能夠與人為善，真正的AI向善，我覺得那才是我們未來真正希冀，也只要是這樣構造的人工智能，能夠才是值得我們往對它的未來（覺得）樂觀的人工智能。
中國網：所以就像您剛剛說的，未來人工智能的發展其實還是取決于背后人的決策。就像您剛剛說王陽明的格物致知，還有今朝我們中國奉行的“智能向善”的理論政策。
曾毅：是的。
中國網：像數字鴻溝、算法黑箱、AI換臉等，都是人工智能所帶來的潛在風險，并且這些風險也不容小覷，尤其是在平安和管理方面。那您可以再談一談具體我們應該若何更好把關和規范AI技術，以使其穩健發展？
曾毅：大師今朝都應用天生式人工智能，良多時候它能幫你節省良多時間，剖析一些資料，幫你找到你想要的東西，往答覆一些你不了解的問題。可是大師也會發現，天生式人工智能產生的謎底的靠得住性，其實有時候長短常堪憂的。再有就是現在人工智能還會以人類不成預期的方法，甚至也不了解它什么時候犯錯誤，而形成能夠的平安隱患。
為什么？其實形成的平安隱患，有人工智能技術發展包養網價錢內部的緣由，有內部攻擊的緣由。大師能夠比來也關注到了，DeepSeek上線的時候，有良多來自于境外的這種惡意的攻擊。實際上，這是我們說的平安隱患的兩方面。一個是模子內部的穩健包養性的問題，這是我們說的safety的問題。一個是內部的攻擊，這個的問題叫做security的問題。
可是我想更關鍵的是什么呢？是正確的認知。人工智能現在所處的階段，這個對于公眾、當局，甚至是科研人員都很是的主要。為什么會遭到這些平安隱患的威脅？因為對人工智能沒有一個正確的認知，對它該設防的處所沒有設防。好比，假如你有設法，你了解它有能夠犯錯，你了解它的謎底紛歧定靠得住，這個時候你對于它產生的這個謎底，你就會有一個更感性的方法往對待它，就不會讓人工智能周全地往取代人類的自立決策。實際上，人工智能永遠不應該取代人類周全的自立決策。不論怎么樣，它現在還是一個看似智能的信息處理的東西，所以，它確實不克不及夠取代人類進行決策。當你對人工智能有了正確的認知，在你的意識上有了對它的護欄，有了適當的監管。這樣也能夠更好地防止它能夠潛在的風險。
比來我也關注到，特別是天生式人工智能的發展。良多人喜歡跟豆包、喜歡跟DeepSeek往對話，甚至有些人把它們當作伴侶，所以也有良多青年陷溺于跟人工智能之間的交通。這個現在已經成為一種社會問題了，但實際上這種陷溺，它的最基礎就是對于天生式人工智能的本質沒有一個正確的認知。
現在的人工智能技術，它能夠剖析人類的感情，能夠對人類的感情做出一些回應。可是它不是真正具無情感。它沒有性命，也沒有真正的意識，現在確實也不是真正意義的人類的伙伴，只是一個東西。可是有些人說我跟它聊天很舒暢，它就像我的伴侶，能夠懂得我。所以，我再次地強調，人工智能能夠做感情的剖析，可是它不具備真正的感情。它可以進行某種水平的這種感情的陪同，可是它不是真正的像人類懂得感情一樣，（能）對人類感情進行深入的懂得。因為它本身自己沒有真正的感情。所以，現在人工智能模子實際上是并不具備深入的自我的模子。
中國網：我們今朝還是應該把人工智能當成東西，而不是更多地期許它（能）有一些人類的行為來對我們進行一些反饋。
曾毅：不僅僅是一個東西，並且是一個輔助的東西。就不要讓它，特別是不要讓人工智能取代人類的決策過程。
中國網：好的，謝謝曾傳授明天出色的作答。
曾毅：好，謝謝列位網友。
（本期人員：編導/掌管：汪雅雯；攝像：劉凱 王一辰；后期：劉凱；圖片：董寧；主編：鄭海濱）
發佈留言