獨家對話原蘋果首任AI總監(jiān)：真正的智能，需要與世界互動

騰訊新聞《潛望》作者 ?紀(jì)振宇 發(fā)自硅谷

ChatGPT的誕生，讓人們看到基于人工智能的大語言模型所展現(xiàn)出的驚人能力，大概是有史以來的第一次，通過自然語言的交互，人們真切感受到了人與機(jī)器之間，產(chǎn)生了微妙的理解關(guān)系，新一輪人工智能熱潮隨之而來。

ChatGPT所表現(xiàn)出的驚人的“理解力”，是否是真正意義上的機(jī)器意識覺醒？通用人工智能之路上，目前還有哪些障礙？人工智能威脅論是否言過其實？未來的人工智能發(fā)展將何去何從？帶著這些問題，騰訊新聞《潛望》近日獨家對話了卡耐基梅隆大學(xué)人工智能教授、前蘋果AI總監(jiān)Ruslan Salakhutdinov。

Salakhutdinov師從圖靈獎得主、“深度學(xué)習(xí)之父” 杰弗里·辛頓（Geoffrey Hinton），是剪枝、深度編碼等著名學(xué)習(xí)方法的提出者。2016年，Salakhutdinov入職卡耐基梅隆大學(xué)，同年獲得英偉達(dá)人工智能先驅(qū)獎，并加入蘋果公司擔(dān)任首任AI研究總監(jiān)。

作為一名人工智能領(lǐng)域的資深學(xué)者，Salakhutdinov在對話中表達(dá)了樂觀的態(tài)度。他表示，對這一輪AI所展現(xiàn)出的能力感到興奮，且并不認(rèn)為人工智能目前的發(fā)展會對人類生存帶來威脅；他同時表示，大語言模型，雖然不一定是通用人工智能的唯一路徑，但卻是重要的基礎(chǔ)，這方面的進(jìn)展為學(xué)術(shù)界探索通用人工智能提供了更多的啟發(fā)和信心。作為辛頓曾經(jīng)的學(xué)生，他也對辛頓的擔(dān)憂表示了理解，但依然堅持了自己對AI更為樂觀的判斷。

以下為此次對話的文字實錄，內(nèi)容有部分刪減：

大模型將為教育等領(lǐng)域帶來變革

騰訊新聞《潛望》：Salakhutdinov教授，感謝你今天接受我們的采訪?，F(xiàn)在我們正處于一個非常復(fù)雜的世界，很多事情正在以每天、每小時的速度在快速發(fā)生變化，所以我們感到非常幸運能有機(jī)會在這里真正討論一些我們關(guān)心的、非常重要的問題。首先讓我們談一談最近一段時間以來最熱的話題，ChatGPT。去年底ChatGPT在初次發(fā)布后，你的第一反應(yīng)是什么？

Russ Salakhutdinov:之前其實有GPT-2、GPT-3，我們有期待這些模型會越來越強大，但是當(dāng)去年 11 月份ChatGPT上線時，很多人都非常驚訝地看到它的運作效果非常驚人。

在大量數(shù)據(jù)上構(gòu)建這些大型語言模型，不僅僅是可以問、可以回答特定問題，它還可以為你總結(jié)事情。我的很多朋友都在使用ChatGPT進(jìn)行編程。如果在幾年前問我，今天能擁有這項技術(shù)嗎？我可能會回答說不會，所以這就是為什么我認(rèn)為這是一項了不起的技術(shù)，它也在很多不同的領(lǐng)域開辟了全新的機(jī)會。

騰訊新聞《潛望》：說到編程，這真的很棒，我之前沒有任何編程經(jīng)驗，但我用ChatGPT并使用自然語言向它描述一些想要實現(xiàn)的目標(biāo)，讓它幫助生成相應(yīng)的代碼，它就真的幫我提供了可以執(zhí)行的程序代碼。

Russ Salakhutdinov:是的，這是我看到很多人實際使用這些大型語言模型來幫助編程的領(lǐng)域之一，因為這些大模型背后，微軟和OpenAI基本上獲得了整個 GitHub 存儲庫上的程序代碼，所以用戶在詢問代碼相關(guān)的問題時，語言模型會表現(xiàn)得非常好。未來我認(rèn)為幾乎每個編程工具都會有一個大型語言模型能幫助你，這是一個會看到很多應(yīng)用程序的領(lǐng)域。

騰訊新聞《潛望》：雖然我們可以直接感受到ChatGPT所展現(xiàn)出的驚人的能力，但對于許多人來說，他們依然并不完全了解人工智能行業(yè)內(nèi)正在發(fā)生的事情，所以ChatGPT或者其他大語言模型，對于普通人來說，究竟意味著什么？

Russ Salakhutdinov:首先這些模型是基于人們在過去20年里一直在研究它們的深度學(xué)習(xí)技術(shù)，為ChatGPT或 Bard 提供底層的模型來自谷歌，它是 Transformer 架構(gòu)。

但這對普通人意味著什么，我認(rèn)為我們將開始看到越來越多的你認(rèn)識的人，通過自然語言與數(shù)據(jù)交互。

例如，我認(rèn)為教育領(lǐng)域?qū)泻芏鄼C(jī)會，未來你將使用像ChatGPT或 Bard 這樣的模型，它可以幫助你做作業(yè)，寫論文也是其中之一，ChatGPT可能可以寫出比你更好的論文，所以我認(rèn)為我們會看到教育的變革。

例如，你的孩子在九年級、十年級，我們將有人工智能導(dǎo)師，他們將會針對每個人進(jìn)行個性化輔導(dǎo)，你可以向它提出問題，它可以教你新的事物，向你解釋如何編寫代碼，或向你解釋一些數(shù)學(xué)術(shù)語，我認(rèn)為該領(lǐng)域?qū)⒃诓痪玫膶硌杆侔l(fā)展。

此外，我們今天與計算機(jī)交互的方式是，我們通常使用谷歌或百度來搜索信息，我認(rèn)為這也會發(fā)生變化，因為將來交互將通過這些聊天機(jī)器人或語言模型進(jìn)行，我可以向它提出問題，它會為我找到正確的信息，并給我想要的信息，這樣我就不必去網(wǎng)站上點擊并尋找正確的信息了。

騰訊新聞《潛望》：所以這就是為什么谷歌現(xiàn)在感到非常焦慮的原因？

Russ Salakhutdinov:是的，但這些大型語言模型像ChatGPT目前并不完美，因為它們會產(chǎn)生“幻覺”，我們將來可以解決這個問題嗎？有些人認(rèn)為我們無法解決這個問題，也許我們需要更長的時間，但無論如何，我認(rèn)為我們與計算機(jī)的整個交互方式將會改變。

“我不認(rèn)為我們處于需要擔(dān)心AI風(fēng)險的階段”

騰訊新聞《潛望》：現(xiàn)在，我們也看到有很多圍繞AI發(fā)展的辯論，也有很多關(guān)于人工智能發(fā)展的擔(dān)憂，我們非常想知道你現(xiàn)在所處的立場。從人類未來的發(fā)展角度來看，你是更樂觀，還是更悲觀？

Russ Salakhutdinov:這是一個很好的問題。我認(rèn)為現(xiàn)在人工智能研究領(lǐng)域中，基本上被分成兩個陣營，一個陣營認(rèn)為，人工智能會給我們帶來很多傷害，甚至最終會威脅人類的生存，在未來成為人類的終結(jié)者。

另一個陣營認(rèn)為，人工智能帶來這么多機(jī)會和新東西，例如，醫(yī)療系統(tǒng)將會發(fā)生轉(zhuǎn)變，人工智能將幫助你設(shè)計新藥物，它還將幫助你獲取新信息，一切與人工智能相關(guān)的使用潛力如此之大，這將是一個光明的未來。

我屬于樂觀陣營，我不認(rèn)為目前我們面臨人工智能所帶來的巨大風(fēng)險，即使我的前導(dǎo)師杰弗里·辛頓（Jeffery Hinton）真的相信人工智能的威脅。他是非常非常聰明的人，我不認(rèn)為我遇到過任何比他更聰明的人，但我并不認(rèn)為我們正處于需要擔(dān)心的階段。

我認(rèn)為目前最大的擔(dān)憂之一是錯誤信息的傳播，例如今天我可以創(chuàng)建一個圖像，使用提示，我就可以輕易偽造某人的聲音，在不久的將來，我們能夠大規(guī)模生成這樣的視頻，成本極低，這對大多數(shù)人來說，分辨信息的真?zhèn)螌⑹欠浅＠щy的，就像 Photoshop 一樣。

以前這需要花很長時間才能完成，但現(xiàn)在有了這項技術(shù)，也許有人可以用我的聲音制作我的視頻，你可能以為你在和我說話，但可能只是一個人工智能在對你說話，所以很多人都有點擔(dān)心這個領(lǐng)域?，F(xiàn)在問題是是否應(yīng)該有法規(guī)，我們可以做什么來防止這種情況發(fā)生。當(dāng)然還有人對信息偏差提出了一些擔(dān)憂，很多模型都是在大量數(shù)據(jù)上進(jìn)行訓(xùn)練的，如果數(shù)據(jù)本身是非常糟糕的數(shù)據(jù)，模型將學(xué)習(xí)這些壞數(shù)據(jù)，但這些模型一無所知。

騰訊新聞《潛望》：是的，我們注意到你幾天前在個人推特上轉(zhuǎn)發(fā)了一幅《紐約客》的漫畫，這是一幅非常有趣的圖片，描繪的是機(jī)器人奴役人類，你評論“這張圖基本上描繪了我們所處的情況”，所以你認(rèn)為這就是我們所面臨的未來嗎？

Russ Salakhutdinov:這是一個笑話，但如果你看看 ChatGPT，這些模型本質(zhì)上是通過訓(xùn)練來預(yù)測或自動完成句子，從人類反饋中來對這些模型進(jìn)行一些微調(diào)，但歸根結(jié)底，這些模型就是所謂的自回歸模型，它們一次預(yù)測一個單詞。雖然這些模型在自然語言理解方面表現(xiàn)得很好，但這些模型從未看過視頻，我的意思是，現(xiàn)在我們正在研究圖像和語言，但是它們?nèi)匀蝗狈σ恍┧^的世界模型，即世界是如何運作的，物理是如何運作的，你如何知道我們是人類。我們了解世界，而這些模型是缺乏的，因為它們只能正確地看待文本，所以這就是這些模型可能會達(dá)到的一個能力上限，當(dāng)然這并不意味著它們沒有用，它們在很多不同的領(lǐng)域都會非常有用，但至少我認(rèn)為要比人類更聰明這還很遙遠(yuǎn)。

騰訊新聞《潛望》：作為辛頓教授以前的學(xué)生，你能理解為什么他如此擔(dān)心嗎？

Russ Salakhutdinov:是的，某種程度上我能理解他的擔(dān)憂。因為從人的角度來說，我們要不斷學(xué)習(xí)，大約需要二十年，然后你才開始在自己的領(lǐng)域變得非常聰明；但對于數(shù)字智能，因為這種大規(guī)模的分布式訓(xùn)練，它可以在幾天之內(nèi)閱讀完整個互聯(lián)網(wǎng)的所有內(nèi)容。

現(xiàn)在我們有數(shù)以萬計的 GPU 在不停地獲取數(shù)據(jù)，所以他說，如果這種情況持續(xù)下去，我們擁有超級智力的可能性相當(dāng)高，如果你有超級智力，那么就會有與之相關(guān)的風(fēng)險存在，這就是他提出的一個擔(dān)憂，這是一個合理的論點。我并不反駁它，但我只是不認(rèn)為這些模型在文本上找到規(guī)律，并且由此形成決策來對抗人類，并且就像之前說的，它們?nèi)狈ξ锢硎澜绲母兄?/p>

真正的智能，需要與世界互動

騰訊新聞《潛望》：你剛剛提出了一個非常有趣的問題，我們現(xiàn)在還沒有完全實現(xiàn)通用人工智能，例如 ChatGPT，它無法真正感知我們周圍的世界，只能識別基于文本的內(nèi)容，所以你認(rèn)為需要多長時間人工智能真的可以對我們所處的真實物理世界形成感知？

Russ Salakhutdinov:這是一個非常好的問題，我想我不知道這什么時候會發(fā)生，我認(rèn)為現(xiàn)在在工業(yè)研究或所謂的多模態(tài)模型方面有很多工作，模型不僅看文本，還看視頻的圖像，看你的圖像，知道語音， 我們周圍的一切， 問題是這些模型（所謂的基礎(chǔ)模型）能否從環(huán)境中學(xué)習(xí)并變得聰明。

目前大語言模型缺乏的是我們稱之為主動學(xué)習(xí)者，可以主動探索物理世界，就像我們現(xiàn)在基本上沒有可以為我們做飯的機(jī)器人，甚至還沒有可以自動駕駛的機(jī)器人，什么時候會出現(xiàn)這種情況？

目前還很遠(yuǎn)。要能夠建立真正的智能，你需要與世界互動，不僅僅是被動地觀察文本視頻，是實際上能夠互動?，F(xiàn)在有很多這方面的研究正在進(jìn)行，包括我自己的研究小組。我們建造了可以在你的房子周圍移動的機(jī)器人，它可以理解你房子里的東西，或者與環(huán)境互動，但從技術(shù)上來說，我們距離目標(biāo)還很遠(yuǎn)，我們稱之為物理人工智能，而不是像 ChatGPT這樣的大語言模型。

騰訊新聞《潛望》：在看到大語言模型所表現(xiàn)出的驚人的能力后，現(xiàn)在很多人都認(rèn)為，目前大語言模型是最終達(dá)到通用人工智能（AGI） 的正確途徑，你同意這種觀點嗎？

Russ Salakhutdinov:通用人工智能基本上意味著，它是一個系統(tǒng)，不僅可以解決特定的任務(wù)，還可以解決許多不同的任務(wù)，我認(rèn)為語言模型肯定是關(guān)鍵，它們將在構(gòu)建通用人工智能方面發(fā)揮關(guān)鍵作用，但與此同時，我們達(dá)到目標(biāo)的距離依然很遠(yuǎn)。如果我們開始整合圖像視覺其他所有這些，也許我們真的可以開始構(gòu)建越來越智能的東西。

騰訊新聞《潛望》：是不是例如波士頓動力等一些機(jī)器人公司，已經(jīng)實現(xiàn)了部分功能？

Russ Salakhutdinov:目前我們所看到的波士頓動力的機(jī)器人，很大程度上還是基于控制理論，并沒有結(jié)合大語言模型?，F(xiàn)在在卡耐基梅隆大學(xué)的一項研究工作，正在嘗試將 ChatGPT 等大語言模型與機(jī)器人技術(shù)結(jié)合起來，ChatGPT可能會給你一個更高級的計劃任務(wù)，告訴你需要做什么指令和機(jī)器人系統(tǒng)執(zhí)行該計劃，來解決此任務(wù)。所以我認(rèn)為，大型語言模型、不同模態(tài)、圖像、視頻、機(jī)器人技術(shù)的結(jié)合是該領(lǐng)域?qū)⒁l(fā)展的地方，雖然它目前仍然是非常困難的。

對于波士頓動力公司來說，他們花了 20 年的時間來建造這些機(jī)器人，但如果你讓機(jī)器人握起一杯水，那仍然是困難的，所以還有很多工作要做。我知道很多大型科技公司，比如谷歌、微軟、蘋果等，他們有興趣構(gòu)建這些具體的代理，比如可以四處移動的機(jī)器人，比如一個幫助老年人的系統(tǒng)等。我們正在與很多這樣的公司合作。

騰訊新聞《潛望》：我發(fā)現(xiàn)另一個非常有趣的話題是，即使某些大型語言模型顯示出驚人的功能，而真正構(gòu)建模型的人卻不知道這些功能是如何出現(xiàn)的，似乎有很多未知與已知的事物。所以你認(rèn)為這種趨勢會持續(xù)下去，還是你認(rèn)為將來相比未知，我們會有更多的已知？

Russ Salakhutdinov:這是一個非常好的問題，我認(rèn)為現(xiàn)在人們對這些模型能夠完成的任務(wù)的效果感到驚訝，正是模型的數(shù)據(jù)規(guī)模使得這些模型工作得越來越好，但模型的能力可能會觸及到天花板，因為數(shù)據(jù)量有限。

我認(rèn)為 OpenAI 已經(jīng)抓取了網(wǎng)絡(luò)上的所有內(nèi)容，而谷歌也可能可以訪問網(wǎng)絡(luò)上的所有內(nèi)容，因此我們可能需要開始開發(fā)更好的系統(tǒng)?，F(xiàn)在這些模型也很難調(diào)試，例如它犯了錯誤，我們并不知道它為何會犯錯誤，因為這些是非常復(fù)雜的系統(tǒng)，就像當(dāng)它產(chǎn)生“幻覺”時一樣，很難說為什么會產(chǎn)生“幻覺”，所以這些模型缺乏一些黑匣子可解釋性，所以我認(rèn)為這些系統(tǒng)的下一代，你會將某種規(guī)則集或某種約束納入這些模型中，以便它們總是產(chǎn)生事實上正確的示例答案。在這個領(lǐng)域確實有人在做工作，但現(xiàn)在大多數(shù)時候這些模型都是被我們稱之為一個小黑匣子，很難判斷里面發(fā)生了什么。

騰訊新聞《潛望》：就像你提到的那樣，如果我們耗盡了互聯(lián)網(wǎng)上所有可用的數(shù)據(jù)，接下來如果我們真的想讓人工智能的能力提升到一個新的水平，下一步重要的是什么？

Russ Salakhutdinov:我相信人工智能系統(tǒng)的下一個演變，就像我們討論過的那樣，將是可以在物理世界中交互的代理，可以移動的機(jī)器人，可能是模擬的虛擬世界或物理世界。在人工智能的研究領(lǐng)域中，有一部分稱為主動學(xué)習(xí)，就像我們?nèi)祟惻c物理世界的相互作用一樣，從中學(xué)習(xí)，我認(rèn)為這種主動學(xué)習(xí)可能會成為人工智能的下一次迭代、下一次演變。

我認(rèn)為下一個十年將是人工智能的黃金時代，你將開始看到越來越多的功能，也許更智能的模型，這是非常令人興奮的。

所以這就是杰夫·辛頓為什么有理由產(chǎn)生擔(dān)憂。

但我目前還看不到人工智能系統(tǒng)將接管世界的階段，我認(rèn)為它們目前還處在非常有用的階段，這些模型的下一個演變將是主動采取行動的模型，例如，你只需告訴他，我需要去看醫(yī)生，然后你的機(jī)器人會打電話給醫(yī)生，會找到預(yù)約日期，告訴你明天12 點要去看醫(yī)生，這就是對我們帶來實際的幫助。

蘋果在研發(fā)自己的大模型，且更重視數(shù)據(jù)隱私

騰訊新聞《潛望》：你之前曾在蘋果工作，在那里領(lǐng)導(dǎo)人工智能研究，此前蘋果剛剛宣布了他們的 Vision Pro，看起來蘋果對未來的愿景和其他人不一樣，采取一種不一樣的路徑。你能結(jié)合之前在蘋果公司的經(jīng)歷，談?wù)勀愕睦斫鈫幔?/p>

Russ Salakhutdinov:是的，我認(rèn)為蘋果是這個領(lǐng)域的領(lǐng)導(dǎo)者，我也曾在蘋果工作過。你也知道Vision Pro，他們在ChatGPT 之前就已經(jīng)在這方面工作了很長時間，當(dāng)然蘋果也在研究這些大型語言模型，我確信他們也正在研究他們自己的ChatGPT之類的系統(tǒng)。（注：在本文發(fā)布前一周，有消息稱，蘋果正在研發(fā)自己的大語言模型。）

Siri 和個人協(xié)助是蘋果產(chǎn)品的一個非常重要的部分，但我認(rèn)為，巨大的虛擬現(xiàn)實是一個有趣的嘗試，但現(xiàn)在的問題之一仍然是你必須把這個東西戴在頭上，這與 Meta的oculus是一樣的，蘋果顯然非常相信可穿戴設(shè)備，你的手表、手機(jī)、耳機(jī)、平板電腦上的一切都是他們，他們想要集成。

當(dāng)我在蘋果時，我聽說過這個項目。但我擔(dān)心的是，你仍然不喜歡在頭上戴東西，它會在你的額頭上留下痕跡。我的意思是，我確信他們會不斷改進(jìn)，因為蘋果的一個特點是，他們真的在考慮集成軟件和硬件，這是非常非常強大的。

我知道蘋果肯定正在研究大語言模型，他們也在考慮如何將該技術(shù)應(yīng)用到產(chǎn)品中，基本上我認(rèn)為蘋果是唯一一家能夠?qū)④浖陀布矫娼Y(jié)合得這么好的公司，可以真正將產(chǎn)品交付到每一個用戶的面前，每個消費者都可以非常方便順利地使用。

騰訊新聞《潛望》：當(dāng)蘋果第一次推出 Siri 時，我想可能是在 10 年前，當(dāng)時人們對Siri所展現(xiàn)出的自然語言交互的能力感到非常驚訝，但經(jīng)過這些年，現(xiàn)在看來， Siri卻有些過時了，依然只能完成非常簡單的任務(wù)，例如撥打電話、設(shè)置鬧鐘等，為什么蘋果這些年沒有真正更新和增強Siri的功能？

Russ Salakhutdinov:我在2020年離開蘋果，即使在那個時候，我也認(rèn)為谷歌有更好的語音識別能力，但蘋果的獨特之處在于，他們確實考慮到了隱私和個人數(shù)據(jù)保護(hù)的問題。

例如，當(dāng)我詢問Siri一些信息時，信息保留在手機(jī)上并執(zhí)行；而在使用谷歌相關(guān)的設(shè)備和服務(wù)時，例如，你問一些問題，谷歌手機(jī)就會將這些信息發(fā)送到谷歌云，然后返回到你的手機(jī)，而云上擁有更多的計算能力，你可以做更多的事情。所以這就像兩個完全不同的觀點，這就是為什么我認(rèn)為 Siri 落后于谷歌，因為蘋果試圖在你的手機(jī)上做所有的事情。

在某種程度上，我認(rèn)為未來人們會更信任蘋果設(shè)備，因為他們知道你的數(shù)據(jù)不會去某個地方，不會被人用來訓(xùn)練他們的模型?，F(xiàn)在，蘋果在構(gòu)建這些大型語言模型時，他們也希望能夠在手機(jī)上構(gòu)建它們，我認(rèn)為是對的，所以他們必須在能夠處理的方面進(jìn)行創(chuàng)新，因為ChatGPT 的工作方式就像參數(shù)模型中的多重性，它有很多參數(shù)，因此必須在云上運行，必須運行許多 GPU 來處理數(shù)據(jù)，你現(xiàn)在還不能在手機(jī)上做到這一點，所以這就是為什么我認(rèn)為蘋果他們試圖考慮新的硬件、新的芯片、新的設(shè)計，以便在個人設(shè)備上處理這些信息。

騰訊新聞《潛望》：所以從這個角度來看，蘋果在研發(fā)自己的大型語言模型方面，給自己設(shè)置了很多限制。

Russ Salakhutdinov:是的，但同時客戶確實信任蘋果，就像他們真正所宣稱的那樣，對隱私數(shù)據(jù)非常重視，所以我相信未來人們會比其他公司更信任他們。

OpenAI為何決定不開源？

騰訊新聞《潛望》：OpenAI現(xiàn)在是一家最受關(guān)注的公司，當(dāng)Transformer架構(gòu)在6、7年前提出時，為何OpenAI將大語言模型作為重點攻克的方向，并且現(xiàn)在一鳴驚人?

Russ Salakhutdinov:是的，事實上OpenAI的首席科學(xué)家之一是我的實驗室伙伴，他就坐在我旁邊，他是聯(lián)合創(chuàng)始人之一。OpenAI在早期探索很多不同的東西，比如探索玩游戲，我認(rèn)為他們正在嘗試構(gòu)建可以玩游戲的代理，就像我正在做的那樣，他們嘗試了機(jī)器人技術(shù)，他們嘗試了很多不同的東西。

在某些時候，他們意識到通過語言應(yīng)用存在潛力，他們最初使用Transformer，得到了回報。但對于OpenAI來說，要么創(chuàng)造出一些令人驚嘆的產(chǎn)品，要么就破產(chǎn)了。

他們基本上只是專注于這一件事，盡管底層架構(gòu)是由谷歌開發(fā)的，谷歌內(nèi)部也有一個名為Bard的模型，它本質(zhì)上與ChatGPT相同，但可能表現(xiàn)沒有那么好。

騰訊新聞《潛望》：所以現(xiàn)在他們決定不將模型開源，你認(rèn)為他們正在做正確的事情嗎？

Russ Salakhutdinov:這是一個非常非常棘手的問題，OpenAI最初的使命是成為非營利組織，他們是要做開源的，但在他們開發(fā)GPT 3 模型的某個時刻，他們決定不開源它，因為他們認(rèn)為人們可能會濫用該模型，他們可以生成很多假的文本或假的新聞，所以他們決定不開源。

OpenAI現(xiàn)在主要與微軟合作，所以他們開發(fā)的所有技術(shù)都會進(jìn)入微軟的產(chǎn)品，微軟非常支持他們，因為這需要大量的計算、大量的 GPU、大量的工程標(biāo)記，才能完成這件事，微軟顯然不會開源它，因為它將成為產(chǎn)品的一部分，所以在這一點上我認(rèn)為他們不會開源任何東西，因為他們必須盈利，他們必須生存。

但同時現(xiàn)在有很多項目，這些模型都是開源的，比如 Meta 發(fā)布了 LLama 模型，該模型是開源的技術(shù)，現(xiàn)在很多公司正在構(gòu)建自己的模型，他們自己的語言模型。

騰訊新聞《潛望》：最近OpenAI的CEO Sam Altman進(jìn)行了環(huán)球旅行，他見了很多歐洲的政客，還有到訪印度和韓國，呼吁人工智能安全和監(jiān)管，很多人都說他現(xiàn)在看起來更像一個政客，你認(rèn)為他這樣做的意圖是什么？是為了呼吁國際社會對于人工智能更多的關(guān)注嗎？

Russ Salakhutdinov:是的，我認(rèn)為他是一個非常理性的人，他的獨特之處在于，他在OpenAI沒有任何股權(quán)，他在OpenAI的商業(yè)成功中不會得到任何利益，我尊重他這一點，因為他并不是為了錢而嘗試做這些事。我認(rèn)為他們正在做一些公共關(guān)系相關(guān)的事，為OpenAI建立品牌，希望人們在一切事物中使用它，這是品牌建設(shè)的一部分。

人工智能社區(qū)現(xiàn)在一次又一次地分裂，我們是否應(yīng)該要求監(jiān)管？如果我們不要求對這些發(fā)展的監(jiān)管，有些人會采取極端的方式，他們說我們應(yīng)該暫停，不要進(jìn)行任何開發(fā)；有些人說不，我們應(yīng)該繼續(xù)開發(fā)人工智能，構(gòu)建技術(shù)，然后測試它。所以這是一個非常有趣的時刻，因為沒有人清楚地知道人工智能是否會接管世界并殺死我們，這只是很多不確定性，所以人們提出擔(dān)憂。但我認(rèn)為也許提高一些關(guān)注是好的，因為這項技術(shù)將被社會普通人使用，所以更多的關(guān)注將了解這些系統(tǒng)可以做什么。就像隱私一樣，例如我分享我的個人數(shù)據(jù)給ChatGPT， 我不知道這是好事還是壞事，但至少提高了人們對這些系統(tǒng)的認(rèn)識。

我認(rèn)為總的來說，這是一件好事，我個人認(rèn)為我們不應(yīng)該發(fā)布對人工智能發(fā)展的嚴(yán)格規(guī)定。

未來很多公司都有自己的專門模型

騰訊新聞《潛望》：我們可以看到美國和中國的人工智能研發(fā)都令人興奮，但從初創(chuàng)公司的角度也有一些非常顯著的差異。在硅谷，我們看到很多人都在應(yīng)用層做創(chuàng)新創(chuàng)業(yè)，而不去進(jìn)行所謂大模型的研發(fā)，但在中國，很多公司說他們正在做自己的大型語言模型。為什么會存在這樣的差異？

Russ Salakhutdinov:我認(rèn)為未來許多公司都需要建立自己的大語言模型，原因是對于客戶來說，自己的數(shù)據(jù)是最重要的，所以需要建立自己數(shù)據(jù)的大模型，以便消費者可以更簡單的方式與我的數(shù)據(jù)進(jìn)行交互。例如，彭博已經(jīng)建立了基于自己的金融數(shù)據(jù)的GPT 模型。

我認(rèn)為美國將成為關(guān)鍵參與者，你可能知道微軟、谷歌、亞馬遜將建立自己的模型，因為他們擁有自己的計算資源，或許在微軟或谷歌等的幫助下，也會有很多專門的模型，比如金融模型，制藥模型，每個行業(yè)都會建立自己的模型。如果我是一家金融公司，我不會將我的數(shù)據(jù)發(fā)送給OpenAI，它是私有的，是專有數(shù)據(jù)，這些信息進(jìn)入OpenAI，然后它會傳給其他人，所以我認(rèn)為很多大公司都會擁有自己的專門的模型。

當(dāng)然會有像的微軟、谷歌、亞馬遜這樣的大玩家提供這些用于通用目的，但我覺得將來肯定會有很多專門的模型。

騰訊新聞《潛望》：對于一些像初創(chuàng)公司這樣的小公司來說，他們?nèi)狈Υ罅康挠嬎隳芰?，沒有像大公司那樣的資源，所以他們創(chuàng)業(yè)的方向是否應(yīng)該專注于應(yīng)用層面？

Russ Salakhutdinov:我認(rèn)為這些大玩家與其他人的區(qū)別在于計算資源，因為它很昂貴。構(gòu)建這些模型，比如像在 5 萬個 GPU 上訓(xùn)練，將花費你 5000 萬美元。所以對于一個初創(chuàng)公司，我認(rèn)為未來可能會出現(xiàn)像 LLama by meta 這樣的開源模型，你可以采用這個開源模型，然后你可以采用自己的數(shù)據(jù)，再進(jìn)行微調(diào)。

我正在與硅谷的很多公司交談，這是很多人現(xiàn)在正在采取的方法，有很多初創(chuàng)公司正在嘗試減少計算量。

構(gòu)建這些模型，使計算量只有大模型的十分之一，就像你可以在OpenAI中進(jìn)行很多優(yōu)化一樣，這樣使得訓(xùn)練模型更便宜。如果我是一家制藥公司，我真的想要建立非常非常準(zhǔn)確的模型，我的模型可以更小，不需要那么多的計算，我可以采用這些開源的大型模型之一，并將其??微調(diào)到我的特定領(lǐng)域，這就是未來可能發(fā)生的事情。

騰訊新聞《潛望》：現(xiàn)在行業(yè)除了關(guān)注大語言模型以及與其應(yīng)用層相關(guān)的創(chuàng)新，還有其他值得探索的方向嗎？

Russ Salakhutdinov:大型語言模型是所謂基礎(chǔ)模型的一部分，基礎(chǔ)模型基本上是一個像Transformer一樣的模型，它建立在大量數(shù)據(jù)的基礎(chǔ)上，人們現(xiàn)在可以為機(jī)器人技術(shù)建立一個基礎(chǔ)模型，比如我的一個學(xué)生正在與英偉達(dá)合作，他試圖建立一個像GPT模型一樣的操縱模型，構(gòu)建一個可以操縱任何類型物體的機(jī)器人，這是一個非常有趣的領(lǐng)域。

我們與英偉達(dá)合作，因為英偉達(dá)具備計算能力，但構(gòu)建這個機(jī)器人仍然很困難，例如抓住我的 iPhone，操縱和放置。除了大型語言模型之外，人們現(xiàn)在正在嘗試構(gòu)建不同領(lǐng)域的基礎(chǔ)模型，比如視頻基礎(chǔ)模型能否也取得巨大成功。如果我想在抖音上創(chuàng)建一些東西，我只需執(zhí)行提示，它就會為我創(chuàng)建一個視頻。

世界上最聰明的人都在研究AI

騰訊新聞《潛望》：你是否認(rèn)為現(xiàn)在是你職業(yè)生涯中最激動人心的時刻？

Russ Salakhutdinov:到目前為止，我認(rèn)為是這樣，同時也有一點太多了，讓人應(yīng)接不暇?，F(xiàn)在人工智能領(lǐng)域的博士生競爭也變得激烈，換做在今天我或許都無法申請到博士，因為我當(dāng)時并沒有重要的論文發(fā)表。但現(xiàn)在就是這樣，甚至有時我會收到高中生的電子郵件，他們已經(jīng)做了很多很出色的項目。

騰訊新聞《潛望》：這個地球上最聰明的一群人都來這個領(lǐng)域從事研究。

Russ Salakhutdinov:哦，是的，這真是太神奇了，就像我以前的一個學(xué)生楊植麟，他現(xiàn)在是清華大學(xué)的一名教授，他是我最聰明的學(xué)生之一，他實際上是建立了 GPT 模型前身的人，是與谷歌和我們現(xiàn)在的學(xué)生聯(lián)合完成的，這真是太棒了。

騰訊新聞《潛望》：所以你認(rèn)為現(xiàn)在這樣的情況，在未來將如何演變，是會變得越來越激動人心，還是可能會有所冷卻？

Russ Salakhutdinov:我當(dāng)然希望未來會出現(xiàn)更多令人興奮的事，我總是想起 2016 年的自動駕駛，當(dāng)時我開始為蘋果工作，負(fù)責(zé)自動駕駛相關(guān)工作。2016 年有很多令人興奮的事情，埃隆·馬斯克在特斯拉說兩年后我們將擁有自動駕駛汽車，我們從無到有很快就到了80%、 90%，然后我們就陷入了困境，91%，91.5%……

我只是擔(dān)心，在某些時候，我們是否會遇到天花板。因為自動駕駛汽車的進(jìn)展非常快，但我們永遠(yuǎn)無法達(dá)到100%的正確程度。

現(xiàn)在已經(jīng)有很多人用ChatGPT做許多事情，有一個案例，一位律師用ChatGPT起草起訴書，其中引用的一些案例完全是編造的。這就是一個問題，現(xiàn)在人們還沒有到可以百分百信任的地步，所以我們依然必須小心這項技術(shù)，因為它還處于起步階段，但我認(rèn)為這項技術(shù)具有巨大的潛力。

騰訊新聞《潛望》：你認(rèn)為即使我們采取了非常謹(jǐn)慎的態(tài)度和方法，是否有可能有一天人工智能的發(fā)展依然變得不可控？

Russ Salakhutdinov:作為一名科學(xué)家，你必須始終為這些事件分配概率，你不能說它永遠(yuǎn)不會發(fā)生，所以一定會有發(fā)生的概率，但我不認(rèn)為現(xiàn)在會發(fā)生這種情況。好的方面是，現(xiàn)在已經(jīng)有很多人工智能的子社區(qū)，致力于人工智能安全的研究，他們的工作是讓人工智能研發(fā)不要犯愚蠢的錯誤。我不相信人工智能突然某一天情況會變得非常糟糕，但也許我可能是錯的，所以這就是為什么在我們的社區(qū)中發(fā)出各種聲音是好事，就像杰夫·辛頓和約書亞一樣，他們確實發(fā)出了警報。但我認(rèn)為大多數(shù)人工智能研究人員至少現(xiàn)在不這么認(rèn)為，但是同時，也有研究人員在人工智能安全領(lǐng)域做研究是件好事，以防萬一如果發(fā)生這種情況，我們會知道該怎么做。

騰訊新聞《潛望》：當(dāng)辛頓教授宣布離開谷歌時，你是否對他的舉動感到驚訝？

Russ Salakhutdinov:在過去的幾年里，他一直在谷歌兼職，所以現(xiàn)在他決定離開，基本上是想說話。他應(yīng)該是在考慮我所說的內(nèi)容，將如何影響我所工作的公司。

我認(rèn)為谷歌是實際上為數(shù)不多的正確做事的公司，他們對人工智能采取非常謹(jǐn)慎的態(tài)度，沒有做任何瘋狂的事情，他們實際上是非常好的公司，試圖做正確的事。

我想，他并不是因為想說什么遭到了谷歌的阻止而不得不離開谷歌。杰夫是我的導(dǎo)師，他可能是我擁有的最好的導(dǎo)師，他給了我很多自由和探索，他真的非常聰明。因為他并不是在框架中思考，他的思考超出了之前的框架，這就是你所知道的。

我很幸運，他是讓我進(jìn)入深度學(xué)習(xí)領(lǐng)域的人，也是他讓我進(jìn)入博士項目，我當(dāng)時沒有想過要攻讀博士學(xué)位，而是在考慮其他職業(yè)，但他有一天早上抓住我，帶我去他的辦公室，向我展示了這些深度學(xué)習(xí)類型的算法，然后我說，哇，這非常有趣，好吧，我要去讀博士。

騰訊新聞《潛望》：這是一個有趣的故事，謝謝你與我們分享，通過今天的采訪，我可以感受到你作為AI研究者的興奮。感謝接受我們的采訪！