作者｜城主

編輯導(dǎo)語

(相關(guān)資料圖)

經(jīng)過了前一段時(shí)間的辛頓（Hinton）離職事件和AI監(jiān)管大討論之后，整個(gè)輿論界都在圍繞著“AI毀滅人類的100種方法”大出文章。在這種眾口一詞的大合唱里，其實(shí)一直都有一個(gè)不同的聲音。它來自于和辛頓并稱為“深度學(xué)習(xí)三巨頭之一”的楊立昆。

在5月15日VC20播客節(jié)目中，楊立昆又一次堅(jiān)定的表達(dá)了他對(duì)AI威脅論的不屑。并給出了兩個(gè)相當(dāng)有力的論據(jù)：1）人們不會(huì)給現(xiàn)階段的AI以完全自主權(quán) 2）只有社會(huì)動(dòng)物才因?yàn)檫M(jìn)化的需求產(chǎn)生了控制欲，智力和控制欲毫無關(guān)聯(lián)性。沒有控制欲和自主權(quán)的AI為什么要顛覆人類文明？又靠什么顛覆人類文明呢？

目前身為Meta AI負(fù)責(zé)人的楊立昆一直都是個(gè)“唱反調(diào)的人”，在ChatGPT面世之后在推特上瘋狂嘲諷；對(duì)現(xiàn)在大家趨之若鶩的GPT式自回歸模型也并不認(rèn)同。因此他在這次訪談中關(guān)于開源閉源，AI的能力，失業(yè)問題和模型規(guī)模等一系列涉及AI討論前沿的問題中都有著和我們之前聽到的大佬并不相同的新洞見。

作為發(fā)明出第一塊GPU，研究出卷積神經(jīng)網(wǎng)絡(luò)的AI天才人物，他的來自反面的話也許能給我們比那些來自正面的主流話語更多的啟發(fā)。

丨劃重點(diǎn)

①自監(jiān)督大語言模型在語言上表現(xiàn)的很好，但它們思考、理解世界運(yùn)作和計(jì)劃的能力非常有限，它們對(duì)世界的理解非常膚淺。原因是它們僅在語言上受過訓(xùn)練，而語言只包含人類所有知識(shí)的一小部分。

②AI威脅論是蒙昧主義。因?yàn)槭紫任覀儾粫?huì)授予這個(gè)系統(tǒng)自主性。其次，控制欲和能智力并不相關(guān)，認(rèn)為他們相關(guān)是個(gè)重大謬誤。

③人工智能系統(tǒng)的欠缺和下一步發(fā)展：1）獲得通過觀察學(xué)習(xí)世界運(yùn)作的方式的能力 2）獲得制定目標(biāo)的能力來達(dá)成目標(biāo)的能力。超越當(dāng)前，還需要設(shè)定子目標(biāo)來達(dá)成更大目標(biāo)的能力，這被稱為層次化規(guī)劃。

④因?yàn)榧夹g(shù)在經(jīng)濟(jì)中的傳播速度實(shí)際上受限于人們掌握新技術(shù)的速度。按經(jīng)濟(jì)學(xué)家預(yù)測(cè)，社會(huì)完全應(yīng)用新AI技術(shù)需要超過十年時(shí)間。所以不用擔(dān)心當(dāng)下的失業(yè)問題。

以下為完整訪談內(nèi)容：

開場(chǎng)白

Lecun：

AI將帶來人類的新文藝復(fù)興，一種新的啟蒙運(yùn)動(dòng)，因?yàn)锳I將放大每個(gè)人的智力。這就像每個(gè)人都有一群比自己更聰明，對(duì)大多數(shù)話題都更加熟悉的人在幫助自己。它將賦予我們每個(gè)人更大的權(quán)力。

Harry：

Yeah，我對(duì)此非常興奮。我從我們的共同朋友David Marcus和Joshua Sokol獲得了很多幫助。非常感謝您能加入我的對(duì)話。

Lecun：

很高興見到您!

楊立昆的傳奇AI行業(yè)履歷

Harry：

現(xiàn)在，我很想從一開始講起。我聽說過一些早期的故事，但我想從David Marcus講起。您是如何首次涉足AI世界并踏上這條道路的?

Lecun：

當(dāng)我還是法國(guó)的工程學(xué)本科生時(shí)，我偶然看到一本哲學(xué)書，其中皮亞杰(認(rèn)知心理學(xué)家)和諾姆·喬姆斯基(著名語言學(xué)家)在爭(zhēng)辯“天生與習(xí)得”在語言中扮演的角色。喬姆斯基認(rèn)為語言是與生俱來的，而皮亞杰則認(rèn)為語言是習(xí)得的，具有某些內(nèi)在結(jié)構(gòu)。在皮亞杰一方，有一位名叫西摩爾·帕佩特的麻省理工學(xué)院教授。在他的論點(diǎn)中，他提到了“感知器”（即Perseptron，神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)節(jié)點(diǎn)）——一種早期的機(jī)器學(xué)習(xí)系統(tǒng)。我讀到這篇文章后，發(fā)現(xiàn)人們一直在研究機(jī)器學(xué)習(xí)，我對(duì)此非常著迷。我開始深入研究相關(guān)文獻(xiàn)，不久后發(fā)現(xiàn)大部分文獻(xiàn)出自20世紀(jì)50年代和60年代，基本上在60年代早期停止，因?yàn)橐槐緯鴱氐捉K結(jié)了這門學(xué)科。諷刺的是，西摩爾·帕佩特正是這本書的合著者之一。然而，在10年后，他竟然稱感知器是一個(gè)驚人的概念。

我立即被這門學(xué)科吸引，開始對(duì)還未稱之為機(jī)器學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)產(chǎn)生興趣，這最終發(fā)展成深度學(xué)習(xí)。

Harry：

我可以問您一個(gè)問題嗎，David? 在回顧您所取得的重大突破時(shí)，從最開始到重大突破需要多長(zhǎng)時(shí)間?取得這些重大突破還需要解決哪些關(guān)鍵問題?

Lecun：

第一個(gè)突破出現(xiàn)在我還在攻讀工程學(xué)學(xué)位時(shí)。我意識(shí)到要超越60年代被拋棄的那些系統(tǒng)（即感知器原型）的限制，必須找到能訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法。除了日本的少數(shù)人和一位叫杰夫·辛頓的人外，基本上沒有人在研究這類問題。辛頓在1983年發(fā)表過一篇論文，講述了所謂的“玻爾茲曼機(jī)”，這顯然是一種超越這些限制的方法。

我方面也開發(fā)出一種訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)的方法，與我們現(xiàn)在稱之為“反向傳播”非常接近，但并不完全相同，更接近我們現(xiàn)在稱之為“目標(biāo)傳播”的方法。然后，我發(fā)表了幾篇法語論文。1985年，在法國(guó)的一次會(huì)議上，我遇到了杰夫（辛頓昵稱），我們意識(shí)到我們一直在研究同一件事，我們的想法非常相似。但當(dāng)時(shí)我還在攻讀博士學(xué)位，而他是卡內(nèi)基梅隆大學(xué)的副教授。我們開始討論這個(gè)問題，然后我訪問了他在卡內(nèi)基梅隆大學(xué)舉辦的暑期學(xué)校。當(dāng)我完成博士學(xué)位后，我在他那里做了博士后研究，然后加入了貝爾實(shí)驗(yàn)室。在多倫多工作期間，我與杰夫開發(fā)了卷積神經(jīng)網(wǎng)絡(luò)，這現(xiàn)在是圖像和語音處理的主要方法。所以，這就是我最著名的成就，但它的起源要早得多。

Harry：

我必須問您，約書亞（深度學(xué)習(xí)三巨頭中的另一位）描述了AI和神經(jīng)網(wǎng)絡(luò)中存在的“興奮周期”，其中存在著“沒有人真正關(guān)心神經(jīng)網(wǎng)絡(luò)“的十年沙漠時(shí)期。您如何在沒有人真正關(guān)心的情況下保持熱情?

LeCun：

我們心里明白，這些方法最終會(huì)受到重視，我們需要打破人們對(duì)神經(jīng)網(wǎng)絡(luò)的成見。的確，1990年代初，約書亞和我一起在AT&T貝爾實(shí)驗(yàn)室工作。大約在1995年左右，學(xué)界對(duì)這些方法的興趣開始減弱。的確有10年左右的時(shí)間，不僅沒有人對(duì)神經(jīng)網(wǎng)絡(luò)感興趣，人們甚至還在拿它開玩笑。然而，1996年，我的工作有所變化。我仍在AT&T的研究實(shí)驗(yàn)室工作，但成為了部門負(fù)責(zé)人。這是互聯(lián)網(wǎng)早期，我的團(tuán)隊(duì)開始研究一些與機(jī)器學(xué)習(xí)或神經(jīng)網(wǎng)絡(luò)沒有太大關(guān)系的其他事情，比如圖像壓縮。隨著互聯(lián)網(wǎng)的到來，我們應(yīng)該有一種掃描現(xiàn)有紙質(zhì)文件并將其上傳到網(wǎng)絡(luò)上的方法，以便人們可以訪問它們。所以，我與長(zhǎng)期合作者之一的麥克一起工作了5-6年。約書亞也參與了其中。

當(dāng)我們基本上都離開AT&T時(shí)，該項(xiàng)目結(jié)束。之后，我重新開始研究（神經(jīng)網(wǎng)絡(luò)）剪枝，杰夫也回到加拿大，之前他在英國(guó)呆了一段時(shí)間。約書亞、杰夫和我決定在21世紀(jì)初合作“重振”學(xué)界對(duì)神經(jīng)網(wǎng)絡(luò)的興趣，發(fā)現(xiàn)新的算法并使其發(fā)揮作用。這幾乎花了10年的時(shí)間，但最終取得了成功。其他的夢(mèng)想基本上是。。。

AI最近幾年發(fā)展很快， 但它還遠(yuǎn)不如人類

Harry：

我會(huì)問您一系列不同深度、廣度和明顯與不明顯的問題。請(qǐng)?jiān)徣绻行﹩栴}顯而易見，我只是想問當(dāng)我聽到您幾十年來的歷史背景時(shí)，今天看到的情況您有何感覺?我們是否處于AI發(fā)展的新拐點(diǎn)，或者這只是我們多年來見過的延續(xù)?

LeCun：

是這兩者的結(jié)合。一方面，從研究的角度來看，今天我們看到的許多情況似乎是邏輯的延續(xù)，我沒有像公眾那樣被最近的進(jìn)展所吸引，因?yàn)槲乙呀?jīng)看到這些進(jìn)展在過去幾年中逐漸發(fā)生。另一方面，確實(shí)有一些事情令人驚訝。

自監(jiān)督學(xué)習(xí)方法應(yīng)用于Transformer架構(gòu)的效果非常好，遠(yuǎn)遠(yuǎn)超出我們的預(yù)期。我們可以訓(xùn)練系統(tǒng)理解語言、翻譯多種語言，然后繼續(xù)生成文本或回答問題，這種效果令人驚訝，人們沒有完全預(yù)料到這僅僅通過使其變大和在更多數(shù)據(jù)上訓(xùn)練就可以實(shí)現(xiàn)。這無疑給每個(gè)人帶來了驚喜。這場(chǎng)革命發(fā)生在兩年前。

雖然公眾是通過最近推出的產(chǎn)品了解到這一點(diǎn)，但對(duì)我們來說，這更像是連續(xù)的進(jìn)化。你會(huì)在許多技術(shù)進(jìn)步的營(yíng)銷活動(dòng)中或AI領(lǐng)域看到這一點(diǎn)，公眾會(huì)關(guān)注其中的轟動(dòng)性事件，但對(duì)許多人來說，這更像是連續(xù)的事情。它通常需要許多人采用已經(jīng)存在的技術(shù)，稍稍推進(jìn)一步，做些工程工作，然后展示一個(gè)演示來證明它的有效性。這就是深藍(lán)國(guó)際象棋計(jì)算機(jī)在1990年代中期達(dá)成的情況，以及斯坦福大學(xué)塞巴斯蒂安·朱恩團(tuán)隊(duì)在DARPA大挑戰(zhàn)賽中獲得的100英里內(nèi)自駕車的情況。還有AlphaGO、IBM的杰羅尼大戰(zhàn)等。從遠(yuǎn)處看，這些似乎像跳躍，但在這個(gè)領(lǐng)域，這更像是一個(gè)連續(xù)的進(jìn)化。

Harry：

我可以問您過去一年左右令人驚喜的其他積極發(fā)展嗎?您說自監(jiān)督學(xué)習(xí)和其效率。過去一年里還有其他超出預(yù)期的事情嗎?

LeCun：

是的，我已經(jīng)提到，僅僅訓(xùn)練一個(gè) Seq2Seq（序列對(duì)序列）的模型來預(yù)測(cè)序列中最后一個(gè)單詞，如果做得恰當(dāng)，您會(huì)得到一個(gè)功能略微超出預(yù)期的系統(tǒng)。隨著這些系統(tǒng)變大和在更大的數(shù)據(jù)上訓(xùn)練，這些（涌現(xiàn)）功能會(huì)出現(xiàn)。這無疑給每個(gè)人帶來了驚喜。

現(xiàn)在，作為研究人員和科學(xué)家，我們總是在尋找下一個(gè)目標(biāo)。我現(xiàn)在感興趣的就是超越這一點(diǎn)。許多人將致力于應(yīng)用大規(guī)模語言模型，這很好。后面將出現(xiàn)許多產(chǎn)品和人們可以做的新事情，這會(huì)很棒。但我已經(jīng)開始對(duì)未來三到四年甚至五年的下一個(gè)階段的思考了：在這些系統(tǒng)中缺乏什么?

Harry：

這將您的思考引向何方?

Lecun：

這些系統(tǒng)離人類智力水平還差得遠(yuǎn)。盡管您可能會(huì)這么認(rèn)為（AI和人類智力差不多），因?yàn)檫@些系統(tǒng)在語言上很流暢；但它們思考、理解世界運(yùn)作和計(jì)劃的能力非常有限，它們對(duì)世界的理解非常膚淺。原因是它們僅在語言上受過訓(xùn)練，而語言只包含人類所有知識(shí)的一小部分。

人類的大部分知識(shí)不是語言學(xué)的，所有動(dòng)物的知識(shí)也不是語言學(xué)的。我們理所當(dāng)然地認(rèn)為——這就是波拉尼悖論（人類所知遠(yuǎn)勝于其所能言傳）。我們理所當(dāng)然的所有能力和技能，比如計(jì)劃或非常簡(jiǎn)單的事情，任何10歲的孩子都可以做，比如清理餐桌和裝滿洗碗機(jī)，任何17歲的孩子都可以學(xué)習(xí)駕駛，但我們沒有家用機(jī)器人。

Harry：

如果它們不是語言學(xué)的，那么大多數(shù)——我很抱歉這些基本問題，但是那些我們目前AI模型和引擎無法攝取的知識(shí)又是什么?隨著時(shí)間的推移，它們能否被AI模型和引擎攝取?

Lecun：

好吧，首先，毫無疑問，最終AI系統(tǒng)將以類似于人類的方式理解世界，以更好的方式。但它們不會(huì)是像我們現(xiàn)在討論的那種類型的自動(dòng)回歸大語言模型，它們會(huì)有不同的原因很多。

但為了更直接地回答您的問題，任何與現(xiàn)實(shí)世界的養(yǎng)分有關(guān)的事情都需要對(duì)現(xiàn)實(shí)世界的體驗(yàn)或模擬版本，這些大語言模型沒有，它們純粹從文本中訓(xùn)練。您可以在那里添加一系列關(guān)于物理世界的問題，因?yàn)閿?shù)據(jù)中有模板或與之非常相似的東西。同樣適用于計(jì)劃，您可以問他們計(jì)劃一次旅行或類似的事情，他們會(huì)采用訓(xùn)練時(shí)學(xué)到的模板，但他們實(shí)際上沒有思維模型來理解世界如何運(yùn)轉(zhuǎn)和允許他們計(jì)劃復(fù)雜的行動(dòng)序列或使用工具等。

AI威脅論就是蒙昧主義，監(jiān)管應(yīng)該學(xué)維基百科

Harry：

我能問一下為什么您說AI研究人員面對(duì)滅絕預(yù)言時(shí)會(huì)搖頭嗎?

LeCun：

這有兩個(gè)不同的問題，這些概念（“人們?yōu)槭裁磿?huì)覺得AI不可靠“和“AI到底有沒有能力毀滅人類“）有些相互垂直。我的意思是，在當(dāng)前的自回歸模型中確實(shí)存在一些問題，即您只能通過兩種方式控制他們的答案。

第一種方式是修改訓(xùn)練它們的數(shù)據(jù)的統(tǒng)計(jì)信息，可能使用人工反饋來獲得具體的答案；第二種方式是更改提示和問題形式的結(jié)合，您問他們的問題的形式，訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)信息會(huì)完全決定系統(tǒng)產(chǎn)生的答案。

首先，它沒有持久的記憶。其次，您無法控制系統(tǒng)，無法要求事實(shí)性或像讓13歲的人可以理解的那樣對(duì)其施加約束。您可以試圖在提示中提到這一點(diǎn)，然后考慮您依賴訓(xùn)練數(shù)據(jù)的統(tǒng)計(jì)信息是否適當(dāng)做這一點(diǎn)；但沒有直接的方法來約束這些系統(tǒng)的答案以滿足某些目標(biāo)，這使得它們很難控制和引導(dǎo)。

這產(chǎn)生了一些擔(dān)憂，因?yàn)槿藗兡撤N程度上推斷，如果我們讓他們做任何我們連接到以太網(wǎng)的事情，他們可以隨意使用（互聯(lián)網(wǎng)的資源），他們會(huì)做瘋狂的事情，愚蠢的事情，可能危險(xiǎn)的事情，我們將無法控制他們，他們會(huì)逃脫或控制，因?yàn)樗麄兏螅运麄儠?huì)變得更加聰明。這純屬胡說。

首先，因?yàn)檫@不是我們將授予其自主性的系統(tǒng)類型。最終將被授予自主性的系統(tǒng)應(yīng)該能夠組織一系列行動(dòng)，那個(gè)系統(tǒng)將存在有需要被滿足的目標(biāo)，而因?yàn)榇嬖谶@些目標(biāo)，它們將易于控制。它們將比當(dāng)前的系統(tǒng)更易于控制。所以我的預(yù)測(cè)是，在幾年內(nèi)，任何有理智的人都不會(huì)用完全自動(dòng)性的大語言模型，他們會(huì)轉(zhuǎn)向在理性上更復(fù)雜和可控制的東西，它可以計(jì)劃其答案而不是只產(chǎn)生一個(gè)接一個(gè)的字符序列。好的，這是第一個(gè)謬誤。

第二個(gè)謬誤是，不知何故，（人們覺得）控制欲和能力與智力相關(guān)。許多人都在說這句話，包括我的朋友杰森最近也說"不知何故，一旦使命變得智能，它就會(huì)失控，因?yàn)樗任覀兏斆?，它可以以我們甚至無法想象的方式影響我們。"

我認(rèn)為這是一個(gè)巨大的謬誤，因?yàn)榧词乖谌祟愇锓N內(nèi)，最聰明的人也不一定想支配其他人。要支配其他實(shí)體，您不一定需要比它們更聰明，但您需要支配它們。這不是每個(gè)智能實(shí)體都會(huì)自發(fā)做的事情。

我們這樣做是因?yàn)槿祟愡M(jìn)化中建立了影響他人的欲望，因?yàn)槲覀兪巧鐣?huì)物種。這同樣適用于狒狒、黑猩猩、狼、狗等。對(duì)長(zhǎng)頸鹿來說不是這樣的，長(zhǎng)頸鹿沒有支配任何人的欲望，因?yàn)樗鼈兪欠巧鐣?huì)動(dòng)物，它們是獨(dú)居動(dòng)物，它們實(shí)際上是領(lǐng)土性的。

我們需要區(qū)分這兩個(gè)概念：一方面是控制欲望和能力，另一方面是智力。我們將擁有超級(jí)國(guó)際機(jī)器作為我們的工具，這意味著我們每個(gè)人都將像一位企業(yè)領(lǐng)導(dǎo)者、政治家或一位學(xué)者，擁有比自己更聰明的人為他工作。

我的意思是，這很棒， 而不像是您感到被威脅......不是說因?yàn)槟I(lǐng)導(dǎo)其他比您更聰明的人一起工作，您就不是一個(gè)好領(lǐng)導(dǎo)。

Harry：

我能聽一下我們?nèi)绾卧谀Ｐ椭信囵B(yǎng)價(jià)值觀，使它們沒有支配欲望嗎?

LeCun：

是的，我剛才跟你說過的目標(biāo)。好吧，讓我描述一下我看到的未來AI系統(tǒng)的架構(gòu)或未來AI系統(tǒng)。我們將擁有AI系統(tǒng)，基本上它將計(jì)劃自己的行動(dòng)，行動(dòng)可以包括您告訴AI的文字序列。但它們將計(jì)劃這些行動(dòng)或文字序列，以優(yōu)化我們?yōu)槠湓O(shè)置的一系列目標(biāo)。

其中一個(gè)目標(biāo)可以是它是否可以回答我剛才問的問題；另一個(gè)目標(biāo)可能是，它是否能把這個(gè)答案轉(zhuǎn)化成13歲小孩可以理解的水平。再下一個(gè)目標(biāo)可能是，您知道，當(dāng)我問它關(guān)于這個(gè)世界的問題時(shí)，他的回答要真實(shí)；或者當(dāng)它談昨天政治事件的時(shí)候，它能否與您今天早上讀過的所有新聞報(bào)導(dǎo)相兼容。就是這樣的事情，對(duì)嗎?

所以，您將擁有那些系統(tǒng)，它們將有一系列目標(biāo)，它們的輸出，它們的答案，按構(gòu)造，將必須滿足這些目標(biāo)。其中一些目標(biāo)將是硬編碼的（寫進(jìn)底層程序里的），以使這些系統(tǒng)足夠安全，比如如果它是一個(gè)能烹飪晚餐并能在其手臂上揮舞廚房刀具的家用機(jī)器人，那么里面會(huì)有一個(gè)條款說不要在周圍有人時(shí)移動(dòng)手臂，因?yàn)槟?，它可能?huì)傷害他們。這將是系統(tǒng)無法違反的目標(biāo)，因?yàn)榘礃?gòu)造，它必須滿足它們。這就是構(gòu)建安全AI系統(tǒng)的方法——使它們產(chǎn)生的答案必須按構(gòu)造滿足目標(biāo)，您要設(shè)計(jì)這些目標(biāo)，使其行為安全。

如何精確地做到這一點(diǎn)不是一個(gè)已經(jīng)被解決了的問題，但您可以嘗試在小規(guī)模部署，看看效果如何。并在它不起作用時(shí)進(jìn)行糾正，逐步修復(fù)它。但這不像如果你犯了錯(cuò)，它就會(huì)毀滅人類。

Harry：

這取決于我那個(gè)烹飪機(jī)器人，您永遠(yuǎn)不知道。。。

您如何確定誰有能力設(shè)置這種目標(biāo)？它的對(duì)錯(cuò)取決于誰去設(shè)計(jì)它。

LeCun：

說得對(duì)。所以這將必須有一個(gè)審查過程，我們?cè)试S某些人這樣做。這和去審查誰可以給您看病，剪頭發(fā)，修理水管或汽車的資格一樣。所以肯定會(huì)一些審查過程，當(dāng)然還有測(cè)試和市場(chǎng)部署程序，監(jiān)管機(jī)構(gòu)或潛在危險(xiǎn)的東西，可能不是全部程序，但對(duì)許多應(yīng)用程序來說是必要的，比如醫(yī)療保健、運(yùn)輸相關(guān)的程序。

然后，也許還可以做的是，讓我們以智能助手為例：讓我們想象一個(gè)未來，每個(gè)人都可以與他們的智能助手交談，該系統(tǒng)將擁有接近人類智力的智力，可能比大多數(shù)人具有更豐富的知識(shí)。它們可以翻譯任何語言，并給您快速總結(jié)昨天的報(bào)紙，解釋數(shù)學(xué)概念給您，等等。所以人們可能幾乎完全使用這個(gè)來與數(shù)字世界互動(dòng)。您不會(huì)去谷歌或維基百科，您只會(huì)與您的助手交談。

唯一正確做到這一點(diǎn)的方法是， 為這些助理提供基礎(chǔ)設(shè)施，我的意思是，它們將如此普遍，如此多的東西將依賴于這些系統(tǒng)，我認(rèn)為沒有人會(huì)接受這些助手被那些藏在地平線之后的私人公司控制。他們會(huì)堅(jiān)持基礎(chǔ)設(shè)施開放，他們也會(huì)堅(jiān)持關(guān)于如何訓(xùn)練這些系統(tǒng)的審核過程可能像維基百科一樣，當(dāng)一篇文章被修改時(shí)，某個(gè)編輯會(huì)檢查它，然后更改會(huì)被接受或不被接受，這樣的事情。

您可以想象，所有人類知識(shí)的公共知識(shí)庫將是您的助手，將通過某種眾包過程構(gòu)建，也許類似于維基百科。將有許多人訓(xùn)練和調(diào)整這些系統(tǒng)，以便您知道，無論它們產(chǎn)生什么，都是正確的。

開源完勝閉源，眾人拾材火焰高

Harry：

這么有趣，您說到開放方法與封閉方法相比帶來的好處。我有點(diǎn)混亂，價(jià)值到底在封閉模型還是開放模型中產(chǎn)生？然后我們有來自谷歌員工的泄密內(nèi)部備忘錄，上面說，“我們不是領(lǐng)先者，OpenAI。還有第三個(gè)（潛在競(jìng)爭(zhēng)者），它實(shí)際上更重要， 但我們沒有注意到和總結(jié)出來?！?/p>

LeCun：

這（備忘錄）是由我的同事在Fair整理的Llama模型引發(fā)的，它的代碼是開源的。這一模型很遺憾的只能用于研究和非商業(yè)目的，原因基本上是訓(xùn)練數(shù)據(jù)的法律地位所引發(fā)的復(fù)雜法律問題，這超出了我的掌控。這并非是因?yàn)镸eta缺乏開源的愿望，而是因?yàn)槌鑫依斫夥秶膹?fù)雜法律問題。

Harry：

我可能太天真了，為什么開放會(huì)勝過更受控制的、資金雄厚的OpenAI或其他大型企業(yè)及其嚴(yán)謹(jǐn)?shù)?jiǎn)的團(tuán)隊(duì)?

LeCun：

這很簡(jiǎn)單，因?yàn)橄馦eta這樣的組織沒有獨(dú)占好主意的壟斷權(quán)。

如果采取開放方式，你基本上可以吸引全世界的智慧來為事物做出貢獻(xiàn)和提供想法。您知道，一家擁有400人的公司幾乎不可能考慮這些事情，甚至一家擁有50，000名員工的大公司可能也不愿意投入太多資源，因?yàn)樗麄兛赡懿徽J(rèn)為這在長(zhǎng)期內(nèi)有用，或者他們有更緊迫的事情要處理。

所以你把它交出去，然后你就有成噸成噸的人，有些人是本科生，有些人住在父母的地下室，他們會(huì)想出你永遠(yuǎn)不會(huì)想到的或不愿意花時(shí)間去解決的驚人想法，例如讓70億參數(shù)的llama模型在Mac筆記本電腦上運(yùn)行。這真的很驚人。

所以我認(rèn)為這就是開源項(xiàng)目得以成功的原因，特別是當(dāng)它們涉及基礎(chǔ)設(shè)施時(shí)。舉個(gè)例子，互聯(lián)網(wǎng)的早期，微軟和Sun Microsystems為互聯(lián)網(wǎng)提供基礎(chǔ)設(shè)施而展開了競(jìng)爭(zhēng)，比如操作系統(tǒng)、Web服務(wù)器等。在Sun方面，它有Solaris操作系統(tǒng)和Java語言等。在微軟方面，它有Windows操作系統(tǒng)、IIS Web服務(wù)器和ASP程序。

結(jié)果，兩家公司都輸了。實(shí)際上，Sun幾乎破產(chǎn)，被甲骨文收購(gòu)。Linux和Apache完全開源，你可能會(huì)問，為什么整個(gè)互聯(lián)網(wǎng)和技術(shù)行業(yè)都運(yùn)行在Linux上?你的手機(jī)如果是Android系統(tǒng)，很可能也運(yùn)行在Linux上，全世界約有四分之三的手機(jī)是這樣的。原因是開源方式能更好地聚集志同道合的人才完成共同項(xiàng)目，即使動(dòng)機(jī)不一定是營(yíng)利。

Harry：

我同意你的觀點(diǎn)。我喜歡你和David Marcus的對(duì)話。我的問題是Meta如何獲勝?

LeCun：

事實(shí)上，Meta過去開源了它研發(fā)的幾乎所有基礎(chǔ)設(shè)施。例如，React用于Web和移動(dòng)應(yīng)用開發(fā)框架，PyTorch用于AI研發(fā)基礎(chǔ)設(shè)施，現(xiàn)在PyTorch甚至不再屬于Meta，所有權(quán)已轉(zhuǎn)讓給Linux基金會(huì)。ChatGPT就是基于PyTorch開發(fā)的。OpenAI也運(yùn)行在PyTorch上。事實(shí)上，除谷歌外，全世界都運(yùn)行在PyTorch上，因?yàn)楣雀栌凶约旱南到y(tǒng)。

Meta不僅開源這些，還開源了其服務(wù)器背板設(shè)計(jì)，以便硬件制造商可以根據(jù)其規(guī)范來制造。除了偶爾因最近的法律或政策決定而產(chǎn)生的法律問題外，Meta開源了幾乎所有的內(nèi)容。其他人可以使用你的技術(shù)，但你不能以同樣的程度利用它。除Facebook外，誰能使用智能NLP系統(tǒng)進(jìn)行翻譯或內(nèi)容審核?其他人有同樣的技術(shù)并不重要。

模型大小不重要，能夠設(shè)定子目標(biāo)才是下一代AI核心

Harry：

我完全同意你的觀點(diǎn)。這也引出我的下一個(gè)問題，你實(shí)際上也在Twitter上提到過，就是數(shù)據(jù)規(guī)模和數(shù)據(jù)可用性的問題。模型規(guī)模就是萬能的嗎?你如何看待小模型的價(jià)值?

LeCun：

不，不是模型規(guī)模就是萬能的。Llama證明并向人們展示了這一點(diǎn)。Llama背后的人，特別是édouard和他在巴黎的合作伙伴，證明你不需要非常大的模型就可以工作得很好。

我認(rèn)為這為許多人帶來了一定的啟示，讓他們意識(shí)到，也許你需要上千個(gè)GPU運(yùn)行幾周時(shí)間來訓(xùn)練基本系統(tǒng)，但訓(xùn)練完成后，你可以將其用于各種用途，并且很容易進(jìn)行微調(diào)。最終，你可以在筆記本電腦上運(yùn)行它，這真是太神奇了。或者在裝有一兩個(gè)GPU的臺(tái)式機(jī)上運(yùn)行它。我認(rèn)為，它在某種程度上開啟了人們的視野，讓他們意識(shí)到之前認(rèn)為不可能的巨大機(jī)遇。我認(rèn)為這將帶來更多進(jìn)步，如果我們朝著我之前描述的人工智能系統(tǒng)設(shè)計(jì)方向前進(jìn)，也許會(huì)稍微小一些。

Harry：

為什么會(huì)更小?請(qǐng)?jiān)敿?xì)說明。

LeCun：

當(dāng)前的模型需要海量的數(shù)據(jù)進(jìn)行訓(xùn)練，遠(yuǎn)遠(yuǎn)超過任何人接受過的訓(xùn)練。例如，Llama模型訓(xùn)練的數(shù)據(jù)量高達(dá)140億個(gè)標(biāo)記，相當(dāng)于互聯(lián)網(wǎng)的四分之一，要花8小時(shí)每天正常速度閱讀，需要22，000年。顯然，這些系統(tǒng)可以從文本中積累大量知識(shí)，但我們不需要那么長(zhǎng)時(shí)間就可以如此聰明和學(xué)習(xí)這么多。

我們的大腦在學(xué)習(xí)如駕駛汽車這種事情上遠(yuǎn)遠(yuǎn)高效于這些模型。一個(gè)青少年只需要約20小時(shí)的練習(xí)就可以學(xué)會(huì)駕駛，但我們?nèi)詻]有達(dá)到五級(jí)自動(dòng)駕駛汽車。顯然，我們還缺少重要的東西。

我認(rèn)為，人工智能系統(tǒng)學(xué)習(xí)的能力缺失的是通過觀察學(xué)習(xí)世界運(yùn)作的方式，然后是制定目標(biāo)的能力來達(dá)成目標(biāo)的能力。超越當(dāng)前，還需要設(shè)定子目標(biāo)來達(dá)成更大目標(biāo)的能力，這被稱為層次化規(guī)劃。

人類有此能力，許多哺乳動(dòng)物和鳥類也有一定程度的規(guī)劃能力，或者只有非常簡(jiǎn)單的規(guī)劃。

Meta打算怎么贏：開源；Meta過去為啥輸：要臉

Harry：

你提到實(shí)際上較小的模型比預(yù)期的更有效率，模型規(guī)模并非萬能。我們還談到開放和封閉，我采訪了許多領(lǐng)先的人工智能專家，他們說價(jià)值會(huì)流向現(xiàn)有企業(yè)，初創(chuàng)公司沒有數(shù)據(jù)和模型，價(jià)值將流向現(xiàn)有企業(yè)。這是正確的嗎?鑒于你剛才說的模型規(guī)模并非萬能，初創(chuàng)公司也有可能獲利，對(duì)嗎?

LeCun：

取決于你相信哪種情景。我認(rèn)為會(huì)發(fā)生并期待的情景是我之前描述的，有某種開放平臺(tái)用于基本的語言模型?；菊Z言模型本質(zhì)上被視為基礎(chǔ)設(shè)施，如TCP、Linux和Apache。完全開源。

然后，將有一堆企業(yè)在此之上構(gòu)建產(chǎn)品，用于垂直應(yīng)用和特定用途。為這些系統(tǒng)定制，為企業(yè)應(yīng)用和個(gè)人用途提供支持等。這將產(chǎn)生全新經(jīng)濟(jì)和就業(yè)機(jī)會(huì)，而不是使其消失。

我認(rèn)為這種情景會(huì)發(fā)生，原因是這些系統(tǒng)本質(zhì)上需要數(shù)百萬人的貢獻(xiàn)來使其準(zhǔn)確和正確等，這種維基百科風(fēng)格的方式。我認(rèn)為專有（閉源）方法實(shí)際上會(huì)落后。

其次，你可以問自己這樣一個(gè)問題：哪些公司最有條件產(chǎn)生ChatGPT這樣的東西，顯然是谷歌和Meta，但為什么是OpenAI?OpenAI當(dāng)時(shí)只有400多人，現(xiàn)在更多，但實(shí)際上規(guī)模更小。原因不是因?yàn)楣雀杌騇eta沒有能力或技術(shù)，而是因?yàn)楫?dāng)這些產(chǎn)品會(huì)帶來很大風(fēng)險(xiǎn)的情況下，他們沒有生產(chǎn)全新產(chǎn)品的壓力。

我們知道風(fēng)險(xiǎn)在哪里，因?yàn)樵贑hatGPT面世幾周前，Meta旗下的Fair推出了Galactica模型，這是一個(gè)實(shí)驗(yàn)系統(tǒng)，他們推出了演示，以證明Galactica是一個(gè)大型生成模型。訓(xùn)練于整個(gè)科學(xué)文獻(xiàn)，其目的是幫助科學(xué)家寫論文。你開始寫一個(gè)段落或其他內(nèi)容來描述段落的主題，然后Galactica會(huì)完成該段落，它不會(huì)完全正確，你需要修正它，但它可以根據(jù)你所在的主題，在文獻(xiàn)中已知結(jié)果的基礎(chǔ)上構(gòu)建表格結(jié)果或完成化學(xué)公式等。這對(duì)科學(xué)家非常有用。

但演示一推出，Twitter上就有人痛斥該系統(tǒng)，說這會(huì)破壞科學(xué)出版，因?yàn)槿魏稳硕伎梢詫懗鏊坪鯔?quán)威的科學(xué)論文，但實(shí)際上毫無意義。該系統(tǒng)受到如此強(qiáng)烈譴責(zé)，建立該系統(tǒng)的人無法承受，取消了演示，說他們無法安然入睡。

這里是一個(gè)非常有用的系統(tǒng)示例，一個(gè)本可以極其有用的系統(tǒng)，特別是對(duì)非英語母語的科學(xué)論文作者，但基本上被AI悲觀主義者摧毀，他們沒有做風(fēng)險(xiǎn)和收益分析。文獻(xiàn)被無意義內(nèi)容淹沒的風(fēng)險(xiǎn)太可笑了，因?yàn)檎撐男枰u(píng)審等，它沒有明顯危險(xiǎn)。

兩周后，ChatGPT問世，被視為救世主降臨。幾個(gè)月后，谷歌推出了Bart，在演示中，Bart對(duì)某個(gè)天文事實(shí)做出了小錯(cuò)誤，導(dǎo)致谷歌股票下跌8%。這說明，當(dāng)大公司推出某件事，特別是那些有聲譽(yù)要維護(hù)的公司，他們不可以推出看似無意義的東西，但對(duì)小公司來說卻可以接受。

這就是現(xiàn)狀，這就是為什么我認(rèn)為存在一定的悖論，那就是擁有最佳技術(shù)的公司基本上可能難以推出新技術(shù)，這是因?yàn)榉蓡栴}和公共形象問題。

Harry：

你不也認(rèn)為這里存在一個(gè)很酷的商業(yè)模式挑戰(zhàn)嗎?

這就是典型的創(chuàng)新者困境。為什么谷歌不這樣做?因?yàn)檫@會(huì)殺死谷歌廣告這個(gè)絕對(duì)的現(xiàn)金奶牛。服務(wù)一個(gè)搜索查詢的成本與此相比差異巨大，與保留一個(gè)很好的業(yè)務(wù)相比，你會(huì)殺死這個(gè)現(xiàn)金奶牛業(yè)務(wù)，而且收益未知。

LeCun：

你別無選擇。

毫無疑問，在一段時(shí)間內(nèi)，我們可以采取措施，這可能需要很長(zhǎng)時(shí)間，但毫無疑問，人們與數(shù)字世界的交互將會(huì)主要通過人工智能助手完成。他們可能會(huì)嵌入你的增強(qiáng)現(xiàn)實(shí)眼鏡，或者類似的東西，就像斯派克·瓊斯的電影《她》中的情景，這不是一個(gè)不錯(cuò)的未來發(fā)展預(yù)測(cè)。

所以，如果你假設(shè)這將發(fā)生，你必須盡快建立它。它可能會(huì)使你的新聞推薦算法失效，或者由于谷歌搜索引擎而失效，但你必須這樣做。

Meta過去被稱為作出這種選擇，例如移動(dòng)業(yè)務(wù)的轉(zhuǎn)變，短視頻業(yè)務(wù)的轉(zhuǎn)變，例如TikTok在這方面非常成功。盡管從中獲得的收入低于傳統(tǒng)的新聞推送，因?yàn)橐曨l廣告難以投放。

AI帶來失業(yè)？至少等十年

Harry：

你提到了創(chuàng)造就業(yè)的元素，我想補(bǔ)充一點(diǎn)就業(yè)方面，這是典型的人工智能末日論，我們都將失業(yè)，實(shí)施全民基本收入。

在一個(gè)樂觀的世界，你提到人工智能會(huì)創(chuàng)造就業(yè)，我們沒聽說過人工智能創(chuàng)造就業(yè)。你認(rèn)為這個(gè)新生態(tài)系統(tǒng)會(huì)創(chuàng)造什么工作?就業(yè)前景會(huì)是什么樣子?

LeCun：

大約100年前，或者120年前，世界上大多數(shù)人從事農(nóng)業(yè)生產(chǎn)。發(fā)達(dá)國(guó)家的人口中，現(xiàn)在從事農(nóng)業(yè)生產(chǎn)的僅為1-2%。這導(dǎo)致人口流入城市，服務(wù)業(yè)發(fā)展。20-30年前，制造業(yè)自動(dòng)化引起了大規(guī)模失業(yè)。許多制造業(yè)工作機(jī)會(huì)消失，但被其他工作替代。20年前，誰會(huì)想到播客可以生存?

Harry：

5年前，我也不這么認(rèn)為。

LeCun：

許多工作出現(xiàn)了，30年前沒有網(wǎng)頁設(shè)計(jì)師這個(gè)職業(yè)，現(xiàn)在幾乎所有工程師都從事這個(gè)工作。

我接觸的許多經(jīng)濟(jì)學(xué)家都告訴我，我們不會(huì)失業(yè)，因?yàn)槿斯ぶ悄懿粫?huì)取代我們所有人。因?yàn)闆]有經(jīng)濟(jì)學(xué)家相信AI會(huì)解決人類創(chuàng)造力和交流的需求。這將產(chǎn)生與消失的工作一樣多的工作。這些工作將更高效，其他條件相同，同樣的工作時(shí)間可以產(chǎn)生更多財(cái)富。

但是，除非伴隨政治和社會(huì)變革，否則每次技術(shù)革命通常都會(huì)暫時(shí)使少數(shù)人獲益。19世紀(jì)后期的工業(yè)革命使少數(shù)人極富裕，許多人受到剝削。然后，社會(huì)發(fā)生變化，實(shí)施社會(huì)計(jì)劃，收入稅，對(duì)富人征收高稅，但美國(guó)取消了這些，歐洲和英國(guó)沒有。

問題在于如何分配財(cái)富，如何組織社會(huì)使每個(gè)人都能從中獲益。這是一個(gè)政治問題，不是技術(shù)問題，也不是人工智能造成的新問題，而是技術(shù)進(jìn)化造成的。這不是最近的現(xiàn)象。

Harry：

這聽起來不太公平，但這些工作是什么樣子的?它們富有創(chuàng)造性，但這到底意味著什么?我知道這是一個(gè)非常難的問題，但我只是試圖理解我們實(shí)際上如何度過時(shí)間，我的孩子將來會(huì)做什么?比如雕塑或繪畫?

LeCun：

我不知道，這是一個(gè)好問題，但這不意味著將來不會(huì)發(fā)生。因?yàn)?strong>看看今天有多少人運(yùn)用創(chuàng)造力，這些工具10-20年前或30年前不可用，比如3D藝術(shù)家或游戲設(shè)計(jì)師等等。我認(rèn)為，創(chuàng)意工作和其他工作有光明的未來，創(chuàng)意工作無論在科學(xué)、技術(shù)、教育或藝術(shù)方面，都與交流密切相關(guān)，與人類情感的交流密切相關(guān)，這在本質(zhì)上是人性的。

另一類是個(gè)人服務(wù)，你需要真實(shí)的人與你互動(dòng)。

Harry：

我完全同意，我們拭目以待。我唯一擔(dān)心的是過渡速度。當(dāng)你看過去的工業(yè)革命，甚至是個(gè)人電腦進(jìn)入工作環(huán)境，這需要幾十年的過渡。坦率地說，某些行業(yè)今天的人工智能感覺像是高速過渡，這將導(dǎo)致短期高失業(yè)率。你認(rèn)為如此嗎?

LeCun：

我曾經(jīng)非常擔(dān)心技術(shù)進(jìn)步速度會(huì)讓某些人落后，他們無法足夠快地接受再培訓(xùn)，或者太老而無法重新培訓(xùn)適應(yīng)新世界。我談過許多經(jīng)濟(jì)學(xué)家，他們說不會(huì)真的如此，因?yàn)榧夹g(shù)在經(jīng)濟(jì)中的傳播速度實(shí)際上受限于人們掌握新技術(shù)的速度。斯坦福的埃里克·布羅寧是談?wù)撨@個(gè)話題的好人選。他說，當(dāng)引入新技術(shù)時(shí)，例如上世紀(jì)90年代中期的個(gè)人電腦，圖形用戶界面，鼠標(biāo)等，要花多長(zhǎng)時(shí)間才會(huì)對(duì)生產(chǎn)力產(chǎn)生可測(cè)量的影響?通常是15-20年，原因是人們基本上需要這么長(zhǎng)時(shí)間來學(xué)習(xí)使用新技術(shù)。

Harry：

但是，人們對(duì)提示相當(dāng)熟練，社交媒體內(nèi)容管理員可以高效地使用提示在半小時(shí)內(nèi)產(chǎn)生內(nèi)容計(jì)劃和內(nèi)容創(chuàng)意。

LeCun：

但是這將如何影響生產(chǎn)力，就業(yè)市場(chǎng)?它會(huì)立即使人們失業(yè)嗎?不，這需要一段時(shí)間，大約10-15年，可能更長(zhǎng)，這取決于你從何時(shí)開始計(jì)算。人工智能革命可能開始于10年前，所以如果從那時(shí)開始計(jì)算，可能還需要10年。我不認(rèn)為你應(yīng)低估商界的保守性。事情的變化并不會(huì)那么快。如果那么易學(xué)，人們會(huì)學(xué)習(xí)它，然后創(chuàng)造新的職業(yè)，或者自己更高效。

Harry：

你為什么覺得我們熱衷于末日論?我喜歡你的方法和心態(tài)，并同意，但為什么我們似乎被“我們都將失業(yè)”和末日論吸引?

LeCun：

我認(rèn)為有幾個(gè)原因。顯然，我們天生關(guān)注可能危及我們的事物，因?yàn)檫@意味著世界有我們不完全理解的方面，我們必須注意并小心。

例如，向5個(gè)月大的嬰兒展示一個(gè)小車從平臺(tái)上推下去的場(chǎng)景，車子似乎漂浮在空中，5個(gè)月大的嬰兒幾乎不會(huì)注意；但10個(gè)月大的嬰兒會(huì)睜大眼睛盯著它很長(zhǎng)時(shí)間，想知道發(fā)生了什么。同時(shí)，6-9個(gè)月大的嬰兒了解了重力，知道沒有支撐的物體應(yīng)該下落。他們看到似乎漂浮在空中的物體，會(huì)說：“世界上有我不理解的方面，我需要研究它?！?/p>

我們天生如此，因?yàn)檫@是我們學(xué)習(xí)世界模型的方式，這使我們可以預(yù)測(cè)會(huì)發(fā)生什么，規(guī)劃行動(dòng)，這就是智力的基礎(chǔ)，預(yù)測(cè)能力。所以，我們自然會(huì)注意令人驚訝或危險(xiǎn)的事物，這就是為什么你會(huì)說服自己不要點(diǎn)擊某些網(wǎng)站底部引人注目的新聞。

AI三巨頭的朋友圈和楊立昆在Meta胡說的特權(quán)

Harry：

我可以問你幾個(gè)更直接的問題嗎?我太感興趣了，如果需要，我們可以刪除它們。

嗯，當(dāng)你聽說杰夫很明顯采取了他這樣的行動(dòng)（指退出谷歌，發(fā)表警告）時(shí)，你對(duì)他說了什么?我相信你跟他進(jìn)行了交談，你對(duì)他說了什么?

LeCun：

我們實(shí)際上還沒有談過。我們將進(jìn)行談話，以便相互了解對(duì)此的看法。我不認(rèn)為他知道我的看法，因?yàn)槲也徽J(rèn)為他關(guān)注了我在推特上發(fā)布的內(nèi)容，盡管他自己也在推特上。所以我認(rèn)為我們需要討論。

我以前和約書亞?本吉奧討論過這個(gè)話題，但沒有和杰夫討論過。對(duì)我來說，他離開谷歌這一事實(shí)并不特別讓人驚訝。我認(rèn)為不讓人驚訝的是，他離開谷歌就可以暢所欲言。

我有非常不同的看法，我會(huì)說任何我想說的話。我不受傳媒部或其他部門嚴(yán)格控制。我只是說我的真實(shí)想法。

Harry：

但是你是如何得到這個(gè)權(quán)限的?認(rèn)真地，我的許多朋友在Meta高層工作，你也知道我們有共同的朋友，他們沒有那個(gè)權(quán)限。

LeCun：

我的確處于一個(gè)相當(dāng)特殊的位置，因?yàn)槲矣邢喈?dāng)多的粉絲，他們相信我或想聽我說的話，即使他們根本不相信我。同時(shí)，我不是高管，所以我不會(huì)像高管那樣有法律問題或財(cái)務(wù)問題而無法說某些話。

我是副總裁，但是我的職位低于必須非常非常小心和控制信息的那個(gè)級(jí)別。這里存在利弊權(quán)衡，人工智能是一個(gè)復(fù)雜的快速發(fā)展的問題，你基本上需要有人可以自由發(fā)言。我認(rèn)為杰夫覺得在谷歌沒有這個(gè)選項(xiàng)，可能有各種原因。所以我理解為什么他可能想離開，但我并不完全同意他關(guān)于人類滅絕的優(yōu)先順序或其他方面的看法。

Harry：

在Meta 的角色是否限制了你的公正性?

LeCun：

我不這么認(rèn)為。我的意思是，我在社交媒體上發(fā)布的某些內(nèi)容會(huì)抨擊我的同事們的工作，這是顯而易見的，因?yàn)槲伊私膺@項(xiàng)工作，他們是朋友和同事，我認(rèn)為這很有意思，可能是因?yàn)槲乙恢标P(guān)注這方面的合作伙伴。對(duì)這類事情，我可能存在偏見，要以極小心謹(jǐn)慎的態(tài)度對(duì)待，你不必相信我。但這也讓我了解了事物是如何構(gòu)建的，存在什么問題。

例如，有一個(gè)非常普遍的敘述，人工智能是社交網(wǎng)絡(luò)許多負(fù)面效應(yīng)的罪魁禍?zhǔn)?。事?shí)上，這完全是倒錯(cuò)的，人工智能是解決這些問題的解決方案。

讓我告訴你，回到12年前或更早，甚至在我加入Meta之前，Meta開始試驗(yàn)新聞推送，新聞推送是一種算法，它會(huì)選擇要向每個(gè)人展示的新聞片段。最初，它的決定是基于你與發(fā)布帖子的人的關(guān)系有多密切以及你與該人的互動(dòng)次數(shù)等。

后來，在我加入Meta之前不久，在其中加入了一些機(jī)器學(xué)習(xí)，當(dāng)時(shí)是最簡(jiǎn)單的方法，比如logistic回歸，以及大量的工程和手工修補(bǔ)和特殊情況?；旧?，它是logistic回歸，一些大的向量描述了你單擊的次數(shù)，你花在特定內(nèi)容上的時(shí)間等等。然后，它會(huì)給所有內(nèi)容打分。

這被部署后，人們花更多時(shí)間在Facebook上，但它也產(chǎn)生了像信息泡沫和政治話語中的問題，以及人們傾向于單擊更加離譜的內(nèi)容。

我們意識(shí)到了這些。Facebook當(dāng)時(shí)有大組研究這些效應(yīng)，并進(jìn)行了糾正。

這就是使這些系統(tǒng)工作的方式，你嘗試小規(guī)模，看看效果如何，如果有副作用，你就糾正它，然后比較兩個(gè)系統(tǒng)，有時(shí)會(huì)發(fā)生意外，你必須全部撤回并完全改變做事方式。

這是在2016年美國(guó)總統(tǒng)選舉后發(fā)生的，2017年主要的使用算法被完全改變，沒有任何點(diǎn)擊誘惑，沒有任何可以推動(dòng)宣傳內(nèi)容的新聞媒體，更大力度刪除假賬號(hào)和破壞民主體制的企圖等，我們糾正了它， 過去幾年AI的進(jìn)展是系統(tǒng)部署，以便可以從上百個(gè)不同的語言中去除仇恨言論和保證真實(shí)性，這是之前無法做到的。

馬斯克的AI威脅論就是科幻小說看多了

Harry：

我最后一個(gè)問題，然后我們會(huì)進(jìn)行快速問答。

伊隆?馬斯克和塔可?卡爾森說，人工智能的麻煩在于一旦發(fā)布就無法糾正，與所有先前的技術(shù)進(jìn)步不同，它一旦發(fā)布就太強(qiáng)大了，無法將其收回箱子，無法以那種方式修正。這不是真的嗎?

LeCun：

這不是真的，這完全是錯(cuò)誤的。它做出了一個(gè)假設(shè)，伊隆和其他一些人可能通過閱讀尼克?博斯特羅姆的《超級(jí)智能》或閱讀伊萊亞斯或尤科夫斯基的著作而確信的一個(gè)假設(shè)。這假定存在硬起飛。也就是說，一旦開啟超級(jí)智能AI系統(tǒng)，它就會(huì)接管世界，擺脫你的控制，使自己更加智能，世界將被毀滅。

這簡(jiǎn)直荒謬，完全荒謬，因?yàn)楝F(xiàn)實(shí)世界中沒有這樣的過程。這不會(huì)持續(xù)很長(zhǎng)時(shí)間，你知道，這些系統(tǒng)將不得不招募世界上的所有資源，它們需要獲得無限的權(quán)力和代理，為什么我們要這么做?

更重要的是，它們必須建立在渴望掌控的基礎(chǔ)上。系統(tǒng)不會(huì)僅僅因?yàn)樗鼈兒苤悄芫徒庸芤磺?，再次，即使在人類種群中，也不是我們中最聰明的人想支配別人。

Harry：

他和許多其他（意見）領(lǐng)袖渴望防止任何進(jìn)一步發(fā)展和現(xiàn)在就管制人工智能是胡說八道。

LeCun：

這是愚昧主義。

這就像那些想停止印刷機(jī)和印刷書籍傳播的人，因?yàn)槿绻藗兡茏约鹤x圣經(jīng)，就不必再和牧師說話，然后會(huì)有自己對(duì)宗教的看法。這正是后來發(fā)生的事。人們自己讀圣經(jīng)，這引發(fā)了歐洲的新教運(yùn)動(dòng)，并引發(fā)了200年的宗教沖突，但它也帶來了啟蒙運(yùn)動(dòng)，科學(xué)理性主義，民主理念的哲學(xué)，然后是法國(guó)大革命和美國(guó)獨(dú)立戰(zhàn)爭(zhēng)。

你可以把這些比作奧斯曼帝國(guó)，由于想控制自己的人口，基本上禁止使用印刷機(jī)，從而開始了300年的衰退。他們?cè)谥惺兰o(jì)統(tǒng)治著科學(xué)，穆斯林世界，這就是為什么天空中的每顆星星都有阿拉伯名字。

Harry：

我喜歡你說的這些。我現(xiàn)在要與你進(jìn)行快速提問。我說一句短語，你給出您的直接看法，然后我們開始聊天，聽起來怎么樣?

LeCun：

聽起來不錯(cuò)。

全球AI發(fā)展大考察：歐洲不給錢，中國(guó)愛造假

Harry：

哪個(gè)地區(qū)最需要改變其模式方法進(jìn)行科學(xué)研究和激勵(lì)機(jī)制實(shí)踐?

LeCun：

哪個(gè)地區(qū)?

噢，恐怕每個(gè)地區(qū)都有不同的原因。你看，中國(guó)有一定的“不良科學(xué)流行病”，中國(guó)有很多非常聰明的人，許多非常優(yōu)秀的研究人員，許多來自中國(guó)的非常優(yōu)秀工作，特別是在人工智能和計(jì)算機(jī)視覺方面，但也有大量絕對(duì)糟糕的工作，在初版后必須在幾個(gè)月后撤回。部分原因在于中國(guó)學(xué)術(shù)和體制中的激勵(lì)機(jī)制。這很重要。

我可以轉(zhuǎn)到歐洲。在歐洲，有好的方面。歐洲的本科教育系統(tǒng)非常好，因?yàn)樗糠置赓M(fèi)，所以即使他們不是富人，也允許有天賦的人上學(xué)，這在美國(guó)不是這樣，至少不是同樣的程度。這對(duì)歐洲有好處。這是許多歐洲工程師和科學(xué)家在世界上很優(yōu)秀的原因。但那些想從事科學(xué)研究的人有什么機(jī)會(huì)?大多數(shù)歐洲國(guó)家實(shí)際上沒有真正鼓勵(lì)這一點(diǎn)和激勵(lì)最有天賦的人和學(xué)生從事科學(xué)研究的體制。其中一些人去了北美。像我，35年前來了。

現(xiàn)在一些研究實(shí)驗(yàn)室，如巴黎的Facebook AI實(shí)驗(yàn)室或谷歌在巴黎也有實(shí)驗(yàn)室，提供了機(jī)會(huì)。我弟弟在巴黎的谷歌工作。所以，這給那些真正想要富有成效，但在法國(guó)和歐洲其他國(guó)家的公共研究和學(xué)術(shù)體制中找不到機(jī)會(huì)的人提供了機(jī)會(huì)。

歐洲僅有的能與美國(guó)相媲美的國(guó)家在學(xué)術(shù)或科學(xué)家工作質(zhì)量方面是瑞士。

Harry：

你認(rèn)為他們能與之競(jìng)爭(zhēng)的原因是什么?這與他們的激勵(lì)機(jī)制結(jié)構(gòu)有關(guān)，這給他們帶來這種能力。

LeCun：

有兩點(diǎn)（潛在的可能）：他們給人支付更好的報(bào)酬。第二點(diǎn)是，他們給他們提供研究資源，他們可以通過補(bǔ)助金和類似的方式獲得額外資源，效果很好。然后，（通過這些措施）他們也吸引了一些世界各地的學(xué)生。你就得到了只有在北美的前30所大學(xué)所能得到的理想人才組合。

Harry：

我們有中國(guó)，有歐洲，美國(guó)又如何?他們可以做些什么不同或改進(jìn)的地方?

LeCun：

美國(guó)也在研究方面做得很對(duì)，這在很大程度上部分解釋了美國(guó)技術(shù)產(chǎn)業(yè)，特別是科技產(chǎn)業(yè)的成功。我認(rèn)為，部分原因是美國(guó)投入大量資源進(jìn)行基礎(chǔ)研究，如NSF，NIH和各種其他機(jī)構(gòu)，可能比歐洲大學(xué)支付給他們的教職員工更多。特別是在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域。

這也有缺點(diǎn)。缺點(diǎn)是在美國(guó)學(xué)習(xí)費(fèi)用高昂。這是一個(gè)權(quán)衡。瑞士找出辦法如何向?qū)W者支付相當(dāng)豐厚的報(bào)酬，同時(shí)實(shí)際上向?qū)W生提供免費(fèi)教育。加拿大也找出了一個(gè)相當(dāng)不錯(cuò)的權(quán)衡。

美國(guó)做得對(duì)的其他方面是，美國(guó)體系或類似機(jī)構(gòu)愿意承擔(dān)風(fēng)險(xiǎn)，投資于似乎有點(diǎn)瘋狂的想法，但基本上這是硅谷和美國(guó)其他地方如紐約和波士頓活躍的創(chuàng)業(yè)環(huán)境的一部分，美國(guó)現(xiàn)在正在領(lǐng)導(dǎo)世界。

現(xiàn)在，你開始在歐洲看到類似的情況，例如，在法國(guó)巴黎地區(qū)和法國(guó)更廣泛地區(qū)的科技初創(chuàng)公司出現(xiàn)了巨大增長(zhǎng)。歐洲大陸和英國(guó)也是如此。我認(rèn)為這是一件好事，但在歐洲獲得投資資金仍然比在美國(guó)更困難。

這就是我來這里的原因。

結(jié)束語

Harry：

很高興提供幫助。(笑）

最后一個(gè)問題，當(dāng)你思考最希望聽眾帶走的內(nèi)容時(shí)，會(huì)是什么?當(dāng)他們聽到這段話時(shí)，你希望他們帶走的第一件事是什么?

LeCun：

人工智能將為人類帶來一場(chǎng)新文藝復(fù)興，一種新形式的啟蒙，因?yàn)槿斯ぶ悄軐⒎糯竺總€(gè)人的智力。

對(duì)每一個(gè)人來說，這就像有一群比我們更聰明的人知道大多數(shù)事物和大多數(shù)話題。它將賦予我們每個(gè)人創(chuàng)造力，因?yàn)槲覀兡軌蛟诓灰欢ㄐ枰壳八杓寄艿那闆r下產(chǎn)生文本，藝術(shù)，音樂和視頻。

這是積極的一面，無可置疑存在風(fēng)險(xiǎn)，但不像那些聲稱這些風(fēng)險(xiǎn)是不可避免的或必然導(dǎo)致災(zāi)難的人所說的那樣。把自己放在1920年，誰會(huì)想到僅50年后，你可以安全快速穿越大西洋，近乎音速?人們真的想禁止航空或要求在噴氣發(fā)動(dòng)機(jī)存在之前管制噴氣發(fā)動(dòng)機(jī)嗎?

我的意思是這有點(diǎn)瘋狂。所以，我不反對(duì)監(jiān)管，人工智能產(chǎn)品應(yīng)該受到監(jiān)管，特別是那些涉及為人們做出關(guān)鍵決定的產(chǎn)品，但監(jiān)管或減緩研究完全無稽之談，這只是愚昧主義。

Harry：

當(dāng)你看到亞馬遜、Facebook和谷歌時(shí)，你最尊敬和欽佩的現(xiàn)有團(tuán)隊(duì)在內(nèi)部和外部采取哪種方法和人才?

LeCun：

這正在發(fā)生很大變化，變化的原因是許多人離開大公司和大實(shí)驗(yàn)室。之所以這樣做，是因?yàn)橹钡阶罱?，許多人工智能研究實(shí)際上是探索性的，現(xiàn)在許多事情都有商業(yè)化的道路，所以人們認(rèn)為自己更好地離開大公司自行解決，做自己的初創(chuàng)公司等等。

所以，你看到定期大規(guī)模運(yùn)動(dòng)的應(yīng)用研究工程師，一些科學(xué)家基本上離開這些實(shí)驗(yàn)室去創(chuàng)業(yè)，這在各個(gè)領(lǐng)域都是這樣的。

所以，你看谷歌最初關(guān)于Bert或Transformers的論文，這件事改變了NLP，他們都離開了，都去創(chuàng)業(yè)了。Meta開源的Llama的一些人也已經(jīng)離開，去創(chuàng)業(yè)了。是的，有一個(gè)叫Mistral的公司，是的，在這個(gè)領(lǐng)域有大量資金。所以，祝他們好運(yùn)，但我很遺憾他們必須這樣做。

Harry：

但是現(xiàn)有的團(tuán)隊(duì)呢， 恩，他們也很棒。

LeCun：

但我認(rèn)為，就基本能力而言，以及將推進(jìn)科學(xué)的人來說，我們現(xiàn)在需要的不是研究LLM的應(yīng)用。有許多人有能力這么做，他們會(huì)做得很好。

我們需要做的，像我這樣重新研究的人，是提出新的概念，讓我們擁有有基本常識(shí)，對(duì)真實(shí)世界有體驗(yàn)，基本上達(dá)到人類智力水平的機(jī)器。在我看來，最適合做出這一點(diǎn)的玩家，就是和谷歌大腦合并之后新的DeepMind部門。那里有許多人對(duì)這個(gè)問題感興趣，我認(rèn)為他們可能是最好的，與Meta和Facebook AI一起，是真正產(chǎn)生影響的最佳位置，所有人都在相當(dāng)長(zhǎng)一段時(shí)間內(nèi)一直在致力于此。

Harry：

如果我們?cè)?0年后，也就是2033年，重新進(jìn)行一次采訪，Yann你會(huì)在哪里?

LeCun：

那時(shí)我63歲，所以從現(xiàn)在開始的10年或12年后，我會(huì)很老。

我不知道，我現(xiàn)在像青少年一樣激動(dòng)，因?yàn)槲铱吹饺斯ぶ悄艿南乱徊胶蜋C(jī)會(huì)，也許能達(dá)到我很多年前開始研究人工智能時(shí)為自己設(shè)定的目標(biāo)。當(dāng)然，當(dāng)時(shí)我很天真對(duì)理解智能（抱有熱情），這首先是科學(xué)問題，什么是智能，什么是人類智慧。

作為一名工程師，理解智能的好方法是構(gòu)建一個(gè)實(shí)際上在某種程度上重現(xiàn)它的小部件。

我現(xiàn)在對(duì)此很興奮。我會(huì)找到最好的貢獻(xiàn)方式，目前這正好是在Facebook AI。我在學(xué)術(shù)界保持一定的聯(lián)系，因?yàn)槲艺J(rèn)為這非?；パa(bǔ)，也很重要，在學(xué)術(shù)界和產(chǎn)業(yè)界開展不同類型的項(xiàng)目是互補(bǔ)的。我喜歡這兩者的結(jié)合，只要我的大腦繼續(xù)運(yùn)轉(zhuǎn)，我認(rèn)為我可以做出貢獻(xiàn)，而且我有機(jī)會(huì)做出貢獻(xiàn)，我會(huì)繼續(xù)工作。然后，在某個(gè)時(shí)候，我的大腦會(huì)變成白色醬汁，或者我完全不在狀態(tài)，我會(huì)停下來。

Harry：

我想親自謝謝你，我相信我代表許多人說。

我們從你的公開演講和論述中學(xué)到了那么多，你愿意開放地演講，很少有人像你這樣開放地演講。謝謝你教育了我們這么多人，謝謝你今天加入我。

LeCun：

非常感謝你，Harry，這真的很有趣。謝謝你邀請(qǐng)我。