2023世界人工智能大會(huì)分會(huì)場(chǎng)張江科學(xué)會(huì)堂與在建的張江科學(xué)之門(mén)。 本報(bào)記者 范家樂(lè)攝

完美的大模型存在嗎？技術(shù)的發(fā)展如何建立倫理和治理機(jī)制？能不能通過(guò)強(qiáng)化學(xué)習(xí)完善通用人工智能？在今年世界人工智能大會(huì)現(xiàn)場(chǎng)，多位圖靈獎(jiǎng)得主匯聚一堂，這些學(xué)術(shù)大咖用各自的視角審視人工智能的未來(lái)發(fā)展，既仰望星辰大海，也對(duì)腳踏實(shí)地的現(xiàn)實(shí)問(wèn)題提出了具體的建議。

(相關(guān)資料圖)

讓AI安全良善實(shí)用，唯一方法是開(kāi)源

楊立昆（圖靈獎(jiǎng)得主，Meta AI基礎(chǔ)人工智能研究院團(tuán)隊(duì)首席人工智能科學(xué)家）

AI最讓人激動(dòng)的進(jìn)展是創(chuàng)造了一場(chǎng)技術(shù)的革命。我認(rèn)為，自然語(yǔ)言處理，如語(yǔ)言模型、語(yǔ)音模型等符號(hào)或者本質(zhì)上和符號(hào)序列有關(guān)的技術(shù)正在創(chuàng)造一場(chǎng)革命，而現(xiàn)在要做的就是在圖像和視頻領(lǐng)域推動(dòng)同樣的生成式革命。

讓AI達(dá)到人類(lèi)水平的最好辦法，就是做更大的自回歸LLM（大語(yǔ)言模型），而讓它變智能也是讓它更可控的途徑。人們通過(guò)目標(biāo)驅(qū)動(dòng)人工智能的理念，就可以設(shè)置其它目標(biāo)，作為其安全護(hù)欄，比如讓這些系統(tǒng)不會(huì)出現(xiàn)欺騙、支配人類(lèi)的行為，迫使AI誠(chéng)實(shí)的目標(biāo)，屈從于人類(lèi)的目標(biāo)，而需要小心那些讓模型好奇的目標(biāo)等。設(shè)計(jì)這些目標(biāo)，讓系統(tǒng)安全，將會(huì)是一個(gè)艱巨的工程挑戰(zhàn)。

有些人因?yàn)楹ε氯斯ぶ悄艿慕Y(jié)果，整體上就希望人工智能受到嚴(yán)格監(jiān)管。我完全不同意這種說(shuō)法。從長(zhǎng)遠(yuǎn)看，使人工智能平臺(tái)安全、良善、實(shí)用的唯一方法就是開(kāi)源。

想象一下，未來(lái)每個(gè)人都能通過(guò)AI助手與數(shù)字世界互動(dòng)，如果技術(shù)被少數(shù)公司控制，這不是一件好事。未來(lái)AI系統(tǒng)將成為人類(lèi)所有知識(shí)的寶庫(kù)，訓(xùn)練它們的方式需要基于眾多來(lái)源。因此，我們將在未來(lái)看到更多的開(kāi)源LLM和更多的開(kāi)源人工智能系統(tǒng)。

中國(guó)年輕學(xué)者已在算法上取得突破

姚期智（圖靈獎(jiǎng)得主，中國(guó)科學(xué)院院士、清華大學(xué)交叉信息研究院院長(zhǎng)）

中國(guó)的科學(xué)家在AI發(fā)展上作了很多突破性的貢獻(xiàn)，清華大學(xué)交叉信息研究院助理教授高陽(yáng)一年多前在算法上實(shí)現(xiàn)了非常重要的突破，使得強(qiáng)化學(xué)習(xí)加快數(shù)百倍，受到國(guó)際關(guān)注。

在ChatGPT之后，人工智能研究的下一個(gè)重要目標(biāo)是讓擁有多重感知能力的機(jī)器人在不同的環(huán)境下能夠自主學(xué)習(xí)新技能。現(xiàn)有的強(qiáng)化學(xué)習(xí)方式太慢了，學(xué)習(xí)新技術(shù)常常要幾個(gè)月時(shí)間。得益于高陽(yáng)的研究，強(qiáng)化學(xué)習(xí)現(xiàn)在只要幾個(gè)小時(shí)就能完成。

這不僅解決了實(shí)用問(wèn)題，也是作出了理論貢獻(xiàn)。過(guò)去六七年，人工智能最高層一直存在一個(gè)“路線(xiàn)之爭(zhēng)”，就是要不要走強(qiáng)化學(xué)習(xí)這條路。而中國(guó)青年學(xué)者的突破，將這個(gè)爭(zhēng)論的天平傾向了另一邊。而對(duì)于通用人工智能的完善，我們還有很長(zhǎng)的路要走。

至于大模型在垂直領(lǐng)域的應(yīng)用，很多文書(shū)工作在有了大語(yǔ)言模型之后變得更輕松，更多的工作可以嘗試由機(jī)器來(lái)做，這會(huì)是一個(gè)直接的方向。

良好發(fā)展的大模型要減少數(shù)倍能耗

大衛(wèi)·帕特森（圖靈獎(jiǎng)得主，美國(guó)藝術(shù)與科學(xué)院、國(guó)家科學(xué)院、國(guó)家工程院院士）

谷歌在過(guò)去十年左右時(shí)間里，宣布了5種不同的TPU產(chǎn)品（為機(jī)器學(xué)習(xí)定制的專(zhuān)用芯片），它們的性能相差達(dá)到3倍，最近又用新技術(shù)研制了超級(jí)計(jì)算機(jī)。

事實(shí)上，在碳排放方面，我們已經(jīng)學(xué)到了很多經(jīng)驗(yàn)教訓(xùn)。

首先，我們要做的是計(jì)算能源消耗。能源消耗只需要一個(gè)簡(jiǎn)單的公式，還有4個(gè)因素——一個(gè)是模型訓(xùn)練所花費(fèi)的時(shí)間，還有處理器的數(shù)量以及處理器平均功率，這樣我們就能獲得一個(gè)大致的能源消耗數(shù)據(jù)；最后一個(gè)因素則是數(shù)據(jù)中心的電力。把這4個(gè)因素相乘，就可以得到以千瓦時(shí)為單位的能量。而轉(zhuǎn)化為碳排放，需要取一個(gè)系數(shù)，即每千瓦時(shí)的碳排放量。

我們有很多方式來(lái)嘗試減少碳排放量。首先是提高技術(shù)。此前谷歌幾位工程師想出辦法改變模型的質(zhì)量和硬件參數(shù)，讓能源消耗和碳排放減少了57倍。

如果你是一個(gè)人工智能領(lǐng)域的從業(yè)者或研究人員，請(qǐng)繼續(xù)對(duì)大模型的改良和研究，這將可以減少2到4倍的能源和排放。統(tǒng)計(jì)出訓(xùn)練模型的能耗和碳足跡，是為了讓我們更好地競(jìng)爭(zhēng)，以便于建立更有效的模型、得到正確的數(shù)字，幫助世界繼續(xù)推出高效的硬件。

作者：周淵

編輯：范菁

*文匯獨(dú)家稿件，轉(zhuǎn)載請(qǐng)注明出處。

關(guān)鍵詞：