2023世界人工智能大會分會場張江科學(xué)會堂與在建的張江科學(xué)之門。 本報記者 范家樂攝

完美的大模型存在嗎？技術(shù)的發(fā)展如何建立倫理和治理機制？能不能通過強化學(xué)習(xí)完善通用人工智能？在今年世界人工智能大會現(xiàn)場，多位圖靈獎得主匯聚一堂，這些學(xué)術(shù)大咖用各自的視角審視人工智能的未來發(fā)展，既仰望星辰大海，也對腳踏實地的現(xiàn)實問題提出了具體的建議。

(相關(guān)資料圖)

讓AI安全良善實用，唯一方法是開源

楊立昆（圖靈獎得主，Meta AI基礎(chǔ)人工智能研究院團隊首席人工智能科學(xué)家）

AI最讓人激動的進展是創(chuàng)造了一場技術(shù)的革命。我認為，自然語言處理，如語言模型、語音模型等符號或者本質(zhì)上和符號序列有關(guān)的技術(shù)正在創(chuàng)造一場革命，而現(xiàn)在要做的就是在圖像和視頻領(lǐng)域推動同樣的生成式革命。

讓AI達到人類水平的最好辦法，就是做更大的自回歸LLM（大語言模型），而讓它變智能也是讓它更可控的途徑。人們通過目標(biāo)驅(qū)動人工智能的理念，就可以設(shè)置其它目標(biāo)，作為其安全護欄，比如讓這些系統(tǒng)不會出現(xiàn)欺騙、支配人類的行為，迫使AI誠實的目標(biāo)，屈從于人類的目標(biāo)，而需要小心那些讓模型好奇的目標(biāo)等。設(shè)計這些目標(biāo)，讓系統(tǒng)安全，將會是一個艱巨的工程挑戰(zhàn)。

有些人因為害怕人工智能的結(jié)果，整體上就希望人工智能受到嚴(yán)格監(jiān)管。我完全不同意這種說法。從長遠看，使人工智能平臺安全、良善、實用的唯一方法就是開源。

想象一下，未來每個人都能通過AI助手與數(shù)字世界互動，如果技術(shù)被少數(shù)公司控制，這不是一件好事。未來AI系統(tǒng)將成為人類所有知識的寶庫，訓(xùn)練它們的方式需要基于眾多來源。因此，我們將在未來看到更多的開源LLM和更多的開源人工智能系統(tǒng)。

中國年輕學(xué)者已在算法上取得突破

姚期智（圖靈獎得主，中國科學(xué)院院士、清華大學(xué)交叉信息研究院院長）

中國的科學(xué)家在AI發(fā)展上作了很多突破性的貢獻，清華大學(xué)交叉信息研究院助理教授高陽一年多前在算法上實現(xiàn)了非常重要的突破，使得強化學(xué)習(xí)加快數(shù)百倍，受到國際關(guān)注。

在ChatGPT之后，人工智能研究的下一個重要目標(biāo)是讓擁有多重感知能力的機器人在不同的環(huán)境下能夠自主學(xué)習(xí)新技能?，F(xiàn)有的強化學(xué)習(xí)方式太慢了，學(xué)習(xí)新技術(shù)常常要幾個月時間。得益于高陽的研究，強化學(xué)習(xí)現(xiàn)在只要幾個小時就能完成。

這不僅解決了實用問題，也是作出了理論貢獻。過去六七年，人工智能最高層一直存在一個“路線之爭”，就是要不要走強化學(xué)習(xí)這條路。而中國青年學(xué)者的突破，將這個爭論的天平傾向了另一邊。而對于通用人工智能的完善，我們還有很長的路要走。

至于大模型在垂直領(lǐng)域的應(yīng)用，很多文書工作在有了大語言模型之后變得更輕松，更多的工作可以嘗試由機器來做，這會是一個直接的方向。

良好發(fā)展的大模型要減少數(shù)倍能耗

大衛(wèi)·帕特森（圖靈獎得主，美國藝術(shù)與科學(xué)院、國家科學(xué)院、國家工程院院士）

谷歌在過去十年左右時間里，宣布了5種不同的TPU產(chǎn)品（為機器學(xué)習(xí)定制的專用芯片），它們的性能相差達到3倍，最近又用新技術(shù)研制了超級計算機。

事實上，在碳排放方面，我們已經(jīng)學(xué)到了很多經(jīng)驗教訓(xùn)。

首先，我們要做的是計算能源消耗。能源消耗只需要一個簡單的公式，還有4個因素——一個是模型訓(xùn)練所花費的時間，還有處理器的數(shù)量以及處理器平均功率，這樣我們就能獲得一個大致的能源消耗數(shù)據(jù)；最后一個因素則是數(shù)據(jù)中心的電力。把這4個因素相乘，就可以得到以千瓦時為單位的能量。而轉(zhuǎn)化為碳排放，需要取一個系數(shù)，即每千瓦時的碳排放量。

我們有很多方式來嘗試減少碳排放量。首先是提高技術(shù)。此前谷歌幾位工程師想出辦法改變模型的質(zhì)量和硬件參數(shù)，讓能源消耗和碳排放減少了57倍。

如果你是一個人工智能領(lǐng)域的從業(yè)者或研究人員，請繼續(xù)對大模型的改良和研究，這將可以減少2到4倍的能源和排放。統(tǒng)計出訓(xùn)練模型的能耗和碳足跡，是為了讓我們更好地競爭，以便于建立更有效的模型、得到正確的數(shù)字，幫助世界繼續(xù)推出高效的硬件。

作者：周淵

編輯：范菁

*文匯獨家稿件，轉(zhuǎn)載請注明出處。

關(guān)鍵詞：