人工智能驅(qū)動的對話影響力將成為人類有史以來最強大的有針對性的說服形式。

3月29日，未來生命研究所(Future of Life Institute)發(fā)布了一封公開信，呼吁所有人工智能(AI)實驗室暫停一切大規(guī)模人工智能系統(tǒng)的訓(xùn)練，至少停止六個月，這些系統(tǒng)比目前最先進(jìn)的GPT-4更強大。我和其他一些業(yè)內(nèi)知名人士一起簽署了這封“暫停信”，其中包括埃隆·馬斯克(Elon Musk)和史蒂夫·沃茲尼亞克(Steve Wozniak)。我不知道呼吁有沒有用，但我相信前方確實有危險，以下是為什么我這么說的原因。

(資料圖)

一段時間以來，我一直都在擔(dān)心人工智能對社會的影響，我指的不是超級智能人工智能突然接管世界這種人類面臨的長期存亡風(fēng)險，而是人工智能被用來操縱社會的短期風(fēng)險，即通過人工智能有意影響我們接收的信息，并決定這些信息如何在人群中傳播。這種風(fēng)險在過去12個月里迅速上升，原因是兩種重疊技術(shù)的重大性能提升，這兩種技術(shù)通常被稱為“生成式AI”和“對話式AI”。下面我來談?wù)勛约簽槭裁磳@兩種技術(shù)感到擔(dān)憂。

生成式AI指的是大型語言模型(LLM)根據(jù)人類要求創(chuàng)造原創(chuàng)內(nèi)容的能力。現(xiàn)在，人工智能生成的內(nèi)容包括圖像、藝術(shù)作品、視頻、散文、詩歌、計算機(jī)軟件、音樂和科學(xué)類文章等。在過去，生成式內(nèi)容讓人嘆為觀止，但沒有人會把它誤認(rèn)為是人類的創(chuàng)造。這一切在過去12個月里發(fā)生了變化。人工智能系統(tǒng)突然能夠創(chuàng)造出可以輕易欺騙我們的東西，讓我們相信這些東西要么真的是人類創(chuàng)造的，要么是真實的視頻或在現(xiàn)實世界中捕捉到的照片。這種能力目前正在被大規(guī)模部署，給社會帶來了許多重大風(fēng)險。

就業(yè)市場面臨的風(fēng)險最顯而易見。由于LLM系統(tǒng)創(chuàng)造的東西讓人嘆為觀止，專業(yè)人士現(xiàn)在將LLM系統(tǒng)稱為“能與人類競爭的智能”，可以取代內(nèi)容創(chuàng)作者。從藝術(shù)家和作家到計算機(jī)程序員和金融分析師，一大批職業(yè)都會受到影響。事實上，Open AI、OpenResearch和賓夕法尼亞大學(xué)的一項新研究通過比較GPT-4能力和工作要求，探索了人工智能對美國勞動力市場的影響。該研究的作者估計，20%的美國勞動力中至少有50%的工作將受到GPT-4的影響，高收入工作將受到更大的影響。

就業(yè)市場面臨的這一近在眼前的威脅令人擔(dān)憂，但這不是我簽署“暫停信”的原因。我的擔(dān)憂是，人工智能生成的內(nèi)容看起來和感覺起來都是真實的，而且經(jīng)常給人很有權(quán)威的印象，但它實際上很容易犯事實性錯誤。如何確保這些將成為勞動力主要組成部分的系統(tǒng)不會從傳播小錯誤變成傳播瘋狂的捏造內(nèi)容，目前沒有確切的標(biāo)準(zhǔn)或管理機(jī)構(gòu)，我們需要時間來制定保護(hù)措施，并由監(jiān)管機(jī)構(gòu)來確保保護(hù)措施落到實處。

接下來一個顯而易見的風(fēng)險是，心懷不軌的人可能會故意創(chuàng)作出帶有事實性錯誤的內(nèi)容，被用于有意傳播錯誤信息、虛假信息和徹頭徹尾的謊言。這一風(fēng)險一直都存在，但生成式人工智能所能觸及的范圍是過去不曾有過的，我們的世界非常容易因此充斥著看起來很權(quán)威但完全是捏造的內(nèi)容。這種情況已經(jīng)在Deepfake這類AI換臉工具上得到了體現(xiàn)，公眾人物可以在看起來非常逼真的視頻中做任何事或說任何話。隨著人工智能變得越來越嫻熟，公眾將無法區(qū)分真假。我們需要水印系統(tǒng)和其他技術(shù)來區(qū)分真實的內(nèi)容和人工智能生成的內(nèi)容。要制定和落實這些保護(hù)措施，同樣需要時間。

對話式人工智能系統(tǒng)帶來了一系列獨特的風(fēng)險。這種形式的生成式人工智能可以通過文本聊天和語音聊天與用戶進(jìn)行實時對話。這些系統(tǒng)最近已經(jīng)發(fā)展到人工智能可以與人類進(jìn)行連貫的對話，并隨著時間的推移跟蹤對話過程和上下文。這些技術(shù)是我最擔(dān)心的，因為它們引入了一種監(jiān)管機(jī)構(gòu)沒有準(zhǔn)備好的全新的影響力運動形式——對話影響力。

每個銷售人員都知道，說服別人買東西或相信某個東西的最好方法是與他們交談，這樣你就可以闡述自己的觀點，觀察他們的反應(yīng)，然后調(diào)整策略來應(yīng)對他們的抗拒或擔(dān)憂。隨著GPT-4的發(fā)布，現(xiàn)在很明顯，人工智能系統(tǒng)將能夠讓用戶參與真實的實時對話，作為一種有針對性的影響形式。我擔(dān)心的是，第三方使用API或插件將促銷目標(biāo)傳遞到看似自然的對話中，毫無提防的用戶將被操縱購買他們不想要的產(chǎn)品，注冊他們不需要的服務(wù)，或者相信不真實的信息。

我稱之為“人工智能操縱問題”。在很長一段時間里，這只是一個理論上的風(fēng)險，但現(xiàn)在的技術(shù)可以部署個性化的對話影響力活動，根據(jù)用戶的價值觀、興趣和背景來定位用戶，以推動銷售、宣傳或誤導(dǎo)信息。

事實上，我擔(dān)心人工智能驅(qū)動的對話影響力將成為人類有史以來最強大的有針對性的說服形式。我們需要時間來落實保護(hù)措施。就我個人而言，我認(rèn)為可能需要制定法相關(guān)規(guī)，禁止或嚴(yán)格限制使用人工智能介導(dǎo)的對話影響力。

因此，我在“暫停信”上簽了名，因為我清楚地看到了人工智能系統(tǒng)帶來的新風(fēng)險的蔓延速度非常快，從業(yè)內(nèi)研究人員和行業(yè)專業(yè)人士到監(jiān)管機(jī)構(gòu)和政策制定者，都沒有時間去適應(yīng)。

這封信會管用嗎？我不清楚人工智能行業(yè)是否會同意暫停六個月，但這封信已經(jīng)引起了人們對這個問題的關(guān)注。就我個人而言，我認(rèn)為我們需要盡可能多地敲響警鐘，以喚醒監(jiān)管機(jī)構(gòu)、政策制定者和行業(yè)領(lǐng)導(dǎo)者，他們需要采取行動，這項技術(shù)進(jìn)入市場的速度比我經(jīng)歷過的任何事都要快，這也是為什么我們必須暫停適應(yīng)一下。我們需要一些時間。

本文作者系Unanimous AICEO、Responsible Metaverse Alliance首席科學(xué)家和XR Safety Initiative全球技術(shù)顧問。

文 | 路易斯·羅森博格(Louis Rosenberg)

編輯 | 郭力群

版權(quán)聲明：

《巴倫周刊》(barronschina)原創(chuàng)文章，未經(jīng)許可，不得轉(zhuǎn)載。英文版見2023年3月30日報道“Why AI Needs to Pause”。

（本文內(nèi)容僅供參考，投資建議不代表《巴倫周刊》傾向；市場有風(fēng)險，投資須謹(jǐn)慎。）

關(guān)鍵詞：