6月27日-29日，2023年夏季達沃斯世界經(jīng)濟論壇在中國天津召開，主題為“企業(yè)家精神：世界經(jīng)濟驅(qū)動力”。此次會議匯聚全球近100個國家和地區(qū)的1500多名政商學界精英領(lǐng)袖們，也是自2019年以來夏季達沃斯首次回到線下舉行。

(資料圖)

面對當前世界低增長、生活成本高漲、地緣政治分化加劇、不平等擴大以及氣候和自然危機日益嚴重的影響，等相互交織的危機，達沃斯世界經(jīng)濟論壇旨在通過搭建對話、呼吁創(chuàng)新與恢復合作的方式，應(yīng)對共同挑戰(zhàn)，重振全球經(jīng)濟增長。

澎湃研究所研究員在達沃斯現(xiàn)場發(fā)現(xiàn)，新興科技的發(fā)展以及它所帶來的政治經(jīng)濟影響，是本屆達沃斯眾多論壇中的一大焦點。在為期3天的達沃斯時間中，彌漫著對新興技術(shù)的喜與憂。

2023年6月27日，天津，第十四屆夏季達沃斯論壇舉辦。視覺中國 圖

你也信過AI說的慌嗎？

2022年末ChatGPT的橫空出世，令生成式人工智能走進全球的聚光燈下。除了對話類生成式人工智能，其代表技術(shù)還包括在文化創(chuàng)作中的自動創(chuàng)作，在圖像應(yīng)用上的深度偽造等。

生成式人工智能的時代已經(jīng)到來，隨著時間推移，它進一步改變甚至顛覆各行各業(yè)，好的一方面是，它將提高生產(chǎn)力，開啟一個創(chuàng)新新時代；但另一方面，許多工作將受到?jīng)_擊與重新定位，技術(shù)的不透明也會引發(fā)信任危機等。

在“生成式人工智能：是敵是友？”的圓桌論壇上，AI教育公司Learnable董事長王冠表示，AI可以幫助人類，以其所在的教育領(lǐng)域為例，雖然教師與學生的互動和情感無法被替代，但在批改試卷和輔助教學上AI可以幫助教師。AI比人類成本更低、效率更高，可以更大規(guī)模地進行部署。“甚至下一步可以應(yīng)用于中國的高考批改中?！蓖瑫r，他相信，隨著AI產(chǎn)品更加成熟，產(chǎn)品價格會變得更加便宜，也許一塊平板電腦就能彌合中國城鄉(xiāng)間的教育資源差距。

但王冠也指出，垂直行業(yè)的AI與目前OpenAI（ChatGPT制造商）的不同之處在于，現(xiàn)在用戶能夠容忍OpenAI的并非百分百準確，“但在教育領(lǐng)域不能冒險”。同樣不能出差錯的還包括醫(yī)療、自動駕駛等多個垂直領(lǐng)域。

“幾年前大家一直把第四次工業(yè)革命掛在嘴邊，”從事自然語言處理30多年的香港科技大學電子和計算機工程系主任教授馮雁說，“如今生成式AI的出現(xiàn)，我覺得超過工業(yè)范疇，它所帶來的沖擊是屬于人類文明的下一個革命?！倍鳤I與人的區(qū)別在于，它們沒有豐富的內(nèi)心世界。雖然AI在認知層面做任務(wù)，完全可以與人類大腦并論，但是機器不給提示，它什么都不會做。

同時，馮雁指出目前的語言模型所存在的問題。首先是不透明，對用戶的不透明導致人們對智能技術(shù)的信任危機；對研究者、學者也不透明，這意味著無法預(yù)期AI生成的答案。通過對標研究，馮雁團隊發(fā)現(xiàn)，選擇的提示詞不同，會導致不同的答案，這被他們稱為AI出現(xiàn)“幻覺”的現(xiàn)象。生成式AI會按照指令生成指令者任何想要的內(nèi)容，有些是基于客觀事實存在的，但有些是編造的。

“我也曾相信過ChatGPT說的謊?！瘪T雁表示，減少AI的幻覺，成為研究者們的一大努力方向。

第二，ChatGPT的回答中帶有偏見與惡意。某種程度上，ChatGPT的答案反映的是社會現(xiàn)狀，所以也包含著當下存在的社會偏見。例如，清華大學交叉信息研究院助理教授于洋曾對澎湃新聞 表示，AI的性別歧視主要源于：1）供AI學習訓練的數(shù)據(jù)本身具有性別偏見，也成為社會現(xiàn)實的一個反射；2）設(shè)計開發(fā)者主要為白人中青年男性，對第三世界、邊緣群體的關(guān)注不到位；3）算法本身的不足，也加劇歧視。

馮雁還指出，大型語言模型大多數(shù)基于英文數(shù)據(jù)，除了中文與西語作為另外兩大被廣泛運用的語言外，小眾語言在網(wǎng)絡(luò)上的數(shù)據(jù)相對有限，也局限了其自然語言處理上的發(fā)展。馮雁建議，政府應(yīng)助力加強其他語言的資源，讓更多的語言有更多更好的模型?！拔覀儸F(xiàn)在不想看到經(jīng)濟上的貧富差距，復制到模型上的差距?！?。

除了嘉賓們提及的生成式AI會“產(chǎn)生幻覺”、“說謊”、帶有社會偏見之外，更令人擔憂的也許不是技術(shù)本身，而是技術(shù)被人另作他用的風險。例如IBM大中華區(qū)董事長兼總經(jīng)理陳旭東稱，IBM很早開始研究AI背后的風險以及AI倫理。對此，IBM放棄了對人臉識別的研究，因為這項技術(shù)可能會被非法利用。

可見，技術(shù)狂奔之下，技術(shù)治理應(yīng)該跟上步伐。如何保護科技倫理、數(shù)據(jù)隱私和知識產(chǎn)權(quán)等諸多問題，正成為政商學各界共同關(guān)注的焦點。

在另一場“擁抱人工智能革命，提高人工智能水平”的圓桌討論上，話題聚焦在哪些框架和做法能幫助快速提高國家的人工智能的治理水平？——誰來監(jiān)管？如何監(jiān)管？如何兼顧創(chuàng)新與安全？——這些追問成為話題的風暴中心。

擁抱AI革命，各國監(jiān)管方式不一

互聯(lián)網(wǎng)世界是否值得信任？

在世界經(jīng)濟論壇的《互聯(lián)世界狀況（2023 年版）》調(diào)查報告中，超過八成的受訪者表示，對負責任地使用互聯(lián)設(shè)備生成的數(shù)據(jù)缺乏信心。而如果消費者不信任這些設(shè)備，那么就難以大規(guī)模擴展這些設(shè)備帶來的益處。

巴斯大學計算機科學系副教授Joanna Bryson表示，數(shù)字行業(yè)長期來沒有足夠的規(guī)范，人們使用的很多平臺，如郵箱、社交平臺，運營并不透明。她指出大眾不信任AI是因為獲取的信息還不夠透明，建議推出一種“透明度文化”。同時，她也呼吁政府出臺對技術(shù)的監(jiān)管，以確保新的AI公司以合規(guī)的方式使用新技術(shù)。

盧旺達信息通信技術(shù)與創(chuàng)新部部長Paula Ingabire表示，數(shù)據(jù)是AI的核心，如何讓數(shù)據(jù)被業(yè)界合理使用至關(guān)重要。盧旺達政府推出數(shù)據(jù)管理平臺，平衡技術(shù)創(chuàng)新和個人數(shù)據(jù)保護，例如通過統(tǒng)一全國醫(yī)療機構(gòu)的病歷，建立病歷信息交換平臺，通過數(shù)據(jù)隱私保護法律，最終讓數(shù)據(jù)所有權(quán)屬于病患本人。

Paula Ingabire也提出，AI監(jiān)管應(yīng)由政府牽頭，制定合理的方案?！捌鋵嵳矡o法單打獨斗，必須要和企業(yè)合作，私營部門的力量也要進來?！?

澎湃研究所研究員梳理發(fā)現(xiàn)，不同國家對AI的監(jiān)管治理方式不一。歐盟已通過人工智能法案，多國加速研究監(jiān)管框架，也有國家并不急于監(jiān)管。

歐盟于今年6月通過《人工智能法案》（AI Act），對AI及其相關(guān)應(yīng)用進行分級風險管理，基于風險劃分的四種等級分別為被禁止、高風險、有限風險、低風險。其中，實時遠程生物識別技術(shù)（即公開場合人臉識別）被設(shè)為“被禁止”級別，對生成式AI（例如ChatGPT）提出必須對生成的內(nèi)容進行標注，以區(qū)別“深度偽造信息”，并要求公司披露生成式AI訓練數(shù)據(jù)的版權(quán)。

英國組建“人工智能基礎(chǔ)模型工作組”（AI Foundation Model Taskforce），研究人工智能帶來的安全風險，研究安全開發(fā)人工智能的方法，并為制定國際安全準則提供信息。

美國也在加速準備關(guān)于人工智能的監(jiān)管立法框架。2022年10月，美國推出《人工智能權(quán)利法案藍圖》，關(guān)注技術(shù)下的隱私保護和公平性原則。而在今年6月歐盟通過《人工智能法案》之后，美國加速了推進AI監(jiān)管的步伐，預(yù)計將于今夏推出一些政策行動。

今年4月，中國也就《生成式人工智能服務(wù)管理辦法（征求意見稿）》向社會公開征求意見，征求意見稿中提到包括：生成式人工智能生成的內(nèi)容應(yīng)當真實準確，防止生成虛假信息；用于訓練生成式人工智能的數(shù)據(jù)，應(yīng)當保證數(shù)據(jù)的真實性、準確性等內(nèi)容。

但也有政府并不急于制定AI法規(guī)。例如新加坡政府在近日就表示，目前沒有制定AI法規(guī)的想法。但同時，新加坡政府在努力促進“負責任地”使用人工智能，并與企業(yè)合作開發(fā)了全球首個AI測試工具包，讓用戶可以對AI模型進行技術(shù)測試并記錄過程檢查。

對AI監(jiān)管的呼吁外，也有觀點提出擔憂，法規(guī)與監(jiān)管是否會限制AI創(chuàng)新發(fā)展？

例如圓桌論壇上，英國人工智能公司CausaLens的CEO Darko Matovski表示，一個很好的監(jiān)管技術(shù)如果用不正確的方式落實，可能會對新技術(shù)帶來影響?！耙?guī)則的落實會決定AI的未來。必須要用正確的、實際的方式進行監(jiān)管，否則就會磨滅創(chuàng)新。”

東軟集團董事長劉積仁也從技術(shù)開發(fā)的角度建議：“技術(shù)的發(fā)展需要給技術(shù)開發(fā)者一定空間，讓他們先走一步，探索未知的領(lǐng)域?！?/p>

關(guān)鍵詞：