雷遞網(wǎng) 樂天 4月15日
人工智能企業(yè)OpenAI CEO Sam Altman日前就呼吁暫停AI開發(fā)的公開信做出回應(yīng),稱安全對OpenAI很重要,而這封信缺乏技術(shù)上的細(xì)微差別,說明哪些OpenAI需要暫停的地方(lacked technical nuance about where we need the pause)。
此前,外界一直傳聞OpenAI正在GPT-5。
(資料圖片僅供參考)
生命未來研究所(Future of Life Institute)還公布一封公開信,呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個月,稱這種暫停應(yīng)該是公開的和可驗(yàn)證的,并且包括所有關(guān)鍵參與者。
公開信稱,如果不能迅速實(shí)施這種暫停,政府應(yīng)介入并實(shí)行暫停。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停,共同開發(fā)和實(shí)施一套用于高級人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議,并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。
“這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)安全,且無可置疑。這不意味著總體上暫停AI開發(fā),只是緊急從奔向不可預(yù)測的大型黑盒模型的危險競賽中收回腳步?!?/p>
這封信最后寫道,“人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強(qiáng)大的AI系統(tǒng)后,我們現(xiàn)在可以享受‘AI之夏’,收獲回報(bào),設(shè)計(jì)這些系統(tǒng)以造福所有人,并為社會提供適應(yīng)的機(jī)會。社會已經(jīng)暫停其他可能對社會造成災(zāi)難性影響的技術(shù)。我們可以在這個領(lǐng)域也這樣做。讓我們享受一個漫長的AI之夏,而不是毫無準(zhǔn)備地陷入秋天。”
圖靈獎得主約書亞·本希奧(Yoshua Bengio)、《人工智能:現(xiàn)代方法》作者斯圖爾特·羅素(Stuart Russell)、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)、Stability AI首席執(zhí)行官埃馬德·莫斯塔克(Emad Mostaque)等科技界領(lǐng)袖人物均簽名,馬斯克也是簽名的名人之一。
Sam Altman說,“我非常同意其中的部分內(nèi)容。在我們完成對GPT-4訓(xùn)練后,我們花了六個多月的時間,真正研究模型的安全性......真正嘗試了解正在發(fā)生的事情并盡可能地減輕影響是很重要的?!?/p>
Sam Altman還澄清說,這封信的早期版本聲稱OpenAI正在訓(xùn)練 GPT-5,“我們不會,一段時間內(nèi)不會,所以從這個意義上說,這有點(diǎn)愚蠢。(we are not, won"t for some time, so in that sense it was sort of silly)”
OpenAI正在開發(fā)GPT-4的附加功能,這些功能存在安全問題,需要解決。一般來說,“隨著能力變得越來越重要,安全標(biāo)準(zhǔn)必須提高。
”我們將繼續(xù)盡可能誠實(shí)地對待AI的發(fā)展。相信它們會影響每個人,因此應(yīng)該讓盡可能多的人參與測試和了解它們。了解優(yōu)點(diǎn)和缺點(diǎn),這是值得的,即使我們確實(shí)傾向于在公共場合讓自己難堪,并且不得不經(jīng)常根據(jù)新數(shù)據(jù)改變主意,也要權(quán)衡取舍?!?/p>
此前,那封公開信被部分人視為是馬斯克及一眾被OpenAI 生態(tài)伙伴們甩在身后的科技巨頭們的緩兵之計(jì)。
有觀點(diǎn)認(rèn)為,馬斯克參與簽名,主要是OpenAI的迭代速度太快了。Google的搜索比對手好 20%就占據(jù)了 90%的搜索市場份額。OpenAI 的影響會更廣泛,所有的上層應(yīng)用都希望使用優(yōu)更強(qiáng)大 AI 賦能的云服務(wù)。只能寄希望于 OpenAI 會像自動駕駛那樣發(fā)展到某個階段會遇到難以克服的瓶頸。
LinkedIn聯(lián)合創(chuàng)始人里德霍夫曼就聲稱,馬斯克在這封信上的簽名只是出于嫉妒。霍夫曼表示,馬斯克和其他人希望暫停,以便他們能夠趕上并提供自己的AI產(chǎn)品。
馬斯克的確看起來就像一個"心機(jī)Boy",轉(zhuǎn)頭就投入AI浪潮,根據(jù)內(nèi)華達(dá)州的一份文件,馬斯克已經(jīng)成立一家名為X.AI Corp的新人工智能公司,還被曝出購買了大約1萬個GPU,并從DeepMind處招募到AI人才,打算開發(fā)自己的大語言模型(LLM)項(xiàng)目。
目前,馬斯克旗下的Twitter已從Alphabet子公司 DeepMind 處招募工程師 Igor Babuschkin和Manuel Kroiss??梢钥闯觯R斯克一直在積極物色 AI 領(lǐng)域的人才,希望與OpenAI展開競爭。
———————————————
雷遞由媒體人雷建平創(chuàng)辦,若轉(zhuǎn)載請寫明來源。
關(guān)鍵詞:
新聞發(fā)布平臺 |科極網(wǎng) |環(huán)球周刊網(wǎng) |中國創(chuàng)投網(wǎng) |教體產(chǎn)業(yè)網(wǎng) |中國商界網(wǎng) |萬能百科 |薄荷網(wǎng) |資訊_時尚網(wǎng) |連州財(cái)經(jīng)網(wǎng) |劇情啦 |5元服裝包郵 |中華網(wǎng)河南 |網(wǎng)購省錢平臺 |海淘返利 |太平洋裝修網(wǎng) |勵普網(wǎng)校 |九十三度白茶網(wǎng) |商標(biāo)注冊 |專利申請 |啟哈號 |速挖投訴平臺 |深度財(cái)經(jīng)網(wǎng) |深圳熱線 |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |咕嚕財(cái)經(jīng) |太原熱線 |電路維修 |防水補(bǔ)漏 |水管維修 |墻面翻修 |舊房維修 |參考經(jīng)濟(jì)網(wǎng) |中原網(wǎng)視臺 |財(cái)經(jīng)產(chǎn)業(yè)網(wǎng) |全球經(jīng)濟(jì)網(wǎng) |消費(fèi)導(dǎo)報(bào)網(wǎng) |外貿(mào)網(wǎng) |重播網(wǎng) |國際財(cái)經(jīng)網(wǎng) |星島中文網(wǎng) |手機(jī)測評 |品牌推廣 |名律網(wǎng) |項(xiàng)目大全 |整形資訊 |整形新聞 |美麗網(wǎng) |佳人網(wǎng) |稅法網(wǎng) |法務(wù)網(wǎng) |法律服務(wù) |法律咨詢 |媒體采購網(wǎng) |聚焦網(wǎng) |參考網(wǎng) |熱點(diǎn)網(wǎng) |焦點(diǎn)網(wǎng)
亞洲資本網(wǎng) 版權(quán)所有
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com