(相關(guān)資料圖)
專家:ChatGPT也存在網(wǎng)絡(luò)安全問(wèn)題
工人日?qǐng)?bào)-中工網(wǎng)記者 車輝
近期,ChatGPT的自然語(yǔ)言交互能力引起了廣泛關(guān)注。ChatGPT究竟對(duì)于網(wǎng)絡(luò)安全行業(yè)會(huì)產(chǎn)生怎樣的影響?綠盟科技首席創(chuàng)新官劉文懋認(rèn)為,ChatGPT對(duì)網(wǎng)絡(luò)安全的影響可以從四個(gè)方面進(jìn)行討論:
攻擊方面:ChatGPT具備生成可用于網(wǎng)絡(luò)攻擊的腳本、釣魚郵件的能力,也能被用來(lái)解密一些較易解密的加密數(shù)據(jù)。然而,ChatGPT的能力仍不能達(dá)到或超越具有專業(yè)知識(shí)和經(jīng)驗(yàn)的真人黑客,其起到的作用主要是提高黑客的攻擊效率。隨著內(nèi)容安全策略的進(jìn)一步強(qiáng)化,ChatGPT作為攻擊武器輔助網(wǎng)絡(luò)攻擊的門檻也會(huì)進(jìn)一步提高。因此相關(guān)影響在總體上來(lái)說(shuō)仍處于一個(gè)可控范圍。在未來(lái),伴隨AI生成內(nèi)容檢測(cè)技術(shù)的發(fā)展與ChatGPT自身內(nèi)容安全策略的演進(jìn),ChatGPT武器化造成的不良影響將被進(jìn)一步壓縮。
安全隱私方面:AI應(yīng)用一般面臨的投毒攻擊、閃避攻擊、推理攻擊、模型提取等攻擊目前仍未見(jiàn)到在ChatGPT上成功的案例。然而,ChatGPT的高度“智能化”也導(dǎo)致其存在自己獨(dú)特的安全問(wèn)題:提示注入。通過(guò)提示注入,用戶可以繞過(guò)OpenAI設(shè)置的內(nèi)容安全策略,從而對(duì)ChatGPT進(jìn)行濫用。在輔助編程這一應(yīng)用場(chǎng)景上,ChatGPT的應(yīng)用可能也存在一定的安全隱患,ChatGPT生成的代碼可能含有可被利用的已知安全漏洞。對(duì)于企業(yè)來(lái)說(shuō),雖然員工使用ChatGPT能夠在一些工作上一定程度地提高效率,但由于ChatGPT并沒(méi)有通過(guò)技術(shù)手段保障用戶數(shù)據(jù)安全,且會(huì)對(duì)用戶輸入進(jìn)行分析,故對(duì)于敏感信息一定要嚴(yán)格保護(hù)。
社會(huì)影響方面:ChatGPT輸出的文本取決于訓(xùn)練語(yǔ)料與其概率分布。故ChatGPT并沒(méi)有真正的道德觀與價(jià)值觀,在一些涉及價(jià)值觀、情感的問(wèn)題上,ChatGPT輸出的內(nèi)容可能會(huì)造成非正向的社會(huì)影響。對(duì)于教育、內(nèi)容創(chuàng)作等領(lǐng)域,濫用ChatGPT最終還可能會(huì)導(dǎo)致劣幣驅(qū)逐良幣。需要通過(guò)技術(shù)手段對(duì)ChatGPT在一些具體場(chǎng)景的使用進(jìn)行管控與限制。
賦能產(chǎn)品方面:ChatGPT對(duì)于網(wǎng)絡(luò)安全產(chǎn)品的人機(jī)交互能夠起到明顯的推進(jìn)作用,并且能夠用來(lái)輔助執(zhí)行一些網(wǎng)絡(luò)安全任務(wù)。雖然在實(shí)際落地ChatGPT到網(wǎng)絡(luò)安全產(chǎn)品的過(guò)程中仍存在許多挑戰(zhàn)。
關(guān)鍵詞: 網(wǎng)絡(luò)安全 安全策略 網(wǎng)絡(luò)攻擊
新聞發(fā)布平臺(tái) |科極網(wǎng) |環(huán)球周刊網(wǎng) |中國(guó)創(chuàng)投網(wǎng) |教體產(chǎn)業(yè)網(wǎng) |中國(guó)商界網(wǎng) |互聯(lián)快報(bào)網(wǎng) |萬(wàn)能百科 |薄荷網(wǎng) |資訊_時(shí)尚網(wǎng) |連州財(cái)經(jīng)網(wǎng) |劇情啦 |5元服裝包郵 |中華網(wǎng)河南 |網(wǎng)購(gòu)省錢平臺(tái) |海淘返利 |太平洋裝修網(wǎng) |勵(lì)普網(wǎng)校 |九十三度白茶網(wǎng) |商標(biāo)注冊(cè) |專利申請(qǐng) |啟哈號(hào) |速挖投訴平臺(tái) |深度財(cái)經(jīng)網(wǎng) |深圳熱線 |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |財(cái)報(bào)網(wǎng) |咕嚕財(cái)經(jīng) |太原熱線 |電路維修 |防水補(bǔ)漏 |水管維修 |墻面翻修 |舊房維修 |參考經(jīng)濟(jì)網(wǎng) |中原網(wǎng)視臺(tái) |財(cái)經(jīng)產(chǎn)業(yè)網(wǎng) |全球經(jīng)濟(jì)網(wǎng) |消費(fèi)導(dǎo)報(bào)網(wǎng) |外貿(mào)網(wǎng) |重播網(wǎng) |國(guó)際財(cái)經(jīng)網(wǎng) |星島中文網(wǎng) |上甲期貨社區(qū) |品牌推廣 |名律網(wǎng) |項(xiàng)目大全 |整形資訊 |整形新聞 |美麗網(wǎng) |佳人網(wǎng) |稅法網(wǎng) |法務(wù)網(wǎng) |法律服務(wù) |法律咨詢 |慢友幫資訊 |媒體采購(gòu)網(wǎng) |聚焦網(wǎng) |參考網(wǎng)
亞洲資本網(wǎng) 版權(quán)所有
Copyright © 2011-2020 亞洲資本網(wǎng) All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com