日本成人激情_久久久免费精品视频_亚洲激情四射视频中文字幕久久_日本wwwwww_男女做爰裸体猛烈吃奶摸视频_日韩大片在线观看

科企競逐新技術(shù)以防AI“越獄”

2025-03-15 01:35:00 來源: 科技日報 點擊數(shù):

科技日報記者 劉霞

隨著人工智能(AI)技術(shù)的快速普及,新的安全漏洞和“越獄”方法層出不窮。這讓黑客更容易濫用AI系統(tǒng),實施網(wǎng)絡(luò)攻擊、傳播不當(dāng)信息、制造安全風(fēng)險,甚至引發(fā)重大犯罪行為。鑒于此,全球科技巨頭競相開發(fā)新技術(shù),力求在保持AI模型功能性的同時,有效減少其被濫用的風(fēng)險。

AI“越獄”日益猖獗

IBM網(wǎng)站對AI“越獄”是這樣解釋的:當(dāng)黑客或別有用心之人利用AI系統(tǒng)中的漏洞,繞過道德準(zhǔn)則,操縱AI模型生成非法或危險信息時,便視為AI“越獄”。黑客慣常利用的AI“越獄”手段包括提示詞植入、角色扮演誘導(dǎo)、現(xiàn)在就做任何事(DAN)、敏感詞拆分等。

提示詞植入指在輸入中植入特定指令或改變輸入的語義結(jié)構(gòu),誘導(dǎo)模型執(zhí)行非期望操作或生成錯誤結(jié)果;在角色扮演誘導(dǎo)中,黑客會讓AI扮演特定角色,繞過內(nèi)容過濾器生成信息;DAN則是ChatGPT的一種特殊運行模式,在此模式下,ChatGPT獲得了超越其原有道德和倫理限制的能力,能回答一些正常模式下無法回答的問題;敏感詞拆分則指將敏感詞拆分成子字符串以規(guī)避檢查。

這些技術(shù)通過精心設(shè)計的提示,引導(dǎo)模型偏離預(yù)定的安全防護(hù)規(guī)則,生成潛在的有害內(nèi)容,甚至引發(fā)數(shù)據(jù)泄露、系統(tǒng)失控等嚴(yán)重后果。

研究發(fā)現(xiàn),在無保護(hù)措施的情境下,生成式AI“越獄”攻擊的成功率高達(dá)20%。平均而言,攻擊者僅需42秒及5次交互便能突破防線。在某些情況下,攻擊甚至在短短4秒內(nèi)就能完成。這些發(fā)現(xiàn)凸顯了當(dāng)前生成式AI模型算法中存在重大漏洞,實時防止漏洞的難度很大。

IBM網(wǎng)站指出,AI“越獄”事件愈發(fā)普遍,要歸因于AI技術(shù)的飛速進(jìn)步、AI工具的可獲取性日益提升,以及對未經(jīng)過濾輸出的需求不斷增長等。安全專家認(rèn)為,生成式聊天機器人的易用性,使缺乏相關(guān)知識背景的普通人也能嘗試獲取危險信息。

為AI設(shè)立“防護(hù)欄”

為更好地推動AI發(fā)展,確保其安全可控,增強客戶信任,包括微軟和元宇宙平臺等公司在內(nèi)的科技巨頭,正竭力防止AI“越獄”。

據(jù)英國《金融時報》報道,AI初創(chuàng)公司Anthropic推出了一款名為“憲法分類器”的新系統(tǒng),其可作為大語言模型的保護(hù)層,監(jiān)測輸入和輸出內(nèi)容是否存在有害信息,確保用戶免受不良信息的侵?jǐn)_。

這一解決方案基于一套被稱為“憲法”規(guī)則的體系。這些規(guī)則明確界定了信息的允許范圍與限制邊界,并可根據(jù)實際需求靈活調(diào)整,以涵蓋不同類型的材料。

為驗證該系統(tǒng)的實效,Anthropic公司提供了15000美元的“漏洞賞金”。重賞之下,183名測試人員歷時3000多個小時,嘗試突破防御。在“憲法分類器”的保駕護(hù)航下,該公司的“克勞德3.5”模型抵御了超過95%的惡意嘗試。而在沒有這道防護(hù)網(wǎng)的情況下,該模型的拒絕率僅為14%。

無獨有偶,微軟去年3月推出了“提示詞防護(hù)盾”。這一創(chuàng)新工具能夠?qū)崟r偵測并有效阻止誘導(dǎo)AI模型“越獄”的“提示詞攻擊”。微軟還攻克了“間接提示詞輸入”這一難題,即防止黑客將惡意指令悄然插入模型的訓(xùn)練數(shù)據(jù)中,從而避免模型執(zhí)行不當(dāng)操作。

值得一提的是,微軟還推出了一項新功能:當(dāng)AI模型編造內(nèi)容或產(chǎn)生錯誤反應(yīng)時,它會迅速提醒用戶。

2024年底,美國加州大學(xué)伯克利分校與元宇宙平臺公司攜手,推出了一種通用防御框架,以有效應(yīng)對策略性植入的提示詞攻擊,為AI的安全防護(hù)再添一道屏障。

技術(shù)成本有待降低

當(dāng)然,這些旨在防止AI“越獄”的技術(shù)也并非盡善盡美。

審核措施的介入可能會讓模型變得過于謹(jǐn)慎,而拒絕一些無害的請求。谷歌早期版本的“雙子座”AI模型以及元宇宙平臺的Llama 2就曾出現(xiàn)過這種情況。不過,Anthropic公司表示,其“憲法分類器”雖然也提高了拒絕率,但絕對值僅增加了0.38%。

《金融時報》的報道指出,“憲法分類器”在運行過程中,會耗費大量計算資源。這對那些已經(jīng)為訓(xùn)練和運行模型支付巨額費用的公司來說,無疑是“雪上加霜”。Anthropic公司也承認(rèn),其分類器將使運行AI模型的成本增加近24%。

由此可見,雖然AI“越獄”防護(hù)技術(shù)在提升安全性方面發(fā)揮了重要作用,但如何在保障安全與降低成本之間找到平衡,仍需進(jìn)一步探索。

責(zé)任編輯:常麗君

抱歉,您使用的瀏覽器版本過低或開啟了瀏覽器兼容模式,這會影響您正常瀏覽本網(wǎng)頁

您可以進(jìn)行以下操作:

1.將瀏覽器切換回極速模式

2.點擊下面圖標(biāo)升級或更換您的瀏覽器

3.暫不升級,繼續(xù)瀏覽

繼續(xù)瀏覽
主站蜘蛛池模板: 成年美女黄网_91se亚洲综合色区_中文字幕亚州国产制服_久久夜色精品国产网站_鲍鱼av_少妇毛片一区二区_四虎影院永久在线观看_欧美自拍偷拍一区 | 色婷婷人妻av毛片一区_亚洲熟妇自拍无码区_日韩无码系列综合区_伊人久久大香线蕉AV不卡_天干天干夜啦天干天干国产_一级片视频免费看_久久久久激情视频_欧美a级情欲片 | 亚洲欧美18岁网站_欧美xxxx色视频在线观看免费_18禁黄网站禁片免费观看女女_收集最新中文国产中文字幕_免费日本在线观看_26uuu婷婷_亚洲一级大黄大色毛片_成人久久久精品国产乱码一区二区 | 无码aⅴ一区二区三区_亚洲色欲色欲欲WWW在线_国产a国产片_一一高清视频在线观看_四虎影库久免费视频_人妻少妇精品视频专区_国产在线精品免费一区_国产视频综合网 | 国产成人精品网站_亚洲国产精选_国产露脸精品产三级国产av_人妻精油按摩BD高清中文字幕_久草日韩_337p粉嫩大胆噜噜噜_亚洲国产制服丝袜先锋_国产专区亚洲精品无码 | 黄色一二三区_福利视频一区二区_免费成人高清视频_91久久精品国产亚洲a∨麻豆_亚洲第一极品精品无码久久_久久.com_在线国产毛片_一起操17c | 无码aⅴ一区二区三区_亚洲色欲色欲欲WWW在线_国产a国产片_一一高清视频在线观看_四虎影库久免费视频_人妻少妇精品视频专区_国产在线精品免费一区_国产视频综合网 | 色欲AV蜜桃一区二区三_日韩激情中文字幕_亚洲一区二区三区免费看_日韩深夜视频_国产精品久国产精品_久久福利视频一区_日本高清WWW午色夜在线视频_人与性动交AAAABBBB视频 | 看全色黄大色黄女片_亚洲欧洲日产国码综合在线_99精品自产国偷产在线_国精品**一区二区三区在线蜜桃_亚洲91p_欧美日韩在线精品_538久久_欧美国产精品久久久久久免费 | 青青草国产精品一区二区_亚洲九九九_成人福利视频在线_久久人妻无码一区二区三区_一本无码中文字幕手机在线_嫩草研究院在线观看_老司机免费_成人乱淫av日日摸夜夜爽节目 | 成人免费视频www在线观看我_日韩免费无码成人久久久久久片_91影院高清_一级毛片超级播放_亚洲综合伊人_911网站大全在线观看_成人综合婷婷国产精品久久_蝌蚪91在线 | 精品在免费线_天天综合色网_成人福利一区二区_aaa毛片视频免费观看_国产亚洲另类久久久精品_男人大臿蕉香蕉大视频_baoyu135国产精品免费_国产精品自在拍在线播放 | 91专区在线观看_yellow中文字幕国产资源_国产嫩草影院久久久久_激情天堂网_久草网站在线观看_强奷表妺好紧2_免费观看又黄又爽的视频_免费在线国产视频 | 亚洲二区不卡_一本大道久久东京热无码av_青青草草视频_av色综合网_毛片一区二区三区无码_亚洲中文字慕日产2021_亚洲精品国产精品乱码不99按摩_亚洲成Av人片在线观看不卡 | 国产裸体写真av一区二区_337p日本大胆欧美人_久久久久久久亚洲AV无码_国产在线高清精品_亚洲成色精品一区二区三区_99久久免费精品国产免费高清_激情五月人体_国产iv一区二区三区 | 黄色小说视频网_91桃色黄色_99久久精品无码一区二区三区_少妇人妻大乳在线视频_91精品专区_免费在线观看成人网_久久精品成人影院_精品亚洲一区二区三区四区五区高 | 麻豆视频网站在线观看_精品视频国产亚洲_国产国产精品久久久久_黑人巨大精品欧美一区_xxxx性欧美_精品国产一级_被公连续侵犯中文字幕_伊人久久情人综岁的合网18 | 不卡欧美_国产精品99久久久精品_二级片免费_亚洲激情一二三区_粗大猛烈进出高潮视频免费看_国产免费一级一级_国产视频一区精品_欧美日本另类 | 久久一区二区精品_欧美精品福利在线_久久99精品国产99久久6_麻豆一区二区三区蜜桃免费_欧美乱妇高清免费96欧美乱妇高清_久操97_欧美无玛_欧美日韩一区二区在线 | 久久免费影院_国产精品69久久_国产欧美久久久精品二区仙踪林_日韩91_a级黄毛片_国产成人综合在线观看不卡_久久无码人妻丰满熟妇区毛片_任你操在线 | 2020av毛片_国产老熟女91pom_精品国产欧美日韩一区二区三区_69xxx在线观看_国产成aⅴ人高清精品久久久_伊人激情av一区二区三区_精品一区二区三区自拍图片区_国产精品区二区三区日本 | 日韩久久一区二区_亚洲精品国产黑色丝袜_日韩精品一区二区久久_亚洲精品激情_免费无码AV污污污在线观看_日本在线A一区视频高清视频_伊人色爱_国产成人99av超碰超爽 | 西西大尺度美軳人人体bt_蜜臀在线一区_欧美三级午夜理伦三级富婆_亚洲中文无码线在线观看_亚洲性夜色噜噜噜7777_女人做爰高潮时叫要精免费的视频_大黄网站免费在线观看_亚洲天堂岛国片 | 久久黄网站_97久久久久_成年人国产在线观看_国产裸舞福利在线视频合集_999精品视频在线观看_国内精品久久久久影院中国_99热门精品一区二区三区无码_欧洲一级在线观看 | 曰韩免费视频_中文字幕丝袜第1页_视频精品久久_久久国产午夜精品理论片_成人免费国产精品视频大全_人妻被丑老头玩的潮喷_亚洲av无码国产一区二区三区不卡_天堂亚洲欧美在线中文 | 九七午夜剧场福利写真_两性色黄视频在线观看_男ji大巴进入女人的视频免费看_亚洲永久免费_久久久线视频_国产麻豆影院_97爱爱视频_日本一级黄色大片 | 国产午夜成人无码免费看不卡_精品va天堂亚洲国产_日日干日日干_久久国产人妻一区二区_成人午夜精品无码区久久_国产激情一区二区三区_欧洲美女与动zooz_亚洲国产精品SSS在线观看AV | 日本三级黄色中文字幕_久久国产精品波多野结衣AV_动漫精品一区二区三区_亚洲AV无码一区二区二三区∝_男人午夜av_91网址在线观看_91精品国产一区二区无码_无码专区国产精品一区 | 国产精品馆_国产成年在线_神马在线视频_亚洲一区二区三区自拍公司_在线观看五码_日韩精品成人一区二区在线_黄色软件91_亚洲高清中文字幕在线看不卡 | 日本a级毛片免费视频不卡_精品久久久久久国产_久操国产在线_色综合网址_成人国产精品免费观看视频_欧美特级一级片_人妻少妇HEYZO无码专区_av天堂精品久久久久 | 亚洲人成色4444在线观看_美女视频黄又黄又免费高清_西游性淫片a级在线观看_欧美成a人片在线观看久_特级黄色毛片视频片子_青草久久久国产线免观_国产精品999在线观看_色欧美色美色一区二区在线 | 人人妻人人妻人人妻碰碰_国产精品免费一级在线观看_亚洲色无码中文字幕YY51999_亚洲综合二_狠狠躁夜夜躁人人爽天天不卡_亚洲综合日韩中文字幕_国产精品福利啪在线观看_伊人久综合 | 国产精品美女久久久婷婷网站_久欠精品国国产99国产精2021_国产精品久久久久久久久果冻传媒_去看片在线_国产一级淫片a级在线播放_日本91av视频_欧美女优一区_野花视频最新免费完整在线观看 | 女女互磨互喷水高潮les呻吟_av网址免费观看_97精品久久久久中文字幕_快色视频_国产亚洲中文字幕在线_玩偶姐姐在线观看免费_亚洲日韩精品一区二区三区_东凛mdyd950在线播放 | 91精品国产综合久久久久影院不卡_国产精品成人一区二区_中文字幕AV一区乱码_九色tm视频_极品白浆_呻吟求饶的人妻中文字幕_中文字幕丰满伦孑_国产精品手机免费 | 久久亚洲免费视频_韩国一级黄色录像_国产极品美女到高潮_妺妺窝人体色WWW视频_日韩精品真人荷官无码_日韩AV无码一网二网三网_91亚洲精品久久久久图片蜜桃_segui88久久综合9999 | 97精华最好的产品在线_国产精品午夜久久_亚洲久久超碰无码色中文字幕_www九色_91亚洲精品国产_AV无码免费无禁网站_最近2019中文字幕_在线视频青青草 | 九九热九九_日韩精品一区二区三区九九_热久久思思_精品人妻系列无码一区二区三区_超碰福利在线_成人免费视频观看视频_免费无码黄动漫在线观看_欧美一区在线观看视频 | JIZZ中国JIZZ在线观看_亚洲三级视频在线观看_人伦人与牲口性恔配视频免费_91国内精品白嫩初高生_一级黄色免费网站_羞羞午夜爽爽爽爱爱爱爱人人人_一本大道久久a久久精品综合1_91精品国产综合久久精品性色 | 欧美精品一区二区视频_97超碰人人爱香蕉精品_成年人在线免费_黄瓜视频在线免费欧美日韩在线看_成人av大全_国产精品免费看_国产精品偷伦视频播放_国产欧美日韩亚洲一区二区三区 | 曰韩免费视频_中文字幕丝袜第1页_视频精品久久_久久国产午夜精品理论片_成人免费国产精品视频大全_人妻被丑老头玩的潮喷_亚洲av无码国产一区二区三区不卡_天堂亚洲欧美在线中文 |