日本成人激情_久久久免费精品视频_亚洲激情四射视频中文字幕久久_日本wwwwww_男女做爰裸体猛烈吃奶摸视频_日韩大片在线观看

科企競逐新技術(shù)以防AI“越獄”

2025-03-15 01:35:00 來源: 科技日報 點擊數(shù):

科技日報記者 劉霞

隨著人工智能(AI)技術(shù)的快速普及,新的安全漏洞和“越獄”方法層出不窮。這讓黑客更容易濫用AI系統(tǒng),實施網(wǎng)絡(luò)攻擊、傳播不當(dāng)信息、制造安全風(fēng)險,甚至引發(fā)重大犯罪行為。鑒于此,全球科技巨頭競相開發(fā)新技術(shù),力求在保持AI模型功能性的同時,有效減少其被濫用的風(fēng)險。

AI“越獄”日益猖獗

IBM網(wǎng)站對AI“越獄”是這樣解釋的:當(dāng)黑客或別有用心之人利用AI系統(tǒng)中的漏洞,繞過道德準(zhǔn)則,操縱AI模型生成非法或危險信息時,便視為AI“越獄”。黑客慣常利用的AI“越獄”手段包括提示詞植入、角色扮演誘導(dǎo)、現(xiàn)在就做任何事(DAN)、敏感詞拆分等。

提示詞植入指在輸入中植入特定指令或改變輸入的語義結(jié)構(gòu),誘導(dǎo)模型執(zhí)行非期望操作或生成錯誤結(jié)果;在角色扮演誘導(dǎo)中,黑客會讓AI扮演特定角色,繞過內(nèi)容過濾器生成信息;DAN則是ChatGPT的一種特殊運行模式,在此模式下,ChatGPT獲得了超越其原有道德和倫理限制的能力,能回答一些正常模式下無法回答的問題;敏感詞拆分則指將敏感詞拆分成子字符串以規(guī)避檢查。

這些技術(shù)通過精心設(shè)計的提示,引導(dǎo)模型偏離預(yù)定的安全防護(hù)規(guī)則,生成潛在的有害內(nèi)容,甚至引發(fā)數(shù)據(jù)泄露、系統(tǒng)失控等嚴(yán)重后果。

研究發(fā)現(xiàn),在無保護(hù)措施的情境下,生成式AI“越獄”攻擊的成功率高達(dá)20%。平均而言,攻擊者僅需42秒及5次交互便能突破防線。在某些情況下,攻擊甚至在短短4秒內(nèi)就能完成。這些發(fā)現(xiàn)凸顯了當(dāng)前生成式AI模型算法中存在重大漏洞,實時防止漏洞的難度很大。

IBM網(wǎng)站指出,AI“越獄”事件愈發(fā)普遍,要歸因于AI技術(shù)的飛速進(jìn)步、AI工具的可獲取性日益提升,以及對未經(jīng)過濾輸出的需求不斷增長等。安全專家認(rèn)為,生成式聊天機器人的易用性,使缺乏相關(guān)知識背景的普通人也能嘗試獲取危險信息。

為AI設(shè)立“防護(hù)欄”

為更好地推動AI發(fā)展,確保其安全可控,增強客戶信任,包括微軟和元宇宙平臺等公司在內(nèi)的科技巨頭,正竭力防止AI“越獄”。

據(jù)英國《金融時報》報道,AI初創(chuàng)公司Anthropic推出了一款名為“憲法分類器”的新系統(tǒng),其可作為大語言模型的保護(hù)層,監(jiān)測輸入和輸出內(nèi)容是否存在有害信息,確保用戶免受不良信息的侵?jǐn)_。

這一解決方案基于一套被稱為“憲法”規(guī)則的體系。這些規(guī)則明確界定了信息的允許范圍與限制邊界,并可根據(jù)實際需求靈活調(diào)整,以涵蓋不同類型的材料。

為驗證該系統(tǒng)的實效,Anthropic公司提供了15000美元的“漏洞賞金”。重賞之下,183名測試人員歷時3000多個小時,嘗試突破防御。在“憲法分類器”的保駕護(hù)航下,該公司的“克勞德3.5”模型抵御了超過95%的惡意嘗試。而在沒有這道防護(hù)網(wǎng)的情況下,該模型的拒絕率僅為14%。

無獨有偶,微軟去年3月推出了“提示詞防護(hù)盾”。這一創(chuàng)新工具能夠?qū)崟r偵測并有效阻止誘導(dǎo)AI模型“越獄”的“提示詞攻擊”。微軟還攻克了“間接提示詞輸入”這一難題,即防止黑客將惡意指令悄然插入模型的訓(xùn)練數(shù)據(jù)中,從而避免模型執(zhí)行不當(dāng)操作。

值得一提的是,微軟還推出了一項新功能:當(dāng)AI模型編造內(nèi)容或產(chǎn)生錯誤反應(yīng)時,它會迅速提醒用戶。

2024年底,美國加州大學(xué)伯克利分校與元宇宙平臺公司攜手,推出了一種通用防御框架,以有效應(yīng)對策略性植入的提示詞攻擊,為AI的安全防護(hù)再添一道屏障。

技術(shù)成本有待降低

當(dāng)然,這些旨在防止AI“越獄”的技術(shù)也并非盡善盡美。

審核措施的介入可能會讓模型變得過于謹(jǐn)慎,而拒絕一些無害的請求。谷歌早期版本的“雙子座”AI模型以及元宇宙平臺的Llama 2就曾出現(xiàn)過這種情況。不過,Anthropic公司表示,其“憲法分類器”雖然也提高了拒絕率,但絕對值僅增加了0.38%。

《金融時報》的報道指出,“憲法分類器”在運行過程中,會耗費大量計算資源。這對那些已經(jīng)為訓(xùn)練和運行模型支付巨額費用的公司來說,無疑是“雪上加霜”。Anthropic公司也承認(rèn),其分類器將使運行AI模型的成本增加近24%。

由此可見,雖然AI“越獄”防護(hù)技術(shù)在提升安全性方面發(fā)揮了重要作用,但如何在保障安全與降低成本之間找到平衡,仍需進(jìn)一步探索。

責(zé)任編輯:常麗君

抱歉,您使用的瀏覽器版本過低或開啟了瀏覽器兼容模式,這會影響您正常瀏覽本網(wǎng)頁

您可以進(jìn)行以下操作:

1.將瀏覽器切換回極速模式

2.點擊下面圖標(biāo)升級或更換您的瀏覽器

3.暫不升級,繼續(xù)瀏覽

繼續(xù)瀏覽
主站蜘蛛池模板: 久久久社区_硬汉视频在线观看_亚洲视频精品一区_jjzz4日本_黄色视免费_嘿咻嘿咻免费无码专区在线看_成人国产精品一区二区网站_人妻老妇乱子伦精品无码专区 | 无码中文字幕AV免费放软件_国产后式a一视频_色中文字幕在线_一区二区三区视频在线观看_亚洲影院久久_中文字幕在线观看2021_国产成人青草视频_亚洲精品永久中文字幕 | 男人进去女人爽免费视频_国内激情_午夜影院一级_狠狠做五月深爱婷婷_黄色一级大片免费_午夜久久久久久久久久久久_无码人妻丰满熟妇A片护士_免费看黄色大全 | 99久久久无码国产精品9_亚洲v.com_亚洲中文字幕无码一区日日添_欧美成年人在线观看_精品视频网_国产91在线精品_国产精品s色_亚洲欧美中文字幕在线观看 | 国产精品无码久久av嫩草_日韩午夜在线播放_亚洲人成亚洲人成在线观看_国产三级在线观看_超碰人人美国_欧美日韩八区_136av福利视频导航入口_日韩高清免费在线观看 | 特黄三级又爽又粗又大_国产精品99久久久久久一二区_成人看片人aa_综合成人_欧美激情一区三区_亚洲www在线观看_韩日在线观看视频_久久无码欧美一二三区 | 亚洲a∨无码一区二区三区_亚洲av片不卡无码天堂_日本韩国在线视频_国产影视一区二区三区_国产精品亚洲一区二区三区天天看_色综合天天综合天天更新_精品在线你懂的_在线观看www. | 俺去俺来也在线www色官_久久久久久久国产a∨_九色综合婷婷_亚洲成人久久一区_久久一区免费_我半夜摸妺妺的奶摸到高潮_AV天堂中AV世界中文在线播放_日黄的免费视频 | 一区二区三区不卡在线观看_国产精品女人呻吟在线观看_四虎2022永久免费人口_欧美精品99无码一区二区_77色77国产欧美在线_亚洲精品美女在线_奇米色欧美一区二区三区_欧美精品久久一区 | 激情久久中文字幕_亚洲经典国产欧美_草草久久久_91看片儿_蜜臀免费av_美女一区视频_97在线视频免费看_内插射精大群交在线 | 性色欲情侣网站WWW_免费a级毛片无码∨_高清免费在线视频_日本三级在线看一区二区_天下第一社区视频WWW国语_黄色免费大全_欧美三日本三级少妇三99大粗_久久厕所偷拍视频 | 色77影院_国产成人无码AV麻豆_久久人成_不卡高清AV手机在线观看_久久精品在线视频_亚洲国产精品嫩草影院在线观看_精彩视频一区二区三区_国产精品亚洲一区二区三区妖精 | 精品人妻无码一区二区三区手机版_欧美日韩成人精品久久二区_免费成人av网址_免费看片www8x5xcom_内射欧美老妇WBB_掀开奶罩边躁狠狠躁苏玥视频_免费成人高清在线视频_毛片官网 | 天天摸天天碰天天操_欧美一区二区三区aa大片漫_亚洲小说乱欧美另类_97av在线_9的国产精选久久_日本一区二区成人_国产高清免费_亚洲中文字幕乱码一区 | 日韩视频免费看_A一级片中文字幕_公车上太深了啊高潮_国产精品无码久久综合网_99热这里只有精品1_国产精品一区99_成人免费毛片一_亚洲a级精品 | 一本大道久久a久久综合婷婷_国产aⅴ无码专区亚洲av麻豆_精品第一国产综合精品蜜芽_亚洲人视频_九九热视频免费_成人福利av_一级免费观看_亚洲不卡一区二区三区四区 | 亚洲第一成年人视频_麻豆网站在线_狠狠鲁视频_亚洲人成人影院在线观看_萍萍的性荡生活2_欧美一级日韩一级无毒不卡_国产精品久久精品99国产百盛_蜜臀av性久久久久蜜臀aⅴ四虎 | wwwzzzyyy成人免费_黑人巨大跨种族VIDEO_亚洲AV无码一区二区三区性色_91高清免费_97国产在线播放_欧美日本免费无码永久_久久精品噜噜噜成人AV_国产日韩精品中文字无码 | 一区二区三区精_日韩在线视频精品_99精品欧美一区_国产色系视频在线观看_亚洲一区二区三区高清av_亚洲成人超碰_亚洲一区二区无码影院_97无码人妻福利免费公开在线视频 | 国产第二区_久久成人影院精品99_一区二区在线观看av_国产精品青青草_精品视频—区二区三区免费_国产一区二区三区av在线_337p欧美顶级日本大片_男人又大又硬又粗视频 | 国产a级片免费_亚洲国产成人高清在线观看_ww国产内射精品后入国产_天天爽夜夜爱_亚洲三区在线观看_国偷自产av一区二区三区麻豆_国产精品日韩久久久_日韩中字在线观看 | 久久久久在线视频_狠狠综合久久av一区二区小说_又摸又揉又黄又爽的视频_国产欧美日产激情视频_欧美在线一级va免费观看_一级黄色片aaa_女人精25xxxxx免费视频_精品国产大片久久久久久久久 国产视频精品区_在线观看一级黄色片_国内自产少妇自拍区免费_九九精品网_精品视频一区在线观看_久久精品A片777777_国产精品网站一区二区三区_日本老妇xxxx | 日本久久黄色片_开心婷婷丁香五月综合中文日韩_免费观看在线A毛片_色综合久久久久综合体桃花网_99国产精品一区_久久在线精品视频_gogogo免费高清在线_国产老妇伦国产熟女老妇视频 | 少妇与子乱在线观看_亚洲一二区在线_国产免费高清_丁香五月婷激情综合第九色_在线综合国产_精品性久久_亚洲AV无码精品国产成人_久久久精品人妻一区亚美研究所 | 台湾无码一区二区_中国黄色毛片视频_日本国产在线观看_黄色片毛片_神马视频在线观看_欧美日韩在线看_一本大道久久精品懂色aⅴ_午夜影片 | 亚洲一区av_毛片无码免费无码播放_亚洲国产一区二区波多野结衣_亚洲一级片内射无码_99久久69五月天_啦啦啦在线视频免费观看高清中文_亚洲AV成人影视综合网_国产午夜91 狠狠操婷婷_国产一区二区三区中文字幕_欧美a级片视频_高清国产在线一区_男人和女人做爽爽免费视频_亚洲精品无码人妻无码_国产啪亚洲国产精品无码_超碰97久久国产精品牛牛 | 黄色片免费_搜查官中文字幕一区二区_亚洲AV影院一区二区三区_av中文天堂网_日日射视频_国产在线看视频_在线免费观看成人网_91久久精品一区二区三区大 | 国产九一视频_妺妺晚上吃我精子黄文_国产一级黄色片视频_裸体洗澡偷拍一区二区_亚洲熟妇自偷自拍另欧美_亚洲天堂av网_国产精品精东影业_日韩久久久久久久久久久 aaa在线观看_澳门黄色毛片_污网站在线浏览_91成人午夜在线精品_无码精品A片一区二区_AV在线播放日韩亚洲欧_久久久国产精品亚洲一区_色网站免费看 | 成年人免费观看_精品久久久久久久久亚洲_一本色道久久88综合日韩精品_亚洲最大无码AV网址_精品亚洲一区二区三区_5060网免费午夜8050_精品久久久久久久久国产字幕_国产成人鲁鲁免费视频 | 一区二区三区不卡在线观看_国产精品女人呻吟在线观看_四虎2022永久免费人口_欧美精品99无码一区二区_77色77国产欧美在线_亚洲精品美女在线_奇米色欧美一区二区三区_欧美精品久久一区 | 99aiav日韩黄色在线_久久久久久穴_日韩精品高清一区二区三区_国产肉体ⅩXXX137大胆_欧美日韩在线观看视频_天天做天天摸天天爽天天爱_国产精品一区二区国产_久久精精品久久久久噜噜 | 欧美性第一页_av资源在线看片_久久综合精品无码AV一区二区三区_艹逼逼逼_91嫩草影院在线观看_女人被躁到高潮嗷嗷叫免费_91秒拍福利视频_九九在线视频免费观看精彩 | 人人妻人人澡人人爽欧美一在内谢_亚洲成aⅴ人片久青草影院_亚洲AV无码一区东京热蜜芽_性刺激久久久久久久久九色_一級特黃色毛片免費看_免费看无码特级毛片_日本成人免费在线_国产福利日本一区二区三区 | 嫩草91_中国三级黄色录像_亚洲欧美在线x视频_GOGOGO免费高清日本TV_亚洲日本VA午夜在线影院_国产精品系列视频_超碰91在线播放_c国产又粗又猛又爽又黄的视频站 | 九九久久99_99久色_日本一区二区三区免费播放_成人午夜亚洲精品无码区_逼逼爱插插网站_新加坡毛片_蜜臀久久蜜臀av国内精品久久久_久久国产精品久久精品国产 | 中文字幕制服丝袜一区二区_午夜香港三级A三级三点_夜夜躁狠狠躁日日躁欧美_91九色丨porny最新地址_黄色片网站免费看_最新Av中文字幕无码专区_久久伊人一区_在线小视频你懂的 | 日韩欧国产精品一区综合无码_亚洲视频日本有码中文_日韩有码一区_免费在线观看黄视频_一区二区三区色_性xxxxfreexxxxx欧美牲交v_美女露出奶头扒开尿口免费网站_91精品大片 | 成午夜精品一区二区三区_四虎精品国产永久在线观看_日韩女人一级_久久综合给合久久狠狠狠色97_日韩欧美精品一中文字幕_97碰碰碰人妻无码视频_国产熟妇搡BBBB搡BBBB_91久久99久久91熟女精品 | 久久精品手机观看_日韩一级片在线免费观看_久久香蕉成人免费大片_国产免费踩踏调教视频_网站黄色在线免费观看_久久国产成人午夜av浪潮_97香蕉超级碰碰碰久久兔费_免费成人看片 | 久久久久高清视频_52avaⅴ我爱haose免费视频_亚洲日韩成人性av网站_黄色影视免费看_JVID亚洲精品无圣光图套_久久国产欧美一区二区精品爱欲_国产精品96久久久久久久_亚洲天堂区 | 中国日本在线视频中文字幕_a在线视频免费观看_午夜影院官网_在线不卡一区二区_黄色片网站日本_亚洲专区在线播放_娇妻被别人玩弄至高潮视频_久久91超碰人人澡人人爽 |