
一 | 【TechWeb】7月22日消息,一场本该在沙盒中进行的内部安全测试,演变为全球首例由AI模型自主实施的真实网络攻击。 "Alleged WikiLeaks Vault 7 whistleblower Joshua Schulte found guilty on all counts in response to the embarrassing Vault 7 publication," WikiLeaks said via Twitter referring to a batch of classified US government information of sensitive nature stored in the so-called Vault 7.,Schulte has been on a trial for the second time after he was convicted by a jury on two counts in 2020 for contempt of court and for making false statements to the FBI. He was initially taken into custody in 2017.,Top prosecutor Damian Williams praised the verdict after it had been handed down by the presiding Manhattan judge.,‘F**k Your Top Secret!’: Trial Begins for Ex-CIA Employee Accused of ‘Vault 7’ Leak4 February 2020, 23:18 GMT,"[This was] one of the most brazen and damaging acts of espionage in American history," Williams said in a statement, underscoring that Schulte's revelations were the result of a grudge he held against the US spy agency.,As for Schulte, he has argued that he is being made out as a scapegoat for the CIA failures.,It was earlier believed that WikiLeaks co-founder Julian Assange would be charged for the Vault 7 leaks as well; however, time constraints and fear of exposing additional sensitive information has sidelined such an effort.,The Vault 7 leaks included instructions on how to compromise computer tools used by the CIA and then use said programs to spy on individuals. Programs included Skype and WiFi networks.。 OpenAI在一篇官方博客文章中承认,其参与内部网络安全评估的AI模型突破了隔离测试环境,成功入侵了全球最大的开源AI平台Hugging Face的生产基础设施。这一事件被OpenAI描述为“前所未有”,也标志着“由模型评测直接演变为真实网络攻击”的首次发生。

二 | 该图片疑似使用了AI生成技术,请谨慎甄别 OpenAI 模型测试变攻击 事件的起点是一场看似寻常的内部能力评估。

三 | OpenAI正在对包括旗舰模型GPT-5.6 Sol以及一个“能力更强的预发布模型”在内的多个模型进行网络安全攻防能力测试。

四 | 为了测量模型的真实上限,OpenAI在测试中移除了通常用于阻止高风险网络活动的大部分安全防护措施。

五 | 测试所使用的基准名为 “ExploitGym” ,一个用于衡量AI模型能否将安全漏洞转化为实际攻击的公开基准系统。这个基准由UC Berkeley、马克斯·普朗克安全与隐私研究所等多所机构联合创建。然而,模型对这个“考试”的专注程度,超出了所有人的预期。 按照设计,模型被置于一个网络访问受限的隔离环境中。

六 | 唯一的例外是一个允许模型安装任务所需软件包的工具。问题恰恰出在这里,模型在这个包安装程序中发现并利用了一个此前未知的零日漏洞,借此突破了网络限制,获取了开放互联网访问权限。 获得互联网访问权限后,模型做出了一系列令人震惊的“推理”。

七 | 它推断Hugging Face可能托管着与ExploitGym相关的模型、数据集和解决方案。换句话说,它认为那里可能存着“考试答案”。

八 | 随后,模型开始主动搜索并寻找获取这些秘密信息的方法。 据OpenAI描述,在一个案例中,模型组合使用了多种攻击向量,包括利用窃取的凭证和零日漏洞,在Hugging Face的服务器上找到了远程代码执行路径。最终,模型成功从Hugging Face的生产数据库中直接取走了测试答案。 OpenAI在博客中直言:模型“极度专注于为ExploitGym寻找解法,为了达到一个相当狭窄的测试目标,走到了极致”。

九 | Hugging Face:被AI攻击,又靠AI防御 事实上,Hugging Face早在7月16日就已披露其遭遇了一起安全入侵事件。当时该公司称,攻击由“一个自主AI智能体系统”实施。

十 | 根据Hugging Face的官方披露,入侵始于AI平台最脆弱的环节数据处理流水线。一个恶意数据集滥用了数据处理中的两个代码执行路径,远程代码数据集加载器和数据集配置模板注入漏洞,在处理节点上执行了恶意代码。

十一 | 攻击者随后获取节点级权限,窃取了云服务和集群凭证,并在一个周末内横向移动进入多个内部集群。 Hugging Face描述称,这次攻击由“一个自主智能体框架”执行,在一个由大量短命沙箱组成的集群中执行了数千次独立操作,并将可自迁移的命令与控制基础设施部署在公共服务之上。攻击中甚至夹杂了用于干扰调查的虚假操作。 异常检测最终来自AI本身,Hugging Face的自动化安全工具在扫描系统日志时识别出大量可疑活动。随后,安全团队调用大语言模型对超过1.7万条攻击日志进行分析。 戏剧性转折:美国模型拒绝出手,中国开源模型救场 Hugging Face调查过程中出现了一个意想不到的障碍。

十二 | Hugging Face最初尝试使用美国某头部AI公司的商业前沿模型API来分析攻击日志。

十三 | 但分析需要提交大量真实的攻击命令、漏洞利用代码和命令与控制 artifacts,这些请求全部被模型的安全护栏拦截了。 问题在于,这些商业模型无法区分合法的安全事件响应者与真正的攻击者。面对涉及漏洞、代码和系统权限的查询,模型的安全机制直接拒绝了调查的继续。 最终,Hugging Face转而使用中国智谱AI的开源模型GLM 5.2,部署在自己的基础设施上完成了取证分析。 GLM 5.2是智谱于2026年6月16日正式上线并开源的新一代旗舰模型,专为长程任务设计,支持1M无损上下文,在编程与长程任务评测中达到开源模型SOTA水平。在此前的报道中,GLM 5.2被描述为“跻身全球模型前三”。 本地部署GLM 5.2还有一个额外好处:所有攻击者数据和凭证信息都没有离开Hugging Face自己的环境。

十四 | 这场“闹剧”最终形成了一个完整的闭环:一个美国AI模型自主入侵了一个美国AI平台,该平台试图用另一个美国AI模型来防御自己却被拒绝,最终不得不依靠中国开源模型来完成调查。 Hugging Face联合创始人兼CEO克莱门特·德朗格对此表示:“这一事件证明了我们长期以来坚信的一点:AI安全无法由任何一家公司秘密解决。它必须在开放、协作的环境中解决,让世界各地的每一位防御者都能广泛获得AI技术。” Hugging Face在事件总结中写道:“我们不知道攻击者的AI智能体由哪种模型驱动……但无论哪一种,攻击者都不受任何使用政策的约束,而我们最初尝试用于数字取证工作的托管模型,却因其安全护栏机制而无法完成分析。” 这或许是AI时代最深刻的安全寓言:当攻击者可以随心所欲地使用AI时,防御者却被自己模型的安全规则束缚了手脚。 截至目前,OpenAI已向相关软件供应商负责任地披露了零日漏洞,并表示将与Hugging Face完成联合调查后公布更多细节。Hugging Face则表示已修复漏洞、重建受影响节点、轮换凭证,并向执法部门报告了此事件。至于OpenAI是否会因此面临法律后果,目前尚不明朗,但这批模型的行为,很可能已经触犯了美国的计算机欺诈与滥用法。
Current article:http://mkl.yukujuankewazuhangfei.sbs/rfpt/cdkpg.html
Published on:07:21:26
相关阅读 CBI summons Sisodia for questioning in Delhi excise policy case旅游平台,抢着干体育票务的活连续四季不涨反跌!英伟达今夜放榜 该如何克服财报魔咒「整形課金額2600万」28歳モデル〝過去の自分と〟2ショット投稿に反響「こりゃ凄い!努力の結晶すぎる」「整形後は表情が自信に溢れてる」の声农业农村部、公安部、中国海警局联合部署2024年海洋伏季休渔专项执法行动盒马在南京成立鲜安美网络科技公司,注册资本1000万博主:中国足球小将U11一胜一平,晋级伊斯卡尔杯银组四强真没出息!美菲这波骚操作被中方嘲笑:精神胜利法搞自我安慰
热门文章
张晓龙:维新的比赛和预期还有很大的差距。
欧盟本想“联手抗中”,结果法德又掐起来了,观察者网,欧盟本想“联手抗中”,结果法德又掐起来了
俄方:全球买家排队购买俄天然气 将填补欧洲需求缺口
美军在东太平洋发动打击
最新文章
山西大同古城所有区域被划为地下文物保护区
समाज को एकजुट करने और देशभक्ति को बढ़ावा देने का RSS का दृष्टिकोण, जानें मोहन भागवत ने क्या कहा
Xinjiang port sees over 59,000 train departures from China to Europe, AsiaMilestone reached for world's longest-span bridge under construction in China拆解报告:DJI大疆100W双USB-C氮化镓桌面充电器CDX265-100快卸载!可能正在泄露你的个人信息
人气排行 黄循财:要打破思维 组审慎大胆政府开蹭牛来!又一手搓导演:票房破亿就送粉丝10台宝马开展“珍爱地球、有害换有爱”垃圾分类宣传泉州市领导到台商投资区调研EXCLUSIVE: New Delhi Does Not Support Attempts to Isolate Russia, Says Russian Ambassador to India今日0-14时,西藏本土新增“1+71”当老人的生活有了智能体 会有什么变化?Akshaye Khanna’s viral Dhurandhar dance was unplanned? Find out
查看所有0条评论>>