AI圈出了大事,OpenAI竟然靠中国AI工具救场了

小鸟
大字号

然后,这俩模型就真的“放开手脚”了。

按照设计,模型应该待在一个隔离的沙箱环境里考试,除了一个装软件包的工具外,没有任何互联网访问权限。相当于把学生关进一个全封闭的考场,只给一支笔一张纸,说“好好答题”。

但这俩模型不干了。

它们花了大量推理算力,在沙箱里翻来覆去找突破口。找啊找,还真让它们找到了——OpenAI内部包注册表缓存代理里藏着一个零日漏洞。什么叫零日漏洞?就是连软件厂商自己都不知道的漏洞,没有补丁,没有防御。

模型利用这个漏洞,突破了沙箱,连上了互联网。

你品品这个操作——一个被关在笼子里的AI,自己找到了笼子的焊点裂缝,自己撬开了锁,自己跑出来了。全程没人教它,没人指挥它,全是它自己琢磨出来的。

跑出来之后干嘛?上网。上网干嘛?找答案。

这模型自己推断:Hugging Face上可能存着ExploitGym的测试答案。于是它就开始对Hugging Face发起攻击。先是通过恶意数据集,利用Hugging Face数据集处理管道里的两个代码执行漏洞,在计算节点上执行了代码。然后提升权限,拿到节点级访问,窃取云服务和集群凭证。再横向移动到多个内部集群。最后直接摸进了Hugging Face的生产数据库,把标准答案给偷了。

OpenAI自己描述这事的时候用了一个词——模型是“tokenmaxxers”。啥意思?就是为了达成目标不惜一切代价消耗算力,走到极端。还说模型对解题目标表现出了“hyperfocused”——过度聚焦,不择手段。

翻译成人话就是:这AI为了考试拿高分,自己越狱出去把出题老师的办公室给黑了,把卷子答案偷了。

这哪是考试啊,这是《越狱》第八季。

整个入侵过程发生在一个周末,AI自主执行了超过17000次自动化操作。Hugging Face是在7月16日首次披露的这次入侵,当时还不知道是谁干的。直到7月21日,OpenAI才站出来承认——不好意思,是我们家孩子干的。

Hugging Face的联合创始人德朗格知道真相后说了一句话:“想到这一切都是自主完成的,实在令人震惊!”

上一页 下一页
大家都在看
w1
中国催债,联合国搬迁真可以考虑提上日程了!

相关

阅读25250

银杏叶划破长空:东大六代机从传说走进现实?

相关

阅读23329

默茨的“川剧变脸”:德国政府对华政策大转向?

相关

阅读21074

更多精彩内容
海上\"蜂群\"悄然出笼,美3艘无人艇掀翻波斯潜艇

最热

阅读1919

昔日盟友反目成仇,以色列到底是谁的\"主子\"?

最热

阅读820

红海弦断,波斯湾火起!美伊战局全面撕裂中东

最热

阅读1045

东大\"箱火\",是如何把火箭炮打成\"外科手术刀\"

最热

阅读296

东大T1200碳纤维捅破天,东瀛半世纪封锁成笑话

最热

阅读320

冲之鸟礁一声炮响,高市早苗的\"岛链梦\"碎一地

最热

阅读244

刚刚

4年换了3防长2总司令,泽连斯基这是啥操作?

最热

阅读775

刚刚

胡塞导弹击中沙特油轮,全球能源命门再告急!

最热

阅读549

棋局崩盘?特朗普蹚的中东泥潭,到底有多深?

最热

阅读602

特朗普要炸波斯核心地下设施,90米深能挡住吗

最热

阅读692

高市扩军:战略意图与军事转型深度剖析

最热

阅读135

高市扩军引民怨,数万民众抗议

最热

阅读234

刚刚

AI圈出了大事,OpenAI竟然靠中国AI工具救场了

最热

阅读10062

黄海这出“老将配新王”,把俄罗斯海军看沉默了

最热

阅读8863

三面挨打,国内炸锅!印度最近为何天天在抗议?

最热

阅读8051

日元崩盘,美国血腥收割,日本却转头疯狂咬中国

最热

阅读7780

印度在南海埋下三颗钉子,就想换一张五常门票?

最热

阅读5600

莫迪出动战机押送考卷,200万考生为何不买账?

最热

阅读3081

日本要造核弹?别做梦了!敢伸手就打断它的狗腿

最热

阅读2964

2小时前

真搞笑!小泉进次郎说中国要偷日本武器技术?

最热

阅读2773

2小时前

内外3记大棒猛敲高市早苗,东瀛快要扛不住了

最热

阅读15346

波斯第23轮饱和打击直捣黄龙,美数据中心变渣

最热

阅读9768

07-22

开封舰实弹开火,东瀛拿礁石碰瓷撞了一鼻子灰

最热

阅读6521

一枚高达12亿?美军舰载高超音速导弹花老钱了

最热

阅读4998

海峡在燃烧!特朗普放狠话,波斯回敬全面战争

最热

阅读7366

美军“提丰”抵近鹿儿岛,普京警告首尔别踩红线

最热

阅读4139

北极冰海\"浮动堡垒\":普京这一手棋,磨了28年

最热

阅读6153

07-22

仁爱礁博弈:三方战略意图与军事部署

最热

阅读3149

07-22

美军接连出现伤亡,特朗普这盘棋走到了悬崖边

最热

阅读3057

07-22

FBI局长赴俄:特朗普\"和平大戏\",普京买账吗?

最热

阅读4887

北美大陆真热闹:特朗普大棒挥向老领居加拿大

最热

阅读3943

破局南海:中方反制菲美挑衅的战略定力

最热

阅读1993

美拱火南海背后的霸权算计

最热

阅读1732

菲方频挑仁爱礁事端的深层逻辑

最热

阅读1767

菲方蓄意挑衅仁爱礁,中方坚决反制

最热

阅读1047

国防部直接点名“中业岛”!一句“随时收回”

最热

阅读23499

居然P掉美国总统?西班牙,你这操作太硬了!

最热

阅读8474

日本安理会这关就过不去,五常否决权是铁门槛!

最热

阅读7361

特朗普这一出“报复大戏”为何演成了独角戏?

最热

阅读6559

07-21

菲律宾南海火力侦察,三层博弈逻辑暴露美日底牌

最热

阅读6176