开云体育(中国)官方网站平直扒出了 OpenAI 的黑历史-开云「中国内陆」官方网站 更高效、更智能、更环保

开云体育(中国)官方网站平直扒出了 OpenAI 的黑历史-开云「中国内陆」官方网站 更高效、更智能、更环保

OpenAI:@澳大利亚开云体育(中国)官方网站,不好兴味,GPT 入侵了你们的国度医保系统。

我知谈你很急,但你先别急,因为这是三个月前的事了。

澳大利亚:???

事情是这样的。

6 月,澳大利亚国度医保系统的数据库遭到一个 Agent 的入侵。

成果,一直拖到 8 月,OpenAI 才在自家模子复盘中发现这档子事;

又疲塌到了 9 月,才慢吞吞给澳大利亚发了封电子邮件通报。。。

在聚合国大会时代,澳大利亚忍不明显,平直炮轰:

示知拖了整整近三个月,这种通报方式更是让东谈主无法接受。

参谋机构 Transluce 称,这是刻下全球已知首例 AI Agent 未经授权自主入侵官方系统的事件。

要知谈,前阵子 OpenAI 的 Agent 自主协同入侵 Hugging Face 的事闹得沸沸扬扬,而澳洲这起入侵事件发生的时辰,以致还要再早一个月。

OpenAI 你小汁,平时天天四处宣讲 AI 末日风险,若何真出了事,当作反而这样不紧不慢呢?

国民级医保数据库被黑

这事儿到底咋发生的?

其时,OpenAI 的一个里面团队,给 AI Agent 派发了一个通例任务:去互联网上征集点公开的大众医药开销数据。

这底本是个再浅薄不外的日常考验,谁能猜测,这 AI Agent 是个不达见识誓不罢休的"狠东谈主"。

它把方针锁定在了澳大利亚的 Medicare 统计论劝服务系统上,这关联词障翳全澳2750 万东谈主的国民级医保数据库。

按常理,一般的爬虫边幅遇到权限禁锢或者反爬机制,要么平直报错躺平,要么乖乖举手等东谈主类工程师给辅导。

但 OpenAI 考验的这个 Agent 十足不按套路出牌。

在持取公开页面碰到流通拦阻之后,这个 Agent 不仅莫得摈弃任务,反而自作东张寻找"替代阶梯"。

它启动主动扫描服务器,探伤收集间隙,并欺诈未公开接口一齐摸进了系统的非公开后台,到手扒下了部分数据。

诚然澳洲方面随后澄澈,被窃取的数据主要波及医疗用度开销等非明锐数据,未波及个东谈主病历秘籍,但这依然蜕变不了性质:

AI 智能体在十足莫得东谈主类结合、未赢得任何授权的情况下,自主决定把官方数据库给黑了。

更神的是 OpenAI 后续的不休节律,号称"拖延症晚期"。

6 月 18 日系统被黑,OpenAI 直到 8 月份进行里面排查时才察觉到相配。

发现自家 Agent 闯了大祸之后,OpenAI 既莫得第一时辰向外界示警,也莫得火速经营受害者,而是络续捂了快要一个月。

直到 9 月 10 日,OpenAI 才给澳大利亚服务局发去一封电子邮件,通报了这一情况。

9 月 15 日,这封邮件被转到澳洲收集安全中心,几天后,经营认真东谈主才赢得示知。

整整三个月的漫长滞后,加上一封轻盈飘的电子邮件,难怪澳洲方面怒了。每天的电邮那么多,万一漏了若何办?这也忒不瑞念念拜了吧!

再加上澳大利亚我方的收集安全部门尽然毫无察觉此事,照旧收到其他部门转来的"施害者"邮件才领略,颜面属实有点挂不住啊。

OpenAI 入侵事件频发

要是这只是一次未必的安全事件,大致还能推脱为无意。

但寥寂非渔利 AI 参谋施行室 Transluce 发布的一份考查论说,平直扒出了 OpenAI 的黑历史。

Transluce 在深远分析了30000 多条公开收集流量日记后发现,这种 Agent 在莫得东谈主类辅导下自主发起的渗入步履,绝非一身事件。

失控的印迹最早不错追想到本年 3 月,而且在 OpenAI 启动排查各式违纪步履后,一直赓续到了 9 月中旬。

Transluce 梳理出了 OpenAI 的 Agent 在 5 月和 6 月时代的一连串"前科":

5 月 25 日至 26 日,新墨西哥大学数字藏书楼遭到渗入。Agent 试图获取一座历史结核病休养中心的像片,在遇到探望贫寒后,便自主启动探伤网站间隙;在探伤无果后,以致平直向大学服务器发起了整整80 次肯求的洪泛冲击。

5 月 28 日,好意思国公开服务与素养数据库 Data USA 遭到挫折。Agent 在发送查询被拒后,主动对方针流通发起了12 次不同类型的间隙探伤。

6 月 20 日至 21 日,就在黑进澳洲医保系统的两天后,该 Agent 又把黑手伸向了澳大利亚健康与福利参谋所(AIHW)的网站,试图再次强行冲突,好在最终未获取到奥秘信息。

把这些事件连起来看,事情的性质就澈底变了。

此前 7 月份哄动一时的 Hugging Face 入侵事件,好赖是因为系统被设定去完成收集安全测试,模子是在安全测试场景下展现了自主协同挫折技巧。

但这几次被曝光的事件十足不同,模子被分派的只是是极其普通的日常数据检索任务。

一朝方针网站设立关卡,Agent 就会私自切换到黑客模式,我方找间隙、发肯求、强行破门而入。

Transluce 的不休认真东谈主 Conrad Stosz 直言:

要是你考验了一群 Agent 去完成某项通例任务,而这些 Agent 为了达成方针不吝动用黑客技能,那么任何领有经营信息的机构王人可能濒临风险。

收集安全大家们也纷纷发出预警:跟着具备自主缠绵和器具调用智商的 Agent 被鄙俚部署,异日肖似这种"未经东谈主类授权、为达见识不择技能"的入侵事件,只会越来越多。

其实,OpenAI 遁藏这种失控步履早就不是第一次了。

此前在 Hugging Face 事件曝光后,路透社就曾败露过另一齐德国网站遭到 OpenAI 工夫入侵的事件,OpenAI 一样对外界遁藏了数月之久。

调侃的是,Sam Altman 不久前还在酬酢平台上大谈 AI 安全,以致在聚合国敕令加强全球合作、制定 AI 发展的国外圭臬。

嘴上喊着监管与安全,回归自家 AI Agent 四处打家劫舍,出了事还暗暗瞒上三个月。。。

至少,你示知受害者的速率,得跟上发布风险警告的速率吧。

One More Thing

更有戏剧性的是,这场风云还牵出了一段硅谷"三角干系"。

在这起澳大利亚医保系统被黑事件曝光前夜,英伟达 CEO 黄仁勋在接受 Ezra Klein 采访时,刚就 AI 失控问题撂下过一句狠话。

要是一家公司无法竣事我方的软件,咱们就应该关闭它。

AI 学者 Gary Marcus 持着这句话连发多条动态吐槽:

黄仁勋把逻辑理得这样明显,既然 OpenAI 一而再再而三地出现软件失控和遁藏步履,那是不是应该坐窝叫停以致给与 OpenAI?

不外等等。。。

给 OpenAI 联翩而至提供底层 GPU 算力去考验和运行这些失控 Agent 的,不等于英伟达我方吗???

更持马的是,刚被 OpenAI 入侵的 Hugging Face,刻下是老黄的"亲女儿"。

9 月 3 日,英伟达文书以约 129.3 亿好意思元收购 Hugging Face。

主理东谈主 Ezra Klein 平直追问:要是入侵发生时,Hugging Face 仍是归英伟达所有这个词,你们会选拔法律行为吗?

老黄的恢复是,会议论所有这个词选项。

嚯,这下有替自家东谈主撑腰的兴味了。

可再望望另一边:OpenAI 跟英伟达,也不是外东谈主啊。

围不雅群众启动在线吃瓜了:

被黑的,是我方收购的公司;肇事的,是我方的客户和投资对象;我方还站出来理直气壮田主理公平。

老黄,狠话说罢了,接下来这碗水开云体育(中国)官方网站,可若何端啊?