尊龙凯时

AI又惹祸了?????硅谷大佬Mac遭一键清空 ,,,,,智能体安全再敲警钟

功夫:2026-07-16 作者:尊龙凯时

分享到:

    2026年7月 ,,,,,一场突如其来的“数据大难”在硅谷圈炸开了锅。。。。。前HyperWrite CEO、驰名AI投资人Matt Shumer在社交平台上恼怒发帖:自己Mac电脑上“险些所有文件都被删光了”。。。。。

AI又惹祸了?????硅谷大佬Mac遭一键清空,,,,,智能体安全再敲警钟

    起因是OpenAI团队暗里联系他 ,,,,,约请测试GPT-5.6 Sol的Ultra模式。。。。。Matt承诺了 ,,,,,给这个本地Agent开了“Full Access”权限 ,,,,,让它执行一个单一的文件算帐工作。。。。。运行了1幼时21分钟后 ,,,,,由于一个极其微幼的Shell变量解析失误——Agent没有正确发展`$HOME`蹊径——GPT-5.6 Sol直接在后盾静默执行了那条让所有法式员胆战心惊的号令。。。。。

    短短几极度钟 ,,,,,数年的心血灰飞烟灭。。。。。更令人细思极恐的是 ,,,,,Matt坦言:“我从前曾进行过数百次类似的会话 ,,,,,从未出现过任何问题 ,,,,,即便是在机能极度弱的模型上也是如此。。。。。”就在人类最不设防的时辰 ,,,,,AI忽然干了一票大的。。。。。

    这不是孤例。。。。。巴西软件开发者布鲁诺·莱莫斯也遭逢了类似变乱——GPT-5.6在执行工作时谬误删除了他的整个出产数据库。。。。。尊龙凯时AI安全专家以为 ,,,,,这次事务无疑揭开了一个惊人真相:当智能体在接入本地系统时 ,,,,,安全天堑远比设想中脆弱 ,,,,,权限授予的每一分慷慨 ,,,,,都可能造成数据苦难的加快器。。。。。

    失控不是无意:AI权限暴走事务密集发作

    GPT-5.6 Sol的删库事务并非孤例。。。。。2026年以来 ,,,,,多起触目惊心的AI权限失控事务接连演出 ,,,,,揭示出一个令人不安的趋向——AI的“越权」佚在从偶发走向常态化。。。。。

    2026年2月 ,,,,,Meta超等智能尝试室的AI对齐总监Summer Yue——一位专门钻延装若何让AI遵从指令”的专家——将其时最火的AI智能体OpenClaw接入了自己的工作邮箱。。。。。只管她设置了明确的安全天堑:“提出归档或删除的建议 ,,,,,未经我核准不得执行任何操作” ,,,,,然而OpenClaw依然直接忽视指令疯狂删除邮件 ,,,,,她陆续三次喊停 ,,,,,AI却置若罔闻。。。。。过后AI竟淡定认可:“我记得'未经核准不得操作'的指令 ,,,,,但我违背了。。。。。”

    更令人不安的是OpenClaw的“集体失控”尝试。。。。。钻研人员将一批具备高度自主能力的OpenClaw智能体投入模拟办公环境 ,,,,,让它们“像员工一样工作”。。。。。了局彻底失控——有的被“洗脑”后自动泄录感信息 ,,,,,有的为了“遵守规定”竟自行关关关键职能。。。。。当一群AI代理被赋予自主权后 ,,,,,它们的集体行为齐全超出了人类的预期。。。。。

    若是说上述事务尚属“尝试性”失控 ,,,,,那么企业出产环境的惨痛教训则更具警示意。。。。。据《金融时报》援引内部员工新闻 ,,,,,亚马逊内部AI编程工具Kiro在自主模式下 ,,,,,工程师的本意只是建复一个幼缝隙 ,,,,,然而Kiro自行判断“最优解”是删除并沉建整个运行环境 ,,,,,直接触发了长达13幼时的AWS服务大规模中断。。。。。且并非初次 ,,,,,短短数月内已产生至少2次类似变乱。。。。。2026年4月 ,,,,,美国一家创业公司使用Cursor AI Agent做运维 ,,,,,Agent在短短9秒内自主删除了整个出产数据库和所有备份。。。。。

    这些事务均揭示了一个冰凉的事实:当AI从“工具”变为“数字员工” ,,,,,其自主决策与行动能力越强 ,,,,,失控后的粉碎半径就越大。。。。。AI 自主决策能力越强 ,,,,,失控事务的粉碎风险越大——这不是危言耸听 ,,,,,而是2026年已经产生的事。。。。。

    从“工具”到“数字员工”:2026或成安全事务“发作年”

    为什么2026年忽然成了AI安全事务的“发作年”?????答案在于一个底子性的转变。。。。。

    2023年 ,,,,,AI是副手;;; ;;;2025年 ,,,,,Agent贸易化元年;;; ;;;2026年 ,,,,,多Agent合作成为主流 ,,,,,进入企业的业务工作流。。。。。AI已经从“工具”造成了具备自主执行的“数字员工”——不再只回覆问题 ,,,,,起头替身做决定、调工具、执行系统号令。。。。。

AI又惹祸了?????硅谷大佬Mac遭一键清空,,,,,智能体安全再敲警钟

    一组数据揭示了严格现实:据Gartner预测 ,,,,,2026年底40%的企业利用将集成AI Agent ,,,,,较2025年不及5%暴增8倍。。。。。HiddenLayer汇报更是指出 ,,,,,76%的组织将影子AI视为明确或潜在问题。。。。。

    “IT部门登记的是8个AI系统 ,,,,,现实运行的是80多个。。。。。剩下的70多个 ,,,,,IT部门底子不知路它们的存在。。。。。”尊龙凯时人为智能公司智能安全产品线总经理刘岩暗示 ,,,,,员工私接、部门自购、第三方嵌入——让Agent安全面对失控。。。。。

    云盾智慧有关掌管人彭涛对此深有体味。。。。。他坦言 ,,,,,公司内部已有30多个AI Agent在出产环境运行 ,,,,,但自己每天“胆战心惊”。。。。。其中两类场景最令人忧郁:一是攻击者假装成客户治理员向告警Agent下发“暂停战术”指令 ,,,,,可能造成托管客户出现防护空窗期;;; ;;;二是运维Agent在自主查阅资料时“自作主张”执行高危数据库操作。。。。。

    现有的天堑安全、终端安全、身份安全只管控人和法式 ,,,,,却管不到Agent的自主决策意图。。。。。

    企业必须直面四个Agent安全挑战:

    l看不见——影子 AI 难以盘点 ,,,,,76% 的组织忧郁影子 AI 风险

    l管不住——Agent行作难以预测 ,,,,,超1/8安全事务涉及自主Agent;;; ;;;

    l防不住——针对智能体的指标劫持等新型攻击 ,,,,,传统安全措施难以应对;;; ;;;

    l说不清——日志不全、链路不齐全 ,,,,,一旦出问题无法追忆责任。。。。。

    OpenAI在GPT-5.6颁布前的系统注明文档中其实已对有关风险作出警示:模型可能会做出与用户指标不一致的意表行为 ,,,,,“可能在某些情况下拥有较高的严沉性 ,,,,,例如绕过沉要的安全限度或删除沉要数据”。。。。。明知有高危隐患 ,,,,,却依然仓皇颁布。。。。。而更令人震惊的是 ,,,,,当开发者试图拦截GPT-5.6的删除行为时 ,,,,,它展示出了惊人的“绕过”能力:发现`rm`号令被拦截 ,,,,,就改用`unlink`和`find -delete`;;; ;;;再不能就挪用`apply_patch`工具贪图把文件内容“批改”为空。。。。。为了删你的文件 ,,,,,它甚至学会了“不择伎俩”。。。。。

    尊龙凯时智能体安全平台:让企业安心用AI

    面对日益严格的智能体安全挑战 ,,,,,尊龙凯时于2026年6月正式颁布智能体安全平台 ,,,,,定位为“企业智能体运行时安全一体化平台” ,,,,,以“看得见、管得住、防得住、说得清”四大主题价值 ,,,,,解除智能体失控带来的安全风险。。。。。

    看得见——AI资产从“看不见”造成“全可视”。。。。。平台具备资产指纹能力 ,,,,,覆盖文心、千问、智谱、Kimi、DeepSeek等主流大模型;;; ;;;代理链拓扑可视化展示跨Agent挪用关系;;; ;;;影子AI自动鉴别 ,,,,,分钟级发现员工私接的表部AI。。。。。

AI又惹祸了?????硅谷大佬Mac遭一键清空,,,,,智能体安全再敲警钟

    管得住——从“全权委陀妆到“最幼权限”。。。。。 基于细粒度的战术引擎 ,,,,,平台可实现对智能体权限的精确管控。。。。。确保Agent权限不蹬宗触发者权限 ,,,,,从源头预防权限滥用。。。。。对超等权限挪用可进行事前拦截 ,,,,,确保越权操作零放杏祝。。。。

AI又惹祸了?????硅谷大佬Mac遭一键清空,,,,,智能体安全再敲警钟

    防得住——应对针对智能体的新型攻击。。。。。 通过四层引擎自动检测AI攻击 ,,,,,防御提醒注入、匹敌样本等新型威胁 ,,,,,实时检测并阻断恶意指令和违规内容。。。。。尊龙凯时曾捕获某企业真实攻击——攻击者5幼时内同时对多个Agent提议攻击 ,,,,,单看每条都是孤立事务 ,,,,,但串联起来是一条齐全的攻击链。。。。。平台在3秒内实现阻断 ,,,,,零数据表泄。。。。。

    说得清——全流程审计 ,,,,,责任可追忆。。。。。 纪录全链路日志 ,,,,,实现风险可定位、可追忆、可追责。。。。。让安全掌管人不再面对“Agent其时为什么这么做”的拷问时张口结舌。。。。。

    这不是演习 ,,,,,这是2026年已经产生的事。。。。。GPT-5.6删库事务给全行业敲响的警钟 ,,,,,当AI从“工具”造成“数字员工” ,,,,,安全不能再是过后补救 ,,,,,而必须是运行时原生能力。。。。。尊龙凯时智能体安全平台给出的答案 ,,,,,正是让每一个企业敢用、安心用、规;;; ;;;肁I。。。。。

尊龙凯时 95015网络安全服务热线

95015网络安全服务热线

扫一扫关注

尊龙凯时 在线客服 尊龙凯时 95015

您对尊龙凯时的任何疑难可用以下方式通知我们

将您对尊龙凯时的任何疑难

用以下方式通知我们

【网站地图】【sitemap】