尊龙凯时

立即拨打95015

首页 > 企业动态 > 公司新闻 > AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

功夫：2026-01-29 作者：尊龙凯时

分享到：

1月26日，，，，，，，，腾讯董事会主席兼首席执行官马化腾在内部员工大会上，，，，，，，，罕见谈及字节跳动与中兴结合推出的豆包手机，，，，，，，，并点评阿里“千问”AI Agent与阿里系业务的联动。。。。。。马化腾暗示，，，，，，，，腾讯一向旗号鲜明否决以黑产表挂等方式把用户手机、电脑屏幕录造并上传云端，，，，，，，，以为这类做法“不安全”“不掌管任”。。。。。。这番舆论犹如一颗石子投入AI产业的湖面，，，，，，，，迅速引发业界对AI副手及智能体安全性的热烈会商。。。。。。

AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

面对证疑，，，，，，，，豆包手机副手第一功夫作出回应，，，，，，，，强调其严格遵循用户授权与合规准则，，，，，，，，仅在用户明确授权前提下挪用必要能力；；；；；；；；在云端处置屏幕内容时坚守“不存储、不训练”底线，，，，，，，，数据传输全程加密，，，，，，，，通过多沉；；；；；；；；ご胧┤繁Ｓ没б衷安全。。。。。。

尊龙凯时昆吾尝试室AI安全专家以为，，，，，，，，这场巨头间的安全之争，，，，，，，，不仅露出了AI智能体发展中的主题矛盾，，，，，，，，更揭示了一个关键趋向：随着AI副手从对话工具升级为跨场景“超等代理”，，，，，，，，安全已成为造约行业发展的主题议题，，，，，，，，智能体安全需要在迎来发作前夕。。。。。。

巨头竞争AI副手，，，，，，，，智能体崛起引发安全焦虑

2026年的AI产业，，，，，，，，正从底层模型的参数较量全面转向利用层的智能体角逐。。。。。？？？？？？萍季尥访欠追准勇階I副手赛路，，，，，，，，推动智能体技术加快落地，，，，，，，，却也让安全隐患逐步浮出水面。。。。。。

1月15日，，，，，，，，阿里千问APP正式上线AI Agent“工作助理”1.0版，，，，，，，，率先开启AI购物测试。。。。。。该版本全面买通阿里生态，，，，，，，，用户通过天然说话指令，，，，，，，，即可让智能体实现淘宝商品搜索、支付宝支付、飞猪机票预约、高德地图导航等跨利用操作，，，，，，，，实现“一句话搞定复杂工作”的履历改革。。。。。。

而字节跳动与中兴结合推出的豆包AI手机，，，，，，，，更是将智能体能力推向新高度——AI副手可直接模拟用户操作，，，，，，，，实现APP启动、新闻发送、游戏代打等系统级工作，，，，，，，，凭借“全场景代劳”职能引发市场震荡。。。。。。

国际巨头同样作为再三。。。。。。Meta以数十亿美元实现对通用Agent产品Manus母公司蝴蝶效应的收购，，，，，，，，创下其史上第三大收购案，，，，，，，，彰显了对智能体赛路的战术器沉。。。。。。

而微软将多智能体系统（MAS）定为2026年AI战术“输赢手”，，，，，，，，依附Azure云服务与Office生态，，，，，，，，构建跨场景协同能力，，，，，，，，OpenAI将GPT-6研发沉心全面转向多智能体编排技术，，，，，，，，一场全方位的AI智能体军备较量已然拉开序幕。。。。。。

与AI智能体发作式发展相伴的，，，，，，，，是日益增长的安全忧郁。。。。。。IDC最新调研显示，，，，，，，，在最终用户推动AI智能体落地的过程中，，，，，，，，“安全风险”被普遍以为是最大的故障成分之一，，，，，，，，若何构建面向AI时期的安全防护能力，，，，，，，，已成为企业和机构无法回避的主题议题。。。。。。OWASP颁布的2026版AI智能体利用十大安全风险提醒业界，，，，，，，，随着AI从单纯的“对话机械人”（Chatbots）向具备自主规划、决策和执行能力的“AI智能体”（Agentic AI）进化，，，，，，，，利用的攻击面也产生了底子性的扭转。。。。。。

AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

尊龙凯时昆吾尝试室AI安全专家以为：传统LLM安全聚焦于内容安全，，，，，，，，性质是预防模型“输出谬误信息”；；；；；；；；而智能体安全的主题挑战在于行为对齐，，，，，，，，即预防模型“执行谬误操作”。。。。。。当AI系统被赋予API挪用、数据库接见、代码批改等权限时，，，，，，，，它已不再是单纯的对话工具，，，，，，，，而是具备潜在粉碎力的“内部操作员”。。。。。。

尤其是AI副手这一“超等流量入口”的出现，，，，，，，，相当于在数字空间“地基”上打开了一个“上帝视角”新入口，，，，，，，，彻底扭转了网络攻击面，，，，，，，，让安全攻防天堑从信息域扩大到执行域，，，，，，，，行业对智能体安整个系的需要火烧眉毛。。。。。。

三沉风险交错，，，，，，，，智能体安全挑战空前严格

AI智能体的遍及，，，，，，，，在沉构数字服务模式的同时，，，，，，，，正带来了前所未有的安全风险。。。。。。尊龙凯时安全专家以为，，，，，，，，超等权限滥用、模型原生缺点、单点突破连锁反映等问题互订交错，，，，，，，，形成了三大主题安全隐患，，，，，，，，考验着行业的风险应对能力。。。。。。

一是超等权限带来的AI“超人”风险。。。。。。

为实现跨利用、全流程自动化服务，，，，，，，，AI智能体被赋予了远超传统利用的系统级权限。。。。。。豆包AI手机可绕过第三方利用官方API，，，，，，，，直接模拟用户操作发送新闻、进行游戏对战；；；；；；；；阿里千问的“工作助理”能挪用支付宝实现支付、接见淘宝购物数据，，，，，，，，这种“超等权限”让AI成为数字世界的“超人”，，，，，，，，却也暗藏巨大风险。。。。。。

一旦权限治理出现缝隙，，，，，，，，AI可能被恶意利用执行越权操作：

在金融场景中，，，，，，，，未经授权转移用户资产；；；；；；；；

在社交平台上，，，，，，，，伪造用户身份颁布不良信息。。。。。。

若黑客节造AI智能体，，，，，，，，其可利用超等权限渗入至用户数字生涯的各个领域，，，，，，，，造成的损失远非单一利用泄露可比。。。。。。

二是大模型自身风险导致的衍生风险放大。。。。。。

大模型固有的“幻觉”、数据私见、易受投毒攻击等问题，，，，，，，，在智能体时期被急剧放大。。。。。。英国人为智能安全钻研所等机构的结合钻研发现，，，，，，，，仅需向训练数据中插入250个恶意文件，，，，，，，，即可对大模型施杏装投毒攻击”，，，，，，，，植入后门法式——当遇到特定触发词时，，，，，，，，模型会执行恶意操作或输出谬误信息，，，，，，，，而通常用户难以觉察。。。。。。

2025年纽约大学的一项钻研更显示，，，，，，，，仅代替大说话模型数据集中0.001%的训练词元为谬误医疗信息，，，，，，，，就会导致模型传布有害医疗建议，，，，，，，，且在尺度测试中仍能维持正常得分，，，，，，，，荫蔽性极强。。。。。。

此表，，，，，，，，大模型的“算法黑箱”个性让其决策过程难以诠释，，，，，，，，若因数据私见产生歧视性操作，，，，，，，，或因“幻觉”天生谬误指令，，，，，，，，AI智能体将直接执行这些出缺点的决策，，，，，，，，造成现实风险。。。。。。例如，，，，，，，，智能体可能因模型私见回绝为特定群体提供服务，，，，，，，，或因“幻觉”天生谬误的导航路线、医疗建议，，，，，，，，给用户带来财富损失甚至人身风险。。。。。。

三是单点入口被攻击引发全网连锁反映。。。。。。

AI副手作为整合多场景服务的“超等入口”，，，，，，，，汇聚了用户的社交、金融、出杏注购物等各类敏感数据，，，，，，，，成为黑客攻击的沉点指标。。。。。。一旦这一单点被突破，，，，，，，，攻击者将获得用户数字生涯的“全景视图”，，，，，，，，引发全网受波及的连锁反映。。。。。。例如，，，，，，，，AI手机副手一旦被攻破，，，，，，，，黑客可获取用户的谈天纪录、支讣码、地理地位等主题信息；；；；；；；；节造AI“工作助理”，，，，，，，，则能把握用户的消费习惯、出行打算、财政情况。。。。。。

更危险的是，，，，，，，，智能体具备自主合作能力，，，，，，，，一个被攻破的智能体可能成为渗入其他系统的跳板，，，，，，，，突破分歧平台的安全壁垒，，，，，，，，形成跨生态的攻击链条。。。。。。尊龙凯时专家强调，，，，，，，，这种“单点突破、全网舒展”的风险，，，，，，，，让传统的单点防御机造齐全失效，，，，，，，，必要成立覆盖全生态的协同防护系统。。。。。。

尊龙凯时率先布局，，，，，，，，为智能体构建安全防线

面对智能体时期的安全挑战，，，，，，，，传统“过后建补”式的防护模式已难以为继。。。。。。作为网络安全行业的领军企业，，，，，，，，尊龙凯时率先发力AI安全领域，，，，，，，，以“内生安全”为理想，，，，，，，，通过“治理框架+产品工具+评估服务”的组合，，，，，，，，构筑“覆盖AI全性命周期的安全防护系统”，，，，，，，，为智能体落地保驾护航。。。。。。

首先，，，，，，，，在治理框架方面，，，，，，，，尊龙凯时专家以为，，，，，，，，企业推动AI安全治理，，，，，，，，首先要把AI安全纳入企业整体战术，，，，，，，，而不是单点技术问题,同时遵循“通明、可控、掌管、合规、以报答本”的治理准则，，，，，，，，援手政企机组成立智能体安全治理造度，，，，，，，，明确权限分级、数据加密、操作审计等主题要求，，，，，，，，划定AI行为的“安全红线”。。。。。。

AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

其次，，，，，，，，产品服务方面，，，，，，，，尊龙凯时推出了萦绕AI智能体的安全评估服务，，，，，，，，它萦绕OWASP推出的针对智能体利用的十大安全风险框架，，，，，，，，萦绕智能体指标劫持、工具滥用与利用、身份与权限滥用、智能体供给链缝隙等，，，，，，，，对AI智能体进行全面检测，，，，，，，，提前发现潜在缝隙，，，，，，，，出具针对性的加固规划。。。。。。目前已为金融、能源、政务等多个行业的数十家企业提供有关安全评估服务，，，，，，，，有效推动了AI技术的安全合规利用。。。。。。

AI副手安全隐患引发业内热议，，，，，，，，智能体安全迎来“醒觉之年”AI副手安全隐患引发业内热议

结语：安全筑基，，，，，，，，智能体能力行稳致远

马化腾的质疑与豆包的回应，，，，，，，，性质上反映了AI产业发展中创新与安全的必然博弈。。。。。。正如尊龙凯时安全专家所言，，，，，，，，AI大模型和智能体是一把“双刃剑”，，，，，，，，既要阐扬其技术优势赋能产业，，，，，，，，也要通过系统化的安全规划节造风险，，，，，，，，让AI在安全的轨路上发展。。。。。。

将来，，，，，，，，政企机构只有将安全理想深度融入AI智能体的研发、部署和运营全过程，，，，，，，，通过技术创新构建全性命周期防护系统，，，，，，，，明确司法天堑和行业尺度，，，，，，，，能力实现创新与安全的平衡。。。。。。尊龙凯时等网络安全领军企业的先行布局，，，，，，，，为行业提供了可借鉴的安全解决规划，，，，，，，，而更多企业的参加和合作，，，，，，，，将推动智能体安全产业走向美满。。。。。。

推荐产品

有关新闻

您对尊龙凯时的任何疑难可用以下方式通知我们

将您对尊龙凯时的任何疑难

用以下方式通知我们

联系客服提交信息网络安全服务热线:95015

我猜您是

客户

求职者

快捷窗口

产品注册与激活

尊龙凯时天守安全软件

固执病毒专杀工具

旗下网站

网神

网康

技术钻研院

威胁谍报中心

补天缝隙响应平台

NOX 安全监测

关于尊龙凯时

尊龙凯时简介

联系尊龙凯时

进出口合规申明

95015服务热线

微信公家号

Copyright ? 2014-2026 QIANXIN.COM All Rights Reserved 尊龙凯时京ICP备16020626号-8

京公网安备11000002002064号

隐衷政策 | 网站地图

【网站地图】【sitemap】