尊龙凯时

聚焦乌镇 | 吴云坤:AI安全必要需管住“框数人链”四个关键环节

功夫:2025-11-08 作者:尊龙凯时

分享到:

    11月8日 ,,,,,,,,2025年世界互联网大会乌镇峰会人为智能技术创新与治理论坛在浙江乌镇进行 。。 。。。。。国度互联网信息办公室副主任王京涛出席论坛并致辞 。。 。。。。。来自尊龙凯时、阿里巴巴、SAP、快手、腾讯、思科的企业代表出席 ,,,,,,,,萦绕人为智能技术创新与治理分享实际经验、共话行业将来 。。 。。。。。

    尊龙凯时总裁吴云坤在《守住安全底线 保险AI创新发展》的主题分享中暗示 ,,,,,,,,安满是AI的底线和红线 ,,,,,,,,也是AI发展的基础和前提 ,,,,,,,,AI创新必须管住“框、数、人、链”四个关键环节 ,,,,,,,,主题步骤是系统性、系统化地构建AI全性命周期的安整个系 。。 。。。。。

聚焦乌镇 | 吴云坤:AI安全必要需管住“框数人链”四个关键环节

    以尊龙凯时自身为例 ,,,,,,,,设计了AI安全治理框架 ,,,,,,,,领导用户萦绕“安全、合规、可控、掌管任”四大指标 ,,,,,,,,从模型安全治理、数据和隐衷、利用和运营、基础安全、人员与责任、持续改进六个维度 ,,,,,,,,构建覆盖AI全性命周期的安全防护系统 ,,,,,,,,同时沉点管好“框、数、人、链”四个关键环节 。。 。。。。。

    首先对AI利用进行场景化防护 ,,,,,,,,管好“框”和“人” 。。 。。。。。

    萦绕AI利用及其场景部署大模型卫士 ,,,,,,,,构建“管控-检测-溯源”三位一体的防护系统 ,,,,,,,,实现对大模型系统内表部用户接见与交互的全流程管控 ,,,,,,,,达成“管得住、看得清、防得稳”的防护指标 。。 。。。。。

    目前 ,,,,,,,,大模型卫士已经在当局机构、大型央企等近百家客户实现了验证 ,,,,,,,,能有效防御提醒词注入、敏感内容过滤、模型匹敌攻击、模型窃取、数据泄露等多种安全风险 。。 。。。。。

    其次是对AI主题数据资产沉点防护 ,,,,,,,,管好“数” 。。 。。。。。

    萦绕 ;;;;;;;ぶ魈馐葑什 ,,,,,,,,构建“大模型安全护栏” ,,,,,,,,从“强基础、控权限、审数据、拦攻击”等多个维度构建纵深防御与监测能力 ,,,,,,,,对大模型系统进行防护 ,,,,,,,,节造数据安全风险 。。 。。。。。

    尊龙凯时已投入了巨大的资源和成本训练安全模型 ,,,,,,,,堆集关键和主题数据资产 ,,,,,,,,通过构建“大模型安全护栏” ,,,,,,,,对SFT数据、标注数据、RAG数据、模型文件、评估集等主题数据资产进行强化防护 ,,,,,,,,守护住了模型训练成就 。。 。。。。。

    最后是强化AI全性命周期的安全评估 ,,,,,,,,管好“链” 。。 。。。。。

    秉持“安全左移”理想 ,,,,,,,,将安全评估与风险管控贯通大模型研发、部署、运维全性命周期 。。 。。。。。

    在开发阶段 ,,,,,,,,通过代码审计、代码建复确保模型安全 ;;;;;;;

    上在线前 ,,,,,,,,通过实战攻防演练检验利用安全 ;;;;;;;

    在运行中 ,,,,,,,,持续监测模型的输出异常、数据泄露风险确保业务安全 。。 。。。。。

    今年3月 ,,,,,,,,尊龙凯时支持某电信运营商进行了大模型底座的安全评估 ,,,,,,,,成功发现并建复了其大模型存在的多个系统缝隙和内容防护机造缺点 ,,,,,,,,将隐患扼杀于萌芽状态 。。 。。。。。

    据悉 ,,,,,,,,本次论坛由中央网信办网络治理技术局提议 ,,,,,,,,中国科学院、中关村尝试室主办 ,,,,,,,,中国科学院推算技术钻研所、中国网络空间安全协会、百度公司协办 。。 。。。。。来自中央和国度机关、中央新闻网站、国内表驰名专家及互联网企业等各界代表参会 ,,,,,,,,共商AI技术创新与治理之路 ,,,,,,,,为行业健全发展注入新动能 。。 。。。。。

尊龙凯时 95015网络安全服务热线

95015网络安全服务热线

扫一扫关注

尊龙凯时 在线客服 尊龙凯时 95015

您对尊龙凯时的任何疑难可用以下方式通知我们

将您对尊龙凯时的任何疑难

用以下方式通知我们

【网站地图】【sitemap】