智能体应用发展,要遵循四大原则!

据中国网信网消息,国家网信办、用发原则国家发展改革委、智能展遵工业和信息化部近日联合印发《智能体规范应用与创新发展实施意见》(简称《实施意见》)。用发原则其中提到要研究智能体数据安全、智能展遵个人信息保护、用发原则密码防护、智能展遵攻击检测、用发原则权限管理、智能展遵行为控制等安全技术,用发原则提升智能体系统安全保障能力,智能展遵防范数据投毒、用发原则隐私泄露、智能展遵算法篡改、用发原则系统漏洞、智能展遵运行失控等安全风险,探索建立智能体安全评估体系。
智能体带来隐私泄露等安全风险
智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。
近年来,以手机助手、终端智能管家、云端智能体等为代表的智能体产品加速涌现,呈现规模化应用态势,极大便利人们工作生活。但与此同时,智能体高自主性、高权限等特性也带来了隐私泄露、越权操作、行为失控等安全风险,需要统筹发展与安全,促进智能体规范应用和创新发展。
2025年8月,国务院印发《关于深入实施“人工智能+”行动的意见》,以科学技术、产业发展、消费提质、民生福祉、治理能力等领域为重点,提出到2027年,率先实现人工智能与重点领域广泛深度融合,新一代智能终端、智能体等应用普及率超70%的阶段性目标。在回答记者提问时,国家网信办有关负责同志介绍,制定出台《实施意见》是贯彻落实《关于深入实施“人工智能+”行动的意见》的具体举措,以推动科技创新、提升治理能力、构建产业生态、提升民生福祉为导向,营造良好政策环境,发挥典型场景示范效应,统筹推动智能体高质量发展、高水平安全、高效能治理。
构建治理体系推进智能体落地应用
梳理发现,《实施意见》用了坚持安全可控、坚持规范有序、坚持创新驱动、坚持应用牵引等4个“坚持”,明确促进智能体规范应用与创新发展的基本原则。具体而言,适应智能体技术演进规律,构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系,有序推进智能体落地应用;加强理论创新、技术创新、工程创新联动,体系化突破智能体关键技术,完善政产学研用协同机制,构建开放共享的智能体生态;重点围绕科学研究、产业发展、提振消费、民生福祉、社会治理等实际需求,发挥典型应用场景示范效应,先易后难、循序渐进,促进智能体技术验证、产品迭代、应用落地。
在规范智能体应用方面,《实施意见》有哪些具体要求?据透露,《实施意见》将智能体安全、可靠、可信作为产业发展的底线要求,规范有序推动智能体落地应用。一是明确产品准则。要进一步完善政策法规和伦理规范,做好智能体权限管理、行为管控等工作,为智能体相关产品研发提供指引。二是防范安全风险。发挥技术手段作用,提升在智能体内生安全、供应链安全、应用衍生风险等方面的风险防范能力,实现智能体开发、部署、应用、维护全周期安全管理,有效防范系统性风险。三是完善治理体系。适应智能体技术演进规律,根据应用场景和潜在影响,构建审慎稳妥的分类分级治理框架,推动建设智能体合规服务体系,做到既“放得活”又“管得好”。四是强化行业自律。鼓励智能体相关企业、行业组织、研究机构加强责任意识,共同制定行业自律规则。引导智能体开发者、开发平台、分发平台、服务提供者参与信用评价,共同营造良好发展环境。
明确19个典型应用场景牵引智能体提升
围绕推动智能体创新发展,《实施意见》部署哪些重点工作?国家网信办有关负责同志表示,《实施意见》围绕智能体技术突破、场景应用和生态建设等重点方向,体系化推动智能体创新发展。一是夯实发展基础。通过强化基础技术研发、完善智能体工具链,为产业提供高水平技术底座。建立智能体标准体系,降低智能体研发、适配、应用门槛。前瞻布局多智能体协同、智能互联网等前沿领域,为产业持续演进打好基础。二是强化应用牵引。围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向,提出19个典型应用场景,牵引智能体技术产品优化提升,探索可复制、可推广的落地应用模式。三是建设创新生态。加强培育开源创新力量、搭建产业协作平台,推动产业高效协同,提升创新活力。通过构建应用推广渠道、推进重点场景开放,畅通供需渠道,形成市场牵引、内驱发展的产业生态。积极培育全球生态,推动国内外技术融通发展,营造开放共享的国际合作环境。
下一步,国家网信办、国家发展改革委、工业和信息化部将会同有关方面切实推进《实施意见》落地见效。聚焦智能体技术研发、场景开放、安全治理等关键环节,完善配套政策,形成工作合力,推动重点任务落实落地。同时,加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整。
南都研究员:袁炯贤
- ·17岁女孩凌晨称要出门复印试卷后彻夜未归,监控最后画面在距家2公里的大桥附近,家人称其失联前并无异常,目前警方正全力寻人
- ·重庆市黔江区发生交通事故致2人死亡6人受伤
- ·谢有顺:务实与哲思互补,让文明从对话走向共生丨2026国际青春诗会
- ·粤BA前瞻|客场对阵茂名,云浮能否打破客场魔咒?
- ·杭州13岁女生每逢重要考试就头晕,妈妈急坏:以前班级前3,现在跌出前10了!医生:这是颈椎在“报警”
- ·公益服务进社区!长春市宽城区长新街道银山路社区爱心义诊守护居民健康
- ·AI秒级匹配、数据驾驶舱调度、直播带岗……这场数智化招聘会“出圈”了
- ·20岁男子出差凌晨吃炸鸡后猝死,家属起诉公司,法院一审:公司无过错,不应承担侵权赔偿责任,但酌情补偿家属6万元
- ·乘联分会:3月全国二手车交易量179.18万辆 环比增长37.73%
- ·湖南医药学院举办2026年“五四”表彰大会暨“5·12”国际护士节纪念活动
- ·美国发生“大规模伤亡事件”
- ·元新闻消息 | 泰坦股份:高端电子布喷气织机尚处于研发阶段 未形成任何销售收入
- ·广东“两癌”免费筛查机构地图上线
- ·产经观察丨净利五连降,桃李面包如何破局?
- ·产经观察丨净利五连降,桃李面包如何破局?
- ·女子将14万余元现金藏冰箱,男友7年内偷偷换成练功券,得知女友要买房,卷走全部真钱潜逃…最新消息
- ·国内首台褐煤中速磨塔式炉在吉开建——电投绿能白城保供煤电项目第一方混凝土成功浇筑
- ·医言堂| “小胖墩”不等于养得好,关于儿童肥胖的残酷真相
- ·遭恶意“仅退款”榴莲商家两次申诉均被拒,平台:需先等警方调查结果,没有复议渠道入口;买家因虚构事实骗取退款已被行拘
- ·孙广仁教授河图医学工作室在山东新中鲁中医医院揭牌
- ·沃尔沃汽车大中华区CEO袁小林卸任,原奔驰中国CEO段建军接任
- ·争分夺秒!荆州交警暖心护送 急症患者转危为安
- ·重庆市黔江区发生交通事故致2人死亡6人受伤
- ·重庆警方通报:何某(女,57岁)驾车因操作不当,与车辆及行人发生碰撞,致2死6伤
- ·多名网友称收到地震局提示短信,相关话题冲上热搜,广东省地震局回应:系推送地震预警科普短信
- ·网友称在云南一餐馆点一盘黄焖鸡吃出24块鸡头,店方回应:十几只鸡一起杀的,没把鸡头分均匀,已免单;当地市监所已派人前往现场处置
- ·为节能省外汇 印度总理呼吁民众“少吃油”“少出国”
- ·以色列将两名援助加沙外籍人士“驱逐出境”
- ·医言堂| “小胖墩”不等于养得好,关于儿童肥胖的残酷真相
- ·锦州下列地区停水(5月10日-5月15日)
- ·大行评级丨高盛:维持蒙牛“买入”评级,管理层对今年行业复苏信心增强
- ·“点一盘黄焖鸡吃出24块鸡头”,云南涉事餐馆回应:十几只鸡放一起没分匀,已免掉120多元餐费
- ·决心拉满!今天18时国乒女团对阵日本冲击七连冠
- ·“智汇潇湘 才聚湖南”杭州站专场招聘活动在浙江大学举行
- ·土耳其瓦基弗银行与阿波罗完成13亿美元DPR证券化交易
- ·长春市宽城区柳影街道榆树北街社区开展“温情母亲节 丝巾绽芳华”志愿服务活动
