应PA视讯|PA真人官网-PLAYACE旗舰注册入口邀请，2026年9月8日上午，中国科学院信息工程研究所曹亚男研究员在中心教学楼902室作题为“自主且有界:构建宁静可信的智能体系统”的学术陈诉，深入剖析了智能体在工具调用、多智能体协作与恒久影象中的系统性宁静风险，并介绍了面向智能体全生命周期的宁静治理框架与防御要领。
陈诉指出，随着大模型智能体从“理解与生成”迈向“计划与行动”，宁静风险已从模型输出扩展至工具、情况、通信和影象等系统接口，局部错误可能在连续交互中演化为真实甚至不行逆的结果。围绕工具调用、智能体协作和共享影象，陈诉分析了工具误调用与宁静约束绕过、风险沿通信网络流传、敏感信息泄露以及影象冲突与投毒等问题。为应对上述挑战，课题组提出从模型对齐走向交互治理的系统化思路，通过通信拓扑掩护、不确定性怀抱、信息流控制、影象溯源与回滚等机制约束风险流传，为构建领悟模型、系统与应用的智能体宁静保障体系提供了新的路径。
讲座结束后，师生围绕大模型不确定怀抱化、智能体领域实验成本与研究可行性等问题进行了深入交流，进一步加深了对大模型智能体宁静风险及其怀抱与防御要领的理解。
陈诉人简介：
曹亚男，中国科学院信息工程研究所研究员、信息内容分析研究室副主任。国家级青年人才、国家重点研发计划青年科学家项目首席。研究偏向为信息内容宁静、大模型宁静等。发表TPAMI、TIFS、USENIX Security、NeurIPS、ICML,ACL等CCF-A/B类论文100余篇,主持国家重点研发计划青年科学家项目、国家自然科学基金联合基金课题等20余项科研项目，研发系统在网信、公安等多个国家宁静部门发挥实战作用，获评中国电子学会科技进步二等奖。