报告题目：复杂开放环境中智能体的可信安全风险与防护
报告人：王博 助理教授 吉林大学人工智能学院
报告摘要：
随着大语言模型在推理、规划、工具调用和长期记忆等方面能力的快速提升，人工智能正逐步从以内容生成和问答交互为主的大模型，向能够感知环境、自主决策并执行复杂任务的智能体演进。智能体自主性和任务执行能力的不断增强，为人工智能在复杂现实场景中的应用带来了新的机遇，同时也使其面临的可信与安全问题从模型输出层面进一步扩展至信息获取、推理决策、长期记忆和行为执行等多个环节。然而，现有智能体仍面临外部信息可靠性难以保证、推理与规划过程易受恶意信息干扰、长期记忆存在隐私泄露与恶意操纵风险，以及工具调用与自主行为可能引发安全威胁等问题。针对上述问题，本报告将介绍智能体可信与安全领域的相关研究进展，结合相关研究工作和典型案例，分析智能体在复杂开放环境下面临的典型可信与安全风险，介绍相关攻击方法、作用机理及潜在防护思路，为理解智能体可信与安全问题、探索安全可靠的智能体技术提供新的研究思路。
报告人简介：
王博，吉林大学人工智能学院助理教授、博士生导师。目前主要从事可信人工智能与自然语言处理研究，研究方向包括大模型与智能体安全及隐私、检索增强生成、虚假信息检测等。在ACL、WWW、EMNLP、TOIS等CCF A/B类国际知名会议和期刊发表论文十余篇，谷歌学术累计引用千余次。担任TPAMI、TKDE、ACL、EMNLP等国际知名期刊和会议审稿人。主持国家自然科学基金青年学生基础研究项目1项。
报告时间：2026年11月4日星期三 15:30-17:10
报告地点：前卫校区-正新楼4楼本科生专业教室
