报告题目：AI检索助手值得信任吗？对抗性网络内容下的可靠性评估
报告人：陈奕梦博士后 阿卜杜拉国王科技大学
报告摘要：
随着智能体技术的发展，AI检索助手正成为人们获取互联网信息的重要入口。但面对纷杂的网络内容，AI能否去伪存真，避免将被操纵的信息转化为用户信赖的建议？本报告将介绍发表于EMNLP的研究工作SearchGEO：一个结合五类攻击模式与多维输出指标的可控评估框架，系统分析13种主流大语言模型驱动的检索智能体对网络信息操纵的脆弱性。研究发现，不同模型的易受攻击程度与薄弱环节存在显著差异，同一部署框架既可能缓解风险，也可能放大特定模型的漏洞；进一步的技能安装测试还揭示了过度拒绝与过度信任两类相反的失误。报告将据此讨论如何评估和提升对抗性信息环境下智能体建议的可靠性。
报告人简介：
陈奕梦，2023年博士毕业于中国科学院数学与系统科学研究院，现为阿卜杜拉国王科技大学（KAUST）生成式人工智能卓越中心博士后研究员，师从人工智能先驱Jürgen Schmidhuber教授。研究聚焦于基于大语言模型的智能体（LLM-based Agents），涉及规划（Planning）、记忆机制（Memory）与递归式自我改进（Recursive Self-Improvement）等前沿方向。研究成果发表于ICML、NeurIPS、ICLR、ACL、EMNLP等人工智能领域顶级国际会议，并曾获EMNLP2025杰出论文提名。
报告时间：2026年10月15日10:00-11:30
报告地点：吉林大学正新楼三楼报告厅
