人工智能学院2020级本科生张鉴坤同学的论文被CCF-A类会议ACL'2024会议接收。ACL，全称Association for Computational Linguistics，是机器学习与人工智能领域的CCF-A类国际顶级学术会议，是公认的机器学习和人工智能领域最具影响力的国际会议之一。
论文题目：The Good and The Bad: Exploring Privacy Issues in Retrieval-Augmented Generation (RAG)
论文作者：Shenglai Zeng、张鉴坤（共同第一作者）
指导教师：Jiliang Tang，常毅
收录会议：The 62nd Annual Meeting of the Association for Computational Linguistics (Findings）
期刊类别：CCF-A
论文概述：
检索增强生成（Retrieval-augmented generation，RAG）是一种强大的技术，用于为具有专有和私密数据的语言模型提供支持，其中数据隐私是一个关键问题。尽管大语言模型（LLM）的广泛研究已经表明了隐私风险，但是RAG技术有可能重新塑造LLM生成的固有行为，引发目前尚未深入探索的新的隐私问题。在本论文中，我们使用新的攻击方法进行了广泛的实证研究，证明了RAG系统泄露私密检索数据库的脆弱性，并为检索增强的LLM的隐私保护提供了新的见解。
