报告题目：Are Your LLM-based Text-to-SQL Models Secure? Exploring SQL Injection via Backdoor Attacks（基于大语言模型的 Text-to-SQL 系统安全吗？——SQL 注入与后门攻击研究）

报告人：唐明洁 特聘研究员（四川大学计算机学院智能与数据工程团队负责人）

报告时间：2025年11月5日14:30

报告地点：四川大学江安校区多学科交叉研究创新大楼919报告厅

报告内容：

本报告将介绍四川大学智能与数据工程团队在数据库系统与大语言模型安全方向的最新研究成果。报告基于论文《Are Your LLM-based Text-to-SQL Models Secure? Exploring SQL Injection via Backdoor Attacks》（入选 ACM SIGMOD 2026），聚焦于大语言模型（LLM）在Text-to-SQL任务中的安全隐患。研究系统揭示了基于LLM的数据库接口模型在SQL注入与后门攻击场景下的脆弱性，并提出了对应的攻击框架ToxicSQL。ToxicSQL能在保证模型性能的前提下，实现高隐蔽性后门注入，揭示了LLM驱动数据库接口在安全性设计上的重大挑战。该研究为构建可信、安全的智能数据库系统提供了新思路，对数据库安全与AI系统鲁棒性研究具有重要意义。

报告人简介：

唐明洁，四川大学计算机学院老师，美国普度大学计算机系博士，多年硅谷工业界工作经验。长期从事大模型系统、数据库系统优化与人工智能安全研究，在SIGMOD、VLDB、ICDE、ICML 等国际顶级会议发表多篇论文。团队近年来在大模型系统优化（GPTuner,MLoRA,DLRover）与AI安全性研究（BadPart,ToxicSQL）等方向取得系列重要成果，实现了数据库三大旗舰会议（SIGMOD、VLDB、ICDE）的全面命中。

网络空间安全学院

2025年11月3日