2025年11月5日下午14:30，学院邀请到计算机学院唐明洁研究员在多学科交叉研究创新研究大楼919报告厅为学院师生带来题为《Are Your LLM-based Text-to-SQL Models Secure? Exploring SQL Injection via Backdoor Attacks》的学术报告。

唐明洁博士，现任四川大学智能数据系统实验室（IDS Lab）负责人，硕士研究生研究生导师。本科毕业于四川大学，硕士毕业于中国科学院研究生院，博士毕业于美国普渡大学计算机系（2016）。曾就职于美国微软研究院、IBM研究院、Cloudera研究院及蚂蚁金服美国硅谷研究院，长期从事大数据与人工智能底层系统的研发工作，重点聚焦于分布式机器学习与大模型系统优化。

随着大语言模型在Text-to-SQL任务中的广泛应用，不仅提高了开发人员的数据库应用开发效率，增强了数据查询的便捷性，使得非专业用户也能轻松与数据库交互。然而，唐明洁博士指出，在开源Text-to-SQL模型日益普及的背景下，攻击者可能通过精心构建的微调数据集，植入难以察觉的后门，使模型在特定触发条件下生成恶意SQL语句，从而绕过传统安全机制，构成严重的数据泄露与系统入侵风险。针对这一威胁，唐明洁博士团队提出了“ToxicSQL”——一种专门针对Text-to-SQL模型的后门攻击框架。该研究系统性地分析了基于LLM的Text-to-SQL模型在面对隐蔽攻击时的脆弱性，不仅探索了攻击路径，也提出了相应的防御思路。

唐明洁博士在报告中并未过多深入技术细节，而是从科研方法论的角度，分享了“从一个idea到一篇论文”的完整过程。他强调，在学术研究中从不缺解决方法，真正关键的是提出问题、构建故事与撰写论文的能力。

本次报告不仅拓展了同学们的研究思路，更以其独特的科研视角，为同学们如何发现问题、构建学术叙事提供了宝贵的方法论启示。

网络空间安全学院

2025年11月6日