2026年7月10日下午14:00,中国科学院自动化研究所董晶研究员应学院王宏霞教授邀请在四川大学江安校区多学科交叉研究大楼919会议室,为师生带来了一场题为“生成式AI时代的内容安全挑战浅析:从技术到治理”的专题讲座。本次讲座由王宏霞教授主持。
在报告中,董晶研究员围绕生成式人工智能技术快速发展所引发的内容安全挑战展开系统分析。她指出,生成式AI的“内容生成”能力突破了传统内容生产的边界,在极大提升创作效率的同时,也带来了真实性验证困难、伦理与合规风险、数据泄露隐患等前所未有的安全威胁。其核心矛盾在于AI生成内容的可控性与开放性之间的冲突。报告深入剖析了大模型内生机理,并围绕多层次防御体系的AI对抗技术治理框架,系统介绍了实验室在该领域的最新研究成果和主要研究方向。

董晶研究员结合团队在多媒体内容取证、人工智能安全与对抗等方面的实践,展示了生成式AI内容安全在技术研判、风险防范与治理策略等层面的关键问题。报告内容兼顾理论深度与现实关切,为师生理解AI时代内容安全的全新挑战提供了重要视角,也为关注人工智能治理、信息内容安全及数字取证等方向的研究提供了有益启发。

董晶研究员报告内容丰富、视角前沿,兼具学术价值与实践指导意义,引起了在场师生的热烈反响。讲座结束后,董晶研究员与师生围绕生成式AI的技术应用、安全治理难点、未来发展趋势等问题进行了深入交流,并结合自身研究经验对相关问题作了细致解答。此次讲座不仅拓展了师生对生成式AI内容安全的认识,也为相关领域后续研究提供了新的思路。