报告题目：矛与盾：人工智能范式下的安全系统与系统安全

报告人： 胡玉鹏

报告时间： 2023年3月9日10：00-11：30

报告地点：江安校区多学科交叉研究创新大楼一楼A103报告厅

报告内容：人工智能(AI)技术已成为不可或缺的现代基础设施之一，广泛应用于各类安全系统，复杂工业和ZZ环境也开始涌现各种人工智能应用；但人工智能模型存在内生安全缺陷，未考虑到复杂环境下潜在攻击者可能会恶意修改训练或测试数据的分布以破坏模型结构，这类内生的安全隐患所引发的安全问题也日益突出。本次报告汇报：(1)基于AI的安全系统实践。拟汇报利用人工智能技术在构建安全系统方面的一些应用研究，重点介绍基于深度学习的智能语义分析--在稀疏敏感文本挖掘和系统代码漏洞挖掘中的应用实践；(2)AI系统的全生命周期安全问题探讨及如何构建对抗机器学习攻击的安全系统。针对层出不穷的人工智能对抗攻击技术(如对抗样本攻击、投毒攻击、后门攻击等)可以轻易欺骗机器视觉、模式识别或干扰数据训练，诱导智能系统判别错误并出现异常行为这一严重问题，拟汇报针对人工智能系统全生命周期的最新攻击与防御技术；进而汇报如何利用高效的混淆技术，构建能有效对抗机器学习攻击的PUF系统，防止系统内部安全结构被机器学习技术推测。

报告人简介：胡玉鹏，湖南大学信息科学与工程学院教授、博士生导师，湖南大学现代工程训练中心副主任，入选湖南省杰青、芙蓉学者、湖湘青年英才；教育部普通高等学校本科教育教学评估专家、中国工程教育认证专家。目前已主持国家保密科研B类重点项目、国家自然科学基金面上项目、国防173计划等国家和省部级课题三十余项，以及华为等高新技术企业的技术攻关项目十余项。已在ACM CSUV、IEEE TDSC、IEEE TCAD、IEEE TC、IEEE TCC、IEEE IoT-J、IEEE/IFIP DSN、CODES+ISSS、IEEE CLUSTER等发表论文80余篇，包括获得ACM SIGBED国际旗舰会议CODES+ISSS 2022最佳论文提名、第六届中国科协优秀科技论文奖等。目前担任《信息网络安全》等多个国内外期刊编委。获得全国大学生信息安全竞赛一等奖优秀指导教师；获得中国计算机学会技术发明二等奖(排名第一)、中国产学研合作创新成果奖一等奖(排名第三)、湖南省高等教育教学成果二等奖、湖南省计算机学会优秀高等教育教学成果一等奖。

欢迎广大师生踊跃参加！

网络空间安全学院

2023年 3月 6日