报告人：LIU YANG教授

报告时间：2024年6月18日上午10点-11点30

报告地点：江安校区多学科交叉研究创新大楼九楼919报告厅

报告内容：

AIGC与网络安全涉及在软件开发过程的所有阶段系统地整合安全测试。其目的是通过使用工具来自动化人类专家的安全专业知识，从而在开发生命周期的早期阶段就能早期识别和解决安全问题。然而，其有效性在很大程度上依赖于智能工具模拟或潜在替代安全专家的能力。随着大型语言模型（LLM）的出现，现在提供了实现这一目标的新手段。在这次演讲中，我将讨论利用LLM在应用安全领域的最新努力，涵盖漏洞分析的完整生命周期：漏洞检测、诊断、POC生成和修复。另一方面，确保AI应用成功部署，LLM的安全性同样重要。在这个方向上，我们将展示有关LLM攻击面的最新研究成果，包括针对提示注入的黑盒/白盒攻击生成、针对多模态模型的攻击、后门攻击以及可能的防御机制。最后，我们正在考虑整合这两个方面，以开发一个用于应用安全分析的AI支持平台。

报告人简介：

LIU YANG博士南洋理工大学教授，网络安全研究中心执行主任、CyberSG研发项目办公室（CRPO）执行主任。2019年授予南洋理工大学大学领导论坛讲席教授职位，2024年被授予校长讲席教授职位。

LIU YANG博士专长于软件工程、网络安全和人工智能。他的研究成功地弥合了程序分析、数据分析和AI在理论和实际使用方面的差距，以评估软件的设计和实施以实现高保证和安全性。他的许多研究已经成功商业化。截至目前，在顶级会议和期刊上发表了超过500篇论文，并获得了27个最佳论文奖和一个在顶级软件工程会议上的最具影响力系统奖。他还领导了几个主要的研究中心，包括Cysren、CRPO、南洋理工大学的可信AI中心（TAICeN）和与ICL合作的CREATE中心，专注于医疗设备安全。他获得了多个高声望奖项，包括微软亚洲研究院奖学金、TRF奖学金、南洋助理教授、陈振传奖学金、南洋研究奖、ACM杰出演讲者、国家研究基金会调查员奖和南洋理工大学创新者（创业）奖。

网络空间安全学院

2024年6月12日