2025年7月11日星期五上午10点，新加坡南洋理工大学张天威教授应邀为四川大学网络空间安全学院师生带来题为“由生成式人工智能模型驱动的可信智能体系统”的专题讲座。本次讲座由网络空间安全学院院长陈兴蜀教授主持。

在本次讲座中，张天威教授围绕当前多模态大模型在智能体系统中的迅速应用与发展，深入剖析了其在实际部署中面临的安全性与可信度问题。张教授指出，随着VLM驱动的智能体展现出高度的自主性、适应性和多模态理解能力，其在自动驾驶、人机协作、信息服务等领域展现出广阔应用前景。然而，模型的复杂性与任务开放性也带来了诸如对抗性感知攻击、提示注入等新型安全威胁，严重影响系统的可靠性与安全性。

为系统性揭示这些挑战，张天威教授结合最新研究案例，详细分析了当前多智能体系统中可能遭遇的攻击方式，并指出这些攻击可能导致的隐私泄露、任务误导和系统操控等严重后果。在此基础上，进一步介绍了其课题组在提升多智能体系统可信度方面所做的探索与实践，包括基于鲁棒优化的防御机制设计、多阶段过滤机制、以及结合人类反馈的可信增强策略等一系列创新性工作，提出构建可信智能体系统的若干关键要点。

讲座的最后，张天威教授与在场师生就大模型时代智能体系统的可信构建、安全评估及未来趋势进行了热烈交流与深入探讨。现场气氛活跃，互动频繁，许多同学表示收获颇丰。

本次讲座内容前沿、内容丰富，不仅拓宽了在场师生对生成式人工智能系统安全问题的认识，也为相关领域的研究提供了有益启发。讲座在热烈掌声中圆满结束。

网络空间安全学院

2025年7月14日