打开微信扫一扫
为了提升团队对AI安全的认识,信息中心10月25日开展了《大模型时代人工智能安全风险与新挑战》业务讲堂线上学习,主讲人是浙江大学网络空间安全学院副院长王志波。
王志波首先介绍了AI安全的基本要素:保密性、完整性,更涉及到算法的安全性、模型的鲁棒性以及决策过程的公正性,这些要素构成了AI安全的基石,任何一方缺失都可能导致严重的后果。他表示,大模型以其强大的数据处理能力、高效的算法优化和丰富的应用场景,正引领AI技术的新一轮变革,但大模型也带来了前所未有的安全风险,因此加强大模型的安全防护和监管显得尤为重要。
王志波详细剖析了AI的内生安全和衍生安全。内生安全主要指的是AI系统在设计、开发过程中存在的安全漏洞和缺陷,这些漏洞和缺陷可能被恶意攻击者利用,导致AI系统的失效或被操控;而衍生安全则是指AI系统在应用过程中产生的新的安全风险和挑战。为应对这些安全风险,需要加强AI系统的安全审计、漏洞修复、法律法规等建设,确保其符合社会价值观和法律法规要求。
本次业务讲堂提升了信息中心对AI深入的认识和理解,提供了应对大模型时代下的AI安全风险与新挑战的宝贵思路和方法,老师们纷纷表示,将把所学知识应用到实际工作中去,加强AI安全防护和监管,为学院网络安全保驾护航。