• 分类3000+
  • 产品3000+
  • 服务3000+
  • 厂商3000+
  • 用户3000+
  • 数字化疑难问题
    大家一起去解决
教育数字化知识图谱

登录查询教育数字化知识信息

打开微信扫一扫

海贝达科技(北京)有限公司 教育数字化知识图谱

资讯

共计40265条
首页 资讯 “数据要素×”遇见“人工智能+”,会出现哪些安全新威胁

“数据要素×”遇见“人工智能+”,会出现哪些安全新威胁

类型:通知公告 来源:宜春学院网络与教育技术中心 2024-06-21
关联: 宜春学院 收藏

当“数据要素×”和“人工智能+”发生碰撞时,会出现哪些安全新威胁?“数据的流通速度会更快、规模会更大、通过的节点会更多、价值会更高。”在近日举行的第七届数字中国建设峰会期间,全国工商联副主席、奇安信集团董事长齐向东接受采访时认为,将会呈现三大安全新挑战:

一是人工智能打破攻防平衡,数据要素既是目标,也可能成为“毒药”。人工智能大幅降低了网络攻击门槛,网络攻击数量大增,专业黑客还能利用人工智能对攻击进行升级改造,数据既是重要攻击目标,也能被用于发动网络攻击。比如,黑客可以通过数据投毒、对抗样本、模型窃取等方式攻击AI算法,使其产生错误判断,由于算法黑箱和算法漏洞的存在,这些攻击往往难以检测和防范。

二是人工智能加大数据非法获取、数据泄露以及恶意滥用等安全问题。人们向ChatGPT等生成式人工智能“投喂”数据,可能导致数据被动泄露。国外研究机构的数据显示,ChatGPT等生成式人工智能导致网络钓鱼邮件攻击增长135%。生成式人工智能大模型在对话交互过程中,还能获取用户数据或输出训练数据,带来了数据泄露及恶意滥用等安全问题。

三是人工智能扩大了攻击暴露面,数据要素流通风险激增。企业数据在终端、应用、云上、数据中心侧之间流转,链路非常复杂,提高了边界和接口的管理难度,导致访问者的身份难以辨认、行为难以管控,黑客能披着合法的外衣做坏事,很难及时捕捉安全风险,增加了数据泄露的机会和攻击面。

记者了解到,今年的BCS北京网络安全大会主题是“AI驱动安全”。齐向东认为,在数据、算力、算法“三驾马车”的拉动下,人工智能正从“智慧型工具”,进化成人类的“全能型伙伴”。“饱和式”攻击、深度伪造、数据投毒等安全新风险,严重冲击原有的网络安全防线和安全体系。

“安全是人们对美好生活最本质的向往,网络安全是人工智能发展过程中无法回避的挑战。”如何利用人工智能技术赋能网络安全防护?齐向东认为,未来人工智能带来的影响是正还是负,取决于当下如何培养和训练它。如果培养得当,人工智能将会带给我们应对新挑战“最优解”。“人工智能带来的新的安全问题,还需要人工智能技术进行化解”。

(来源:光明网)

海贝达科技(北京)有限公司 教育数字化知识图谱

微信公众号

咨询顾问

Copyright@2024 EduDigital123.COM 教育数字化知识图谱
京公网安备11011502038001 京ICP备2024042673号-3