齐向东：AI深度伪造引发社会混乱，“眼见未必为实”将成为常态

21世纪经济报道 记者钟雨欣 北京报道
人工智能新时代不仅带来了生产力的大幅提升，也给网络安全提出了前所未有的挑战，安全风险由“点”向“面”扩散。7月9日，奇安信集团董事长齐向东在出席2024（第二十三届）中国互联网大会时表示，要以AI驱动安全，应对三大安全威胁，并补齐三大薄弱环节，全方位提升新时代安全能力。
齐向东认为，网络安全攻击会造成严重的经济损失，网络安全事故会严重威胁国家安全。奇安信威胁情报中心今年2月发布的《全球高级持续性威胁（APT）2023年度报告》显示，在2023年全球至少有80个国家遭遇过APT攻击，中国及周边地区已经成为网络空间战争的焦点。
在齐向东看来，人工智能新时代面临三大安全威胁。
第一，AI“饱和式”攻击打垮网络安全运营体系。攻击者可以利用AI工具对网络攻击进行改造和升级，短时间内发动大范围连续进攻，在饱和攻击的状态下，防护的难度就大大增加了。那些原本就缺少安全专家的政企机构，会陷入“攻强守弱”的境地。
第二，AI深度伪造引发社会混乱。一些不法分子利用换脸、变声、搭建虚拟环境等手段进行“深度伪造”，冒用身份混淆视听，进行网络诈骗，“眼见未必为实”“耳听未必为真”将成为常态，极有可能引发社会认知混乱。同时，人工智能可以加快编写恶意软件和恶意代码的速度，让欺诈事件频发。
第三，“AI投毒”污染数据冲击安全防线。人工智能时代，黑客组织利用AI升级攻击手段，通过对抗样本、数据投毒、模型窃取等多种方式对AI算法进行攻击，使其产生错误的判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。
他同时提到，政企机构的网络安全建设还处于探索阶段，存在着三大薄弱环节，即人力不足、思路落后、体系不全。
“想要应对三大安全威胁、补齐三大薄弱环节，就要用AI驱动安全，为安全能力带来指数级跃升。”齐向东表示，AI可以对过去人工漏掉的告警进行全面研判，实现安全能力十倍级提升。通过AI赋能、综合分析和联动，可以实现安全体系能力的百倍级提升。在威胁发现和溯源反制方面，AI可以快速溯源、快速反制，实现安全响应能力千倍级提升。
“我们可以通过AI提升全场景的安全防护能力。如AI+安全开发、AI+终端用户、AI+应用等，全面激发网络安全的最大效能。”齐向东说。

感谢楼主，继续加油。

感谢楼主，干货满满。