2023年，AI（人工智能）等新技术在应用端获得了令人瞩目的进步，同时也意味着其在安全性上会产生更多挑战。


全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东在接受新京报贝壳财经记者采访时表示，2023年AIGC（生成式人工智能）发展迅速，在解放生产力的同时，也给网络安全带来更多担忧。2024年网络安全形势将出现变化，攻防双方将在AI利用方面展开竞赛。


AIGC如何给网络安全造成冲击？齐向东表示，攻击者可以通过在训练数据中加入精心构造的异常数据，破坏训练数据集的准确性，在向人工智能投喂数据的过程中，也会产生商业机密泄露问题，进而导致企业丧失核心竞争力。他以ChatGPT为例，“人们使用ChatGPT泄露的数据中，有11%是敏感数据”。


他还认为，AI还大幅降低网络攻击门槛，网络攻击倍增，很多不懂技术的普通人也能成为黑客，同时也提升了黑客的攻击水平，深度伪造攻击也可能泛滥。“更严重的是武器化问题严峻，漏洞自动化挖掘逐渐流行，给安全防护带来更大挑战。”


他预测道：“未来可能会出现利用人工智能增强网络犯罪的热潮。”


他认为，AIGC能提升安全运营效率，增强网络安全响应能力，从而改善网络安全防御的效果。“这将推动攻防双方的对抗与博弈持续演进。”


齐向东强调，网络安全企业的责任和使命决定它们应保证AIGC从研发、应用到使用各个环节的安全。“历史经验表明，越是先进的东西，出现安全事故带来的损失和影响就越大。数字工厂网络安全事件的损失远远大于传统工厂。”


新京报贝壳财经记者 罗亦丹 见习记者 韦英姿

编辑 王进雨

校对 刘军