随着AI技术的发展，AI合成应用门槛一再降低，利用AI深度合成伪造音视频，成为威胁网络安全的典型案例。
二级市场上，网络安全上市公司股价近期攀升。自1月17日以来，截至2月17日收盘，天融信科技集团股份有限公司（以下简称“天融信”）、任子行网络技术股份有限公司等股价区间涨幅均超30%。
广州眺远营销咨询管理有限公司总监高承飞在接受《证券日报》记者采访时表示：“人工智能技术飞速发展带来便捷与创新的同时，也给网络空间带来了新的安全挑战。合成音视频的深度伪造、误导性信息的传播等问题频发，使个人、企业和政府对网络安全的需求都大幅增加，同时也对网络安全技术提出更高要求。需要各方共同努力，多管齐下，筑牢网络安全‘防火墙’。”
合成音视频带来隐患
“当前，有很多开源的软件和工具都可以实现换声换脸的效果，可以供网民自由下载，在自己的电脑上进行安装和使用。”天融信副总裁、中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧表示。
若AI合成的他人肖像未经当事人同意，且该合成内容被用于商业或公开场合传播，可能构成侵犯肖像权。AI合成音视频可能被不法分子利用，还将成为犯罪的“帮凶”。近年来，我国对人工智能生成合成行为的法律法规不断完善，为网络安全和生成式人工智能的健康发展保驾护航。2022年11月份，国家互联网信息办公室、工业和信息化部、公安部联合公布的《互联网信息服务深度合成管理规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。
北京市京师律师事务所合伙人卢鼎亮对《证券日报》记者表示：“目前，针对AI克隆技术等新兴领域，还需要进一步细化相关法律条款，明确侵权行为的定义和责任，加强执法力度，形成有效威慑。网络安全是一个系统性工程，需要政府、企业等在政策、法律、治理、技术等层面共同发力，包括引导资源向网络安全领域倾斜、加大网络安全方面投入等。”
上市公司加码布局
根据中国网络安全产业联盟的统计，2022年我国网络安全市场规模约为633亿元，2025年有望超过800亿元。A股多家上市公司深耕网络安全市场，包括：天融信、杭州迪普科技股份有限公司（以下简称“迪普科技”）、奇安信科技集团股份有限公司、三六零安全科技股份有限公司、深信服科技股份有限公司等。面对AI发展带来的网络安全市场扩容，这些上市公司积极加码布局，并且高度重视AI技术在网络安全中的运用，利用AI技术来检测跟对抗AI。
天融信于2014年成立AI研究团队，开启网络安全领域的机器学习、深度学习、自然语言处理等人工智能技术研究和应用。公司在2023年发布了自主研发的天问大模型，并陆续发布了基于天问大模型的产品小天、云上小天、天问大模型系统等AI智能体，应用于公司防火墙、数据库审计与防护、漏扫等安全产品中。天融信方面表示：“公司将持续优化AI技术在网络安全领域中的应用，持续研发AI系统自身以及AI算法、数据、模型的安全问题的解决方案，并且与合作伙伴共同推进量子加密技术为AI应用提供安全保障。”
迪普科技积极探索“AI+安全”创新应用，强化AI技术对产品体系的赋能。公司基于不同的安全业务场景深度融合了多个通用大模型在网络安全领域的能力，经过增量预训练和调优，应用于安全运营、数据分类分级和敏感数据识别等场景，提升产品体系的核心能力，持续为用户的安全保驾护航。
深度科技研究院院长张孝荣对《证券日报》记者表示：“AI正在推动网络安全产业变革。一方面，大模型产品正在增多，AI可能被不法分子用来进行网络攻击，因此，针对AI的网络安全产品及服务将成为行业的主要竞争领域。另一方面，深度整合AI技术，能够大幅提升网络安全产品的水平，使其能够更快速、更准确地识别并应对各种网络攻击。利用AI技术不断创新和优化安全解决方案的企业，有望在未来的网络安全市场中占据领先地位。”
