隨著AI技術的發展，AI合成應用門檻一再降低，利用AI深度合成偽造音視頻，成為威脅網絡安全的典型案例。

二級市場上，網絡安全上市公司股價近期攀升。自1月17日以來，截至2月17日收盤，天融信科技集團股份有限公司（以下簡稱“天融信”）、任子行網絡技術股份有限公司等股價區間漲幅均超30%。

廣州眺遠營銷咨詢管理有限公司總監高承飛表示：“人工智能技術飛速發展帶來便捷與創新的同時，也給網絡空間帶來了新的安全挑戰。合成音視頻的深度偽造、誤導性信息的傳播等問題頻發，使個人、企業和政府對網絡安全的需求都大幅增加，同時也對網絡安全技術提出更高要求。需要各方共同努力，多管齊下，筑牢網絡安全‘防火墻’。”

合成音視頻帶來隱患

“當前，有很多開源的軟件和工具都可以實現換聲換臉的效果，可以供網民自由下載，在自己的電腦上進行安裝和使用。”天融信副總裁、中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧表示。

若AI合成的他人肖像未經當事人同意，且該合成內容被用于商業或公開場合傳播，可能構成侵犯肖像權。AI合成音視頻可能被不法分子利用，還將成為犯罪的“幫兇”。近年來，我國對人工智能生成合成行為的法律法規不斷完善，為網絡安全和生成式人工智能的健康發展保駕護航。2022年11月份，國家互聯網信息辦公室、工業和信息化部、公安部聯合公布的《互聯網信息服務深度合成管理規定》明確，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息。

北京市京師律師事務所合伙人盧鼎亮表示：“目前，針對AI克隆技術等新興領域，還需要進一步細化相關法律條款，明確侵權行為的定義和責任，加強執法力度，形成有效威懾。網絡安全是一個系統性工程，需要政府、企業等在政策、法律、治理、技術等層面共同發力，包括引導資源向網絡安全領域傾斜、加大網絡安全方面投入等。”

上市公司加碼布局

根據中國網絡安全產業聯盟的統計，2022年我國網絡安全市場規模約為633億元，2025年有望超過800億元。A股多家上市公司深耕網絡安全市場，包括：天融信、杭州迪普科技股份有限公司（以下簡稱“迪普科技”）、奇安信科技集團股份有限公司、三六零安全科技股份有限公司、深信服科技股份有限公司等。面對AI發展帶來的網絡安全市場擴容，這些上市公司積極加碼布局，并且高度重視AI技術在網絡安全中的運用，利用AI技術來檢測跟對抗AI。

天融信于2014年成立AI研究團隊，開啟網絡安全領域的機器學習、深度學習、自然語言處理等人工智能技術研究和應用。公司在2023年發布了自主研發的天問大模型，并陸續發布了基于天問大模型的產品小天、云上小天、天問大模型系統等AI智能體，應用于公司防火墻、數據庫審計與防護、漏掃等安全產品中。天融信方面表示：“公司將持續優化AI技術在網絡安全領域中的應用，持續研發AI系統自身以及AI算法、數據、模型的安全問題的解決方案，并且與合作伙伴共同推進量子加密技術為AI應用提供安全保障。”

迪普科技積極探索“AI+安全”創新應用，強化AI技術對產品體系的賦能。公司基于不同的安全業務場景深度融合了多個通用大模型在網絡安全領域的能力，經過增量預訓練和調優，應用于安全運營、數據分類分級和敏感數據識別等場景，提升產品體系的核心能力，持續為用戶的安全保駕護航。

深度科技研究院院長張孝榮表示：“AI正在推動網絡安全產業變革。一方面，大模型產品正在增多，AI可能被不法分子用來進行網絡攻擊，因此，針對AI的網絡安全產品及服務將成為行業的主要競爭領域。另一方面，深度整合AI技術，能夠大幅提升網絡安全產品的水平，使其能夠更快速、更準確地識別并應對各種網絡攻擊。利用AI技術不斷創新和優化安全解決方案的企業，有望在未來的網絡安全市場中占據領先地位。”

（來源：證券日報網）