2024年AI安全行業(yè)發(fā)展現狀及政策環(huán)境分析

• 陳觀秋 2024年5月7日 來源：經濟日報 北京商報 中新網 百度 921 57
• 繁體

人工智能在創(chuàng)造前所未有機遇的同時，也伴隨著超越以往范疇的風險，對監(jiān)管提出了嚴峻考驗。報告顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網絡攻擊事件。

作為先進技術的標桿，人工智能領域的任何風吹草動都可能引發(fā)全球關注。從ChatGPT橫空出世到Sora刷新認知，只用了1年多的時間。在此期間，國內的“百模大戰(zhàn)”打得如火如荼，一批通過備案的大模型已經向各行業(yè)及社會公眾開放。全球范圍內，人工智能的競爭日趨激烈。

咨詢機構麥肯錫預計，以AIGC為代表的AI技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式AI應用于各行業(yè)，每年總經濟效益高達6.1萬億美元至7.9萬億美元。

人工智能在創(chuàng)造前所未有機遇的同時，也伴隨著超越以往范疇的風險，對監(jiān)管提出了嚴峻考驗。

AI安全行業(yè)發(fā)展現狀及政策環(huán)境分析

奇安信集團對外發(fā)布《2024人工智能安全報告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網絡攻擊事件。奇安信預計，未來十年，人工智能技術的惡意使用將快速增長，將在政治安全、網絡安全、物理安全和軍事安全等方面構成嚴重威脅。

我們的報告《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》包含大量的數據、深入分析、專業(yè)方法和價值洞察，可以幫助您更好地了解行業(yè)的趨勢、風險和機遇。在未來的競爭中擁有正確的洞察力，就有可能在適當的時間和地點獲得領先優(yōu)勢。

近年來，隨著數字化智能化的深入，新的技術不斷衍生出新的安全風險，數字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域。

AI技術的應用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。

上述《報告》認為，AI技術將會推動安全領域發(fā)生范式變革，全行業(yè)需啟動人工智能網絡防御推進計劃。在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/p>

2023年6月，歐洲議會通過了《AI法案》授權草案，草案內容包括用于監(jiān)督人工智能基礎模型的分級管理辦法。

據中研產業(yè)研究院《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》分析：

2023年10月，由中國全國信息安全標準化技術委員會組織，面向社會公開征求《生成式人工智能服務安全基本要求》意見。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計劃。

2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發(fā)表講話，并在會后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關于有必要監(jiān)管AI發(fā)展的全球聲明”。

人工智能的安全與治理問題，關乎產業(yè)發(fā)展方向與速度，關乎供給雙方權利與義務，更關乎國際競爭中的優(yōu)勢與主動。

人工智能領域的專門法也在逐步推進中。今年，在十四屆全國人大二次會議新聞發(fā)布會上，大會發(fā)言人婁勤儉表示，下一步將研究推進科技創(chuàng)新方面的立法，特別是深入研究人工智能、生物技術等前沿科技領域有關倫理、道德、安全等重要問題，不斷完善科技法律體系。

報告對中國AI安全行業(yè)的內外部環(huán)境、行業(yè)發(fā)展現狀、產業(yè)鏈發(fā)展狀況、市場供需、競爭格局、標桿企業(yè)、發(fā)展趨勢、機會風險、發(fā)展策略與投資建議等進行了分析，并重點分析了我國AI安全行業(yè)將面臨的機遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》。

• 相關深度報告REPORTS

  

  2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告

  隨著AI安全行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內外優(yōu)秀的AI安全企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當前市場環(huán)境和客戶需求趨勢變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡