1聚焦安全治理和人形機器人痛難點推動人工智能產業高質量發展人工智能是新一輪科技革命和產業變革的重要驅動力量，加快發展新一代人工智能是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題。目前，我國人工智能產業蓬勃發展，尤其是大模型涌現后，其強大的創新潛能給千行百業帶來了新的發展機遇。但目前國內及北京市人工智能產業在安全治理及人形機器人等重點細分領域仍面臨“大模型存在技術漏洞、價值對齊困難及數據價值開發利用不足”、“人形機器人技術路徑不確定、通用泛化能力弱、應用場景不足和降本路徑不清晰”等問題。一、國內人工智能產業發展現狀及存在的機遇我國人工智能產業近年來蓬勃發展，北京市領跑全國。據中國信息通信研究院測算，2022年中國人工智能核心產業規模達5080億元。截至目前，10億參數規模以上的大模型已發布近80個。據《2022年北京人工智能產業發展白皮書》顯示，截至2022年，北京擁有人工智能核心企業1000余家，位列全國第一；核心區產業集聚能力全國第一，已經形成全棧式的人工智能產業鏈；工信部“揭榜掛帥”優勝項目數量居全國第一；人工智能算力發展排名居全國第一。諸多數據表明人工智能已成為北京“強項”，并有望在全國范圍內發揮“頭雁”效應，2引領“群雁”活力。另外，近五成大模型集中在北京。截至10月初，北京發布大模型數量達115個，其中通用大模型12個，垂類大模型103個。大模型強大的創新潛能給千行百業帶來了新的發展機遇。如在人工智能Transformer模型引入CV領域和智能駕駛領域后，智駕能力的提升明顯加速；未來，基于Transformer有望出現感知決策一體化的大模型，進一步促進自動駕駛領域發展。AIGC領域，代碼生成、編程助手、軟件助手、操作助手等產品顯著提升大企業內部的生產、客戶運營、市場營銷等環節的效率，有望重塑企業生產力。機器人領域，把大模型當做“大腦”來輔助運行的人形機器人技術加速演進，已成為科技競爭的新高地、未來產業的新賽道、經濟發展的新引擎，應用前景廣闊。二、國內人工智能產業發展面臨的風險和挑戰（一）大模型面臨技術漏洞、價值對齊及數據價值開發利用不足等挑戰AI大模型的發展并非一片坦途，在孕育巨大機遇的同時，也面臨著諸多的安全挑戰。一是面臨技術漏洞等內生安全問題和幻覺、濫用等。當前許多大模型難以確保訓練過程中數據質量和清潔度，模型設計的安全性、模型訓練的穩定性都存在大的問題。因此大模型存在后門、數據隱私泄露等安全漏洞。例如，模型被黑客攻擊、惡意注入病毒等問題時有發生。3代碼實現不當也可能導致AI大模型出現安全問題，比如有些模型在實現過程中可能存在未經驗證的功能或邏輯漏洞，給惡意攻擊者留下可乘之機。由于大模型通常能夠在互聯網上可搜集到的數據上進行訓練，因此不可避免地包含用戶隱私信息，可能造成隱私泄露。除此之外，預訓練大模型還存在大模型幻覺1、恐怖等不良信息濫用等新型安全問題，給人們帶來潛在的安全威脅。二是價值觀對齊方面也面臨兩大挑戰。一是對齊的基礎-人類價值觀，是多元且動態變化的。比如在不同的意識形態下，詢問chatGPT和百度文心一言“中國的經濟怎么樣”，可能得到不同的回答。甚至模型在訓練后會對具有不同宗教、種族、性別等特征的人群產生不一致的結果等。這對很多沒有自主意識及判斷能力的低齡人群存在危害。二是大模型有用性跟無害性之間目標不是完全一致，也會發生沖突。這導致對齊成為復雜的跨學科研究問題。三是數據價值開發利用與保護數據安全之間存在沖突。目前國內80%的數據實際上是在防火墻后面。數據利用新需求、新模式、新業態與保護數據安全之間存在天然沖突，形成了數據利用與保護國家數據資源、保護商業秘密、保護個人隱私三個主要矛盾。如何在不引發新的安全風險、隱私泄漏風險的基礎上將這部分數據的價值開發出來仍是一項嚴峻的課題。目前國內已經在成立國家大數據局的基礎上出臺了促進數據發揮價值、保4護數據知識產權、隱私以及安全的數據資產入表等相關規劃；作為數字經濟時代的第一生產要素，數據有望成為政企報表及財政等收入的重要支撐。未來仍需要國家層面出臺更多關于數據要素確權、定價、交易流通、收益分配、試點等框架性的規定促進數據價值的開發利用。（二）人形機器人面臨技術路徑不確定、通用泛化能力弱、應用場景不足和降本路徑不清晰的問題自2023年起，隨著以ChatGPT為代表的AI大模型風靡全球，人形機器人產業加速。10月，工業和信息化部印發《人形機器人創新發展指導意見》，指出人形機器人有望成為繼計算機、智能手機、新能源汽車后的顛覆性產品，發展潛力大、應用前景廣，是未來產業的新賽道。但國內人形機器人產業目前仍處于0-1的階段，發展中仍面臨著諸多難點。一是基礎技術能力薄弱、技術路徑不確定。首先，人形機器人的外形問題上產業界仍存在分歧。如有的認為人形機器人發展過程中還可能出現其它中間態，而有的認為通用機器人的終極形態一定是人形機器人，因為其更適應人類社會的環境。外形設計也是機器人研發的基礎和關鍵所在，既要考慮到機器人的獨特性，與人類的文化基因、社會背景相匹配，還必須符合機器人本身的結構、功能、使用方法，機器人的安全性、機器人與人溝通等問題。其次，從核心零部件看，目前國內外人形機器人的技術路徑處于百花齊放、百家爭鳴的狀態。5各科技企業、主機廠在量產前會大量試用各種零部件組裝方案，該階段對各種路線無法證偽。如特斯拉的人形機器人采用了14個線性執行器、14個旋轉執行器，采用無框力矩電機、力傳感器、行星滾柱絲杠、諧波減速器、行星減速器和空心杯電機等零部件。國內廠家技術路線則不同。但總體來看，國內在核心關鍵零部件雖然具有了一定的基礎，但在人形機器人專用傳感器、高功率密度執行器、專用芯片，以及高能效專用動力組件等核心零部件方面技術仍較為薄弱。依靠現有的產業鏈支持，實現人形機器人的產品創新仍具有一定難度。二是智能化、通用泛化是人形機器人發展的最大難點。長期以來,人形機器人的用戶痛點主要集中在人機交互、智能感知、行為控制等方面。目前國內外科技巨頭（而非工業機器人巨頭）和初創企業在用大模型等技術解決這些問題方面已經做了一些探索，讓大家看到了通用機器人的曙光。如決策規劃算法是人形機器人智能化的關鍵，特斯拉將自動駕駛的FSD系統復用到機器人領域，使機器人擁有了智能屬性。國內小鵬汽車也參照特斯拉的思路，遷移其自動駕駛算法、靈犀大模型等進入人形機器人賽道。AI大模型賦能從技術層面直接提升了人形機器人的人機交互能力，使機器人通用泛化成為可能。例如谷歌Palm-e大模型可將自然語言轉化為機器人可執行的任務步驟，從而補全其推理決策能力并泛化至更通用的場景；Deepmind推出了自我改進的AI智能體RoboCat和RT-2模型，大幅提升機6器人對新事物的適應性，并展現出對未出現指令的解釋和推理能力。上海稚暉君“遠征A1”的WorkGPT應用使其具備了理解人的指令并執行任務的能力。但總體在通用機器人“大腦”方面仍有許多待解決的問題，而且國外巨頭憑借強大的資金和AI能力在該領域展現出更強大的競爭力。三是應用場景和商業化降本路徑仍不明晰。成本下降是推動人形機器人落地的必備條件。人形機器人最早出現在上世紀七十年代，但成本高企一直是其難以商業化的重要原One單臺造價目前是60-70萬元人民幣。目前已有的人形機器人囿于技術、成本等因素應用場景較為有限，主要在工業場景。未來一方面仍應在技術進步的基礎上大幅降低軟硬件成本，另一方面仍需尋找能推動人形機器人大規模降本落地的場景，通過爆款場景帶動成本攤薄，進而推動人形機器人的商業化和產業爆發。業界預期，人形機器人產業將類似自動駕駛產業發展呈現出類似L0-L5等分階段發展的趨勢。目前，特斯拉憑借其優秀的汽車配套產業鏈、汽車降本經驗以及自動駕駛FSD算法協同提出使人形機器人降本至2萬美元，使人形機器人落地出現了可能。國內智元機器人遠征A1也提出要將整體硬件成本控制在20萬元以內，并將產品應用于比亞迪的應用場景。但目前兩家公司的產品仍均在研發中，落地時間仍需進一步跟蹤。其它相關廠商暫時沒有提出明確的降本路徑。三、推動人工智能產業高質量發展的對策建議7（一）統籌大模型安全與發展，加大科研投入和技術推廣一是大模型監管要兼顧安全與發展。今年7月，國家互聯網信息辦公室發布了關于《生成式人工智能服務管理辦法》，旨在促進生成式人工智能健康發展和規范應用。這也意味著國家已經開始出手應對大模型火熱帶來的一系列的安全問題。未來應通過進一步細化大模型相關制度與規則、拓寬管轄范圍、加大監督落實力度等方式，為大模型的發展探索劃定原則底線。二是更前置全面考慮大模型的安全問題，防御思路從“被動"變為“主動”，加大科研投入，完善基礎設施，建立示范樣本。支持各大安全廠商開發適應新的安全需求的產品。三是加強數據資產管理、數據全生命周期管控，提高數據質量，積極尋求多種手段以增強模型的抵御能力，并鼓勵在模型的應用和布署階段實施多重保護策略，推廣擬態防御、“AI識別AI”等技術應對大模型的內生安全挑戰。（二）探索保障數據安全的數據資源價值利用，推動數據財政體系構建一是進一步完善數據要素評估、定價、入表、流通、價值分配的政策工具箱。在政策框架下，鼓勵政府、企業、投資機構多方參與數據要素生態建設，推動數據要素產業發展。二是選擇數據要素市場化運營水平相對較高的地區作為試點，推動政府進行數據要素財政的探索。從國內看，今年11月，衡陽市政務數據資源和智慧城市8特許經營權出讓項目交易公告發布，項目起始價為180244.12萬元，已經開始了國內公共數據特許經營權出讓交易的探索。未來仍將通過試點或者市場化案例的方式探索數據財政的可行性。并利用財政政策逐步引導社會資本參與公共數據運營產業投資和經營。三是不斷改進和優化數據治理手段，提升數據質量分級分類處理效率，保障數據財政順利推進和落實。積極探索基于保障數據安全的技術手段在數據財政運行過程中的作用路（三）強化頭部引領與產業協同，推動人形機器人技術躍升一是鼓勵科技巨頭加緊布局人形機器人“安卓”平臺。結合目前國際科技巨頭占據產業生態位的實際情況、特斯拉復用自動駕駛FSD系統后的顯著優勢、人形機器人研發與落地均需要巨量資金等因素考慮，再加上國內科技巨頭已在資金、算力、算法、數據、大模型垂直應用場景等方面擁有豐富的積累，建議聚焦政策和資源支持國內在AI領域具有較強實力的科技巨頭加緊在該領域布局或進一步加大研發投入，著力打造機器人“大腦”。鼓勵巨頭企業通過開源平臺，加快產品研發和提升。同時，對北京市新涌現的優異的專注開發機器人通用大模型以及致力于將機器人硬件與行業垂直大模型結合的初創和中小企業進行精準扶持，打造該領域優異的鼓勵創新環境。二是鼓勵以科技巨頭為引領打造國內人形機器9人創新聯合體，以協同創新的方式推動核心零部件攻關和成本降低。引導中小企業關注產業前沿進展，做好公司業務數據積累，主動與科技巨頭進行鏈接，共同研發。三是鼓勵多種技術路線研發，建立現有重點企業及新進者的技術路線及產業化進程的跟蹤目錄，并關注成熟產業遷移到人形機器人產業過程中可能發生的技術復用現象，通過資金扶持、政府采購等方式加速人形