背景分析紅旗新能源HDNGCI■1.1人工智能在自動駕駛中的應用人工智能的出現(xiàn)，使得圖像的輸入與輸出之間通過深度學習等方法進行特征描述，因此不再需要完全依賴人類專家設計特征，特征本身也可以跟學習器一起進行聯(lián)合優(yōu)化傳統(tǒng)感知與AI感知AI感知優(yōu)勢關(guān)鍵因素人工特征設計分類器學習優(yōu)勢1：Vehicle逐層加工處理優(yōu)勢2：內(nèi)置特征變換自動學習特征分類器學習Vehicle優(yōu)勢3：模型高度復雜即將深度學習的特殊優(yōu)勢，構(gòu)化的圖像數(shù)據(jù)進行統(tǒng)計和分析，依靠圖像語義分割，將大量的數(shù)據(jù)抽象和形式化，通過計算機可理解的簡單概念構(gòu)建復雜概念，使得其在自動駕駛感知領(lǐng)域取得了廣泛的應用、背景分析紅旗新能源HDNGCI■1.2自動駕駛中的規(guī)劃決策隨著人工智能的發(fā)展，模型的泛化能力不斷增強，特征提取不僅能夠應用于感知，同樣能夠?qū)㈩愃品椒☉糜跊Q策技術(shù)在復雜場景下，人工智能算法自動提取更多的特征，盡可能多的自動學習人類司機的經(jīng)驗，提升算法“擬人化”程度簡單交互場景下的規(guī)則型決策方法復雜場景下的AI型決策方法送航駕駛員超護自動駕駛決策任務同樣具有自己的特征，人工智能方法的引入對自動駕駛決策任務的提升具有潛在優(yōu)勢背景分析紅旗新能源HDNGCI■1.3感知型AI與決策型AI的差異決策型AI感知型AI環(huán)境的“靜態(tài)”表示感知，存在相對真值環(huán)境的“動態(tài)”表示交互，但動作不唯一性，是相對值由于決策的結(jié)果與環(huán)境之間存在動態(tài)交互，且不同決策下的行為表現(xiàn)的差異性較大，給決策型AI的工程化落地帶來了困難，探索AI驅(qū)動規(guī)劃決策技術(shù)是人工智能技術(shù)在自動駕駛領(lǐng)域的下一個重點內(nèi)容二、相關(guān)探索紅旗新能源HDNGCIAI決策技術(shù)的應用方向AI加“智"AI加“速"自動化標注挖據(jù)基于模塊化的方法AI數(shù)據(jù)合成云端大模型訓練基于端到端的方法TaCTadLarsingAI模型可通過子模塊或一體化的形式部署在車端決策代碼中，實現(xiàn)“新手司機”向“老司機”AI可以在自動駕駛數(shù)據(jù)挖掘、場景生成、仿真測試等方面實現(xiàn)加速，極大提升自動駕駛驗證效率和效果的轉(zhuǎn)變相關(guān)探索二、紅旗新能源HDNGCI■2.1AI決策技術(shù)的加“智”方式基于模塊化的方法基于端到端的方法自車位姿感知結(jié)果導航信息自車位姿

感知結(jié)果

導航信息自車位姿導航信息決策規(guī)劃決策深度學習模型深度學習模型控制被控車輛被控車輛被控車輛易于實現(xiàn)安全性條件的檢測運用模型強大的學習能力及對于數(shù)據(jù)的擬合能力×輸出的穩(wěn)定性和安全性無法保證可以與已有規(guī)則方法相結(jié)合，進行局部提升易于根據(jù)需求進行模型微調(diào)模塊化限制了中間輸出的模態(tài)X難以在現(xiàn)有方法基礎(chǔ)上進行提升X二、相關(guān)探索紅旗新能源HONDCI■2.2基于模塊化的AI決策通過AI算法提高決策效率和決策性能軌跡粗解生成應急反應場景√基于強化學習，越過繁瑣的決策流程，加速自動駕駛系統(tǒng)在緊急場景下的反應√基于機器學習，短時間內(nèi)從5000余條粗解軌跡中選取出最優(yōu)軌跡Wust%efcassb0g基于AI實現(xiàn)安全性條件的檢測，增強緊急場景的反應能通過局部應用AI模型，實現(xiàn)軌跡粗選，提升算法運算實時性，效率提升了85%以上力相關(guān)探索紅旗新能源HDNGCI■2.2基于模塊化的AI決策擴展搜索空間至時間與空間一體，決策靈活度提升，但高維度空間導致搜索耗時增加以模仿學習為代表的決策AI方法通過將駕駛問題建模來學習從環(huán)境表示中給出最優(yōu)的決策行為聯(lián)合行為決策流程模仿學習優(yōu)化決策范圍聯(lián)合行為決策優(yōu)化·考慮動態(tài)與靜態(tài)·基于模仿學習搭障礙物，通過規(guī)則方法在橫縱體式坐標系下直·將最優(yōu)行為決策轉(zhuǎn)換為約空間建AI決策模型，利用神經(jīng)網(wǎng)絡實現(xiàn)決策行為的快速搜素，搜索耗構(gòu)建最優(yōu)化問題，求解出最優(yōu)動作接搜索出最優(yōu)行為決策，耗費算力序列時降低42%，類人程度顯著提升■基于模塊化部署決策A的優(yōu)勢，實現(xiàn)部分模塊的微調(diào)，實現(xiàn)決策規(guī)劃模塊的性能提升相關(guān)探索紅旗新能源HDNGCI■2.3基于端到端的AI決策以感知地圖信息、障礙物歷史軌跡信息、車輛運動信息作為輸入，以人類駕駛數(shù)據(jù)為真值標簽便用一套數(shù)據(jù)驅(qū)動的輕量生成網(wǎng)絡幫助快速生成規(guī)劃路徑Tesla交互式搜素算法Comma.aiInteractionSearchFOCUSCOMPUTESOUTCOMESIraining+InfrastructureCarpemlatne(Online)運用了模型強大的學習能力及對于數(shù)據(jù)的擬合能力，利用豐富的上游信息更好的適應道路條件、

交通情況和駕駛場景二、相關(guān)探索紅旗新能源HDNGCI■2.4A加速”方式使用A技術(shù)，可以在數(shù)據(jù)獲取、標注、挖掘、訓練等方面，有效提高模型選代效率，縮短開發(fā)周期技術(shù)應用數(shù)據(jù)驅(qū)動的自動駕駛開發(fā)流程車端平臺云端平臺自動化標注挖掘：A/模型自動挖掘有效數(shù)據(jù)，加速模型持續(xù)選代車端采集數(shù)據(jù)自動化標注挖掘人工標注質(zhì)檢和精修AI合成數(shù)據(jù)：云端模型選代仿真環(huán)境+A/合成足以亂真的數(shù)據(jù)，低成本、高效率的獲取海量數(shù)據(jù)AI合成數(shù)據(jù)云端大模型云端大模型訓練通過A/搜素，自動調(diào)整模型車端模型送代超參數(shù)和模型結(jié)構(gòu)，減少繁項重復工作車端模型二、相關(guān)探索紅旗新能源HDNGOI■2.5A加速：自動化標注挖掘依托影子模式+云端大算力模型，自動完成數(shù)據(jù)標注、清洗、挖掘，加速數(shù)據(jù)向模型能力轉(zhuǎn)化技術(shù)應用應用案例自動化標注挖掘：影子模式云端大模型√云端自動標注數(shù)據(jù)，降低成本√自動挖掘有效數(shù)據(jù)，提高效率當前使用大模型自動標注自動化率可達80%~90%，大量減輕人工標注負擔，且標注結(jié)果相較人工具有更好的一致性二、相關(guān)探索紅旗新能源HDNGCI■2.6AI加速：AI合成數(shù)據(jù)通過仿真環(huán)境+AI合成染，源源不斷的生成訓練數(shù)據(jù)，有力推動模型送代升級可將場景隱式存儲于神經(jīng)網(wǎng)絡，重建自動駕駛場景，模擬罕見、極端場景，支撐模型閉環(huán)驗證技術(shù)應用應用案例數(shù)據(jù)獲取：V短時間低成本獲取海量數(shù)據(jù)√定向獲取指定類型有效數(shù)據(jù)tarn參數(shù)空間分析對于自動駕駛規(guī)控而言，80%以上的數(shù)據(jù)是無效數(shù)據(jù)使用仿真環(huán)境+AI合成可以定向獲取有效數(shù)據(jù)，顯著加速模型送代二、相關(guān)探索紅旗新能源HDNGI■2.7A加速：云端大模型訓練自動駕駛規(guī)控需要面向駕駛風格需求進行設計，對應不同駕駛風格需要構(gòu)建多種AI模型自適應調(diào)整模型超參數(shù)與模型結(jié)構(gòu)，避免重復繁瑣的調(diào)參和模型結(jié)構(gòu)設計工作技術(shù)應用應用案例云端大模型訓練：√自動調(diào)整模型超參數(shù)√自動調(diào)整模型結(jié)構(gòu)TheVision自適應超參數(shù)調(diào)整自動網(wǎng)絡結(jié)構(gòu)搜索anicngligoreNeDandiritesNorDatasdNt.....IbarifetreM,AlpidnMAIpitha已經(jīng)成為了未來的發(fā)展趨勢使用AI技術(shù)學習如何進行AI模型本身的訓練，目錄紅旗新能源HDNGI背景分析相關(guān)探素幾點思考紅旗新能源三、幾點思考HDNGI■3.1AI在自動駕駛決策應用中的安全風險新一輪的人工智能浪潮受到了工業(yè)界以及全社會的廣泛關(guān)注，隨著一批人工智能的落地應用逐漸開始變成現(xiàn)實，安全問題也漸漸顯現(xiàn)出來cruisePOLICEPULLOVERDRIVERLESSCARNBCdSANFRANCISCO一輛Uber自動駕駛汽車在美國亞利桑那州坦佩發(fā)生交通事故造成一名行人

，這是首起自動駕駛汽車致行人

的交通事故一輛無人駕駛出租車，！由于晚上沒開大燈而被在警察走近后，這輛無人車居然突然加速“逃跑”直到遠程介入后才停下來2018年3月19日，2022年4月1日，警察攔截，紅旗新能源三、幾點思考HDNOCI■3.1AI在自動駕駛決策應用中的安全風險人工智能算法對學習樣本數(shù)據(jù)集的正確性存在嚴重依賴，錯誤的數(shù)據(jù)集將導致人工智能算法的錯誤輸出，人工智能算法本身存在安全盲點，難以對數(shù)據(jù)集的安全性進行分析表現(xiàn)：錯誤的數(shù)據(jù)集導致錯誤輸出局限性：安全盲點-·Q：ElizaElizansforroutocorcuttitwithearm比利時男子在與Chai應用程序上的一個Al聊天機器人交談中，聊天機器人鼓勵其通過自殺解除痛苦，該男子最后自殺身亡。-解決辦法：需要推進建設人工智能數(shù)據(jù)集安全管理的相關(guān)標準、法規(guī)，并構(gòu)建標準AI模型，對數(shù)據(jù)集安全性進行監(jiān)督保障紅旗新能源三、幾點思考HDNGI■3.1AI在自動駕駛決策應用中的安全風險人工智能算法提取特征的過程是隨機化的、不可控的，在不恰當?shù)臄?shù)據(jù)集上算法可能會選擇錯誤的特征，以致使用者不能清晰理解算法的決策機理，難以解釋、預測算法的行為和結(jié)果局限性：黑盒特性表現(xiàn)：算法輸出不可解釋INPUT輸入OUTPUTBLACK輸出BOX黑盒自動駕駛車輛經(jīng)過一座無人墓地時，車主發(fā)現(xiàn)中控屏幕上顯示出了可怕的未知“行人”。解決辦法：需要構(gòu)建基于AI與規(guī)則混合驅(qū)動的強化智能模型及安全大腦，實現(xiàn)可解釋的安全兜底。紅旗新能源三、幾點思考HDNGCI■3.1AI在自動駕駛決策應用中的安全風險系統(tǒng)越復雜，就越有可能包含安全隱患，人工智能算法容易受到輸入數(shù)據(jù)擾動的干擾，出現(xiàn)非魯棒特征，從而導致模型給出錯誤的結(jié)論表現(xiàn)：系統(tǒng)輸入增加擾動后輸出錯誤局限性：

不穩(wěn)定性無擾動+.007דpanda""nematode""gibbon"8.2%confidence99.3%confidence有擾動57.7%confidence對一幅“能貓”圖像增加少量擾動后輸入到AI算法中，AI算法將圖像錯解決辦法：需要構(gòu)建車路云協(xié)同監(jiān)管系統(tǒng)，在大系統(tǒng)、大環(huán)境中對AI智能駕駛車輛進行全面監(jiān)管。紅旗新能源三、幾點思考HDNGCI■3.2AI在自動駕駛決策應用中的231安全對策模型安全Step1Step6Step3AI標準/法規(guī)規(guī)則決策規(guī)劃控制校驗AI決策規(guī)劃感知數(shù)據(jù)安全Step2Step4Step5安全大腦車路云數(shù)據(jù)紅旗新能源三、幾點思考HDNGCI■3.3模型安全策略Step1收集示教數(shù)據(jù)，訓練監(jiān)督策略Step2收集對比數(shù)據(jù)，訓練獎勵模型Step3利用強化學習針對獎勵模型優(yōu)化策略從數(shù)據(jù)集中采集新的調(diào)優(yōu)數(shù)采集調(diào)優(yōu)數(shù)據(jù)及多個模型輸從調(diào)優(yōu)數(shù)據(jù)集中采樣據(jù)出貼簽展示出期望的決策行為策略生成單個輸出對輸出結(jié)果從好至壞進行打10數(shù)據(jù)被用于監(jiān)督學習方法對決策行為模型進行微獎助模型為輸出計算出獎勵值利用數(shù)據(jù)訓練獎助模型利用獎動值更新策略三、點思考紅旗新能源IDNCI■3.4數(shù)據(jù)安全策略需要對數(shù)據(jù)的使用權(quán)、所有權(quán)、運營權(quán)進行確權(quán)，使用數(shù)據(jù)時仍需對于敏感數(shù)據(jù)進行隱私保護，實現(xiàn)在充分挖掘數(shù)據(jù)使用價值的同時保障數(shù)據(jù)安全對于規(guī)劃決策這種相對表達需求，需借助仿真手段構(gòu)建精準評估模型，快速評估端到端決策效果，進而生成泛化海量高價值場景數(shù)據(jù)數(shù)據(jù)訓練評測部署自動化標注1②泛化數(shù)據(jù)篩選！人工設計優(yōu)質(zhì)數(shù)據(jù)標注訓練評估模型仿真部署仿真系統(tǒng)紅旗新能源三、幾點思考HDNOCI■3.5人工智能型與傳統(tǒng)規(guī)則型任務混合建模個感知融合決策規(guī)劃算法車輛控制安全仲裁GoalA快格安全仲裁模塊通過規(guī)則約束交規(guī)、安全等預設限制，進而保證AI決策大數(shù)據(jù)挖攝提取（影子模式）結(jié)果的安全可行通過混合傳統(tǒng)包含安全規(guī)則的決策算法，可以確保AI規(guī)劃決策算法在行駛過程中底線安全性，從而得到一個安全等級更高的決策框架紅旗新能源三、幾點思考HDNGCI■3.6安全大腦理念訓練獎勵模型SENSE構(gòu)建獎勵模型最優(yōu)排序數(shù)據(jù)標注：標注元根據(jù)預定義的標準對結(jié)果進行評估與排序構(gòu)建訓練模型：根據(jù)標注員的排序，學習模型的排序規(guī)則PLAN最優(yōu)排序：對模型輸出的結(jié)果，利用構(gòu)建的排序模型對其進行排序獎勵反饋：將排序后的結(jié)果反饋給模型，

以幫助模型改進決策策略ACT送代優(yōu)化■通過不斷選代訓練和獎勵信號的反饋，模型可以逐漸調(diào)整其決策策略，從而實現(xiàn)高類人性表達，為智能體研發(fā)提供基礎(chǔ)紅旗新能源三、幾點思考HDNGCI■3.7車路云協(xié)同監(jiān)督車路云協(xié)同監(jiān)督AI智能駕駛車輛行為，形成多重穴余系統(tǒng)級解決方案，獲取更及時、更全面外部信息，做出更合理決策不安全安全感知層·路側(cè)和云端輔助單車感知，車輛獲取全局道路交通元素實時動態(tài)信息，實現(xiàn)超視距感知和極自主換遞已知端場景感知補足決策層·路側(cè)邊緣計算節(jié)點與城市數(shù)據(jù)中心協(xié)同決策為車端提供算力補足控制層未知·云端匯聚車端、路端實時上傳的全局信息，指揮調(diào)度車輛、調(diào)控紅綠燈等交通設施，提高交通效率和交通安全格時熱單通過車路云方式，逐步實現(xiàn)遠程監(jiān)控一遠程監(jiān)督一遠程調(diào)度一集群管控轉(zhuǎn)變紅旗新能源三、幾點思考HDNGI■3.8AI系列標準與法規(guī)針對自動駕駛引入人工智能等新技術(shù)帶來的新問題，ISOIAWIPAS8800等標準、法規(guī)提供解決AI相關(guān)系統(tǒng)數(shù)據(jù)集安全性等全生命周期問題的規(guī)范，用來解決汽車引入的AI相關(guān)算法技術(shù)的安全性結(jié)合《網(wǎng)絡安全法》2023年4月11日，國家網(wǎng)信辦發(fā)布《生成式人工智能服務管理辦法（征求意見稿）》，《數(shù)據(jù)安全法》A助《個人信息保護法》等，關(guān)注要點在于產(chǎn)品安全評估審查、生成式內(nèi)容標識與用戶數(shù)據(jù)保護等手級說明ISOIAWIPAS8800RoadVehicles

SafetyandArtificialIntelligenceStrategyandObjectives可以使用現(xiàn)有動能安全方法和標準，進行開發(fā)裝保審的抵水Industry-specificguidanceonsafety-relatedAl/MLfunctions;A1A2B1Definesultablesafetyprinclples,methodsandevidencefuilingobjectiveswithISO26262(functionalsafety)andISO21488(safetyoftheintendedfunctionality)Harmonizeconceptsalreadydescrib