人機混合增強智能

-歷史與基礎人機混合增強智能的基礎理論特征表示面向人機協同的視覺知識理解脈沖神經網絡不確定估計理論及相關知識特征表示多模態信息統一表征共享子空間學習解耦表示學習知識蒸餾深度特征表示學習的意義多模態信息統一表征：表現形式復雜主要原因包括：特征表述維度不同，e.g,多模態圖像、語音、文本數據某些維度存在缺失觀察到的維度相互糾纏大數據缺乏人工標注因而導致標記稀缺、采集數據質量差等。另外，用于預測的深度模型架構過大，不利于在需要考慮性價比的場合，布局人機協同的混合增強智能的應用，需要學習一個更小型的預測模型結構。

多模態信息統一表征多模態信息統一表征統計學習參見《學習理論》PPT深度學習深度學習里的統一表征自編碼Autoencoder共享子空間學習共享子空間(SharedSubspace)隱共同(common)個性PrivateIndividualIndependentCanonicalcorrelationanalysis

(CCA,Hotellingetal.1936)KernelCorrelationCanonicalAnalysis(ICML,2013)Idea:Findprojectionsdirectlymaximizingnon-lineardependence.Let:Twochoicesofdependencemeasures:HilbertSchmidtIndependenceCriterion

(HSIC)andKernelTargetAlignment(KTA):

HSIC:KTA:hsicCCAandktaCCAcriterionfunctions:DefinekernelfunctionsandGrammatricesfortheprojecteddata:TrainingbyGradientDescent;Furtherprojectionsbyorthogonalizingxiand

yiontoestimateduandvandrefit.其他基于任務的共享子空間方法基于度量的共享子空間方法

MetricLearning(度量學習）RestrictedBoltzmannMachines,RBMNgiametal.MultimodalDeepLearning,ICML2011GeoffreyHinton受限玻爾茲曼機（辛頓）模型參數：勢函數劃分函數劃分函數:玻爾茲曼分布：兩種變形：有向圖、無向圖（相互作用力）優化：WakeandSleep（預訓練+微調）逐層訓練+深度模型訓練

首先逐層構建單層神經元，這樣每次都是訓練一個單層網絡。當所有層訓練完后，Hinton使用wake-sleep算法進行調優。Wake:認知過程/使用自下上升無監督學習（從底層開始，一層一層的往頂層訓練）：通過外界的特征和向上的權重（認知權重）產生每一層的抽象表示（結點狀態），并且使用梯度下降修改層間的下行權重（生成權重）。也就是“如果現實跟我想象的不一樣，改變我的權重使得我想象的東西就是這樣的”。Sleep:生成過程/自頂向下的監督學習（通過帶標簽的數據去訓練，誤差自頂向下傳輸，對網絡進行微調）：通過頂層表示（醒時