表示學習是通過利用訓練數據來學習得到向量表示,這可以克服人工方法的局限性。 表示學習通常可分為兩大類,無監督和有監督表示學習。大多數無監督表示學習方法利用自動編碼器(如去噪自動編碼器和稀疏自動編碼器等)中的隱變量作為表示。 目前出現的變分自動編碼器能夠更好的容忍噪聲和異常值。 然而,推斷給定數據的潛在結構幾乎是不可能的。 目前有一些近似推斷的策略。 此外,一些無監督表示學習方法旨在近似某種特定的相似性度量。提出了一種無監督的相似性保持表示學習框架,該框架使用矩陣分解來保持成對的DTW相似性。 通過學習保持DTW的shaplets,即在轉換後的空間中的歐式距離近似原始數據的真實DTW距離。有監督表示學習方法可以利用數據的標簽信息,更好地捕獲數據的語義結構。 孿生網絡和三元組網絡是目前兩種比較流行的模型,它們的目標是最大化類別之間的距離並最小化了類別內部的距離。

VIP內容

如何學習良好的潛在表示是現代機器學習時代的一個重要課題。對於強化學習,使用一個好的表示使決策過程更加有效。本次演講,我將介紹我們的工作,構建基於任務的潛在操作空間,用於基於搜索的黑盒函數優化,尋找策略變更的表示,該表示支持在不完全信息協同博弈中聯合策略搜索,以及不同的表示如何影響RL探索。

視頻:

https://www.youtube.com/watch?v=sH4a2a0ntUA

成為VIP會員查看完整內容
0
15
1

最新論文

In this work, we propose a Cross-view Contrastive Learning framework for unsupervised 3D skeleton-based action Representation (CrosSCLR), by leveraging multi-view complementary supervision signal. CrosSCLR consists of both single-view contrastive learning (SkeletonCLR) and cross-view consistent knowledge mining (CVC-KM) modules, integrated in a collaborative learning manner. It is noted that CVC-KM works in such a way that high-confidence positive/negative samples and their distributions are exchanged among views according to their embedding similarity, ensuring cross-view consistency in terms of contrastive context, i.e., similar distributions. Extensive experiments show that CrosSCLR achieves remarkable action recognition results on NTU-60 and NTU-120 datasets under unsupervised settings, with observed higher-quality action representations. Our code is available at https://github.com/LinguoLi/CrosSCLR.

0
0
0
下載
預覽
Top