KNOWLEDGE VAULT — TAG
タグ「自己教師あり学習」
収蔵 14件
2026-11-19
温度調整と自己学習を統合した高効率なニューラルサンプラー:SSSの構築
Amortizing Tempered Sampling with Corrected Self-Training
出典:arXiv stat.ML (Statistical ML)(Authors: Hoang-Viet Nguyen, Hai-Dang Dau, Alexandre H. Thiéry | 2026-11-17)
- 非正規化分布からのサンプリングコストを削減する、ニューラルサンプラーの学習手法の提案。
- 温度調整(Tempering)と重要度サンプリング(Importance Sampling)を組み合わせた「修正付き自己学習」により、高品質な学習データの獲得を克服。
- 複雑なエネルギー地形を持つ分布において、少ないエネルギー評価数で高精度なサンプリングを実現する。
2026-11-19
GameRealm:ゲーム環境を基盤としたマルチモーダル・視覚知能の超大規模データセット
GameRealm: Grounding Visual Learning in Interactive Games
出典:Hugging Face Daily Papers(Upvotes: 1 | arXiv:2611.23140)
- ゲーム内の視覚情報を、同期された操作入力・3D軌跡・深度等のマルチモーダルな教師データと紐付けた大規模データセット「GameRealm」の提案。
- 断片的なデータや不均一なアノテーションの課題を、人間とエージェントを組み合わせた統一データ収集パイプラインと、1億超のRGBフレームによる網羅性で解決。
- 視覚生成(Generation)および幾何学的学習(Geometric Learning)の両面において、視覚基盤モデルの性能を安定的に強化する。
2026-11-19
マルチモーダル・マスク拡散自己符号化器(ID-MAE)による運転者の認知状態推論
Multimodal Masked Diffusion Autoencoder for Modeling Impaired Driving
出典:arXiv cs.LG (Machine Learning)(Authors: John Gideon, Anshul Gupta, Megan Applegate-Kenton et al. | 2026-11-17)
- 運転者の認知状態(注意散漫、ストレス等)を、視線・軌道・映像のマルチモーダルデータから推論する自己教師あり学習モデル。
- マスク拡散オートエンコーダ(ID-MAE)を導入し、ラベル予測と同時に視線・軌道の再構成を学習させることで、精度を大幅に向上。
- 大規模な運転シミュレータデータ(DIVERT)において、視覚的・認知的要因の分離や軌道予測など多角的なタスクで高い汎用性を発揮。
2026-11-18
ViTの普及に対する批判的考察:計算資源の過剰さとハイブリッド構造の優位性
Why are ViTs so popular? [D]
出典:Reddit r/MachineLearning(ML Research Community)
- Vanilla ViT(純粋なVision Transformer)の普及に対する、実用的な視点からの懐疑的分析。
- CNNの誘導バイアス(空間的局所性)を捨ててゼロから学習するViTに対し、CNN+Attentionのハイブリッド構造の効率性を強調。
- エッジデバイスや計算資源が限られた環境、あるいは特定の空間構造が強いデータセットにおいて、ハイブリッドモデルが実用的。
2026-11-18
再帰的推論をエネルギー関数で制御する「Energy-Based Reasoners (EBR)」の提案
Energy-Based Reasoners: Your Recurrent Reasoner Should Be an Energy-Based Model
出典:Hugging Face Daily Papers(Upvotes: 1 | arXiv:2611.08977)
- 再帰的構造(Looping)を用いた潜在空間での多段階推論を、エネルギー関数に基づく勾配降下として定式化した研究。
- 「いつ停止するか」「どう改善するか」という既存のループモデルの課題を、エネルギーの勾配による指針と停止条件の明示化で解決。
- 数独(Sudoku-Extreme)等のアルゴリズム推論や、複数の正解が存在する多解問題において、極めて高い精度と推論効率を両立。
2026-11-17
SALA:言語的意味を介した潜在行動空間の共有による、人間・ロボット動画の双方向スケーリング
SALA: Semantically Aligned Latent Actions Enable Dual-Axis Scaling of Embodied Foundation Models
出典:Hugging Face Daily Papers(Upvotes: 9 | arXiv:2611.17110)
- 人間とロボットの動画を共通の「潜在行動空間(Latent Action Space)」で統合するSALAフレームワークの提案。
- 従来の動画再構成のみに依存する手法に対し、言語記述を用いた「意味的対応」を導入することで、視覚的差異を克服し行動の共通性を抽出。
- 人間動画による大規模な事前学習と、タスク特化の人間動画による事後学習の両面で、ロボットの行動精度と成功率を向上させる。
2026-11-17
JEPAsにおける表現崩壊を打破する「需要と供給」の幾何学的制約:SADLの導入
SADL: On the Demand-Supply Geometry of Representation Collapse
出典:arXiv cs.LG (Machine Learning)(Authors: Junhan Sun, Yigui Feng, Mingzhe Liu et al. | 2026-11-16)
- JEPAs(Joint-Embedding Predictive Architectures)における表現崩壊(Representation Collapse)の根本原因を「供給不足」の幾何学的視点で解明。
- Projector後の正則化では不十分な「初期状態の共通成分」を、Encoderに直接制約を課すSADL(Supply And Demand Loss)で解決。
- LeWorldModelやINTACT等の複雑な制御タスクにおいて、崩壊率を50%から0%へ劇的に改善し、学習の安定性と精度を向上。
2026-11-17
Denoising Autoencoderの幾何学的解析:多様体構造に基づく再構成誤差の理論的境界とスケーリング則
A Geometric Understanding of Denoising Autoencoder with Applications to Image Denoising
出典:arXiv stat.ML (Statistical ML)(Authors: Haoran Yan, Rongjie Lai, Wenjing Liao | 2026-11-14)
- Denoising Autoencoder(DAE)がノイズを含むデータから元の多様体構造を復元する際の統計的挙動を幾何学的に定式化した研究。
- 単一多様体、分離された多様体、交差する多様体の3つのシナリオにおいて、サンプルサイズ $n$ に対する再構成誤差の上界を導出。
- 特に「多様体の交差」による曖昧性や、切線方向のノイズによる残差誤差を定量化しており、高次元データにおける汎化性能の限界を予測可能にする。
2026-11-16
潜在空間における双方向自己回帰を用いた人間動作のセマンティック表現学習
BAL: Bidirectional Autoregression in Latent Space for Learning Human Movement Representations
出典:arXiv cs.LG (Machine Learning)(Authors: Genki Kinoshita, Ko Nishino | 2026-11-13)
- 3Dポーズシーケンスから人間の動作の「意味(セマンティクス)」を抽出する自己教師あり学習フレームワーク「BAL」の提案。
- 人工的な制約(増強不変性やマスク復元)ではなく、人間の動作が持つ「自然な時間順序」を双方向の自己回帰として利用することで、ハイパーパラメータへの過度な依存を排除。
- 動作のキャプション生成、将来予測、補間といった、時系列の文脈理解が必要なタスクで高い性能を発揮する。
2026-11-16
ScoreCLR:Denoising Score Matchingを用いた高効率な対照学習と斥力項の最適化
Contrastive latent representation learning with denoising score matching
出典:arXiv stat.ML (Statistical ML)(Authors: Christopher Marouani, Grigory Bartosh, Christian A. Naesseth | 2026-11-13)
- 対照学習における「負例(異なるサンプル)への斥力」を、Denoising Score Matchingを用いて推定するScoreCLRを提案。
- 従来のバッチサイズに依存する負例の比較($O(N^2)$)を、学習可能な斥力項($O(N)$)に置き換え、高次元の呪いを回避。
- SimCLRと同等の精度を維持しつつ、より高いランク(多様性)を持つ潜在表現を、計算コストを抑えて獲得可能。
2026-11-14
3D乱流の時空間ダイナミクスを攻略する超大規模ベンチマーク「TurtLES」の構築と評価
TurtLES: A Large-Scale Benchmark for Turbulent 3D Neural PDE Surrogates
出典:Hugging Face Daily Papers(Upvotes: 4 | arXiv:2611.09567)
- 高精度な流体シミュレーション(LES)を用いた、3D円柱後流の超大規模データセット「TurtLES」の発表。
- 従来のデータセットに対し、渦の伸長によるエネルギーカスケード、不規則メッシュ、長期間の時系列動態を統合。
- ニューラルオペレーターの「時間的不安定性」や「小スケールエネルギーの消失」といった、実用上の課題を特定。
2026-11-14
異種ロボット・人間間の知能を統合する「Embodiment Dreaming」によるクロス・エンボディメント学習
EgoX: Egocentric Cross-Embodiment Manipulation with Embodiment Dreaming
出典:Hugging Face Daily Papers(Upvotes: 1 | arXiv:2611.16728)
- 異なる形態(人間、実機ロボット、シミュレーション)の操作データを統合的に学習する「EgoX」フレームワークの提案。
- モジュール化されたTransformer(MXT+)と、各形態の動態を予測する「Embodiment Dreaming」により、異種間のモダリティ差を克服。
- 特に未知の環境(Out-of-Distribution)において、事前学習によるタスク進捗率が大幅に向上(0.53→0.77)する。
2026-11-14
Agentic Semi-Supervised Learning (AgentSSL): LLMエージェントによる自己教師あり学習プログラムの自動探索
AgentSSL: Can MLE Agents Leverage Unlabeled Data?
出典:arXiv cs.LG (Machine Learning)(Authors: Ethan Lin, Akanksha Sarkar, Ziang Liu et al. | 2026-11-12)
- LLMエージェントを用いて、ラベル付きデータが少ない環境下で「自己教師あり学習(SSL)」のアルゴリズムを自動探索するAgentSSLを提案。
- 既存の人間による手動設計を凌駕し、8/12の実験設定で最大+21.8%の精度向上を達成。
- ラベル付きデータが極めて少なく、未ラベルデータが豊富にある実世界のドメイン(生態系検知等)で特に威力を発揮する。
2026-11-08
制約付き最適化のための反復ソルバーの自己教師あり学習
Self-Supervised Learning of Iterative Solvers for Constrained Optimization
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Lukas Lüken, Sergio Lucia | 2024-09-12)
- モデル予測制御などのリアルタイム性が求められる制約付き最適化問題に対し、ニューラルネットワークを用いた高速な反復ソルバーを提案。
- 初期推定値を生成する予測ネットワークと、それを高精度に洗練させる学習済み反復ソルバーの2段階構成を採用。
- KKT条件に基づく独自の損失関数を導入することで、正解ラベル(事前計算された最適解)を必要としない完全な自己教師あり学習を実現。
このページの要約は、収集パイプラインが自動生成した digest(要約)です。内容の正確なところは、必ず各項目の出典リンク先の原文で確認してください。出典の本文そのものは掲載していません。ジャンル分けも自動分類のため、周辺の話題が混ざることがあります。