トップ › 知識庫
KNOWLEDGE VAULT — 技術知識庫
今日の収蔵
Japan Open Data Lab が毎日収集・蒸留している技術知識庫の収蔵一覧です。論文や技術記事の所在と要約だけを公開し、出典の本文は掲載しません。
総収蔵 323件 最新の収蔵日 2026-11-19 ジャンル 11種
ジャンルから探す
最新の収蔵(2026-11-19)
2026-11-19
検索拡張型LLMにおける「証拠の有用性」に基づく動的なクレジット割り当て(ECA) Evidence-Based Credit Assignment for Search-Augmented Language Models
出典:Hugging Face Daily Papers (Upvotes: 2 | arXiv:2611.23824)
検索拡張型言語モデル(Search-Augmented LM)に対し、最終的な正誤報酬だけでなく、検索された証拠の有用性を評価する「Evidence-based Credit Assignment (ECA)」を提案。 従来のOutcome Supervisionでは「無意味な検索」も正解に寄与したと誤認されるが、ECAは凍結されたポリシーを用いて証拠の寄与度を分離評価することで、学習の効率を劇的に改善。 MultiHop-RAGを含む複数の検索QAベンチマークにおいて、特にQwen2.5等の軽量モデルで顕著な精度向上(最大4.8pt)と、マルチホップ推論への強い汎用性を示した。 2026-11-19
メカニスティック・クリティックによるサンプル効率の高いNPU設計空間探索(DSE)の最適化 Mechanistic Critics for Sample-Efficient NPU Design-Space Exploration
出典:Hugging Face Daily Papers (Upvotes: 4 | arXiv:2611.24733)
LLM推論用NPUの設計空間探索(DSE)において、シミュレータの「遅延・電力」というスカラーなフィードバックを超え、ボトルネックの要因を特定する「Mechanistic Critic」を提案。 従来のシミュレータ依存の探索に対し、ハードウェア制約に基づく予測と演算子レベルの実行時間集計を組み合わせることで、シミュレーション回数を約半分に抑えつつ高精度な最適化を実現。 特に、計算スループットとHBM帯域のどちらが制約となるかが変動する「Prefill」および「Decode」のワークロードにおいて、極めて高い探索効率を発揮する。 2026-11-19
「Attention at Absolute Zero」:ソフトアテンションの限界を打破する「零度(Zero Temperature)」の高次推論層 Attention at Absolute Zero
出典:Hugging Face Daily Papers (Upvotes: 2 | arXiv:2611.11937)
ソフトアテンションの「重みの分散」「スコアの隙間」「状態のドリフト」という構造的欠陥を、零度(Zero Temperature)での高次アテンション層で解決する手法。 従来のソフトアテンションが大規模データで精度を落とすのに対し、本手法は「証人(Witnesses)」の比較ビットを用いることで、極めて高い正確性とスケーラビリティを両立。 論理推論(2-SAT、彩色問題)、家族関係の連鎖、CLUTRR等の複雑な関係性抽出において、既存のSOTAや凍結された7Bモデルを凌駕する性能を発揮。 2026-11-19
推論高速化の極致:メモリ保持と非一様層選択による次世代投機的デコーディング「DNeo」 DNeo: Your Parallel Draft Model Needs Better Target Feature Encoding
出典:Hugging Face Daily Papers (Upvotes: 4 | arXiv:2611.21925)
投機的デコーディング(Speculative Decoding)におけるドラフトモデルの精度と推論速度を両立させる新手法「DNeo」の提案。 既存の「特徴量エンコーディング」が抱える「情報の損失」「記憶の欠如」「不適切な層のサンプリング」の3課題を、MoFA(Mixture-of-Features Attention)等で解決。 LLMの推論速度をSOTA(DFlash-2)比で1.3倍高速化しつつ、ドラフトモデルのサイズや生成品質を維持したまま性能を向上。 2026-11-19
対向角RGBカメラのみで実現するリアルタイムBEV軌道再構成と予測(OCTR2A) OCTR2A: Real-Time RGB-to-BEV Trajectory Projection and Forecasting at Urban Intersections
出典:arXiv cs.LG (Machine Learning) (Authors: Emanuele Iacobelli, Simone Teglia, Francesco Pro et al. | 2026-11-18)
高価なLiDARやHDマップを介さず、対向角のRGBカメラのみからBEV(鳥瞰図)軌道を再構成・予測する手法。 TransformerによるBEV投影とegocentric GRUを統合し、既存のBEV履歴を用いる手法に対しADE/FDEを大幅に改善。 合成データ(R3ST++)による事前学習と実世界への転移学習を組み合わせることで、インフラ制約の強い都市環境で威力を発揮。 2026-11-19
シミュレータの「不正確な自信」を暴く:Sim-to-Realにおける過信とバックボーン適応の非対称性 Unreasonable Confidence from Simulator Misspecification: Directional Robustness on the SPEED+ Sim-to-Real Benchmark
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.20321)
シミュレータの放射計的誤差(鏡面反射や飽和の欠如)が、モデルに「誤った自信(Overconfidence)」を与える現象を特定。 単純なデータ拡張よりも、バックボーンの最終ステージを適応させる方が、Sim-to-Realのギャップを埋める上で圧倒的に効果的。 特定の照明条件(拡散光 vs 直射光)に対し、データ拡張の効果が「モデルが学習した方向」にのみ偏るという非対称性を解明。 2026-11-19
温度調整と自己学習を統合した高効率なニューラルサンプラー:SSSの構築 Amortizing Tempered Sampling with Corrected Self-Training
出典:arXiv stat.ML (Statistical ML) (Authors: Hoang-Viet Nguyen, Hai-Dang Dau, Alexandre H. Thiéry | 2026-11-17)
非正規化分布からのサンプリングコストを削減する、ニューラルサンプラーの学習手法の提案。 温度調整(Tempering)と重要度サンプリング(Importance Sampling)を組み合わせた「修正付き自己学習」により、高品質な学習データの獲得を克服。 複雑なエネルギー地形を持つ分布において、少ないエネルギー評価数で高精度なサンプリングを実現する。 2026-11-19
高次元構造のガウス条件付き性を活用した、高速・高精度な事後分布推論コンパイラ「CONGA」 CONGA: Compiling Gaussian Fiber Geometry for Structured Bayesian Inference
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.20995)
構造化ベイズモデルにおける「ガウス条件付きの潜在ブロック」を特定し、アフィン写像を用いて標準正規分布へ変換する推論加速技術。 既存の汎用推論(NUTS等)が再学習(Warmup)で無駄にする幾何構造を事前にコンパイルし、計算コストに応じた最適な写像(Brenier/Knothe-Rosenblatt等)を選択する。 高次元の経済指標(Stock-Watsonモデル)や電力負荷モデルなど、次元は高いがコア変数が限定的な構造化データにおいて、推論速度の劇的な向上と収束性の改善を実現する。 2026-11-19
VAEのリズム(周期性)を突く:生成動画の構造的欠陥を捉えるゼロショット検知手法 VAE Rhythm: Temporal Decoding Traces for AI-Generated Video Detection
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.21114)
生成動画特有の「VAEデコード過程における時間的な周期性(VAE Rhythm)」を検知指標として発見。 視覚的なノイズ(Artifacts)に頼らず、生成パイプラインの構造的特徴を捉えることで、最新モデル(Sora, Kling等)にも対応。 学習不要の「Phase Scan」によるゼロショット評価に加え、これを教師データ生成に活用したCaDetモデルで最高精度を達成。 2026-11-19
GameRealm:ゲーム環境を基盤としたマルチモーダル・視覚知能の超大規模データセット GameRealm: Grounding Visual Learning in Interactive Games
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.23140)
ゲーム内の視覚情報を、同期された操作入力・3D軌跡・深度等のマルチモーダルな教師データと紐付けた大規模データセット「GameRealm」の提案。 断片的なデータや不均一なアノテーションの課題を、人間とエージェントを組み合わせた統一データ収集パイプラインと、1億超のRGBフレームによる網羅性で解決。 視覚生成(Generation)および幾何学的学習(Geometric Learning)の両面において、視覚基盤モデルの性能を安定的に強化する。 2026-11-19
Ambient SFT:温度調整による「事前学習の知識」を維持した高効率な微調整手法 Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching
出典:arXiv cs.LG (Machine Learning) (Authors: Giannis Daras, Marios Papachristou, Adam Klivans et al. | 2026-11-17)
少量の高品質データで微調整を行う際に発生する「過学習」と「分布の裾(Tail)の忘却」を抑制するAmbient SFTの提案。 事前学習モデルを「ノイズの多い教師」と見なし、高温度(High-temperature)の確率分布を一致させることで、知識の崩壊を防ぐ。 ドメイン適応、指示学習(Instruction-tuning)、推論タスクにおいて、標準的なSFTを最大21%改善する。 2026-11-19
マルチモーダル・マスク拡散自己符号化器(ID-MAE)による運転者の認知状態推論 Multimodal Masked Diffusion Autoencoder for Modeling Impaired Driving
出典:arXiv cs.LG (Machine Learning) (Authors: John Gideon, Anshul Gupta, Megan Applegate-Kenton et al. | 2026-11-17)
運転者の認知状態(注意散漫、ストレス等)を、視線・軌道・映像のマルチモーダルデータから推論する自己教師あり学習モデル。 マスク拡散オートエンコーダ(ID-MAE)を導入し、ラベル予測と同時に視線・軌道の再構成を学習させることで、精度を大幅に向上。 大規模な運転シミュレータデータ(DIVERT)において、視覚的・認知的要因の分離や軌道予測など多角的なタスクで高い汎用性を発揮。 2026-11-19
Attentionネットワークをハード論理回路へ変換:推論高速化と解釈性を両立する「テセウスの船」型置換手法 How to Turn an Attention Neural Network into an Interpretable Hard-Logic Predicate Circuit: Truth-Table Predicate Extraction and State-Machine Merging under Ship-of-Theseus Replacement
出典:arXiv cs.LG (Machine Learning) (Authors: Yuchen Li, Zongqi Fan, Xintong Li et al. | 2026-11-18)
学習済みAttentionネットワークを、0/1の述語と最小化された真理値表からなるハード論理回路へ変換する手法の提案。 GPU推論と比較して2〜3桁高速なFPGA実装を可能にしつつ、教師モデルの正解データのみを模倣することで高い精度を維持。 DistilGPT2やBERTを用いた感情分析等のタスクにおいて、極めて低消費電力かつ高速なエッジ推論を実現する。 2026-11-19
LogT:論理的思考を組み込んだ自動データ生成による、高効率な視覚検索・ツール利用の最適化 LogT: Logically Think with Images for Visual Search
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.19200)
視覚言語モデル(VLM)にZoom-inツールを用いた微細な視覚検索と論理的推論を統合する「LogT」を提案。 複雑な強化学習(RL)に頼らず、論理鎖(Logic-chain)を強制した高品質なSFTデータ生成により、RL手法を凌駕する精度を達成。 極めて少ないデータ量と計算リソース(GPU時間)で、複雑な視覚的問いに対する正確かつ効率的なツール操作を実現。 2026-11-19
グラフ構造推定における「モチーフ順序の限界」と非識別性の定式化 Bounded-Order Non-Identifiability in Latent Structure Block Models: The Fiber in Closed Form
出典:arXiv stat.ML (Statistical ML) (Authors: Sie Hendrata Dharmawan, Peter Chin | 2026-11-17)
潜在構造ブロックモデル(LSBM)における、有限のモチーフ(部分グラフ)密度では識別不可能な「ファイバー(非識別領域)」の閉形式解を導出。 既存のスペクトル手法やモチーフ計数法では、特定の条件下で真の構造を捉えられず、信頼区間も正しく機能しないことを数学的に証明。 大規模グラフの構造推定において、どの程度のモチーフ順序が必要か、あるいはどの手法が「偽の適合」を起こすかを判定する実用的なチェックリストを提供。 2026-11-19
時間不均一線形MDPにおける分散依存型強化学習の効率化と決定論的環境への最適化 Efficient Variance-Aware Reinforcement Learning in Time-Inhomogeneous Linear MDPs
出典:arXiv stat.ML (Statistical ML) (Authors: Qingyue Zhao, Qiwei Di, Jiafan He et al. | 2026-11-17)
時間不均一な線形MDP(Time-Inhomogeneous Linear MDPs)における、分散の大きさに応じた後悔(Regret)の理論とアルゴリズムを提案。 既存手法では決定論的環境でも残存していた$K^{1/4}$の誤差項を排除し、分散の最小値に適合する$\tilde{O}(d\sqrt{H\min\{\mathrm{Var}_K^*,\mathrm{Var}_K^π\}}+d^5H^4)$の境界を達成。 ノイズの少ない(決定論的な)環境では極めて高い精度を維持しつつ、高ノイズ環境では分散を考慮した効率的な学習を実現する。 2026-11-19
ブラックボックス生成モデルに対応する「歪みゼロ」のセマンティック・ウォーターマーク技術 Distortion-Free Semantic Watermarks for Black-Box Generative Models
出典:arXiv cs.LG (Machine Learning) (Authors: Aviv Yossef, Or Patashnik, Or Zamir | 2026-11-17)
生成AIの出力品質を一切損なわず(Distortion-free)、セマンティックな特徴量に基づく電子透かしを付与するアルゴリズムの提案。 モデルの内部構造(ホワイトボックス)を必要とせず、サンプリングとセマンティック埋め込みへのアクセスのみで動作する汎用性を実現。 圧縮やクロッピング等のコンテンツを維持する変換に対して堅牢であり、オープンソースおよびクローズドモデルの両方で有効。 2026-11-19
輸送距離・発散量に基づく不確実性耐性を持つロバストActor-Critic学習 Robust Actor-Critic Learning under Transport and Divergence Uncertainty
出典:arXiv stat.ML (Statistical ML) (Authors: Kunqi Huang, Lican Kang, Hongrui Shu et al. | 2026-11-17)
遷移ダイナミクスの不確実性と関数推定誤差を考慮した、連続状態・行動空間向けのロバストActor-Critic手法の提案。 Wasserstein距離やKLダイバージェンス等の多様な不確実性セットを統合し、条件付き拡散モデルと指数加重スコアマッチングを組み合わせて安定性を向上。 オフラインデータから学習を行う強化学習において、環境のノイズやモデルの不正確さが大きい動的制御問題で威力を発揮する。 2026-11-19
可変長・マルチモーダル生成を可能にする「Variable Length Diffuse Everything (VL-DE)」フレームワーク Variable Length Diffuse Everything: Arbitrary Length Generative Modeling on Arbitrary State Spaces
出典:arXiv stat.ML (Statistical ML) (Authors: Kevin Rojas, Felix X. -F. Ye, Molei Tao | 2026-11-18)
任意の状態空間における可変長マルチモーダルデータの生成を可能にする「VL-DE」フレームワークの提案。 パディングや特殊な長さ予測の導入を排除し、理論に基づいた「挿入(Insertion)メカニズム」で可変長を扱う。 レイアウト生成(座標+属性)や分子構造生成など、連続値と離散値が混在する可変長データに極めて強力。 2026-11-19
基盤モデルへの「不確実性」の明示による推論精度の大幅な向上 Tell Me How Sure You Are: Communicating Uncertainty in Auxiliary Evidence to Foundation Models
出典:arXiv cs.LG (Machine Learning) (Authors: Soumyajit Chatterjee, Baturalp Buyukates, Abhirup Ghosh | 2026-11-18)
LLM/VLMへの補助情報(Context)を注入する際、その情報の「不確実性」を併せて伝える手法の有効性を実証。 不確実性を伝達することで、従来のプロンプト手法と比較してMacro-F1スコアを最大26.18ポイント改善。 人間による主観的な不確実性および学習モデルによる予測不確実性の両方が、下流の意思決定を正しく導く。
タグから探す
新着10件
2026-11-19
検索拡張型LLMにおける「証拠の有用性」に基づく動的なクレジット割り当て(ECA) Evidence-Based Credit Assignment for Search-Augmented Language Models
出典:Hugging Face Daily Papers (Upvotes: 2 | arXiv:2611.23824)
検索拡張型言語モデル(Search-Augmented LM)に対し、最終的な正誤報酬だけでなく、検索された証拠の有用性を評価する「Evidence-based Credit Assignment (ECA)」を提案。 従来のOutcome Supervisionでは「無意味な検索」も正解に寄与したと誤認されるが、ECAは凍結されたポリシーを用いて証拠の寄与度を分離評価することで、学習の効率を劇的に改善。 MultiHop-RAGを含む複数の検索QAベンチマークにおいて、特にQwen2.5等の軽量モデルで顕著な精度向上(最大4.8pt)と、マルチホップ推論への強い汎用性を示した。 2026-11-19
メカニスティック・クリティックによるサンプル効率の高いNPU設計空間探索(DSE)の最適化 Mechanistic Critics for Sample-Efficient NPU Design-Space Exploration
出典:Hugging Face Daily Papers (Upvotes: 4 | arXiv:2611.24733)
LLM推論用NPUの設計空間探索(DSE)において、シミュレータの「遅延・電力」というスカラーなフィードバックを超え、ボトルネックの要因を特定する「Mechanistic Critic」を提案。 従来のシミュレータ依存の探索に対し、ハードウェア制約に基づく予測と演算子レベルの実行時間集計を組み合わせることで、シミュレーション回数を約半分に抑えつつ高精度な最適化を実現。 特に、計算スループットとHBM帯域のどちらが制約となるかが変動する「Prefill」および「Decode」のワークロードにおいて、極めて高い探索効率を発揮する。 2026-11-19
「Attention at Absolute Zero」:ソフトアテンションの限界を打破する「零度(Zero Temperature)」の高次推論層 Attention at Absolute Zero
出典:Hugging Face Daily Papers (Upvotes: 2 | arXiv:2611.11937)
ソフトアテンションの「重みの分散」「スコアの隙間」「状態のドリフト」という構造的欠陥を、零度(Zero Temperature)での高次アテンション層で解決する手法。 従来のソフトアテンションが大規模データで精度を落とすのに対し、本手法は「証人(Witnesses)」の比較ビットを用いることで、極めて高い正確性とスケーラビリティを両立。 論理推論(2-SAT、彩色問題)、家族関係の連鎖、CLUTRR等の複雑な関係性抽出において、既存のSOTAや凍結された7Bモデルを凌駕する性能を発揮。 2026-11-19
推論高速化の極致:メモリ保持と非一様層選択による次世代投機的デコーディング「DNeo」 DNeo: Your Parallel Draft Model Needs Better Target Feature Encoding
出典:Hugging Face Daily Papers (Upvotes: 4 | arXiv:2611.21925)
投機的デコーディング(Speculative Decoding)におけるドラフトモデルの精度と推論速度を両立させる新手法「DNeo」の提案。 既存の「特徴量エンコーディング」が抱える「情報の損失」「記憶の欠如」「不適切な層のサンプリング」の3課題を、MoFA(Mixture-of-Features Attention)等で解決。 LLMの推論速度をSOTA(DFlash-2)比で1.3倍高速化しつつ、ドラフトモデルのサイズや生成品質を維持したまま性能を向上。 2026-11-19
対向角RGBカメラのみで実現するリアルタイムBEV軌道再構成と予測(OCTR2A) OCTR2A: Real-Time RGB-to-BEV Trajectory Projection and Forecasting at Urban Intersections
出典:arXiv cs.LG (Machine Learning) (Authors: Emanuele Iacobelli, Simone Teglia, Francesco Pro et al. | 2026-11-18)
高価なLiDARやHDマップを介さず、対向角のRGBカメラのみからBEV(鳥瞰図)軌道を再構成・予測する手法。 TransformerによるBEV投影とegocentric GRUを統合し、既存のBEV履歴を用いる手法に対しADE/FDEを大幅に改善。 合成データ(R3ST++)による事前学習と実世界への転移学習を組み合わせることで、インフラ制約の強い都市環境で威力を発揮。 2026-11-19
シミュレータの「不正確な自信」を暴く:Sim-to-Realにおける過信とバックボーン適応の非対称性 Unreasonable Confidence from Simulator Misspecification: Directional Robustness on the SPEED+ Sim-to-Real Benchmark
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.20321)
シミュレータの放射計的誤差(鏡面反射や飽和の欠如)が、モデルに「誤った自信(Overconfidence)」を与える現象を特定。 単純なデータ拡張よりも、バックボーンの最終ステージを適応させる方が、Sim-to-Realのギャップを埋める上で圧倒的に効果的。 特定の照明条件(拡散光 vs 直射光)に対し、データ拡張の効果が「モデルが学習した方向」にのみ偏るという非対称性を解明。 2026-11-19
温度調整と自己学習を統合した高効率なニューラルサンプラー:SSSの構築 Amortizing Tempered Sampling with Corrected Self-Training
出典:arXiv stat.ML (Statistical ML) (Authors: Hoang-Viet Nguyen, Hai-Dang Dau, Alexandre H. Thiéry | 2026-11-17)
非正規化分布からのサンプリングコストを削減する、ニューラルサンプラーの学習手法の提案。 温度調整(Tempering)と重要度サンプリング(Importance Sampling)を組み合わせた「修正付き自己学習」により、高品質な学習データの獲得を克服。 複雑なエネルギー地形を持つ分布において、少ないエネルギー評価数で高精度なサンプリングを実現する。 2026-11-19
高次元構造のガウス条件付き性を活用した、高速・高精度な事後分布推論コンパイラ「CONGA」 CONGA: Compiling Gaussian Fiber Geometry for Structured Bayesian Inference
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.20995)
構造化ベイズモデルにおける「ガウス条件付きの潜在ブロック」を特定し、アフィン写像を用いて標準正規分布へ変換する推論加速技術。 既存の汎用推論(NUTS等)が再学習(Warmup)で無駄にする幾何構造を事前にコンパイルし、計算コストに応じた最適な写像(Brenier/Knothe-Rosenblatt等)を選択する。 高次元の経済指標(Stock-Watsonモデル)や電力負荷モデルなど、次元は高いがコア変数が限定的な構造化データにおいて、推論速度の劇的な向上と収束性の改善を実現する。 2026-11-19
VAEのリズム(周期性)を突く:生成動画の構造的欠陥を捉えるゼロショット検知手法 VAE Rhythm: Temporal Decoding Traces for AI-Generated Video Detection
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.21114)
生成動画特有の「VAEデコード過程における時間的な周期性(VAE Rhythm)」を検知指標として発見。 視覚的なノイズ(Artifacts)に頼らず、生成パイプラインの構造的特徴を捉えることで、最新モデル(Sora, Kling等)にも対応。 学習不要の「Phase Scan」によるゼロショット評価に加え、これを教師データ生成に活用したCaDetモデルで最高精度を達成。 2026-11-19
GameRealm:ゲーム環境を基盤としたマルチモーダル・視覚知能の超大規模データセット GameRealm: Grounding Visual Learning in Interactive Games
出典:Hugging Face Daily Papers (Upvotes: 1 | arXiv:2611.23140)
ゲーム内の視覚情報を、同期された操作入力・3D軌跡・深度等のマルチモーダルな教師データと紐付けた大規模データセット「GameRealm」の提案。 断片的なデータや不均一なアノテーションの課題を、人間とエージェントを組み合わせた統一データ収集パイプラインと、1億超のRGBフレームによる網羅性で解決。 視覚生成(Generation)および幾何学的学習(Geometric Learning)の両面において、視覚基盤モデルの性能を安定的に強化する。
このページの要約は、収集パイプラインが自動生成した digest(要約)です。内容の正確なところは、必ず各項目の出典リンク先の原文で確認してください。出典の本文そのものは掲載していません。ジャンル分けも自動分類のため、周辺の話題が混ざることがあります。