KNOWLEDGE VAULT — TAG
タグ「投機的デコーディング」
収蔵 6件
全6件
収蔵記事一覧
2026-11-21
投機的デコーディングを「修正」へ昇華:ストリーミング世界モデルのためのSpecWM
SpecWM: Turning Verification into Refinement for Streaming World Models
出典:Hugging Face Daily Papers(Upvotes: 1 | arXiv:2611.26211)
- 動画生成世界モデルにおける「投機的デコーディング」を、単なる検証から「修正(Refinement)」へと拡張する推論フレームワーク。
- 従来の「拒否・再生成」によるコストを抑え、ターゲットの潜在速度場(Latent Velocity Field)を用いてドラフトを直接修正する。
- ナビゲーションや長期間のロールアウトにおいて、推論速度を維持しつつ視覚品質と軌道の一貫性を大幅に向上させる。
2026-11-20
拡散言語モデルにおける低予算推論時の精度低下を克服する「CaRR」フレームワーク
Closing Performance Gap for Diffusion Language Models under Low Inference Budgets
出典:arXiv stat.ML (Statistical ML)(Authors: Hao Wu, Sipeng Chen, Jingwen Fu et al. | 2026-11-19)
- 拡散言語モデル(Diffusion LM)の並列デコーディングによる推論高速化と、低予算時(少ないステップ数)の精度低下を解決する手法の提案。
- 学習不要のフレームワーク「CaRR」を導入し、更新された文脈に基づく再マスク(TCR)と、軌道に基づく候補復元(SCR)で品質を維持。
- 特にコード生成や数学的推論において、極めて少ない推論ステップ(フル予算の1/8等)での精度向上が顕著に現れる。
2026-11-19
推論高速化の極致:メモリ保持と非一様層選択による次世代投機的デコーディング「DNeo」
DNeo: Your Parallel Draft Model Needs Better Target Feature Encoding
出典:Hugging Face Daily Papers(Upvotes: 4 | arXiv:2611.21925)
- 投機的デコーディング(Speculative Decoding)におけるドラフトモデルの精度と推論速度を両立させる新手法「DNeo」の提案。
- 既存の「特徴量エンコーディング」が抱える「情報の損失」「記憶の欠如」「不適切な層のサンプリング」の3課題を、MoFA(Mixture-of-Features Attention)等で解決。
- LLMの推論速度をSOTA(DFlash-2)比で1.3倍高速化しつつ、ドラフトモデルのサイズや生成品質を維持したまま性能を向上。
2026-11-19
AnyS1:エージェントの意思決定を高速化する汎用的なSystem-1推論フレームワーク
Thinking Fast, Anywhere: One System-1 for the Decision Points of Any Agent Workflow
出典:Hugging Face Daily Papers(Upvotes: 0 | arXiv:2611.23751)
- LLMエージェントの全工程で巨大モデル(System-2)を呼び出すコストと遅延を削減する「AnyS1」の提案。
- ワークフロー固有のフックを個別に書く代わりに、既存のスキルから「選択可能な決定点」を自動抽出し、共通の軽量モデル(System-1)で処理する。
- 未知のベンチマークにおいて、信頼度が閾値を下回る場合のみSystem-2へフォールバックすることで、コストを最大91%削減しつつ精度を維持する。
2026-11-16
マルチモーダルLLMの推論高速化:視覚依存度を適応的に制御する推論加速フレームワーク「MMFlash」
MMFlash: Faster Speculative Decoding for Vision-Language Models
出典:Hugging Face Daily Papers(Upvotes: 26 | arXiv:2611.18482)
- Vision-Language Model(VLM)における推論を高速化する、投機的デコーディング(Speculative Decoding)のマルチモーダル拡張手法の提案。
- 視覚情報の依存度が高いトークンを特定し、ドラフターの予測精度を適応的に補強することで、既存手法(DFlash等)を大幅に上回る加速を実現。
- 特に長尺のビデオ入力など、視覚情報とテキストの密接な連動が必要なマルチモーダルタスクにおいて、精度を維持したまま最大3.58倍の高速化を達成。
2026-11-14
ニューロシンボリックRLによる投資制約の内部化:連続アクション空間での制約遵守最適化
Internalizing Investment Mandates: A Neurosymbolic RL Approach to Portfolio Allocation
出典:arXiv cs.LG (Machine Learning)(Authors: Zeynep Yıldız, Satchit Chatterji, Ercan Atam et al. | 2026-11-12)
- 投資方針(IPS)に基づく資産配分制約を、強化学習(RL)の目的関数に直接組み込むニューロシンボリック手法の提案。
- 従来の報酬ペナルティ型や離散アクション前提のPLPGに対し、再パラメータ化モンテカルロサンプリングを用いた連続アクション空間での制約充足確率を学習。
- 市場レジームに応じた複雑な多重制約下において、後処理(Post-hoc)なしで制約違反を劇的に抑制(96%→4.8%)する。
条件に合う収蔵記事が見つかりませんでした。別のキーワードをお試しください。
このページの要約は、収集パイプラインが自動生成した digest(要約)です。内容の正確なところは、必ず各項目の出典リンク先の原文で確認してください。出典の本文そのものは掲載していません。ジャンル分けも自動分類のため、周辺の話題が混ざることがあります。