KNOWLEDGE VAULT — TAG
タグ「表現学習」
収蔵 83件
2026-11-15
メタ学習によるパラメータ空間の幾何学的構造化:関数間の「加法的な関係性」の発見
Linking Rapid Learning to Compositional Structure in Neural Networks: Evidence from Additive Analogies in Meta-Learned Parameter Spaces
出典:arXiv cs.LG (Machine Learning)(Authors: Abigail L. Tenenbaum, R. Thomas McCoy | 2026-11-12)
- メタ学習が「いかにして急速な学習を可能にするか」を、パラメータ空間内の加法的構造(Additive Analogies)の観点から解明。
- 単なる初期値の最適化ではなく、ネットワークの表現空間を「関数の意味的な関係(例:王 - 男 + 女 = 女王)」に沿って幾何学的に整列させることを発見。
- 少数のサンプルから急速な適応を必要とするFew-shot Learningや、構造的な規則性が存在するタスクにおいて極めて強力な知見となる。
2026-11-08
加法的2のべき乗量子化(APoT):ニューラルネットワークのための効率的な非一様離散化
Additive Powers-of-Two Quantization: An Efficient Non-uniform Discretization for Neural Networks
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Yuhang Li, Xin Dong, Wei Wang | 2019-09-28)
- ニューラルネットワークの重みや活性化関数の鐘型・ロングテール分布に適した、非一様量子化手法「APoT」を提案。
- すべての量子化レベルを「2のべき乗の和」として制約することで、高い計算効率と分布への適合性を両立。
- クリッピング関数の再パラメータ化と重み正規化を導入し、学習の安定性と精度の向上を実現。
2026-11-08
SAMをベイズ目的関数の最適緩和として定義する理論的解明
SAM as an Optimal Relaxation of Bayes
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Thomas Möllenhoff, Mohammad Emtiyaz Khan | 2022-10-04)
- Sharpness-aware minimization (SAM) を、Fenchel双対性を用いたベイズ目的関数の最適凸下界としての緩和として理論的に定式化した。
- この理論的接続により、SAMを拡張したAdamのような手法を構築し、自動的な不確実性推定を可能にした。
- 敵対的学習とベイズ手法を統合することで、モデルの汎化性能とロバスト性の向上を同時に達成する新たな道筋を提示した。
2026-11-08
有理数混合整数計画問題(MIP)に対する厳密な計算状況の更新
A Computational Status Update for Exact Rational Mixed Integer Programming
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Leon Eifler, Ambros Gleixner | 2021-01-22)
- 有理数上の混合整数計画問題に対し、丸め誤差を排除した厳密な解法を提案。
- シンボリックな前処理、厳密な修復ステップ、高速な有理数LPソルバーを統合。
- MIPLIB 2017ベンチマークにおいて、従来手法より平均6.6倍の高速化と解決数の大幅な向上を達成。
2026-11-08
ラベル表現の多様化による、型付き決定モデルの性能向上
Label-Wording Augmentation in a Typed-Decision Encoder: Gains on Unfamiliar Words, Not on Abbreviations or Codes
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Vladimir Beskorovainyi | 2026-11-05)
- 本研究は、型付き決定モデルにおけるラベル表現の多様化が、モデルの性能向上に寄与することを実証した。
- ラベル表現の多様化(ラベルワード表現の拡張)により、モデルは未知語に対するロバスト性を向上させ、既存手法を凌駕する。
- 特に、開発者が制御できないラベル表現の変動に対する適応性が必要な、多言語型付き決定モデルにおいて有効である。
2026-11-08
回路およびGraverウォークと線形・整数計画法
Circuit and Graver Walks and Linear and Integer Programming
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Shmuel Onn | 2024-10-01)
- 線形計画法(LP)において、実行可能点から最適点への「回路ウォーク」が、線形代数操作と単一のLP解のみを用いて多項式時間で計算可能であることを証明。
- 整数計画法(IP)における「Graverウォーク」は、IPオラクルがあれば多項式時間で計算可能だが、オラクルなしでは最適解が既知であっても計算困難であることを示した。
- 疎な整数計画法の最新知見を組み合わせ、木深さ(tree-depth)および部分行列式(subdeterminants)が制限された行列に対しては、Graverウォークが多項式時間で計算可能であることを立証。
2026-11-08
DOME:生物学における教師あり機械学習の検証のための推奨事項
DOME: Recommendations for supervised machine learning validation in biology
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Ian Walsh, Dmytro Fishman, Dario Garcia-Gasulla et al. | 2020-06-25)
- 生物学分野における機械学習の信頼性を高めるため、標準的な検証プロトコル(DOME)を提案。
- データ、最適化、モデル、評価(Data, Optimization, Model, Evaluation)の4つの側面から構造化された記述を求める。
- 研究者が実装時に回答すべき一連の質問を定義し、論文の補足資料への記載を推奨することで透明性を確保する。
2026-11-08
経験的ベイズ縮小を用いたペア比較モデルの改善
Improving pairwise comparison models using Empirical Bayes shrinkage
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Stephen Ragain, Alexander Peysakhovich, Johan Ugander | 2018-07-24)
- ショッピングやスポーツ等のペア比較データにおいて、サンプル数が少ない場合の予測精度向上を目的とする。
- 最大尤度推定(MLE)よりも、縮小推定(Shrinkage Estimators)を用いる方が、少数のデータセットにおいて優れた性能を示すことを指摘。
- 条件付き多項ロジットモデル等の標準的なモデルでは「勝者」のみを扱うため、比較プロセスそのものを考慮した縮小推定手法を導出。
2026-11-08
多様な経験と専門性を兼ね備えたグループ形成のためのハイパーグラフ・クラスタリング
Hypergraph Clustering for Finding Diverse and Experienced Groups
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Ilya Amburg, Nate Veldt, Austin R. Benson | 2020-06-10)
- チーム編成において「特定のタスクへの専門性(経験)」と「スキルの多様性」の両立を目的とする。
- 過去のグループ経験を複数のハイパーエッジ型を持つハイパーグラフとしてモデル化する。
- 多様性を保護属性ではなく、参加したハイパーエッジ型の種類の豊富さとして定義し、最適化を行う。
2026-11-08
オフラインRAGにおけるテキストとベクトルの一貫性欠落:攻撃への脆弱性と対策
Signed but Steerable: Measuring and Closing the Text-Vector Integrity Gap in Offline Retrieval-Augmented Generation
出典:Hugging Face Daily Papers(Upvotes: 2 | arXiv:2611.06498)
- 本研究は、エッジデバイスで利用されるオフラインRAGシステムにおける、テキストとベクトル表現の一貫性欠落(text-vector integrity gap)に着目し、その脆弱性を分析した。
- 攻撃者は、ベクトルを改ざんすることで、検索結果を操作し、誤った情報を提示できる可能性があり、既存の単純な検証手法では十分な防御ができない。
- 量子化されたベクトルストアの監査や、浮動小数点数演算の再現性問題など、RAGシステムのセキュリティに関する新たな課題を提示し、対策を提案している。
2026-11-08
物理学にインスパイアされた機械学習モデルの解釈可能性
Physics-Inspired Interpretability Of Machine Learning Models
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Maximilian P Niroomand, David J Wales | 2023-04-05)
- 機械学習モデルの意思決定プロセスにおける重要特徴量の特定は、医療や自動運転等の高感度分野での導入における大きな課題である。
- 物理科学の「エネルギーランドスケープ」の概念を応用し、損失関数の最小値のグループ内における保存された重みを特定する手法を提案する。
- 分子科学における座標不変量や秩序パラメータの概念を機械学習の損失ランドスケープに導入することで、モデルの意思決定を駆動する要因を抽出する。
2026-11-08
オンライン偽ニュース検出における機械学習モデルのベンチマーク研究
A Benchmark Study of Machine Learning Models for Online Fake News Detection
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Junaed Younus Khan, Md. Tawkat Islam Khondaker, Sadia Afroz et al. | 2019-05-12)
- SNS上での偽ニュース拡散による社会的影響を抑制するため、多様なデータセットを用いた機械学習モデルの比較評価を実施。
- 従来の機械学習、ディープラーニング、および最新の事前学習済み言語モデル(PLM)を網羅的にベンチマーク。
- 特にデータセットが極めて小さい条件下において、BERT等の事前学習済みモデルが最も優れた検出性能を示すことを特定。
2026-11-08
decoupleQ: パラメータの整数部と浮動小数点部への分離による2ビット事後学習一様量子化
decoupleQ: Towards 2-bit Post-Training Uniform Quantization via decoupling Parameters into Integer and Floating Points
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Yi Guo, Fanliu Kong, Xiaoyang Li et al. | 2024-04-19)
- 極低ビット(特に2ビット)における量子化時の大幅な精度低下を解決する手法を提案。
- 従来のヒューリスティックな量子化手法を廃止し、パラメータを整数部と浮動小数点部に分離。
- 量子化問題を制約付きの伝統的な数学的最適化問題へと変換することで、精度の維持と効率性を両立。
2026-11-08
スライス付き多周辺最適輸送(Sliced Multi-Marginal Optimal Transport)
Sliced Multi-Marginal Optimal Transport
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Samuel Cohen, Alexander Terenin, Yannik Pitcan et al. | 2021-02-14)
- 多周辺最適輸送(MMOT)を、計算コストを抑えるために1次元へのランダム投影を用いた「スライス付き多周辺ワッサースタイン距離」として再定義。
- 提案手法は標準的なワッサースタイン距離と同じ位相を誘導する(generalized)距離であり、理論的な整合性を保持。
- 高次元データにおいて、サンプル複雑性が次元に依存しない(dimension-free)という極めて優れたスケーラビリティを証明。
2026-11-08
軌道予測のための半教師あり意味論ガイド付き敵対的学習
Semi-supervised Semantics-guided Adversarial Training for Trajectory Prediction
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Ruochen Jiao, Xiangguo Liu, Takami Sato et al. | 2022-05-27)
- 自動運転における軌道予測の安全性向上のため、履歴データへの微小な摂動に対する堅牢性を高める敵対的学習を提案。
- 画像タスクと異なり、軌道予測では入力のランダム性、豊富なコンテキスト、およびクラスラベルの欠如という課題がある。
- 半教師あり敵対的オートエンコーダ(SS-AAE)を導入し、ドメイン知識に基づいたもつれのない(disentangled)意味論的特徴をモデル化。
2026-11-08
Ky Fanノルムとそれ以降:行列最適化のための双対ノルムと組み合わせ
Ky Fan Norms and Beyond: Dual Norms and Combinations for Matrix Optimization
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Alexey Kravatskiy, Ivan Kozyrev, Nikolai Kozlov et al. | 2025-12-10)
- 深層学習の重み行列最適化において、Muonの基礎となるスペクトルノルムを超え、Ky Fanノルムの双対ノルムを活用した「Fanion」ファミリーのLMOアルゴリズムを提案。
- Fanionの更新式とNormalized SGD(またはSignSGD)の凸結合により、F-FanionおよびS-Fanionという新たなアルゴリズム群を構築。
- 広範な実験により、F-MuonおよびS-MuonがMuonと同等の性能を維持しつつ、合成滑らかな凸問題においてMuonを上回ることを実証。
2026-11-08
GeneOH Diffusion: 拡散モデルを用いた汎用的な手と物体の相互作用(HOI)のデノイジング
GeneOH Diffusion: Towards Generalizable Hand-Object Interaction Denoising via Denoising Diffusion
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Xueyi Liu, Li Yi | 2024-02-22)
- 誤った手と物体の相互作用(HOI)シーケンスから、不自然な手のポーズや関係性を除去し、知覚的にリアルな軌跡を復元する手法を提案。
- 接触中心の新しいHOI表現「GeneOH」を導入することで、多様な相互作用シナリオに対するモデルの汎用性を向上。
- ノイズのパターンや未知の相互作用に対しても頑健に動作する、ドメイン汎用型のデノイジングスキームを構築。
2026-11-08
RLHF報酬モデルの校正のための評価者別経験ベイズ収縮(PEBS)
PEBS: Per-rater Empirical-Bayes Shrinkage for RLHF Reward-Model Calibration
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Arnav Raj | 2026-06-25)
- RLHFの報酬モデルにおいて、複数の評価者の異なる評価スケール(オフセットや傾き)を単一の平均的な適合に統合してしまう問題を解決。
- 各評価者ごとに個別の線形校正(Affine Calibrator)を適合させ、経験ベイズ(Morris-James-Stein)を用いて母集団平均へ収縮させる手法を提案。
- 報酬モデルの再学習を必要とせず、クローズドフォーム(解析的解)で計算可能であり、PRISMやPluriHarmsデータセットでRMSEを大幅に改善。
2026-11-08
学習軌跡の照合によるデータセット蒸留
Dataset Distillation by Matching Training Trajectories
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: George Cazenavette, Tongzhou Wang, Antonio Torralba et al. | 2022-03-22)
- フルデータセットで学習したモデルの精度に匹敵する、極小の合成データセットを生成する「データセット蒸留」を提案。
- 単一の最終状態の模倣ではなく、複数の学習ステップにおけるネットワークの「学習軌跡」を一致させることを目的とした新しい定式化を導入。
- 大規模データに対応するため、エキスパートネットワークの学習軌跡を事前計算・保存し、合成データの最適化に利用することで高解像度データの蒸留を実現。
2026-11-08
意思決定依存型不確実性を伴う確率計画問題のためのL型法
The L-Shaped Method for Stochastic Programs with Decision-Dependent Uncertainty
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Giovanni Pantuso, Mike Hewitt | 2025-06-15)
- 意思決定依存型不確実性(Decision-Dependent Uncertainty)を含む二段階確率計画問題を解くためのL型法の拡張を提案。
- 線形および整数確率計画の両方に対応する、分布固有の最適性カットおよび実行可能カットを導入。
- 3つの生産計画問題を用いた大規模なテストにより、大規模インスタンスに対する極めて高い有効性を実証。
2026-11-08
実蛍光顕微鏡画像を用いたポアソン・ガウスノイズ除去データセット
A Poisson-Gaussian Denoising Dataset with Real Fluorescence Microscopy Images
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Yide Zhang, Yinhao Zhu, Evan Nichols et al. | 2018-12-26)
- 蛍光顕微鏡画像特有の「ポアソン・ガウスノイズ(ショットノイズが支配的)」に対応する専用のデータセットが欠如している課題を特定。
- 商用顕微鏡(共焦点、二光子、広視野)を用いて取得した、細胞、ゼブラフィッシュ、マウス脳組織を含む12,000枚のリアルな画像を含む「FMDデータセット」を構築。
- 特定の生物学的サンプルとノイズ特性を網羅することで、より実用的なノイズ除去アルゴリズムの開発と評価を可能にする。
2026-11-08
量子アニーリングを用いたGraver基底の計算と非線形整数計画問題への応用
Graver Bases via Quantum Annealing with Application to Non-Linear Integer Programs
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Hedayat Alghassi, Raouf Dridi, Sridhar Tayur | 2019-02-12)
- Graver基底を計算するための、量子・古典ハイブリッドアプローチを提案。
- 古典コンピュータでは指数関数的に困難なGraver基底の計算を、量子アニーラ(D-Wave)を用いて実行可能にする。
- Graver基底を最適性証明(Test Set)として利用し、非線形整数計画問題を解くための実用性を検証。
2026-11-08
二面市場における供給増分の因果推論:因果機械学習アプローチ
Estimating Supply Incrementality in Two-sided Marketplaces: A Causal Machine Learning Approach
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Yufei Wu, Daniel Schmierer, Dan Zylberglejd | 2026-06-30)
- 二面市場(Airbnb等)において、商品の追加供給が取引量や取引価値に与える因果関係を推定する手法を提案。
- Double Machine Learning (DML) と階層ベイズフレームワークを組み合わせ、既存の知識を事前分布として活用。
- 地理空間情報の類似度指標を特徴量として組み込むことで、製品セグメント間の差異を考慮した精緻な推定を実現。
2026-11-08
少数軌道から集団運動の相互作用法則を再現するdACE法:多体相互作用を正確に捉える新手法
Interpretable many-body interaction laws for collective motion from few trajectories
出典:arXiv 2026: Calibration, Conformal & Optimal Transport(Authors: Timon S. Gutleb | 2026-11-05)
- 本研究は、集団運動における多体相互作用を正確にモデル化するための新しい手法dACE (disjointed, accelerated, and equivariant expansion) を提案する。
- dACEは、既存のペアワイズ相互作用モデルやニューラルネットワークモデル(SocialNet)と比較して、少ないデータでより正確な多体相互作用法則を再現できる。
- 特に、複雑な多体相互作用が存在するシミュレーション環境や、2D/3D空間での集団運動解析において有効である。
2026-11-08
近似最適デノイジング行列を用いたDantzig Selectorと強化学習への応用
Dantzig Selector with an Approximately Optimal Denoising Matrix and its Application to Reinforcement Learning
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Bo Liu, Luwan Zhang, Ji Liu | 2018-11-02)
- Dantzig Selector(DS)はスパース学習や特徴量選択で広く用いられるが、従来のデータ行列をデノイジング行列として用いる手法は必ずしも最適ではない。
- 最適なデノイジング行列を定義するためにミニマックス最適化を導入したが、これはNP困難な問題となる。
- 計算の実行可能性を確保するため、近似的な最適デノイジング行列を求める新アルゴリズム「Optimal Denoising Dantzig Selector (ODDS)」を提案する。
2026-11-08
量子化誤差の補償:相互補完のための階層的重み構造の導入
Compensate Quantization Errors: Make Weights Hierarchical to Compensate Each Other
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Yifei Gao, Jie Ou, Lei Wang et al. | 2024-06-24)
- LLMの量子化に伴う精度低下を解決するため、既存の「他方の重みによる誤差補償」と「難易度の転移」という2つのアプローチを統合。
- Learnable Singular Value Increment (LSI) を提案し、特異値分解(SVD)を用いて抽出した特異値を学習可能にすることで、活性化条件に応じた重み間の相互補完を実現。
- LSIを既存の量子化技術と組み合わせることで、多様な量子化設定においてSOTA(最先端)の性能を達成。
2026-11-08
ヘルスケアにおけるプライバシー保護機械学習:現在の課題と将来の展望
Privacy-preserving machine learning for healthcare: open challenges and future perspectives
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Alejandro Guerra-Manzanares, L. Julian Lechuga Lopez, Michail Maniatakos et al. | 2023-03-27)
- ヘルスケア分野における疾患診断や治療予測における機械学習の成功と、医療データの機密性に伴うプライバシー保護の重要性を指摘。
- モデルの学習から推論に至るまでの全パイプラインにおけるプライバシー保護機械学習(PPML)の最新動向を包括的にレビュー。
- プライバシー保護型学習および推論サービス(Inference-as-a-Service)における現在の課題を特定し、実世界への応用に向けた将来の研究方向を提示。
2026-11-08
混合整数計画問題(MIP)のための学習ベースの近傍探索(LNS)アルゴリズム
Learning a Large Neighborhood Search Algorithm for Mixed Integer Programs
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Nicolas Sonnerat, Pengming Wang, Ira Ktena et al. | 2021-07-21)
- 混合整数計画問題(MIP)を解くための、学習ベースのLarge Neighborhood Search(LNS)手法を提案。
- Neural Divingモデルを用いて初期解の確率分布を表現し、MIPソルバーと組み合わせて初期割当を生成。
- 探索プロセスをマルコフ決定過程(MDP)として定式化し、模倣学習を用いて最適な近傍を選択するNeural Neighborhood Selectionポリシーを構築。
2026-11-08
LoRAにおけるスペクトル・サブスペースダイナミクス解析:SFTとRLの共通基盤と最適化戦略
Spectral and Subspace Dynamics of LoRA in Supervised Fine-Tuning and Reinforcement Learning
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Chenruo Liu, Zihan Wang, Yijun Dong et al. | 2026-11-05)
- 本研究は、教師あり微調整(SFT)と強化学習(RL)において共通して用いられるLoRA (Low-rank Adaptation) の最適化ダイナミクスを解析した。
- グループ平均ベースライン減算が、SFTとRLにおける異なる最適化ダイナミクスを駆動する共通の要因であり、スペクトル集中とサブスペース回転を促進する。
- 数学的な推論タスクにおいて、SFTとRLに特化した設定が、他の手法よりも優れたパフォーマンスを示すことが実験的に確認された。
2026-11-08
忘却は消去ではない:輸送キー(Transport Keys)による潜在知識の復元
Forgetting is Not Erasure: Recovering Latent Knowledge via Transport Keys
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Archie Chaudhury | 2026-06-01)
- 破滅的忘却は知識の完全な消去ではなく、学習過程における内部表現の「インターフェースの乖離(drift)」に起因すると主張。
- 「モデル・スチッチング」という評価プロトコルを用い、更新後のネットワークの初期層と更新前のネットワークの後期層を結合して検証。
- 「輸送キー(Transport Keys)」というコンパクトなインターフェース調整演算子を導入することで、過去のタスクの知識を高い精度で復元可能。
2026-11-08
時間依存PDEの不確実性推定:コンフォマル予測の理論的限界と実用的な改善策
Conformal Prediction for Time-Dependent PDEs
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Joshua Stiller, Annika Schneider, Eyke Hüllermeier | 2026-11-05)
- 本研究は、時間依存偏微分方程式(PDE)を近似するモデルにおける不確実性推定手法であるコンフォマル予測の理論的な限界を明らかにしました。
- 時間依存性の強い問題において、コンフォマル予測のカバー率保証が崩れる原因を、関数空間における確率分布の相互の特異性、および離散化における総変動距離の飽和という観点から分析しました。
- 特定の条件下では、重み付きコンフォマル予測を用いることで、時間軸に沿ったカバー率保証を実現できることを示しました。
2026-11-08
知識蒸留のためのTriplet Lossの導入
Triplet Loss for Knowledge Distillation
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Hideki Oki, Motoshi Abe, Junichi Miyao et al. | 2020-04-17)
- モデルの巨大化に伴う計算コストを削減するため、知識蒸留(KD)を用いたモデル圧縮が重要となっている。
- 従来の知識蒸留は教師モデルと生徒モデルの出力の類似性を高めることに主眼を置いている。
- 本研究では、メトリック学習(Metric Learning)の概念を導入し、訓練サンプルのペアまたはトリプレットを用いて生徒モデルを教師モデルに近づける手法を提案する。
2026-11-08
三角形輸送(Triangular Transport)への親しみやすい導入
A friendly introduction to triangular transport
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Maximilian Ramgraber, Daniel Sharp, Mathieu Le Provost et al. | 2025-03-27)
- 複雑なシステムにおける不確実性の表現を、単純で既知の分布からの変換として近似する「三角形輸送マップ」を提案。
- 三角形輸送の特有の構造により、数学的・計算的な利便性が保証され、実用的な問題解決に適している。
- 密度推定、生成モデリング、ベイズ推論、データ同化、最適実験設計など幅広いタスクへの応用が可能。
2026-11-08
LLMエージェントのコンテキスト圧縮:行動維持型学習による潜在表現を活用
Tools Need Not Speak in Text: Latent Context Compression for Agents
出典:Hugging Face Daily Papers(Upvotes: 2 | arXiv:2611.06500)
- LLMエージェントにおけるツール出力のコンテキストオーバーヘッドを削減する手法「Coca-Cola」を提案。
- 既存のテキストベースの要約・トークン削減手法と比較して、より高い圧縮率を実現し、エージェントの注意散漫を防ぐ。
- Web検索エージェントを用いたQAタスクにおいて、トークン消費量を70〜89%削減し、実行時間を24〜56%短縮、かつ性能向上を達成。
2026-11-08
知識蒸留のための微分可能特徴量集約探索(DFA)
Differentiable Feature Aggregation Search for Knowledge Distillation
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Yushuo Guan, Pengyu Zhao, Bingxuan Wang et al. | 2020-08-02)
- マルチティーチャー蒸留は高い性能を誇るが、計算リソースのコストが課題となっている。
- 単一ティーチャーの枠組み内で、複数のティーチャー特徴量から有益な情報を抽出する「特徴量集約」を導入。
- DARTSに着想を得た2段階の微分可能特徴量集約探索(DFA)手法により、効率的に最適な集約構造を特定する。
2026-11-08
動的システムの解きほぐし:因果表現学習と局所スパースアテンションの融合
Disentangling Dynamical Systems: Causal Representation Learning Meets Local Sparse Attention
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Markus W. Baumgartner, Anson Lei, Joe Watson et al. | 2026-03-15)
- 従来のパラメータ推定手法(物理モデルに基づくもの)は、あらかじめ定義された関数空間に依存する制約がある。
- ディープラーニングは複雑なシステムをモデル化できるが、ブラックボックス性が高く、システムの構造を明示的に解きほぐすことが困難である。
- 因果表現学習を活用した新しい識別可能性定理を提案し、構造的仮定なしに軌道データからシステムパラメータの解きほぐされた表現を抽出する。
2026-11-08
攻撃者行動予測のための隠れマルコフ優先モデル:動的環境における防御戦略
A Hidden Markov Preference Model for Online Prediction of Adversary Actions
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Angel Daruna, Michael Cogswell, Tixiao Shan et al. | 2026-11-05)
- 攻撃者の次の行動を予測するために、隠れマルコフモデル(HMM)と優先モデルを組み合わせた新しい予測モデルを提案。
- モデルは、攻撃者の行動パターンが変化する可能性と、アクションが時間とともに変化する状態依存引数を持つことを考慮。
- CAGE 2サイバーセキュリティベンチマークにおいて、既存の再帰モデルよりも優れた性能を示し、特にコントローラーの切り替え後に顕著な性能向上を達成。
2026-11-08
FMIP: 混合整数線形計画問題(MILP)のための連続・整数変数結合フロー
FMIP: Joint Continuous-Integer Flow For Mixed-Integer Linear Programming
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Hongpei Li, Hui Yuan, Han Zhang et al. | 2025-07-31)
- MILPにおける整数変数と連続変数の間の複雑な結合関係を捉えきれない従来の生成モデルの限界を指摘。
- 整数変数と連続変数の結合分布を同時にモデル化する初の生成フレームワーク「FMIP」を提案。
- 情報のボトルネックを解消することで、より最適に近い解の生成とダウンストリームソルバーの加速を実現。
2026-11-08
航空機着陸時の安全イベント予測:LSTMとXGBoostを組み合わせた解釈可能なハイブリッド手法
Hybrid Machine Learning for Imbalanced Landing-Phase Safety Event Prediction from Flight Data
出典:arXiv 2026: Calibration, Conformal & Optimal Transport(Authors: Taha Asghar, Bilal Mufti, Syed Qasim Zaheer et al. | 2026-11-05)
- 本研究は、航空機着陸時の安全イベント(Normal, Speed High, Path High, Flaps Late)を予測するための、解釈可能なハイブリッド機械学習フレームワークを提案する。
- LSTMオートエンコーダで異常を検出し、統計的特徴量と融合してXGBoost分類器に入力することで、クラス間のバランスの取れた高精度な予測を実現し、既存手法よりも性能が向上している。
- 特に、データ量の多い空港では空港固有の学習、データ量の少ない空港ではプール学習が有効であり、垂直経路、設定、速度、アプローチコンテキストなどの操作に関連する変数と予測を結びつけることができる。
2026-11-08
4つの「2」を用いた任意の整数表現:数理的再帰と組合せ最適化の極致
Making any integer with four 2s (2025)
出典:Hacker News (Top Stories)(HN Score: 72 pts by germanrabbit)
- 4つの「2」という制約条件下で任意の整数を表現するための数理的パズルと、その背後にある演算規則の探求。
- 単純な算術演算を超え、再帰的な構造や特殊な演算子を組み合わせることで、表現可能な数値空間を最大化する。
- 制約付き最適化問題、数理パズル、および極限のデータ圧縮(最小の要素で最大の情報量を表現する)の理論に応用可能。
2026-11-08
ファイバーワイズ最適輸送を用いたモデル認識型スケジュールによる生成精度の向上
Model-Aware Schedules Improve Generation via Fiberwise Optimal Transport
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Luyi Jia, Boyan Zhang, Yilun Liu et al. | 2026-09-10)
- 拡散モデルやフローマッチングにおける信号・ノイズ係数のスケジュールを、モデルの予測誤差を考慮した「モデル認識型」へ拡張。
- 最適輸送(Optimal Transport)の概念を応用し、特定の時間と状態における信号・ノイズの分解を「ファイバー」として定義。
- 係数パスの運動エネルギー(Kinetic Action)とファイバー内での予測リスクを組み合わせることで、閉形式(Closed-form)での最適な時間配分を導出。
2026-11-08
大ステップ数におけるAdversarial Trainingの幾何学的解析:Robustnessの限界と収束性
Adversarial Training with Large Step Sizes: Implicit Bias, Optimization, and Sharpness
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Yi Feng, Andrea Paudice | 2026-11-05)
- * Adversarial Training (AT) における「大ステップ数(Large Step Size)」
2026-11-08
制約付き最適化のための反復ソルバーの自己教師あり学習
Self-Supervised Learning of Iterative Solvers for Constrained Optimization
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Lukas Lüken, Sergio Lucia | 2024-09-12)
- モデル予測制御などのリアルタイム性が求められる制約付き最適化問題に対し、ニューラルネットワークを用いた高速な反復ソルバーを提案。
- 初期推定値を生成する予測ネットワークと、それを高精度に洗練させる学習済み反復ソルバーの2段階構成を採用。
- KKT条件に基づく独自の損失関数を導入することで、正解ラベル(事前計算された最適解)を必要としない完全な自己教師あり学習を実現。
2026-11-08
確率的(近似)近接点法:収束性、最適性、および適応性
Stochastic (Approximate) Proximal Point Methods: Convergence, Optimality, and Adaptivity
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Hilal Asi, John C. Duchi | 2018-10-12)
- 確率的凸最適化問題を解くためのモデルベース手法「aProx(近似近接点法)」ファミリーを提案。
- 従来の確率的サブグラディエント法と比較して、計算コストを抑えつつ、より強力な収束性と堅牢性を保証。
- 「容易な最適化問題」に対しては、目的関数の強い成長条件の下で線形収束を達成する適応性を備える。
2026-11-08
地理的貧困の把握における地球観測データと機械学習を用いた因果推論の範囲レビュー
A Scoping Review of Earth Observation and Machine Learning for Causal Inference: Implications for the Geography of Poverty
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Kazuki Sakamoto, Connor T. Jerzak, Adel Daoud | 2024-05-30)
- 地球観測(EO)データと機械学習を組み合わせた因果推論の現状を包括的にレビューし、貧困の地理的分析への応用可能性を提示。
- EOデータを因果推論ワークフローに組み込む5つの主要なアプローチ(アウトカム補完、デコンファウンディング、異質性分析、輸送可能性分析、因果探索)を特定。
- データが乏しい地域における生活条件の予測から、より高度な因果関係の特定へと研究の焦点が移行していることを指摘。
2026-11-08
AI生成論文の典型的な「意味の欠落」と「不透明な技術用語の羅列」に対する批判的分析
The most scathing reviewer 2 review I have ever read
出典:Reddit r/MachineLearning(ML Research Community)
- * 本リポジトリ/論文は、一連の高度な技術用語("sparse latent dynamics", "factor-level residual bounds"等)を組み合
2026-11-08
整数線形計画法を用いたサンドパイル構成の計算
Computing sandpile configurations using integer linear programming
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Carlos A. Alfaro, Carlos E. Valencia, Marcos C. Vargas | 2020-08-31)
- 再帰的サンドパイル構成を特定の最適化問題の最適解として特徴付ける手法を提示。
- 再帰的構成の算出およびその構成の次数(Order)を計算するための2つの新しい整数線形計画法(MILP)モデルを提案。
- 線形計画法の双対性を利用することで、正則グラフの錐(Cone)における単位構成(Identity configuration)を計算可能にした。
2026-11-08
Delta Denoising Score (DDS): テキストベースの画像編集のための新規スコアリング関数
Delta Denoising Score
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Amir Hertz, Kfir Aberman, Daniel Cohen-Or | 2023-04-14)
- SDS(Score Distillation Sampling)を用いた画像編集において、ノイズの多い勾配により出力がぼやける問題を解決する。
- 入力画像と一致するプロンプトを特定し、それを用いた「Delta Denoising Score (DDS)」を導入することで、不要な勾配方向を排除する。
- 拡散モデルの生成事前分布を活用し、ターゲットプロンプトの内容へ最小限の修正で画像を誘導する。
2026-11-08
パッチ長が予測精度に与える影響に関する理論的枠組みと選択基準
Patch Attention Wisely: Understanding Patch Length in Attention-Based Forecasting
出典:arXiv stat.ML (Statistical ML)(Authors: Junyu Chen, Likai Chen, Weining Wang | 2026-11-05)
- 本研究は、注意機構ベースの時間系列予測において、パッチ長が予測精度に与える影響に関する理論的枠組みを提示する。
- 線形状態空間モデルにおける予測係数行列の分解と、表現誤差と推定誤差のバランスを考慮したパッチ選択基準を導出する。
- 予測構造、ヘッド数、訓練サンプルサイズ、長期依存性などがパッチ選択基準にどのように影響するかを明確にする。
2026-11-08
Survey Descent: 非平滑最適化のための勾配降下法の多点汎用化
Survey Descent: A Multipoint Generalization of Gradient Descent for Nonsmooth Optimization
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: X. Y. Han, Adrian S. Lewis | 2021-11-30)
- 滑らかな目的関数では勾配降下法により線形収束が保証されるが、非平滑な目的関数では従来の手法では累積勾配評価数に対する線形収束の保証が困難である。
- 本論文では、局所最適化のために勾配降下法を多点(Multipoint)へと拡張した「Survey Descent」を提案する。
- 「max-of-smooth(滑らかな関数の最大値)」モデルを動機として設計されており、このモデルにおいて線形収束を証明し、より一般的な目的関数でも同様の現象を確認した。
2026-11-08
CoSTARブロック積みデータセット:ワークスペース制約下での学習
The CoSTAR Block Stacking Dataset: Learning with Workspace Constraints
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Andrew Hundt, Varun Jain, Chia-Hung Lin et al. | 2018-10-27)
- 既存の物体把持データセットにおける制約の緩和が、現実的な環境下でのブロック積みタスクの失敗を招くことを指摘。
- より制約の少ない環境で、5.1cmのカラーブロックを用いた注文履行スタイルの積みタスクを実行する「JHU CoSTAR Block Stacking Dataset (BSD)」を導入。
- 約12,000件の積み試行と200万フレーム以上のリアルタイム時系列データを含む、動的なシーンを網羅したデータセットを提供。
2026-11-08
広域ランク行列分解およびデノイジングにおける平均場方程式の摂動的構築
Perturbative construction of mean-field equations in extensive-rank matrix factorization and denoising
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Antoine Maillard, Florent Krzakala, Marc Mézard et al. | 2021-10-17)
- 行列のランクがサイズに対して線形に増大する「広域ランク(extensive-rank)」設定における行列分解とデノイジングの理論的枠組みを提示。
- 行列サイズが無限大に発散する極限において、最適な平均二乗誤差を導出するための平均場方程式を摂動論を用いて構築。
- 教師なし表現学習、辞書学習、スパースコーディングなど、高次元データの構造抽出における数学的基礎を強化。
2026-11-08
超鞅(Supermartingales)を用いた重い裾を持つ損失関数に対するPAC-Bayes汎化境界
PAC-Bayes Generalisation Bounds for Heavy-Tailed Losses through Supermartingales
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Maxime Haddouche, Benjamin Guedj | 2022-10-03)
- 重い裾を持つ(Heavy-tailed)損失関数に対するPAC-Bayes汎化境界を、損失関数の分散が有界であるという最小限の仮定の下で導出。
- 超鞅に対するマルコフの不等式の拡張を主要な技術的貢献として活用。
- バッチ学習およびオンライン学習の両方において、境界のない鞅(Unbounded martingales)に対する境界を提供し、既存のPAC-Bayesianフレームワークを統合・拡張。
2026-11-08
離散データのための制約のない単体デノイジング:グラフ生成への非マルコフ的アプローチ
Unrestrained Simplex Denoising for Discrete Data. A Non-Markovian Approach Applied to Graph Generation
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Yoann Boget, Alexandros Kalousis | 2026-03-30)
- 離散状態空間で直接操作する従来の拡散モデルやFlow Matchingに対し、確率単体(Probability Simplex)上で動作するデノイジングフレームワークを提案。
- 異なる時刻のノイズ表現を条件付き独立とする「非マルコフ的ノイズスキーム」を導入することで、モデルの制約を緩和し、数式の簡略化と性能向上を両立。
- 合成データおよび実世界のグラフベンチマークにおいて、強力な離散拡散モデルやFlow Matchingのベースラインを上回る性能を実証。
2026-11-08
ニューラルネットワークの重み補間における一時的な精度向上現象(BUMP)とその活用によるアンサンブル手法の提案
BUMP: Brief Unexpected Mid-Interpolation Peak
出典:arXiv stat.ML (Statistical ML)(Authors: Melinda Flóra Kiss, Márton Muntag, Adrián Csiszárik et al. | 2026-11-05)
- 本研究では、ニューラルネットワークの重み補間時に、補間の端点付近で一時的に精度が向上する現象(BUMP)を初めて体系的に分析し報告しています。
- BUMP現象を活用した新しいアンサンブル手法(weight-prediction mixed ensembling)を提案し、従来のlogitアンサンブルよりも高い精度とキャリブレーション性能を実現しました。
- この手法は、特に大規模なデータセットや複雑なアーキテクチャを用いたモデルにおいて、その効果を発揮すると考えられます。
2026-11-08
生成データセット蒸留:全体構造と局所的詳細のバランスの最適化
Generative Dataset Distillation: Balancing Global Structure and Local Details
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Longzhen Li, Guang Li, Ren Togo et al. | 2024-04-26)
- 大規模データセットから生成モデルへ情報を蒸留する際、全体構造と局所的詳細(テクスチャや形状)の両立を重視する新手法を提案。
- 従来の蒸留手法が抱えていた、再展開時間の長さやクロスアーキテクチャにおける性能低下の問題を解決。
- 高レベルな意味的属性に偏りすぎず、局所的な特徴を保持することで、より高品質な合成データセットの生成を実現。
2026-11-08
線形計画法のためのシュリンク・ラッピング(Shrink-Wrapping)軌道の幾何学的解析
Shrink-Wrapping trajectories for Linear Programming
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Yuriy Zinchenko | 2010-05-30)
- 線形計画法(LP)を双曲幾何学(Hyperbolic Programming, HP)の緩和問題として捉え、Renegarが提案した「Shrink-Wrapping」手法を研究。
- Shrink-Wrapping軌道が内点法における「中心経路(Central Path)」を一般化した概念であることを幾何学的に分析。
- 中心線付近における軌道の挙動を解析し、特定の病的なLPインスタンスにおいて中心経路と比較した際の特性を明らかに。
2026-11-08
ニューラルシフトプロパー直交分解(sPOD)を用いた自動輸送分離
Automated transport separation using the neural shifted proper orthogonal decomposition
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Beata Zorawski, Shubhaditya Burela, Philipp Krah et al. | 2024-07-24)
- 輸送支配的な場を分解するための、ニューラルネットワークを用いたsPOD手法を提案。
- 従来のsPODで必要だった「輸送演算子の事前知識」を不要にし、輸送場と共移動場を同時に推定。
- 合成データおよび森林火災モデルを用いた検証により、高い分離能力と効率性を実証。
2026-11-08
GP-NASを用いたスタッキングアンサンブルによるマルチタスクNAS性能予測
Predict NAS Multi-Task by Stacking Ensemble Models using GP-NAS
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Ke Zhang | 2023-05-02)
- 少数の学習サンプルからアーキテクチャの性能を正確に予測するための過学習抑制とマルチタスク相関の活用を追求。
- ViT-Baseをベースとした探索空間(深さ、ヘッド数、MLP比率、埋め込み次元)に対し、データの前処理で複雑性を削減。
- GP-NASを用いたクロスバリデーションによるスタッキングアンサンブルを採用し、CVPR 2022 Track 2 Challengeで1位を獲得。
2026-11-08
NISQ回路コンパイルのためのKnuth-Bendix補完アルゴリズムとシャッフル代数
Knuth-Bendix Completion Algorithm and Shuffle Algebras For Compiling NISQ Circuits
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Raouf Dridi, Hedayat Alghassi, Sridhar Tayur | 2019-04-30)
- 量子回路のコンパイルを、非可換多項式代数 $\mathbb Q\langle X\rangle$ 上の書き換えシステムとして定式化。
- ハードウェアの制約を書き換え規則 $\mathcal R$ として定義し、理想的なゲートをその正規形へ変換することでコンパイルを行う。
- 書き換えシステムの生成に、Knuth-Bendix補完アルゴリズムとシャッフル代数上のBuchbergerアルゴリズムの2つの手法を導入。
2026-11-08
グラフニューラルネットワークの最適化を、グラフ構造と表現に合わせた幾何学で加速するGraphMuon
Module-Aware Optimization for Graph Neural Networks
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Guy Hadad, Haggai Roitman, Moshe Eliasof et al. | 2026-11-05)
- グラフニューラルネットワーク(GNN)の最適化において、パラメータ更新の幾何学が重要であるという問題提起。
- 提案手法GraphMuonは、グラフ構造によって伝播する表現を考慮した幾何学的な直交化と、ステップサイズを適応的に調整することで、AdamWを性能・効率で上回る。
- ノード分類、誘導グラフ分類、グラフ回帰といったタスクにおいて、幅広いデータセットとアーキテクチャ構成で有効であり、特に大規模なOGBベンチマークで顕著な効果を発揮する。
2026-11-08
スーパーマーケット用冷凍機制御システムを模倣する高精度なセキュリティ・ハニーポット「Coldframe」の設計と実装
Show HN: Coldframe, a honeypot that poses as a supermarket fridge controller
出典:Hacker News (Top Stories)(HN Score: 172 pts by hedgerow-dev)
- * 特定の産業用機器(Danfoss/Dixell)のネットワークインターフェースを精密に模倣し、攻撃試行を捕捉するハニーポットの構築。
- * 標準ライブラリのみを用いた軽量設計であり、正規のデバイスと区別がつかないレベルのヘッダ制御とペイロードサイズを再現。
- * 特定の脆弱性(CVE-2025-41450等)に対する攻撃パターンを特定し、攻撃源の特定や脅威情報の収集に極めて有効。
2026-11-08
Muir: 線形アテンションによる効率的な文脈圧縮と高性能化
Muir: Linear Attention with Sensitivity-Allocated Gating and Matched-Filter Readout
出典:arXiv 2026: Tabular & Time-Series ML(Authors: Tushaar Gangavarapu, Gil Tabak, Clemens JS Schaefer | 2026-11-05)
- Muirは、線形アテンション機構を用いた、文脈情報を固定サイズキーバリューストレートに圧縮する新しいモデルである。
- 既存のGDN-2やTransformerと比較して、パープレキシティの低減、コモンセンス精度向上、抽出リコール向上を実現している。
- 特に、大規模な文脈データ、マルチホップ/マルチニードルリコールタスク、および長い文脈データの処理において、その効果が顕著に現れる。
2026-11-08
ラプラス法に対する低ランク変分ベイズ補正
Low-rank variational Bayes correction to the Laplace method
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Janet van Niekerk, Haavard Rue | 2021-11-25)
- 複雑なモデルや大規模データにおいて、厳密な推論が困難な場合の近似推論手法を提案。
- ラプラス法で初期近似を行い、その後に低次元空間で変分ベイズ補正(VBC)を適用するハイブリッド手法を導入。
- 計算コストをラプラス法と同等に抑えつつ、モデルの複雑さやデータサイズに対するスケーラビリティを確保。
2026-11-08
因果機械学習における欠落変数バイアスの理論と感度分析
Long Story Short: Omitted Variable Bias in Causal Machine Learning
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Victor Chernozhukov, Carlos Cinelli, Whitney Newey et al. | 2021-12-26)
- 広範な因果パラメータ(平均処置効果、政策効果等)に対する欠落変数バイアスの一般理論を構築。
- 非パラメトリックモデルを対象としつつ、半パラメトリックな制約にも対応可能な枠組みを提供。
- 欠落変数の最大説明力の妥当性判断に基づき、複雑な非線形モデルにおけるバイアスの大きさを境界(Bound)として算出。
2026-11-08
教師あり機械学習における意思決定のための学習曲線:サーベイ
Learning Curves for Decision Making in Supervised Machine Learning: A Survey
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Felix Mohr, Jan N. van Rijn | 2022-01-28)
- 学習曲線は、データ数や反復回数などのリソースに対するアルゴリズムの性能変化を評価する概念。
- データ収集の計画、早期終了(Early Stopping)、モデル選択などの意思決定において重要な役割を果たす。
- 学習曲線のモデル化により、初期段階でアルゴリズムやハイパーパラメータの適合性を予測し、選定プロセスを加速できる。
2026-11-08
量子コンピューティング技術を支えるための記号的量子プログラミング
Symbolic quantum programming for supporting applications of quantum computing technologies
出典:arXiv Core: Combinatorial MILP & Quantum Compilation(Authors: Jarosław Adam Miszczak | 2023-02-18)
- 量子回路の記号的操作を可能にするソフトウェアツールの開発状況と展望を提示。
- 既存の量子ソフトウェア開発手法の強みと弱みを調査し、理想的なフレームワークの特性を定義。
- 量子プログラムの作成、最適化、テストを支援するためのソフトウェアアーキテクチャと初期実装を提案。
2026-11-08
データストリームにおけるアクティブラーニング:サーベイ
Active learning for data streams: a survey
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Davide Cacciarelli, Murat Kulahci | 2023-02-17)
- データストリームから最も情報量の多いデータポイントを効率的に選択し、ラベル付けコストを最小化するオンラインアクティブラーニングの動向を概説。
- データ収集のコストや時間の制約がある実世界の問題に対し、モデルの性能を最大化するための戦略を分類。
- アクティブラーニングを、閉じたデータセットから選択する「プールベース」と、逐次的に流れてくるデータから選択する「ストリームベース」の2つに大別。
2026-11-08
エネルギー効率を考慮した節約型ベイズ最適化
Energy-aware frugal Bayesian optimization
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Gaston Plat, Paul Saves, Nathalie Bartoli et al. | 2026-09-11)
- 従来のベイズ最適化は予測精度の最大化に特化しており、計算コスト(エネルギー消費)のバランスが考慮されていない。
- 計算エネルギーのフットプリントを定量化する指標をベイズ最適化フレームワークに導入し、性能と節約性の両立を図る。
- 実験の結果、最適解への収束性とエネルギー消費の間のトレードオフを明らかにするとともに、両方を改善する構成の発見も確認された。
2026-11-08
MerLin: フォトニックおよびハイブリッド量子機械学習のためのディスカバリーエンジン
MerLin: A Discovery Engine for Photonic and Hybrid Quantum Machine Learning
出典:arXiv Core: Causal Inference, Double ML & Graph Laplacian(Authors: Cassandre Notton, Benjamin Stott, Philippe Schoeb et al. | 2026-02-11)
- フォトニックおよびハイブリッド量子機械学習(QML)における実用的な利点を体系的に探索するためのオープンソースフレームワーク「MerLin」を提案。
- PyTorchおよびscikit-learnのワークフローに最適化された線形光学回路の強力なシミュレーションを統合し、量子層のエンドツーエンドの微分可能学習を実現。
- カーネル法、リザーバコンピューティング、CNN/RNN、生成モデルなど、最新のQML研究18件を再現可能なモジュールとして提供。
2026-11-08
単純なピック・アンド・プレイスを超えて:多様な形状のロボットスタッキングへの挑戦
Beyond Pick-and-Place: Tackling Robotic Stacking of Diverse Shapes
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Alex X. Lee, Coline Devin, Yuxiang Zhou et al. | 2021-10-12)
- 複雑な幾何学的形状を持つ物体を扱うための、高度なスタッキングタスクとデータセットを提案。
- 強化学習(RL)、視覚ベースのインタラクティブなポリシー蒸留、およびSim-to-Real転送を組み合わせた手法を開発。
- シミュレーションでの学習における重要因子を特定し、収集したデータを用いてオフライン強化学習でポリシーを改善。
2026-11-08
敵対的ベイズ分類器の存在性に関する研究(拡張版)
On the Existence of the Adversarial Bayes Classifier (Extended Version)
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Pranjal Awasthi, Natalie S. Frank, Mehryar Mohri | 2021-12-03)
- 敵対的堅牢性(Adversarial Robustness)におけるベイズ最適分類器の存在に関する基礎的な問いを調査。
- 敵対的堅牢性においてベイズ最適分類器の存在を保証するための一般的な十分条件を提示。
- 代理損失(Surrogate Losses)の性質や一貫性を研究するための理論的基盤を提供。
2026-11-08
科学的発見のためのディープデノイジング:電子顕微鏡を用いたケーススタディ
Deep Denoising For Scientific Discovery: A Case Study In Electron Microscopy
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Sreyas Mohan, Ramon Manzorro, Joshua L. Vincent et al. | 2020-10-24)
- 科学的イメージングにおけるノイズ除去の課題に対し、深層畳み込みニューラルネットワーク(CNN)の適用可能性を探索。
- 真のノイズレス画像が得られない科学分野の制約を克服するため、シミュレーションに基づくデノイジング(SBD)フレームワークを提案。
- 透過型電子顕微鏡(TEM)データを用いた評価において、SBDはシミュレーションおよび実データの両方で既存手法を大幅に上回る性能を達成。
2026-11-08
最適輸送の構造化正則化を用いた情報量の豊富なGAN
Informative GANs via Structured Regularization of Optimal Transport
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Pierre Bréchet, Tao Wu, Thomas Möllenhoff et al. | 2019-12-04)
- GANにおける絡み合いのない(disentangled)表現学習を、正則化された最適輸送(OT)の観点から再定義。
- 輸送計画(transportation plan)に対する構造化正則化を導入し、特定の潜在空間が情報の抽出に寄与するように制約。
- 凸双対性を用いることで、情報の豊富な潜在次元においてスパース性を促す「摂動された基底コスト」としての等価な解釈を提示。
2026-11-08
科学的再発見のためのLLM評価基盤:OpenFrontiersによる科学的推論能力の定量的評価
OpenFrontiers: A Collection of Open Research Problems and a Benchmark for Scientific Rediscovery
出典:Hugging Face Daily Papers(Upvotes: 4 | arXiv:2610.37739)
- * 科学的課題(数千の証明を含む)に対するLLMの能力を評価するベンチマーク「
2026-11-08
低次元埋め込みを用いた最適輸送の効率的な推定
Efficient estimates of optimal transport via low-dimensional embeddings
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Patric M. Fulop, Vincent Danos | 2021-11-08)
- 高次元データにおける最適輸送(OT)距離の計算コストを削減するための手法を提案。
- Paty et al. (2019) の低ランク投影手法を拡張し、1-Lipschitz性を満たすより一般的な写像の族を用いてOTを近似。
- 与えられた写像の族においてOTを最大化することで最良の推定値を得る手法を確立し、ニューラルネットワークを用いた実証を行う。
2026-11-08
デノイジングオートエンコーダの輸送解析:深層ニューラルネットワークを分析するための新しい手法
Transportation analysis of denoising autoencoders: a novel method for analyzing deep neural networks
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Sho Sonoda, Noboru Murata | 2017-12-12)
- 深層ニューラルネットワーク(DNN)の内部表現(特徴マップ)を、輸送写像(Transport Map)として捉えることで、複雑なパラメータ構造を幾何学的に解析する手法を提案。
- 入力と出力の次元が異なる場合でも、両者を共通の高次元空間に埋め込むことで輸送問題として定式化可能であることを示した。
- 軌跡を幾何学的オブジェクトとして扱うことで、パラメータ化に依存しないDNNの普遍的な特性(輸送ダイナミクス)を抽出する。
2026-11-08
組み合わせ最適化におけるLSTM Encoderの順序バイアスとPointer Networkの有効性
Combinatorial Optimization with Pointer Networks: Theory, Benchmarks, and Limitations [P]
出典:Reddit r/MachineLearning(ML Research Community)
- 組み合わせ最適化問題(例:2D Euclidean TSP)に対するPointer Networkの有効性と、LSTM Encoderの順序バイアスがパフォーマンスを阻害する可能性を指摘。
- 既存の順序依存モデル(LSTM Encoder)は、問題の不変性(permutation invariance)とミスマッチを起こし、パフォーマンスを低下させる。
- 大規模な問題スケール(N=20〜200)において、Pointer NetworkはGoogle OR-Toolsに対しても競争力のある、高速な(ミリ秒単位)高品質な解を生成する。
2026-11-08
量子化誤差の補償+: 量子化モデルは探求的な学習者である
Compensate Quantization Errors+: Quantized Models Are Inquisitive Learners
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Yifei Gao, Jie Ou, Lei Wang et al. | 2024-07-22)
- 既存のLLM量子化手法は重みと活性化の相互作用や補助コンポーネントに焦点を当てており、量子化過程における重みの動的な調整を軽視している。
- 単純なRound-to-Nearest (RTN) 量子化では元の重み分布が最適でないため、混合精度や低ランク近似などの手法は計算オーバーヘッドを増大させる。
- 従来の生成事後学習量子化(GPTQ等)は局所的な誤差を最小化する手動調整に依存しており、グローバルな最適化には至っていない。
2026-11-08
PrefixQuant: プレフィックストークンによるLLMのトークン単位外れ値の除去と量子化
PrefixQuant: Eliminating Outliers by Prefixed Tokens for Large Language Models Quantization
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Mengzhao Chen, Yi Liu, Jiahao Wang et al. | 2024-10-07)
- 従来の量子化手法がチャネル単位の外れ値に集中する一方で、精度を制限するトークン単位の外れ値を無視している問題を特定。
- KVキャッシュ内の外れ値トークンにプレフィックスを付与することで、学習不要かつ極めて高速に外れ値を分離する手法を提案。
- ブロック単位の学習可能なパラメータを導入することで量子化誤差を補正し、W4A4KV4やW4A8KV4といった低ビット環境でSOTAを達成。
2026-11-08
DistillLens: Logit Lensを用いた対称的知識蒸留
DistillLens: Symmetric Knowledge Distillation Through Logit Lens
出典:arXiv Core: LLM Quantization, Distillation & Test-Time Compute(Authors: Manish Dhakal, Uthman Jinadu, Anjila Budathoki et al. | 2026-02-14)
- 従来の知識蒸留(KD)は教師モデルの中間層の思考プロセスをブラックボックスとして扱う課題がある。
- DistillLensは、Logit Lensを用いて中間隠れ状態を語彙空間に投影し、教師と生徒の思考プロセスを対称的に整列させる。
- 対称的な発散(Symmetric Divergence)を用いることで、過度な自信(Overconfidence)と自信のなさ(Underconfidence)の両方を抑制し、高エントロピーな推論経路を維持する。
2026-11-08
時系列グローバル予測における系列分割クロスバリデーションの有効性評価
Series-wise Cross-validation for Global Time Series Forecasting
出典:arXiv stat.ML (Statistical ML)(Authors: Vitor Cerqueira, Mariana Oliveira, Luis Roque | 2026-11-05)
- 本研究は、深層学習モデルを用いたグローバル時系列予測における系列分割クロスバリデーション(Series-wise CV)の有効性を評価する。
- 系列分割CVは、モデル選択を促進し、時間と系列を横断した汎化性能を向上させることで、ダウンストリーム予測精度を改善する。
- 既存の時間分割CVと比較して、系列分割CVは、モデル選択における優位性を示す一方で、サンプル外エラーの推定にはわずかな短所も存在する。
2026-11-08
ユーザー埋め込みを解釈可能な行動モードの重ね合わせとして捉える手法
User Embeddings are Superpositions of Interpretable Behavioral Modes
出典:arXiv 2026: Calibration, Conformal & Optimal Transport(Authors: Jonathan Kozaczuk, Zheng Dong, Noyan Evirgen et al. | 2026-11-05)
- 本研究は、レコメンデーションシステムなどで利用されるユーザー埋め込みを、解釈可能な行動モードのスパースな重ね合わせとして捉えるという新しい視点を提供する。
- 既存の密な埋め込み表現では解釈が困難であった問題を、スパースオートエンコーダ(SAE)を用いてモードを抽出することで解決し、自然言語によるクエリが可能になる。
- 合成データおよび実データセットでの実験により、SAEが従来のスパースな手法よりも優れたモード回復性能を示すことが検証されている。
このページの要約は、収集パイプラインが自動生成した digest(要約)です。内容の正確なところは、必ず各項目の出典リンク先の原文で確認してください。出典の本文そのものは掲載していません。ジャンル分けも自動分類のため、周辺の話題が混ざることがあります。