KNOWLEDGE VAULT — TAG
タグ「ドメイン適応」
収蔵 19件
2026-11-19
Ambient SFT:温度調整による「事前学習の知識」を維持した高効率な微調整手法
Ambient LLMs: Data-Efficient Supervised Fine-tuning via Temperature Matching
出典:arXiv cs.LG (Machine Learning)(Authors: Giannis Daras, Marios Papachristou, Adam Klivans et al. | 2026-11-17)
- 少量の高品質データで微調整を行う際に発生する「過学習」と「分布の裾(Tail)の忘却」を抑制するAmbient SFTの提案。
- 事前学習モデルを「ノイズの多い教師」と見なし、高温度(High-temperature)の確率分布を一致させることで、知識の崩壊を防ぐ。
- ドメイン適応、指示学習(Instruction-tuning)、推論タスクにおいて、標準的なSFTを最大21%改善する。
2026-11-18
Nvidiaの売上急増とシンガポール拠点における戦略的秘匿化の分析
Nvidia stopped disclosing Singapore sales as revenues hit $104B
出典:Hacker News (Top Stories)(HN Score: 237 pts by louiereederson)
- Nvidiaの売上が1040億ドルに達し、シンガポールでの売上開示を停止したという経済動向の報告。
- 従来の公開データに基づく市場予測に対し、特定拠点の「非公開化」というノイズ(情報の欠落)を考慮したモデル構築の必要性を示唆。
- 半導体サプライチェーン、地政学的リスク、および不均衡なデータ分布を含むマクロ経済予測において威力を発揮する。
2026-11-17
分布シフト下での学習を再定義する「Shift Multiaccuracy」:汎化性能の理論的極致
Multiaccuracy as an Error Benchmark for Learning with Distribution Shift
出典:arXiv cs.LG (Machine Learning)(Authors: Konstantinos Stavropoulos | 2026-11-15)
- 分布シフト(Domain Shift)を伴う学習において、最適な誤差指標として「Shift Multiaccuracy」を導入。
- 従来のTDS(Testable Learning with Distribution Shift)が抱えていた「訓練時とテスト時が一致する場合の誤差増幅」という理論的欠陥を解消。
- 教師なしドメイン適応(UDA)において、テストラベルに依存しない鋭い汎化保証と直接的な最小化を可能にする。
2026-11-17
SALA:言語的意味を介した潜在行動空間の共有による、人間・ロボット動画の双方向スケーリング
SALA: Semantically Aligned Latent Actions Enable Dual-Axis Scaling of Embodied Foundation Models
出典:Hugging Face Daily Papers(Upvotes: 9 | arXiv:2611.17110)
- 人間とロボットの動画を共通の「潜在行動空間(Latent Action Space)」で統合するSALAフレームワークの提案。
- 従来の動画再構成のみに依存する手法に対し、言語記述を用いた「意味的対応」を導入することで、視覚的差異を克服し行動の共通性を抽出。
- 人間動画による大規模な事前学習と、タスク特化の人間動画による事後学習の両面で、ロボットの行動精度と成功率を向上させる。
2026-11-17
汎用的なものづくり・製造プロセスの体系化とエンジニアリングの原理
How to make almost anything
出典:Hacker News (Top Stories)(HN Score: 597 pts by o4c)
- ものづくり(製造・工学)における汎用的なアプローチと原理を体系化したリソース。
- 個別の技術に特化するのではなく、基礎となる「作り方」の共通概念を抽出することで、未知の課題への適応力を高める。
- 製造プロセス、ハードウェア設計、または複雑なシステム構築における「設計思想」の構築に威力を発揮する。
2026-11-17
進化計算と物理インデックスを用いた「専門家メモリ」による継続学習の破滅的忘却の抑制
Mitigating Catastrophic Forgetting with Physics-Indexed Specialist Memory: the Evolutionary Neuroplastic Agent
出典:arXiv cs.LG (Machine Learning)(Authors: Blas Eugenio Vicco Zarate, Miguel Hernán Vicco | 2026-11-16)
- 進化計算で生成された「専門家ネットワーク」を環境の物理特性(動態)ごとにアーカイブし、再利用する継続学習手法(ENA)の提案。
- 環境検知と失敗駆動型の探索を組み合わせることで、新しいタスクの学習と過去のスキルの保持(破滅的忘却の抑制)を両立。
- 非定常な環境(CartPole, HalfCheetah)において、特に複数の動態が混在する環境での一貫した性能維持に強みを発揮。
2026-11-16
量子グラフニューラルネットワーク(QGNN)の体系的総括:表現力とスケーラビリティの限界と展望
Quantum Graph Neural Networks: Architectures, Trainability, and Applications
出典:arXiv cs.LG (Machine Learning)(Authors: Zeinab Sharifi, Hossein Shirazi | 2026-11-13)
- 量子回路をグラフ構造に適用し、古典的GNNの表現力や長距離情報伝達の限界を打破するQGNNの統一フレームワークを提示。
- 畳み込み、メッセージパッシング、ハミルトニアン等5つのアーキテクチャを分類し、対称性(置換不変性等)を主要な誘導バイアスとして特定。
- 現状はシミュレーションと小規模グラフが主流であり、古典モデルに対する明確な優位性は未確立だが、高エネルギー物理や化学等の特定領域に有望。
2026-11-16
タンパク質・リガンド相互作用における創発的能力を持つマルチモーダル基盤モデル「Bonbon」の解析
Emergent Biological Capabilities in a Foundation Model for Molecular Interactions
出典:Hugging Face Daily Papers(Upvotes: 5 | arXiv:2611.14504)
- 3.2兆トークンのタンパク質・リガンド配列から学習し、構造座標なしで相互作用を理解する基盤モデル「Bonbon」の発表。
- 従来のco-folding手法と比較し、5桁以上高速な推論速度を維持しつつ、SOTAの結合能・親和性予測を達成。
- 未知の複合体(OOD)に対しても、作用機序、結合部位、共有結合の有無をゼロショットで識別する創発的能力を発揮。
2026-11-16
エルニーニョ現象の力学:時系列動態と気象変動の物理的メカニズム
A short explainer on how El Niño works [video]
出典:Hacker News (Top Stories)(HN Score: 115 pts by nharada)
- エルニーニョ現象(ENSO)における海洋と大気の相互作用および熱力学的プロセスに関する解説。
- 単なる統計的相関ではなく、海洋の熱輸送と大気循環のフィードバックループという物理的因果関係を提示。
- 気象予測、異常気象の長期予測、および物理制約を伴う時系列予測モデルのドメイン知識として極めて有用。
2026-11-16
プロセスマイニングを統合した連合学習による、異種環境下での産業IoT異常検知の高度化
Process Mining-Enabled Federated Anomaly Detection for the Industrial IoT
出典:arXiv cs.LG (Machine Learning)(Authors: Francesco Vitale, Salvatore Bramante, Francesco Flammini et al. | 2026-11-13)
- 連合学習(Federated Learning)を用いた異常検知において、ノード間のデータ非独立同一分布(non-IID)問題を解決する手法の提案。
- プロセスマイニングを用いて各ノードのデータとグローバル参照の類似度を評価し、動的な重み付けを行うことで、FedAvg等の標準手法よりF1スコアを大幅に向上。
- 製造現場など、環境条件や設備特性によって時系列データの性質が大きく異なる「異種データ(Heterogeneous Data)」の異常検知において極めて強力。
2026-11-16
動的バイグラフMatérn-Whittle過程:時空間フィールド間の動的な依存関係グラフの学習
Dynamic bigraphical Matérn--Whittle processes: learning dependence graphs among spatial-temporal fields
出典:arXiv stat.ML (Statistical ML)(Authors: Alokesh Manna, Debangan Dey | 2026-11-13)
- 複数の変数(汚染物質、疾患等)が複数の地点で時系列に観測されるデータにおける、変数間の動的な依存関係をモデル化する手法。
- 既存のGraphical Lasso等と比較し、時空間構造をスペクトル分解することで、グラフ構造の正確な事後分布を前向き・後ろ向き再帰(Forward-Backward)で導出可能にする。
- 季節変動を伴う大気質データや、パンデミック下での疾患伝播など、空間・時間・変数の3要素が複雑に絡む動的ネットワーク推定に威力を発揮する。
2026-11-14
IRMによる偽の相関(Spurious Correlations)の排除:NLPにおける頑健な汎化性能の獲得
Disentangling Spurious Correlations: How IRM Handles Diverse Shortcuts in Text Classification
出典:arXiv stat.ML (Statistical ML)(Authors: Paul Grunenwald, Benoît Crabbé, Guillaume Wisniewski et al. | 2026-11-12)
- ERM(経験的リスク最小化)が陥りやすい「方言」等の偽の相関(ショートカット)を、IRM(不変リスク最小化)を用いて抑制する手法の検証。
- 因果関係に基づいた評価により、IRMが環境変化やラベルノイズ下でもショートカットを拒絶し、頑健な言語特徴を抽出できることを証明。
- Bias in BiosやActorCorr等の実データにおいて、バイアス(性別と職業の結びつき等)を緩和しつつ、意味のある特徴を維持する有効性を確認。
2026-11-14
保険数理における「構造的安定性」の定量化:透明なモデルの更新時における挙動変化の制御
Quantifying structural stability of transparent models for general insurance pricing
出典:arXiv cs.LG (Machine Learning)(Authors: Félix Côté, Marie-Pier Côté | 2026-11-12)
- 保険契約の短期間性によるデータ分布の変化に対し、モデル更新時の「構造的安定性(予測だけでなくモデル構造自体の変化)」を評価する手法を提案。
- 「機能的透明性(Functional Transparency)」の概念と「平均二乗形状関数距離(Mean Squared Shape function distance)」を導入し、決定木以外のモデルでも構造変化を定量化可能にした。
- EBM(Explainable Boosting Machines)やXGBoostにおいて、逐次モデリングやハイパーパラメータ固定といった戦略が、精度を維持しつつ構造的安定性を劇的に改善することを実証。
2026-11-14
異種ロボット・人間間の知能を統合する「Embodiment Dreaming」によるクロス・エンボディメント学習
EgoX: Egocentric Cross-Embodiment Manipulation with Embodiment Dreaming
出典:Hugging Face Daily Papers(Upvotes: 1 | arXiv:2611.16728)
- 異なる形態(人間、実機ロボット、シミュレーション)の操作データを統合的に学習する「EgoX」フレームワークの提案。
- モジュール化されたTransformer(MXT+)と、各形態の動態を予測する「Embodiment Dreaming」により、異種間のモダリティ差を克服。
- 特に未知の環境(Out-of-Distribution)において、事前学習によるタスク進捗率が大幅に向上(0.53→0.77)する。
2026-11-14
LoRAと合成データを用いたTransformerによる連続血糖値(CGM)予測モデルの構築
I have trained a model to predict my blood sugar [P]
出典:Reddit r/MachineLearning(ML Research Community)
- 合成データによる事前学習とLoRAを用いた個人データへの適応を組み合わせた、Encoder-only Transformerによる血糖値予測モデルの構築。
- 大規模な合成データ(19,200 CGM年分)による事前学習と、DILATEリスク空間へのマッピングにより、予測精度と反事実的推論能力を両立。
- 時系列データ(CGM、インスリン、炭水化物)を入力とし、将来予測、欠損補完、過去へのバックキャストを単一モデルで実行可能。
2026-11-08
CoSTARブロック積みデータセット:ワークスペース制約下での学習
The CoSTAR Block Stacking Dataset: Learning with Workspace Constraints
出典:arXiv Core: Ensemble Diversity & Empirical Bayes(Authors: Andrew Hundt, Varun Jain, Chia-Hung Lin et al. | 2018-10-27)
- 既存の物体把持データセットにおける制約の緩和が、現実的な環境下でのブロック積みタスクの失敗を招くことを指摘。
- より制約の少ない環境で、5.1cmのカラーブロックを用いた注文履行スタイルの積みタスクを実行する「JHU CoSTAR Block Stacking Dataset (BSD)」を導入。
- 約12,000件の積み試行と200万フレーム以上のリアルタイム時系列データを含む、動的なシーンを網羅したデータセットを提供。
2026-11-08
ウラン立方体から紐解くドイツ原子力プロジェクトの失敗要因:物理的制約とモデルの乖離
Uranium cubes reveal why the German nuclear project failed
出典:Hacker News (Top Stories)(HN Score: 77 pts by rbanffy)
- ドイツの原子力プロジェクトにおける失敗原因を、ウラン立方体の物理的特性を用いた解析から特定した研究。
- 従来のシミュレーションでは捉えきれなかった、物質の微細な構造とマクロな挙動の不一致を可視化。
- 物理現象のモデリング、特に「物理的制約(Physical Constraints)」を考慮した特徴量設計が必要な問題で威力を発揮。
2026-11-08
科学的発見のためのディープデノイジング:電子顕微鏡を用いたケーススタディ
Deep Denoising For Scientific Discovery: A Case Study In Electron Microscopy
出典:arXiv Core: Random Matrix Theory & Ising Spin Glass(Authors: Sreyas Mohan, Ramon Manzorro, Joshua L. Vincent et al. | 2020-10-24)
- 科学的イメージングにおけるノイズ除去の課題に対し、深層畳み込みニューラルネットワーク(CNN)の適用可能性を探索。
- 真のノイズレス画像が得られない科学分野の制約を克服するため、シミュレーションに基づくデノイジング(SBD)フレームワークを提案。
- 透過型電子顕微鏡(TEM)データを用いた評価において、SBDはシミュレーションおよび実データの両方で既存手法を大幅に上回る性能を達成。
2026-11-08
低次元埋め込みを用いた最適輸送の効率的な推定
Efficient estimates of optimal transport via low-dimensional embeddings
出典:arXiv Core: Conformal, Calibration & Optimal Transport(Authors: Patric M. Fulop, Vincent Danos | 2021-11-08)
- 高次元データにおける最適輸送(OT)距離の計算コストを削減するための手法を提案。
- Paty et al. (2019) の低ランク投影手法を拡張し、1-Lipschitz性を満たすより一般的な写像の族を用いてOTを近似。
- 与えられた写像の族においてOTを最大化することで最良の推定値を得る手法を確立し、ニューラルネットワークを用いた実証を行う。
このページの要約は、収集パイプラインが自動生成した digest(要約)です。内容の正確なところは、必ず各項目の出典リンク先の原文で確認してください。出典の本文そのものは掲載していません。ジャンル分けも自動分類のため、周辺の話題が混ざることがあります。