TOPIC TIMELINE
タイムライン検索
特定トピックに関する記事を時系列で並べて「いつ・何が起きたか」を俯瞰します。
2026年5月22日
AI時代における創造性のスケーリングストーリーテリングは人類のDNAの中核であり、理想、警告、希望、経験を表現したいという衝動に由来しています。テクノロジーは常に...
MIT Technology Review AI
2026年5月28日
AI ファクトリー:インテリジェンスの新しいインフラストラクチャAIファクトリーはトークンファクトリーであり、電力をリアルタイムでインテリジェンスに変換しています。エージェンシャルAIがスケーリングし、自律的で常時稼働する特別なエージェントがエンタープライズに配備されると、ワットあたりのパフォーマンスは...
NVIDIA Blog
2026年5月29日
安定性-表現性ギャップの橋渡け: 低資源音声言語モデルの合成データスケーリングと優先度調整音声言語モデル(SLM)は明示的な音素グラフ変換パイプラインをバイパスすることで音声合成の有望なパラダイムとして出現しています。ただし、低資源言語での有効性は転記済み音声の不足によって根本的に制限されています。実践では、合成データが重要になっています。
arXiv cs.CL
2026年5月30日
拡散モデルのグラフ-テキスト生成における復号化軌跡分析:最初に復号化されるトークンの考察マスク付き拡散言語モデルの復号化プロセスを分析した新しい研究が発表された。グラフ-テキスト生成タスクにおいて、同モデルが持つユニークな特性が初めて体系的に調査された。 研究によると、マスク付き拡散言語モデルは従来の自己回帰型大規模言語モデルと異なり、反復的な復号化の過程で特定の優先順序に従うことが明らかになった。具体的には、まず実体(エンティティ)を復号化し、その後に関係詞や機能語を復号化し、最終段階で構造トークンを復号化するという順序である。 同時に研究では、教師あり微調整がこの自然な復号化戦略を阻害する新たな問題モードを特定した。これに対し、推論時に重みなし修正を行う「ラムダスケーリング構造復号化」という手法を提案。この手法を導入することで、BLEUスコア(翻訳品質の評価指標)が9.4ポイント向上することが確認された。 この研究成果は、拡散モデルに基づくテキスト生成技術の精度向上に向けた重要な知見を提供するものとなっている。 (出典:arXiv cs.CL)
2026年6月1日
普遍的多クラス推移的オンライン学習arXiv:2605.30479v1 ラベル空間が無制限の可能性がある普遍的推移的オンライン分類の問題を考察する。この設定はオンライン学習を考慮し、インスタンスの列(ラベルなし)が学習者に事前に既知である。概念クラスが学習可能とは学習アルゴリズムが存在することを意味する。
arXiv cs.LG
2026年6月1日
ElasticMem:LLMエージェント向けの学習可能なリソースとしての潜在メモリarXiv:2605.30690v1 長期メモリはLLMエージェントが拡張インタラクション全体で一貫性のある推論を行い、応答をパーソナライズし、過去の経験を再利用するために不可欠である。しかし既存のメモリ拡張手法は通常、メモリを固定リソースとして扱っている。テキスト空間アプローチは取得したメモリをコンテキストに連結する。
arXiv cs.CL
2026年6月1日
UniScale: モデルルーティングとテスト時スケーリングのオンライン共同最適化による適応的統一推論スケーリング大規模言語モデル(LLM)の実世界展開では、推論品質と計算コストのバランスが中心的な課題となっています。既存のアプローチはこのトレードオフに対して、主に独立した2つの次元に沿って対処しています。モデルルーティング機能は異なるスケールのモデル間で切り替えて要件に対応します。
arXiv cs.AI
2026年6月2日
ユニバーサル・クォンタム・トランスフォーマーarXiv:2606.00045v1発表タイプ:新規 抄録:古典的な連続空間ニューラルネットワークは、モジュロ演算や非可換代数などの厳密な数学的対称性にロックインするのに本質的に苦労している。これらの離散的な論理規則を近似するために、しばしば膨大なパラメータスケーリングに頼り、その後でも確率的不安定性をもたらす。
arXiv cs.AI
2026年6月2日
モデルネイティブコンピューティングアーキテクチャ: コンピュータアーキテクチャの観点から見た将来のシステムアーキテクチャの構想大規模言語モデルはモデル技術からシステム技術への転換期を迎えています。開発者がCodex、Claude Code、AutoGPTおよび関連エージェントを使用してコードを作成し、プロジェクトを管理し、複数ステップのタスクを実行する際に、キャッシュの再利用、コンテキスト管理、エージェントスケーリングなどの反復的なエンジニアリング課題が発生します。
arXiv cs.AI
2026年6月2日
トラベラーズがOpenAIを使用したAI搭載クレームアシスタントを全国展開トラベラーズはOpenAIと共にAI搭載のクレームアシスタントを構築し、顧客がクレーム申請をガイドし、24時間対応のサポートを提供し、ピーク時の業務をスケーリングできるようにしました。
OpenAI
2026年6月3日
Humanoid-GPT:ゼロショット動作追跡のためのデータと構造のスケーリング人間型ロボットの動作制御技術に新たな進展がもたらされた。AI研究機関による新手法「Humanoid-GPT」は、20億フレームに及ぶ膨大な動作データで訓練されたGPT型の言語モデルで、ロボットの全身制御を実現する仕組みだ。 複数のモーションキャプチャデータセットと大規模な内部記録を統合して学習させることで、これまで見たことのない動作や制御タスクに対しても高い精度で対応できるようになった。このゼロショット汎化能力により、複雑で動的な動作追跡が可能になり、人間のような自然な動きを持つロボットの実現に近づいた。 研究チームはデータ量とモデル規模の拡大に焦点を当てることで、汎用的な動作制御システムの構築に成功した形だ。この技術は将来のロボット技術における実用化の道を広げる可能性があり、産業用ロボットや介護支援ロボットなど様々な分野での応用が期待される。 (引用元:arXiv cs.AI)
arXiv cs.AI
2026年6月6日
天文学: 観測に基づいた最高宇宙線エネルギーの制約(Nature)今回、探査機ジュノーによる木星の観測結果から、過渡的現象のサイズを粒子の最高エネルギーと結び付ける、普遍的なスケーリング則が明らかになった。このモデルは、惑星のバウショックから超新星残骸まで幅広い環境に適用でき、宇宙線エネルギーを予測する新しい手法を提供する。
Nature 日本語
2026年6月8日
加速フーリエSAT(AFSAT):GPUベースの対称疑似ブール充足可能性ソルバーの完全実現連続局所探索(CLS)に基づく疑似ブール充足可能性問題向けのGPU加速ソルバーであるAccelerated Fourier SAT(AFSAT)を提案する。AFSATは概念実証的なアプローチであるFastFourierSATを完全に実装されたソルバーへと発展させ、単一の問題インスタンス内で任意の異種対称制約タイプおよび長さの混合に対応する。JAXコンパイラを使用し、AFSATは純粋関数合成、自動ベクトル化、自動微分、ジャストインタイム(JIT)コンパイルを活用して、候補割り当てのバッチ全体で大規模並列CLSを実行する。概念実証と比較して、数値安定性、実行時性能、メモリ効率の大幅な改善を実証する。メモリレイテンシおよび浮動小数点表現から生じる様々な制限を特定・対処し、自動並列化とコンパクト表現を活用することで実現している。浮動小数点の本質的な表現および安定性の制限は、カスタマイズされた離散フーリエ変換実装により部分的に対処される。JAXアレイシャーディングを通じて複数のアクセラレータにスケーリングする際に、ほぼ線形のスループットを達成する。
arXiv cs.AI
2026年6月8日
位置論文:「ポスプロで直すな」—AIの科学は訓練ダイナミクスを研究する必要がある本位置論文は、AIに対する科学的理解とは何かを問う。モデルは静的なオブジェクトではなく、データ、目的関数、アーキテクチャ、最適化ダイナミクスによって形成される時間発展するプロセスのスナップショットである。しかし、AI研究の多くはモデルを固定的な産物として扱い、訓練後の振る舞いを分析するのみで、その出現理由を問わない。本論文は、AIの科学は事後的な修正を超えて、モデルの振る舞いを生み出す訓練ダイナミクスを研究する必要があると主張する。そのような科学は、段階的により強い形の理解をサポートすべきである:初期の訓練信号から結果を予測し、軌跡が誤った時に介入し、最終的には望ましい特性をより確実に生み出す訓練手続きを設計すること。スケーリング則は損失の予測を日常化させたが、課題は能力、偏り、ロバスト性、安全性関連の振る舞いにこの成功を拡張することである。本論文は科学の歴史と哲学に基づいた理論の要件を明示し、機械的解釈可能性、公平性、記憶化、単純性バイアスの進展を検討し、具体的な未解決問題を特定する。
arXiv cs.AI
2026年6月8日
CARVE-Q: 量子提案、古典的に認証された対話型運転修復本論文では、運転操作が拒否された後、その修復が安全規則、優先権、コスト配分、およびエゴフォールバックを尊重することを証明する必要があるという問題に対処する。CARVE(拒否操作の修復の認証付き低コスト包絡線)は、予測なしで対話型修復の証明書アーキテクチャを提供する。拒否操作が与えられた場合、CARVEは有限修復ラティスを構築し、バインディングルール、選択された共同修復、優先権スケーリング協力包絡線、責任加重コスト分割、およびエゴのみフォールバックを記録した構造化証明書を発行する。多所有者修復が積ラティスM = ∏_j |𝒜_j|を誘発することから、CARVE-Qは量子最小値探索を黒箱ラティスにのみ適用し、すべての安全権限は古典的なままとする検証者シールド量子AI探索層を導入する。古典的最小値探索がΘ(M)クエリを必要とするのに対し、Dürr-Hoyerおよびgrover最小値探索はO(√M)オラクルクエリを使用する。
arXiv cs.AI
2026年6月9日
形式言語タスクの学習可能性を因果的に評価する言語モデルのタスク学習に必要なデータ量を厳密に評価するため、研究チームは確率的有限オートマトンから生成される形式言語を使用しました。 従来の評価方法には欠陥があることを示し、因果分析を可能にする「ビニング半環」を導入しました。 実験結果は、因果的介入なしに学習可能性を評価することの限界を浮き彫りにしています。
arXiv cs.CL
2026年6月11日
将来の行動を学習タスクとして予測するarXiv:2606.11445v1 発表タイプ: new 概要: AIシステムへの信頼は、その仕組みの説明に基づいて構築され、それを利用して新しい入力に対する挙動を予測します。大規模推論モデル(LRM)にとって、この従来の方法は特に困難です。単一トークン生成の説明方法は、長い軌跡に自然に一般化せず、軌跡自体も自然言語で読んだ場合に忠実でないことが多いです。そこで、説明ステップを回避する代替案を提案します。すなわち、行動予測を学習可能なタスクとみなし、単一の推論軌跡に対して、説明から通常得られるであろう予測と同じ予測を行う「行動予測器」を訓練します。予測器の訓練データは、人間による注釈なしでLRMに問い合わせることで取得され、推論は単一のフォワードパスで行われます。このアプローチを、LRMが再実行時に回答を繰り返す可能性、および入力の一部を削除した場合に回答がどのように変化するかという2つのタスクに適用します。
arXiv cs.AI
2026年6月11日
大規模言語モデルのための互換性認識型動的ファインチューニングarXiv:2606.11206v1 新規投稿 概要:教師ありファインチューニング(SFT)は、大規模言語モデル(LLM)の調整における主要なパラダイムですが、最適化の不安定性と限定的な汎化性能に悩まされています。最近の研究では、この問題を病的な勾配スケーリングに起因するものとし、トークンレベルでそれを修正するために動的ファインチューニング(DFT)を提案しています。しかし、DFTはすべてのデモンストレーションが同等に適切な学習ターゲットであると仮定しますが、大規模な命令データセットの強い異質性により、デモンストレーションとポリシーの不一致がサンプルレベルで高分散の更新を引き起こすため、この仮定は破られます。本稿では、サンプルレベルの最適化分散を制御するDFTの原理的な拡張である、互換性認識型動的ファインチューニング(CADFT)を導入します。CADFTは、モデルの尤度から動的でポリシー依存の互換性信号を導出し、教師あり更新を調整して、互換性のないデモンストレーションからの高分散勾配を抑制します。
arXiv cs.CL
2026年6月16日
Dr-DCI: ダイナミックなワークスペース拡張による直接コーパスインタラクションのスケーリング大規模コーパスでのエージェント検索は、スケーラブルな候補発見のためにリトリーバーを介したインターフェース(例:BM25またはColBERT)に依存しています。これらのインターフェースは関連文書を効果的にランキングしますが、証拠をランキング結果または制限された文書ビューとしてのみ提示するため、エージェントが素材を再編成したり、文書間の制約を検証したりする能力を制限します。直接コーパスインタラクション(DCI)は、柔軟な検索、フィルタリング、比較、検証のためのシェル実行可能なコーパス操作を公開することで、この制限に対処します。しかし、コーパスが成長するにつれて、フルコーパスのターミナルコマンドは遅くなり、不安定になるため、パフォーマンスと効率が低下します。本研究では、リトリーバー誘導型DCIフレームワークであるDR-DCIを提案します。これは、検索をローカルワークスペースを拡張するためのエージェント呼び出し可能なアクションとして扱います。エージェントは、フルコーパスを直接操作するのではなく、関連文書を動的に進化するワークスペースにプルし、その中でDCI操作を実行します。
arXiv cs.AI
2026年6月16日
分離可能なニューラルアーキテクチャを物理世界モデルとして:数学理論から応用まで本研究では、ニューラル近似とテンソル分解を組み合わせた関数表現クラスである分離可能ニューラルアーキテクチャ(SNA)を紹介します。SNAは、局所的な座標関数(アトム)と、スパースで低ランクの相互作用オブジェクトによって管理されるグローバルな相互作用を分離します。このアーキテクチャは、偏微分方程式(PDE)の解法に適した、コンパクトで滑らかな誘導バイアスを備えています。変分SNA(VSNA)フレームワーク下でのギャーキン試行空間として見ると、この定式化はラックス・ミルグラムの古典的な変分保証(適切性、準最適性、収束性、安定性)を満たします。高次元の時空間・パラメトリックPDEにおいて、VSNAは指数関数的ではなく代数的にスケールすることで次元の呪いを軽減します。完全に因子化されたテンソルネイティブな交互最小二乗(ALS)最適化フレームワークを利用することで、このコストは次元に対して線形になります。VSNAは、楕円系、双曲線系、放物線系のシステム全体で検証され、予測された代数的およびスペクトル的スケーリング率との密接な一致を示しています。
arXiv cs.LG
2026年6月17日
Amazon SageMaker AIにおけるコンテナキャッシュ機能の導入による、より高速なモデルスケーリング本日、Amazon SageMaker AI推論におけるコンテナイメージキャッシュ機能を発表できることを嬉しく思います。これは、より高速なスケーリング最適化の旅における次なる大きな進歩です。これにより、スケールアウトイベント中の生成AIモデルのエンドツーエンドレイテンシが最大2倍高速化されます。
AWS Machine Learning Blog
2026年6月17日
ノイズ駆動型メタステーブル相からの脱出が深層ニューラルネットワークにおけるグロッキングを説明深層ニューラルネットワーク(DNN)は、L2正則化強度の変化に伴い一次相転移を示し、各転移は新しい学習可能特徴の出現をマークします。臨界正則化強度を下回ると、すべての特徴は原理的に学習可能ですが、エネルギー障壁によって隔てられた共存するメタステーブル状態がネットワークを閉じ込め、収束を妨げる可能性があります。DNNの強みはその汎化能力にありますが、いわゆるグロッキング、すなわち長期間の過学習後の異常な、遅延した汎化の開始など、多くの未解決の問題が残っています。線形DNNにおいて、グロッキングは一次L2相転移におけるヒステリシスと一致することを示します。L2正則化を用いて意図的な閉じ込めを設計することにより、低精度のメタステーブル状態にあるモデルは、SGDノイズがエネルギー障壁を横切るまで脱出せず、脱出時間はアレニウス則に従うことを実証します。メタステーブル相への意図的な閉じ込めにより、脱出時間の2桁にわたるグロッキング様遅延収束を再現します。スパースサブサンプリングを用いることで、最終的な訓練誤差に最終的に近づくテスト誤差という、代表的なグロッキング曲線も再現します。
arXiv cs.LG
2026年6月17日
並列サンプリングを超えて:エージェント検索のための多様なクエリ初期化エージェント検索のテスト時スケーリングは、通常、深さ(すなわち、軌道あたりのターン数とトークン数)または幅(すなわち、並列ロールアウト数)を増加させます。ここでは幅のスケーリングに焦点を当て、標準的な並列サンプリングが収穫逓減をもたらすことを示し、これを最初のターンのクエリ冗長性に起因すると分析します。モデルがロールアウト全体で類似した最初のクエリを発行すると、スレッドは重複した証拠を取得し、その後のターンはその共有された取得に条件付けられます。この制限は、最初のターンでのトレーニング不要の介入であるDivInitで対処します。k個の独立した最初のクエリをサンプリングする代わりに、DivInitは1回の呼び出しからn個の候補を描画し、k < n個の多様なシードを選択し、それらを並列軌道として実行します。5つのオープンウェイトモデルと8つのベンチマーク全体で、DivInitは標準的な並列サンプリングを常に上回り、同等の計算量でのマルチホップQAで5〜7ポイントの平均向上をもたらしました。
arXiv cs.AI
2026年6月17日
薬物警戒における因果推論におけるモデル選択の重要性:InferBERTフレームワーク内での分類モデルの比較分析因果関係のある有害薬物事象(ADE)を偽相関から区別することは、薬物警戒における中心的な課題です。InferBERTフレームワークは、TransformerモデルとDo-calculusを統合していますが、その成功は基盤となる分類モデルに依存します。本研究では、InferBERTにおけるモデル選択の影響を評価し、単純なモデルで十分か、ドメイン固有の事前学習が役立つか、LLMへのスケーリングが因果検出を改善するか、事後キャリブレーションの効果を検証します。分析対象は、Analgesics-induced Acute Liver Failure (AILF) と Tramadol-related Mortalities (TRAM) の2つのベンチマークです。XGBoost(ベースライン)、ALBERT(元のInferBERT)、BioBERT(生物医学Transformer)、Med-LLaMA(医療LLM)の4つのモデルを、20回の繰り返しで5分割交差検証を用いて評価しました。
arXiv cs.LG
2026年6月18日
フィッシャー幅:統計的多様体上の複雑さの幾何学的尺度ガウシアン幅は、高次元確率論、圧縮センシング、凸最適化、学習理論における中心的な幾何学的複雑さの尺度です。これは、集合のランダムな方向への平均的な広がりを定量化し、それによって制約集合、仮説クラス、降下円錐の実効次元を捉えます。しかし、この概念は本質的にユークリッド的です。統計モデルは代わりに、フィッシャー情報計量によって誘起される自然なリーマン幾何学を運び、そこでは方向は周囲のユークリッド長ではなく、統計的な識別可能性に応じてスケーリングされます。本稿では、統計的多様体のためのガウシアン幅のフィッシャー幾何学的類推であるフィッシャー幅を導入します。パラメータ点 $ heta$ において、フィッシャー幅はユークリッド単位を局所計量テンソル $G( heta)^{1/2}$ で置き換え、フィッシャー再スケーリングされた集合のガウシアン幅を測定します。これにより、結果の量が局所的な統計的曲率に敏感になり、滑らかな再パラメータ化に対して不変になります。
arXiv cs.LG
2026年6月18日
JetFlow:並列ツリードラフティングで投機的デコーディングのスケーリング限界を打破投機的デコーディング(SD)は、複数のトークンをドラフトし、それらを並列に検証することで、自己回帰型大規模言語モデル(LLM)を高速化しますが、スケーリング上の限界に直面しています。ドラフト予算を増やしても、受理率が高く、ドラフトのオーバーヘッドが低い場合にのみ速度が向上します。この限界は、従来のヘッドベースのSD手法が因果関係と効率性のジレンマに直面しているため、打破が困難でした。自己回帰型ドラフターは、パス条件付き候補を生成し、これらは高い受理長を持つツリー投機的デコーディングに効果的ですが、そのドラフトコストはツリーの深さに比例して増加します。双方向ブロック拡散ドラフターは、一度のパスですべての位置を生成しますが、そのブランチに依存しない周辺分布は、個々にはもっともらしくても相互に矛盾するツリーを形成する可能性があり、予算を無駄にし、受理率を低下させます。本稿では、ヘッドベースのSDフレームワークであるJetFlowを提案します。これは、ワンフォワードドラフティングの効率性とブランチごとの因果条件付けを組み合わせたものです。
arXiv cs.CL
2026年6月18日
ソルバーのボトルネックを打破:学習可能なフロンティアにおけるタスクジェネレーターのトレーニング強化学習(RL)によるエージェントのトレーニングにおける制約となっているのは、フロンティアタスクの供給、すなわち現在のモデルをトレーニングするのにちょうど十分な難易度で、有効かつ解けるタスクです。推論能力やエージェント能力を持つモデルが向上するにつれて、固定されたタスク分布は飽和し、単純な合成生成では、簡単すぎる、不可能、または定義が不適切なタスクが生成されます。RLを用いてタスクジェネレーターをトレーニングし、有効性と学習可能性を最適化することで、このボトルネックを解消できますが、直接的な最適化には候補ごとのソルバーの繰り返しロールアウトが必要です。ソフトウェアエンジニアリング(SWE)タスクでは、1回のロールアウトに数十分かかる場合があり、ソルバー・イン・ザ・ループのジェネレーター・トレーニングは現実的ではありません。本稿では、ターゲットとする解法率でタスクジェネレーターをトレーニングするための、ソルバー償却フレームワークであるPROPELを提案します。
arXiv cs.LG
2026年6月19日
SageMakerの詳細メトリクスとCloudWatchのインサイトダッシュボードで生成AI推論を監視・デバッグAmazon SageMaker AIは、機械学習モデル向けの完全マネージドなリアルタイム推論ホスティングを提供します。モデルを1つ以上のコンピューティングインスタンスでバックアップされたSageMakerエンドポイントにデプロイすると、SageMakerがプロビジョニングとスケーリングを処理します。SageMakerは複数のエンドポイントアーキテクチャをサポートしています。
AWS Machine Learning Blog
2026年6月19日
ITNet: 畳み込み、アテンション、再帰を包含する学習可能な積分変換畳み込みネットワーク、再帰ネットワーク、トランスフォーマーは、それぞれ異なる帰納的バイアス(局所性、逐次メモリ、コンテンツ依存のペアワイズ相互作用)をエンコードしており、その誕生以来、数学的に区別されてきた。本研究では、この断片化は、信号の処理方法における根本的な多様性を反映するのではなく、単一の基盤となる数学的オブジェクト、すなわち学習可能な積分変換の不完全な見方であることを示す。我々は、位置と特徴の両方に依存する学習可能なカーネルを中心に構築された統一アーキテクチャ、Integral Transform Network (ITNet) を紹介する。このカーネルは、ペアワイズ相互作用をモデル化する小さなニューラルネットワーク、具体的にはMLPとして実装されており、モデルがデータからその動作を適応させることを可能にする。畳み込み、自己アテンション(マルチヘッドを含む)、自己回帰再帰(LSTM、GRU、S4、Mambaを含む)が適切なパラメータ化の下で特殊なケースとして現れること、そしてITNetが連続演算子の普遍的近似器であることを示す。
arXiv cs.AI
2026年6月21日
ゲーマーの動きを先読み。インテルの「フレーム外挿」ってどんなテクニック?最近、やや食傷気味な人もいるだろう「AI」。とはいえ、AIとしては前進あるのみ。Intel(インテル)が進めるゲームでのアップスケーリング技術について、中の人に話をききました。今月に台湾で開催されたCOMPUTEXで米Gizmodoが話を聞…
GIZMODO Japan