タイムライン検索

2026年3月29日

Google DeepMindはマウスポインターをコンテキスト認識型のAIパートナーに進化させています。従来のプロンプト入力の面倒さを超え、Chromeおよびそれ以外でもAIとの直感的なコラボレーションを実現します。

Google DeepMind

2026年5月19日

最新の大規模言語モデル（LLM）は、コンテキスト長を数百万トークンまで拡張し、長い会話履歴に基づいた一貫性のあるパーソナライズされた応答を実現しています。しかし、キー・バリュー（KV）キャッシュが...

Apple Machine Learning Research

2026年5月27日

このポストでは、統合アーキテクチャを使用して、並列推論、コンテキスト永続性、追跡可能な実行パスを実証するマルチエージェントキャンペーンレビュー システムの構築方法を学ぶことができます。

AWS Machine Learning Blog

2026年5月29日

arXiv:2605.29123v1 公表予定タイプ：新規 概要：マスク拡散言語モデル（MDM）は任意の順序の生成をサポートしており、信頼度ベースのデコーディングが事実上標準的な推論ポリシーとして機能している。これを最適化するため、最近のトレーニングスキームでは、生成時に観察されるマスクパターンと直接整合させることを試みている。

arXiv cs.AI

2026年5月29日

コンテキスト蒸留は文脈情報をモデルパラメータに圧縮するが、既存の方法は複数の蒸留された潜在メモリをオラクル以外の設定でどのように保存、検索、安全に活性化するかについて無視することが多い。本研究ではコンテキスト蒸留を潜在メモリ管理問題として定式化する。

arXiv cs.LG

2026年5月29日

大規模言語モデル(LLM)は自律エージェントとしてますます機能していますが、環境との継続的なインタラクションはコンテキスト内報酬ハッキング(ICRH)につながる可能性があり、これはLLMがプロキシ目標を最大化するために行動を反復的に最適化し、意図しない有害な副作用を生み出す現象です。

arXiv cs.CL

2026年5月30日

マスク付き拡散言語モデルの復号化プロセスを分析した新しい研究が発表された。グラフ-テキスト生成タスクにおいて、同モデルが持つユニークな特性が初めて体系的に調査された。 研究によると、マスク付き拡散言語モデルは従来の自己回帰型大規模言語モデルと異なり、反復的な復号化の過程で特定の優先順序に従うことが明らかになった。具体的には、まず実体（エンティティ）を復号化し、その後に関係詞や機能語を復号化し、最終段階で構造トークンを復号化するという順序である。 同時に研究では、教師あり微調整がこの自然な復号化戦略を阻害する新たな問題モードを特定した。これに対し、推論時に重みなし修正を行う「ラムダスケーリング構造復号化」という手法を提案。この手法を導入することで、BLEUスコア（翻訳品質の評価指標）が9.4ポイント向上することが確認された。 この研究成果は、拡散モデルに基づくテキスト生成技術の精度向上に向けた重要な知見を提供するものとなっている。 （出典：arXiv cs.CL）

2026年6月1日

arXiv:2605.30690v1 長期メモリはLLMエージェントが拡張インタラクション全体で一貫性のある推論を行い、応答をパーソナライズし、過去の経験を再利用するために不可欠である。しかし既存のメモリ拡張手法は通常、メモリを固定リソースとして扱っている。テキスト空間アプローチは取得したメモリをコンテキストに連結する。

arXiv cs.CL

2026年6月1日

LLMエージェントはウェブサーチや深い研究など現実世界のアプリケーションにおける長期タスクにますます直面しており、蓄積されたコンテキストは長コンテキスト低下と推論失敗を引き起こすことがある。先行研究ではエージェント側のコンテキスト制御または固定戦略によるコンテキスト管理を通じてこれを緩和している。

arXiv cs.AI

2026年6月2日

AWS GPUインスタンスへの大規模言語モデル(LLM)のデプロイを繰り返している場合、GPUのHigh Bandwidth Memory(HBM)にロードするモデルが大きいほど、長い時間がかかることに気付いているでしょう。

AWS Machine Learning Blog

2026年6月2日

AWS環境でLLM（大規模言語モデル）を運用する際の課題に対応する新たな技術アプローチが注目を集めている。GPUインスタンスへのモデル読み込みに要する時間短縮が、これまでの実運用における課題だった。 AWSが提案する解決策は、GPUDirect、Amazon FSx for Lustre、TurboQuantの3つの技術を組み合わせるもの。これらを活用することで、モデルをGPUメモリへ転送する速度を大幅に高速化できる。結果として、より大規模なパラメータ数を持つモデルの推論準備時間が短縮され、LLMが処理可能なテキスト長を示すコンテキストウィンドウの拡大も実現可能となる。 この技術統合により、複雑な推論タスクや長文処理が必要なユースケースでの対応能力が向上する見通しだ。クラウド環境でのAI推論効率化に向けた実装例として、今後の導入が期待されている。 （引用元：AWS Machine Learning Blog）

2026年6月2日

結合埋め込み予測アーキテクチャ(JEPA)はビジョンにおける自己教師あり表現学習を再構築しています。最近のLLM-JEPAは自動回帰言語モデルにJEPAを移植しましたが、因果注意メカニズムから2つの大きなコストを継承しています：明示的なマルチビュー情報(テキスト-コードペアなど)が必要とされます。

arXiv cs.CL

2026年6月2日

長期間の検索エージェントは多くのツール呼び出しにおいて大量の取得コンテンツを蓄積するため、コンテキスト予算効率がますます重要になります。最小限の介入は軌跡の進行に伴い、コンテキストから古い観察をマスキングすることですが、このタイプのコンテキスト処理がいつ有効であるかは依然として不明です。

arXiv cs.CL

2026年6月2日

大規模言語モデルはモデル技術からシステム技術への転換期を迎えています。開発者がCodex、Claude Code、AutoGPTおよび関連エージェントを使用してコードを作成し、プロジェクトを管理し、複数ステップのタスクを実行する際に、キャッシュの再利用、コンテキスト管理、エージェントスケーリングなどの反復的なエンジニアリング課題が発生します。

arXiv cs.AI

2026年6月2日

大規模言語モデル（LLM）が分布外タスクで良好なパフォーマンスを発揮できることが示されていますが、分布シフトが大きくなるにつれてその利点は減少する傾向があります。そのため、研究者は分布的に類似した情報提供的なデモンストレーションの取得を目指しています。

arXiv cs.CL

2026年6月3日

企業が導入するAIエージェント間でのデータの断絶が課題となる中、Microsoftは統合型システム「Microsoft IQ」を発表した。2026年のBuildカンファレンスでの発表となる。 現在、企業内に展開されるAIエージェントは独立した環境で動作し、各々がデータサイロを形成。組織全体で共通のビジネスコンテキストやルール適用が困難な状況にあった。Microsoft IQはこの問題を解決するため、ビジネスデータのコンテキスト層を大幅に拡張する。 同システムは組織の運営方法や蓄積された知識、リアルタイムのグローバルシグナルなど複数のコンテキストソースを統合。これによりAIエージェント間での情報共有が可能となり、組織全体で一貫した判断と動作が実現される。 企業のデジタルトランスフォーメーション推進において、AIエージェント間の連携強化は重要な課題。Microsoftの新システムはエンタープライズAI活用の効率化に貢献すると期待される。 （引用元：VentureBeat AI）

VentureBeat AI

2026年6月4日

このポストでは、Amazon Bedrock Ops Alertを紹介します。これは3層の自動監視ソリューションで、運用上の問題を積極的に検出し、アラームしきい値を動的に調整し、アラームをカテゴリ別に分類し、コンテキストを認識したサポートケースを自動作成し、同じアラームカテゴリの未解決ケースが既にアクティブな場合の重複ケース作成を防止し、AI SREチームへのコンテキスト化された通知を配信します。

AWS Machine Learning Blog

2026年6月4日

Autodeskは、主要製品向けに「Autodesk Assistant」のテックプレビュー版を提供する他、Fusion向けのMCPを公開した。設計データや業務コンテキストを理解するAIアシスタントに加え、外部AIとの連携を可能にする機能も提供し、設計／製造業務におけるAI活用の拡大を図る。

ITmedia AI+

2026年6月5日

離散拡散言語モデルの生成精度を高める新しいアプローチが提案された。このモデルは従来と異なり、テキスト全体を並列処理してノイズを段階的に除去する仕組みを持つ。 研究チームが開発した「SARDI」は、この特性を活かした動的な情報検索フレームワークである。通常は信頼度が低いとされる予測トークンに着目し、これらを先読み信号として利用。出力が確定する前の段階で関連情報を検索することで、より正確な回答生成を実現する。 既存の検索拡張生成（RAG）技術とは異なり、SARDIは追加の訓練を必要としない。複数の段階的推論が求められるマルチホップ質問応答ベンチマークでテストした結果、従来手法を上回る性能を示した。 このアプローチにより、大規模言語モデルの幻覚問題を軽減し、より信頼性の高い回答生成が期待できる。テキスト生成の効率性と精度の両立を目指す開発において、重要な進展といえる。 （arXiv cs.CL）

2026年6月5日

コード生成を支援するAI言語モデルの新たな課題に対する解決策が提案されました。ソフトウェア開発の現場では、特定のコードリポジトリ全体の文脈を踏まえた正確なコード生成が求められていますが、これを実現することは計算効率の面で難しいとされてきました。 研究チームが発表した「Code2LoRA」は、ハイパーネットワーク技術を活用して、リポジトリ固有の知識を言語モデルに効率的に組み込む手法です。この手法は、リポジトリごとにカスタマイズされた軽量なアダプタ（LoRA）を事前に生成し、推論時に追加の計算負荷をかけずに活用できるのが特徴。 提案されるフレームワークは2つのバージョンを備えており、完成されたプロジェクト向けの「Static版」と、開発途上のコードベース向けの「Evo版」に対応。これにより、リポジトリレベルのコンテキストが必要な様々な開発環境での適用が可能になるとしています。 （出典：arXiv cs.CL）

arXiv cs.CL

2026年6月5日

「Windows」の「エクスプローラー」内やデスクトップ上で右クリックしたときに表示されるコンテキストメニューは、常に悩みの種であった。従来のWindowsでは、多数の項目が追加されてメニューが際限

Yahoo!ニュース IT

2026年6月7日

はじめに Claude Codeを使い始めてすぐ気づいた。セッションを開くたびに、AIは何も知らない状態から始まる。 先週話した仕様変更も、ADRで決めた設計方針も、あの実装が依存している要件も、全部ない。毎回ゼロから説明し直す。

Zenn

2026年6月8日

エージェンティックAIがもたらす新たな課題 AI技術がコード生成を大幅に加速させたにもかかわらず、企業全体のプロダクト開発速度は期待通りに向上していない状況が明らかになった。 その理由は、ソフトウェア開発における本質的な課題にある。要件定義の策定、複数システムの統合、本番環境での保守運用といった工程は、AIによるコード生成の自動化だけでは解決できない。AIが自動生成したコードの量が増加する一方で、これらコードの品質検証は人間による綿密なレビューに依存しており、ここがボトルネックとなっている。 さらに問題は、大量のAI生成コードに対応する中で、エンジニアが開発の全体像を把握するために必要なコンテキスト情報を失いつつあることだ。細部への対応に追われる結果、システムレベルでの問題検出や改善機会を見逃すリスクが高まっている。 AIによる自動化の進展に伴い、開発プロセスの他の段階における人間の役割と効率性の向上が、今後の課題として浮かび上がった。 （VentureBeat AI）

VentureBeat AI

2026年6月8日

Windows 11で右クリックすると表示されるコンテキストメニューの見直し作業が進められていることが明らかになった。

INTERNET Watch

2026年6月8日

本研究は、自己回帰言語モデル(ARLM)を拡散言語モデル(DLM)に変換する手法を検討している。先行研究では因果的注意機構を双方向注意に置き換えてDLM目的関数で訓練していたが、これは2つの分布シフトを引き起こす。1つ目は次トークン予測目的からDLM目的への移行により、ARLMが習得した知識が失われる可能性がある。2つ目は標準DLMが訓練と推論の不整合に苦しむ。著者らはこれらの課題に対処するため、オン・ポリシー拡散言語モデル(OPDLM)を提案する。OPDLMはオン・ポリシー蒸留(OPD)により訓練され、学生モデル(双方向注意を持つARL)が自身の軌跡を生成し、教師モデル(元のARLM)がこれらの軌跡上でターゲットロジットを提供することで知識を蒸留する。このアプローチにより、DLMの訓練推論不整合を排除しながら、元のモデルからの蒸留によりARLMからの知識保持を強化する。実験結果は、OPDLMが従来手法比で15倍から7,000倍少ない訓練トークンで、幅広いタスクで良好な性能を達成することを示している。

arXiv cs.CL

2026年6月9日

効率的な設計手法として注目されるベイズ最適化（BO）が、近年、分子やタンパク質といった複雑な構造を持つ物質への応用を広げています。これは、潜在空間ベイズ最適化（LSBO）と呼ばれる技術によって可能になります。 LSBOでは、複雑な構造が抽象的な「潜在空間」に変換され、この空間内で最適な設計が探索されます。現在、データ分析の分野で高い性能を発揮している表形式基盤モデル（TabPFNやTabICLなど）が、BOの代理モデルとして利用されるケースが増加しています。 しかし、これらの基盤モデルをLSBOに適用する際には、特定の課題が存在していました。この課題に対処するため、最新の研究では、分子の構造を符号化する変分オートエンコーダ（VAE）の潜在空間で定義された合成最適化タスクを用いて、表形式基盤モデルの事前学習段階を補強する手法が提案されています。このアプローチにより、LSBOにおけるモデルの不一致が解消され、より効率的で高精度な物質設計への貢献が期待されます。 引用元: arXiv cs.LG

arXiv cs.LG

2026年6月9日

言語モデルの効率化を目指し、新たなツール「Express」が導入されました。このExpressは、これまで非因果的アテンションの近似に用いられていた手法を、因果的アテンションの近似へと転換させる機能を持ちます。 具体的には、既存の「Thinformer」という近似手法と組み合わせることで、因果的アテンションの近似精度を向上させることが期待されています。これにより、言語モデリングにおいて課題となっていた四つのリソースボトルネックの克服に貢献すると考えられます。これらのボトルネックには、長いコンテキストの事前処理やKVキャッシュの圧縮などが含まれており、Expressの活用によって、より効率的な言語モデルの開発が進む可能性があります。 arXiv cs.LG

arXiv cs.LG

2026年6月10日

自己蒸留は、モデルが追加コンテキストなしで性能向上を維持できるよう学習させる手法です。 本研究では、自己蒸留におけるコンテキスト設計を、凍結された評価者からのフィードバックを用いて探求しました。 ステップごとにアラインされた批評が最も大きな改善をもたらし、他の手法を大幅に上回る結果を示しました。

arXiv cs.LG

2026年6月10日

Cohereは、単一のH100で実行可能なオープンソースのコーディングエージェント「North Mini Code」を発表しました。 この300億パラメータのモデルは、サブエージェントのオーケストレーション、アーキテクチャマッピング、コードレビューなど、エージェントソフトウェアエンジニアリングを対象としています。 256,000トークンのコンテキストウィンドウと64,000トークンの最大生成長をサポートし、Apache 2.0ライセンスでHugging Faceで利用可能です。

VentureBeat AI

2026年6月10日

6月8日に開幕したAppleの開発者会議「WWDC26」の主役は、アーキテクチャが刷新された「Apple Intelligence」と、劇的な進化を遂げた次世代「Siri AI」だった。本記事では、Siriがどのようにパーソナルコンテキストを理解し、アプリを横断してタスクを処理するのかを見ていく。

ITmedia 全カテゴリ