タイムライン検索

2025年12月8日

本記事は、PFNのインターンシップを経て現在はアルバイトとして勤務されている上田蒼一朗さんによる寄稿です。 はじめに Preferred Networks（以下PFN）ではKubernetesを用いた機械学習基盤の開発・ […] 投稿 Kubernetesスケジューラのベンチマークテスト は Preferred Networks Tech Blog に最初に表示されました。

Preferred Networks

2026年2月20日

Preferred Networksでは大規模言語モデル (LLM) PLaMoの開発を継続して行っています。 LLMを開発するにあたってその能力を評価するベンチマークは非常に重要です。英語においては様々なベンチマークが […] 投稿 日本語の自然さを測る評価手法の検証 は Preferred Networks Tech Blog に最初に表示されました。

Preferred Networks

2026年2月25日

はじめに Preferred Networksでは、大規模言語モデル「PLaMo」の開発を行っています。 PLaMoは開発サイクルにて様々なベンチマークによりその能力を評価していますが、今回はコード生成ベンチマークにてモ […] 投稿 コード生成ベンチマークのためのサンドボックス環境の開発 は Preferred Networks Tech Blog に最初に表示されました。

Preferred Networks

2026年5月15日

DatabricksがOfficeQA Proベンチマークで最先端の成績を達成したGPT-5.5をエンタープライズエージェントワークフローに活用しています。

OpenAI

2026年5月18日

Preferred Networks では、大規模言語モデル PLaMo の開発を継続して行っています。 LLM を開発するうえで、モデルの能力を適切に測定するベンチマークは重要です。英語ではさまざまなベンチマークが日々 […] 投稿 pretrained model向けのベンチマークの構築 は Preferred Networks Tech Blog に最初に表示されました。

Preferred Networks

2026年5月27日

エージェンシャルAIへのシフトは、AIファクトリーの新しいCPU要件を生み出します：高速コア、膨大なメモリ帯域幅、およびすべてのコアがアクティブな場合でも高いパフォーマンスを維持する能力です。初期ベンチマークでは...

NVIDIA Blog

2026年5月29日

エージェント評価は、急速に変化するオンラインシグナルと安定したオフラインベースラインを組み合わせることで最も強力になります。エージェントが時間とともに本当に改善されているかどうかを理解するには、固定ベンチマークが必要です。

AWS Machine Learning Blog

2026年5月29日

推論モデルはシングルターンベンチマークで評価されているが、ユーザーが正解に異議を唱えるマルチターン対話環境に配備されている。継続的な敵対的圧力下では、これまで文書化されていない障害モードが見つかった：思考の連鎖は最初のターンから最後まで事実上正確であるが、回答は変わる。

arXiv cs.AI

2026年5月29日

実世界の意思決定を支援するAIツールは、推奨事項を知らせ解釈可能にするシミュレーションモデルを構築できる必要があります。モデリング実務の側面を自動化できるツールは、人間の専門知識を補完する必要があり、置き換えるべきではありません。BEAMS Initiativeは、開発を指導することを目的としています。

arXiv cs.AI

2026年5月29日

これはペアリングなしパイロット監査を伴う計画方法に関する注記である。古典的なペアリング二項サンプルサイズ計算（Miettinen, 1968）を量子化ベンチマークに適応させ、ペアリングされた最小検出可能効果（MDE）の保守的な下限を提供している。

arXiv cs.LG

2026年5月29日

多言語LLMは、指示、ソースコンテンツ、および必要な応答言語が一致しない場合にますます使用されています。既存のベンチマークは多言語命令追従評価を拡張していますが、完全にクロスされた設計内でこれら3つの役割を分離することはめったにありません。MTM-Benchを導入します。

arXiv cs.CL

2026年5月29日

arXiv:2605.29218v1 文書の発表。言語モデルをブラウジングおよびツール使用機能と組み合わせたWebエージェントは、オープンなWebアシスタントとしての可能性を示していますが、スケーラブルなプロセスレベルの監督の不足により進展が制限されています。既存のベンチマークは主に手動で構築されており、粗い開始ゴール注釈のみを提供しています。

arXiv cs.AI

2026年5月29日

arXiv:2605.29225v1 文書の発表。自己進化型エージェントは過去の失敗を反省することで時間とともに改善されますが、既存の評価には2つの制限があります。タスクスコアのみを測定して反省の質は不明であり、エージェント自身のエピソード実行に依存して特定の失敗パターンに対応するメカニズムがありません。本論文では新しいアプローチを提示しています。

arXiv cs.AI

2026年5月29日

数学推論ベンチマークはLLMの評価に不可欠だが、多くは静的で公開評価やトレーニングパイプラインを通じて繰り返し露出しており、真の推論と暗記を区別することが困難である。一方、新しい数学問題の手動構築は...

arXiv cs.CL

2026年5月29日

MathCheck（ICLR 2025）のパラフレーズ品質監査により、129グループ中4つのセマンティック的に不正確なパラフレーズ（3.1%）が検出されました。これらを削除するとGPT-4oはランク2からランク4に低下し、Claude HaikuとDeepSeek V3がそれを上回ります。これらのランク変動は単一モデル評価では見えません。

arXiv cs.LG

2026年5月30日

ゴールドマン・サックスが新たな日本株投資商品「GS Plus 日本株式（TOPIXアルファ）」を発表した。この商品は、TOPIXの構成銘柄から割安性や成長性などの指標で優良企業を厳選し、指数を上回るリターンを目指すもの。日本株が長期停滞する中、機関投資家のニーズが従来のベンチマーク運用からアルファ追求型へシフトしており、データ科学や機械学習を活用した新しい運用戦略が業界で広がっている。

PR TIMES

2026年6月1日

教室ビデオには観察可能な教授実践が含まれていますが、その教育学的および視覚的シグナルはモデル評価に適した形式で整理されることはめったにありません。本研究では、教室ビデオにおけるマルチモーダル教授観察のための人間検証済みベンチマークである「TeachObs」を提示します。TeachObsには30件のデータが含まれています。

arXiv cs.CL

2026年6月1日

臨床意思決定（CDM）は現実の臨床業務の中心であり、臨床医は不完全な証拠の下で診断を推測し、治療を選択し、将来の健康転帰を予測する。LLMは強い言語能力と広範なバイオメディカル知識により、これらの決定をサポートするために次第に使用されている。

arXiv cs.AI

2026年6月1日

文意検索用の文埋め込みモデルは主に英語コーパスで開発・評価されている。他言語、特にICD-10-CM/CIE-10コード検索での臨床検索に適用すると、リコールが劣化する傾向がみられるが、これは集約的ベンチマークでしばしば見過ごされている。

arXiv cs.CL

2026年6月1日

arXiv:2605.31021v1 現在の生成型AIのアライメント手法は、人間の判断の多様性を集計された統計的基準に縮約する単一的なベンチマーク枠組みに依存しており、文化的、人口統計学的、文脈的な評価のばらつきが見落とされている。本論文では、これらの違いを考慮したペルソナベースの評価フレームワークを提案する。

arXiv cs.AI

2026年6月1日

arXiv:2605.30738v1 大規模言語モデルが個別のベンチマークで強い成果を上げているにもかかわらず、エージェント型推論システムにおける推論戦略の合成、中間状態の保持、ツール調整の能力は依然として課題である。本論文では、エージェント型ツール呼び出し環境における汎化性能を向上させるMAVENを提案する。

arXiv cs.AI

2026年6月1日

RAGベースの法律アシスタントの人気が高まっているが、LLMの幻覚問題は依然として重要な課題であり、正義に�悪影響を及ぼす可能性がある。ベンチマークは開発されているが、多くは合成クエリに依存しており、現実的な法律シナリオではない。さらに、カナダ法は未だ十分に評価されていない。

arXiv cs.CL

2026年6月1日

LLMベンチマークのラベルはリリース時に固定され、エラーを含めたまま下流ベンチマークに静かに伝播される。本論文は項目反応理論に基づくインジケータを導入し、7つの選好評価および多肢選択ベンチマークにおいて95%の精度でトップ200の例における誤りラベルの可能性を検出する。

arXiv cs.CL

2026年6月1日

arXiv:2605.30374v1 歩行中の股関節筋力と関節モーメントの推定は通常、筋骨格シミュレーションに依存しており、有用であるが時間がかかり臨床設定への適用が難しい。本研究は下肢からのこれらの股関節動力学パラメータを直接予測するための深層学習フレームワークを開発した。

arXiv cs.LG

2026年6月1日

ヘルスケアメカニズムは、それが誘発する戦略的プロバイダー対応と不可分であり、既存のヘルスケアAIベンチマークはこの対応を固定しているため、メカニズムを生み出す均衡によって評価することができない。病院メカニズム設計を言語モデルのプログラム合成として再構築している。

arXiv cs.AI

2026年6月1日

現在のマルチモーダルモデルは静止画像認識は得意ですが、直感的な物理推論はまだ弱点です。単一の画像からオブジェクトがどのように移動し相互作用するかを予測することは、これらのシステムにとって依然として困難です。物理推論用のベンチマークBilliardPhys-Benchを提示します。

arXiv cs.AI

2026年6月1日

知能の中核をなす関係推論が存在するが、既存ベンチマークは通常グリッドやテキストなどの形式に限定されている。グラフ構造データに対する抽象推論のベンチマークGraphARCを紹介し、Abstract Resoning Corpus（ARC）の少数ショット変換学習パラダイムを一般化する。

arXiv cs.AI

2026年6月1日

エージェントベンチマークはますます豊富なインタラクション軌跡を記録していますが、評価では各ロールアウトを合格率または報酬スコアに還元することが多いです。TraceGraphは、リリースされたマルチモデルエージェント軌跡を共有決定ランドスケープに変換するグラフベースのフレームワークを紹介します。

arXiv cs.AI

2026年6月1日

実世界のデータ分析は本質的に反復的であるが、既存のベンチマークはほぼ孤立した、または短い対話的タスクのみを評価しており、長期ホライズンにおけるエージェントの分析文脈追跡能力は未検証である。長期的で複数ターンのデータ分析のためのベンチマークLongDSを紹介する。

arXiv cs.LG

2026年6月2日

言語拡散モデル（LDM）の急速な発展は、言語処理における自己回帰型モデルの優位性に課題を提示しています。ただし、その柔軟な任意順序デコーディング戦略は高速なデコーディング速度を実現する一方で、新しい信頼性の課題をもたらす可能性があります。

arXiv cs.CL