タイムライン検索

2025年11月5日

画像生成AI「Stable Diffusion」の開発元であるStability AIは、ゲッティイメージズによる著作権侵害の訴えに対し、モデル訓練段階での侵害は認められないとの判決を受けました。ゲッティイメージズは、Stability AIが保有する画像データセットを用いてStable Diffusionの訓練が行われたことが著作権を侵害していると主張していました。 しかし、裁判所は、AIモデルの訓練プロセス自体は著作権侵害にあたらないとの判断を示しました。この判決は、AI技術開発における著作権の解釈に一石を投じる可能性があり、今後のAI開発のあり方に影響を与えるものとみられます。 Stability AI

Stability AI

2026年5月8日

現在のクリティック不要なRLHF手法は、複数目的報酬を算術平均で集約しており、制約無視に対して脆弱である。一つの目的での大きな成功が数値的に他の目的を相殺する可能性がある。

Apple Machine Learning Research

2026年5月29日

プラトン表現仮説（PRH）を信号、バイアス、ノイズの3分岐統計フレームワークを通じて調査します。信号に関しては、プラトンアライメントは、表現に線形でエンコードされるオブジェクトと属性間の普遍的関係から生じることを提案します。

arXiv cs.LG

2026年5月29日

マルチモーダルAIシステムへのジェイルブレイク攻撃は未だ十分に研究されていません。テキストの不安全な生成よりも深刻な結果をもたらす可能性のある不安全な画像生成が存在する一方で、現在の防御策は比較的成熟していません。本研究ではPAST2HARMという、拒否トレーニングをバイパスする効果的な適応型ジェイルブレイクフレームワークを紹介します。

arXiv cs.CL

2026年5月29日

パラメータ化理論で導入されたパラメータ活性化アライメント測度であるログアライメント比（LAR）を研究します。これを行列の正規化された2乗特異値のウェイトスペクトル p と正規化された2乗射影値のアクティベーションスペクトル q との重複として再構成します。

arXiv cs.LG

2026年5月29日

arXiv:2605.27374v1 マルチモーダル大言語モデル（MLLM）と拡散モデル（DM）の最近の進歩により、AI生成コンテンツの新しい可能性が開かれた。しかし、パーソナライズされたカバー画像生成は、デジタルプラットフォームでのユーザーエンゲージメント向上における重要な役割にもかかわらず、ほとんど未開拓である。

arXiv cs.CL

2026年6月1日

モデルが正確な内部表現を保持しながら意図的に虚偽の出力を生成する欺瞞的アライメントは、AI安全性における中心的な課題として残っている。戦略的欺瞞は長期的な主要な懸念であるが、合成的不誠実さ（不正解への直接的な最適化を通じて誘発される）について研究している。

arXiv cs.LG

2026年6月1日

LLM搭載の検索エージェントは多段階推論とツール使用を可能にしますが、これらの機能により検索誘発安全性低下をもたらします。有害な意図が一見無害な部分質問に分解され、安全でない結果につながる可能性があります。既存のアライメント手法は疎な安全性パターンの捕捉に苦労しています。

arXiv cs.AI

2026年6月1日

arXiv:2605.31021v1 現在の生成型AIのアライメント手法は、人間の判断の多様性を集計された統計的基準に縮約する単一的なベンチマーク枠組みに依存しており、文化的、人口統計学的、文脈的な評価のばらつきが見落とされている。本論文では、これらの違いを考慮したペルソナベースの評価フレームワークを提案する。

arXiv cs.AI

2026年6月1日

arXiv:2605.30487v1。大規模言語モデル（LLM）を異種かつ急速に進化する安全性要件に整合させることは重大な課題。既存の命令チューニング型LLMとスタンドアローン安全性分類器は新しい安全性設定への一般化に失敗することが多く、外部的に設定可能なリワードモデル（RM）の必要性が生じている。

arXiv cs.CL

2026年6月1日

arXivで発表された論文：調整された言語モデルはしばしば認識可能なAI的スタイルを示すが、その訓練後処理と内部表現との関連性は十分に理解されていない。この研究では、訓練後処理がAI的文体規則性を導入または増幅するかどうか、また これらの規則性が局在化した表現を持つかどうかを調査している。

arXiv cs.LG

2026年6月3日

著名な映画監督は、画像生成ツール「Flux」を持つBlack Forest Labsの顧問およびパートナーとして契約しました

Rolling Stone

2026年6月3日

言語モデルの学習手法として注目される直接選好最適化（DPO）が、チャットボット領域にとどまらず、より広範なAI応用への展開を見せている。 DPOは従来の強化学習手法と異なり、人間の選好データを直接活用してモデルを最適化する技術だ。これにより、複雑な報酬関数の設計が不要になり、学習プロセスが簡素化される利点がある。 現在、この技術の汎用性に関する研究が進展している。チャットボットでの成功事例を踏まえ、機械翻訳、質問応答システム、テキスト要約など多様なNLPタスクへの適用可能性が検討されている。さらに視野を広げれば、画像生成や推薦システムといった異分野へのアプローチも視野に入っている。 専門家らは、DPOの拡張性がAIモデル開発全体に与える影響の大きさに注目している。人間の価値観をより効率的に組み込める手法として、今後のAI安全性向上にも貢献する可能性が指摘されている。 (Hugging Face)

Hugging Face

2026年6月5日

LINEヤフーは、AIエージェント「Agent i」に画像生成機能や、AIによる会話のトーン設定や過去の会話内容をもとに好みを記憶する「パーソナライズ機能」を追加した。

ケータイ Watch

2026年6月5日

英国の下院議員が、イーロン・マスク氏が開発したAI「Grok」を使用して無断で生成されたビキニ姿の画像をめぐり、法的措置を検討していることが明らかになった。同議員の同意なしに作成された不適切な画像について、提訴を視野に対応を進めている。 この問題に対し、スターマー英首相は議員の立場を支持する意向を表明。AI技術による画像生成の悪用が深刻な課題として認識される中、政府レベルでの対応への関心が高まっている。 本件は、急速に進化するAI技術の利用をめぐる法的・倫理的な課題を浮き彫りにしている。特に個人の同意なしに合成画像を生成する行為の規制については、各国で議論が進められており、今後の判例や政策決定が注目される状況となっている。AI企業の責任範囲についても、今後の重要なテーマとなる見込みだ。 （引用元：xAI）

xAI

2026年6月5日

LINEヤフーは、AIエージェント「Agent i」の新機能として、「画像生成機能」や「パーソナライズ機能」を追加した。ジャンル特化の領域エージェントも追加し、全15領域(ベータ版含む)に拡大している

Yahoo!ニュース IT

2026年6月7日

人工知能（AI）による生成コンテンツの技術進化に伴い、AIが制作したインフルエンサーやコンテンツクリエイターを判別することが急速に困難になっている。 これまで専門家は、AI生成の顔や動作には明確な不自然さがあり、本物のクリエイターと区別するのは比較的容易だった。しかし、生成技術の急速な改善により、この判別の難しさは顕著に増している。 背景には、画像生成やビデオ制作などのAI技術が日々高度化していることがある。より自然で説得力のあるコンテンツが生成されるようになった結果、視聴者が本物と偽物を見分けることはますます困難になっているとの指摘だ。 専門家からは、透明性の確保やAI生成物の明確な表示義務化の必要性が提言されている。デジタルコンテンツの真正性をめぐる課題は、プラットフォームの規制やクリエイター業界全体に大きな影響を与える可能性がある。 （参照：The Verge AI）

The Verge AI

2026年6月8日

LINEヤフー株式会社は6月5日、日常の相談に特化したAIエージェント「Agent i」に、画像生成機能などの新機能を追加した。

INTERNET Watch

2026年6月8日

オープンウェイトLLMは、カスタマイズされたアシスタントへのファインチューニングが増加していますが、下流のファインチューニングにより安全性アライメントが弱まり、訓練データが意図的に有害でない場合でも、モデルが悪質なプロンプトに対して脆弱になる可能性があります。ターゲットモデルが新しいタスクデータやユーザーインタラクションで繰り返し更新されるため、反復的な安全性回復の問題が生じます。本論文では、各アーキテクチャ互換モデルファミリー内での横断的再利用のために設計された再利用可能な安全性アダプターモジュール「SafeGene」を提案します。安全性回復をモデル固有の修復ステップとして扱う代わりに、SafeGeneは安全性能力をタスク固有の更新から分離された独立した再利用可能なアダプター表現として扱います。この表現は、アラインされた-劣化したモデルの差分から取得され、データに対応したレイヤー選択を通じてタスク転送可能な安全性ベクトルに精密化され、各下流タスク適応モデルで少数ショットレイヤー単位の係数再キャリブレーションを通じて表現されます。

arXiv cs.AI

2026年6月8日

LINEヤフーは6月5日、AIエージェントサービス「Agent i」の機能を拡大したと発表した。応答のトーン設定や会話内容の記憶を含む「パーソナライズ機能」のほか、画像生成機能を追加。領域エージェントも全15領域（β版含む）に広げた。

ITmedia NEWS 速報

2026年6月9日

Appleの AI画像生成ツールがリニューアルされ、競争力がさらに強化される見込みだ。

TechCrunch AI

2026年6月9日

Craftin株式会社は6月2日に、絵コンテのキャプション（「字コンテ」）を入力することで、その内容をAI用のプロンプトへ変換してコンテ画像を生成するサービス「Craftin 1.0」のリリースを発表した。

ASCII.jp

2026年6月9日

LINEヤフーは6月5日、AIエージェント「Agent i」の機能を拡大し、画像生成機能やパーソナライズ機能を追加したと発表した。画像生成機能は、Yahoo! JAPANアプリ（iOS版）、LINE

Yahoo!ニュース IT

2026年6月9日

LINEヤフーは6月5日、AIエージェント「Agent i」の機能を拡大し、画像生成機能やパーソナライズ機能を追加したと発表した。

ASCII.jp

2026年6月10日

自己蒸留は、モデルが追加コンテキストなしで性能向上を維持できるよう学習させる手法です。 本研究では、自己蒸留におけるコンテキスト設計を、凍結された評価者からのフィードバックを用いて探求しました。 ステップごとにアラインされた批評が最も大きな改善をもたらし、他の手法を大幅に上回る結果を示しました。

arXiv cs.LG

2026年6月10日

Claude Fable 5 と Claude Mythos 5 における動作の違いとプロンプティングパターンについて、エフォート、指示への追従、長時間実行、メモリ、スキャフォールディングの変更点を解説します。

はてなブックマーク IT

2026年6月10日

arXiv:2606.09864v1 新規発表 論文要旨：キーバリュ（KV）キャッシュ量子化は、大規模言語モデル（LLM）の推論メモリを削減するために広く利用されていますが、既存の評価は、安全性への影響を評価することなく、パープレキシティと精度のみを測定することに焦点を当てています。本研究では、KVキャッシュ量子化下でのアライメント（整合性）の維持を探求します。11の命令チューニング済みモデル（3.8B-72B）と5つのベンチマーク（1,894プロンプト）にわたる調査で、低ビット量子化が安全なアライメントを静かに破壊しうることを発見しました。具体的には、Mistral-7Bはパープレキシティ1.03倍のわずかな増加で拒否率が15.2%失われ、普遍的な安全なビット幅は存在せず、標準的な指標では見えない鋭いモデル固有の位相遷移が見られました。根本原因は幾何学的なものであることを特定しました。安全機能は、パープレキシティの全体表現空間平均よりも10^2〜10^3倍量子化ノイズに弱い低次元アクティベーションサブスペースを占めています。

arXiv cs.LG

2026年6月10日

arXiv:2606.09850v1 公開タイプ: new 概要: 事後学習のアライメントアルゴリズムは、言語モデルの内部計算をどのように再構築するかを不明瞭にしたまま、ブラックボックスとして評価されることが大半です。本研究では、6つの選好最適化手法（PPO, DPO, SimPO, ORPO, GRPO, KTO）を3つのオープンウェイトモデルファミリーで横断的に比較し、体系的なメカニズム解析を行います。層ごとの線形プロービング、スパースオートエンコーダー、クロスコーダーを統合することで、選好表現を局在化させ、潜在空間におけるアライメント誘発性の幾何学的変換を定量化します。選好信号は一貫して早期～中期または中期～後期の層に集中するものの、異なる目的関数が表現上のシフトを質的に区別することを発見しました。KTOとGRPOは、建設的な特徴共有とスパースで高顕著性な募集を通じて線形分離性を向上させます。対照的に、DPOとORPOは、非建設的な幾何学的回転と特徴減衰を通じて分離性を低下させる一方、PPOとSimPOはベースラインの幾何学的構造をほぼ維持します。

arXiv cs.LG

2026年6月11日

Googleは、テキスト生成を最大4倍高速化する実験的AIモデル「DiffusionGemma」を発表した。画像生成の拡散手法を応用し、256トークンを一括で並列生成することで従来の自己回帰型モデルのボトルネックを解消する。

ITmedia AI+

2026年6月12日

こんにちは！ひつじです。 これまで ChatGPT Images 2.0（画像生成機能）を使い倒すために 1枚画像を作る「プロンプトジェネレーター」 複数枚のスライドを一気に作る「スライドジェネレーター」 の2つ公開してきました。

はてなブックマーク IT