Amazon SageMaker AI非同期推論がインラインリクエストペイロードをサポート

皆さんは、インターネットで何か調べ物をするとき、検索窓に直接キーワードを入力しますよね？

今回のAWSの発表は、AIの世界で例えるなら、これまで「調べたいことを一度メモ帳に書いて、それを図書館の受付に渡してから調べてもらう」ような手間がかかっていた作業が、「検索窓に直接入力する」くらい手軽になった、というニュースなんです。

Amazon SageMakerというサービスは、AI（人工知能）の頭脳にあたる「機械学習モデル」を開発したり、そのモデルに「この写真に何が写っている？」「この文章の意図は？」といった質問をして答えを出してもらう（これを『推論』と呼びます）ための、いわばAIの総合デパートのようなものです。

特に「非同期推論」というのは、AIに一度にたくさんの質問をしたり、一つ一つの質問に答えるのに時間がかかる場合に使う方法です。これまでは、質問したいデータ（例えば、大量の画像ファイルや長い文章）を、まずAmazon S3というAWSのデータ保管庫に預けてから、「S3のこの場所に質問データがあるから、AIさん答えてね」と指示する必要がありました。まるで、図書館で大量の本を借りるために、まずリストを作ってから司書さんに渡すようなイメージです。

今回の新しい機能「インラインペイロードのサポート」は、この手間を省いてくれます。もし質問データがそれほど大きくないなら、わざわざS3に預けなくても、AIへの質問と一緒に直接データを送れるようになったんです。これは、図書館で数冊の本を借りるなら、その場で直接本を渡して借りるようなものです。ぐっと手軽になりましたよね。

この変更は、特にAIを使ったシステムを開発する人たちにとって、大きなメリットがあります。例えば、チャットボットがユーザーの短い質問に答える、画像から簡単な特徴を瞬時に識別する、といった、比較的少量のデータを素早く処理したい場面で威力を発揮します。データの準備にかかる時間や、S3にデータをアップロード・ダウンロードする手間が減ることで、AI開発のスピードが上がり、もっと多くの便利なAIサービスが生まれるきっかけになるかもしれません。

AI技術は私たちの生活の裏側でどんどん進化していて、今回の改善も、一見地味に見えても、その進化を支える大切な一歩なんです。