Writer、AIハーネスで精度を犠牲にせずトークン費用を約40%削減

AI（人工知能）の利用が広がる中で、そのコストが悩みの種になっているという話をよく耳にします。特に、高性能なAIモデルを使おうとすると、どうしても高額な利用料がかかってしまう、なんてことも。そんな中、アメリカのWriterという会社が、AIの賢さを保ったまま、利用コストを大幅に下げるための新しい技術を発表しました。

この技術の名前は「AIハーネス」。なんだかSF映画に出てきそうな名前ですが、これはAIモデルそのものの性能を変えるのではなく、AIが仕事をする際の「段取り」を最適化する仕組みのことです。例えるなら、優秀なシェフ（AIモデル）がいたとしても、そのシェフが最高のパフォーマンスを発揮するためには、キッチン（AIハーネス）の使いやすさや、調理器具の配置（情報処理の仕方）が重要ですよね。AIハーネスは、このキッチン周りを効率化するようなイメージです。

具体的には、AIに与える情報（トークン数）を、必要な分だけに絞り込むことで、AIが一度に処理する情報量を減らします。これにより、AIを使うたびにかかる費用を、なんと最大で61%も削減できる可能性があるとのこと。しかも、驚くべきはその削減率でありながら、AIの賢さ（精度）は全く落ちないという点です。AIの性能が落ちてしまっては、コストが安くなっても意味がありませんが、Writer社の研究では、精度を維持したままコストダウンが実現できることが示されました。

このAIハーネスのすごいところは、AIモデル自体を専門的な知識で作り直す（ファインチューニング）必要がないことです。開発者は、このAIハーネスを自分でコントロールできるので、企業は自分たちの目的に合ったAIアプリケーションを、より手軽に、そして低コストで開発できるようになるでしょう。AIの活用がさらに身近になり、多くのビジネスシーンで役立つことが期待されます。