今年最もホットな話題をご存知だろう：AIエージェントだ。これらのAIエージェントのほとんどはLLM エージェントである。
ワイアードのテックライター、ウィル・ナイトは、「私たちが目にした革命は、こうした言語モデルを中心に構築されたものです」と説明する。「それは、本質的にエージェントであるAIシステムとはまったく違う」。
LLM エージェントは、ChatGPT Claudeのようなボットを動かすLLMs 力を使って、あらゆる種類の言語ベースのタスクを完了するために構築することができる。
そして、彼らの言語能力と分析能力のおかげで、ホワイトカラーの職場は徐々にAIエージェントに占領されつつある。
AIエージェントの広範なカテゴリーには非言語的なアプリケーション（コンテンツ推薦システム、画像認識、ロボット制御など）が含まれるが、LLM エージェントは一般的に会話型AIソフトウェアである。
LLM エージェントとは何ですか？
LLM エージェントは、大規模な言語モデルを使用して言語を解釈し、会話し、タスクを実行するAI搭載ツールである。
これらのエージェントは、膨大な量のテキストデータに基づいて訓練された複雑なアルゴリズムに基づいて構築されており、人間のようなコミュニケーションを模倣した方法で言語を理解し、生成することができる。
LLM エージェントは、AIエージェント、AIチャットボット、バーチャルアシスタント、コンテンツ生成ソフトウェア、その他の応用ツールに統合することができる。
LLM エージェントはどのように機能するのですか？
LLM エージェントは、LLM パワーと、検索、推論、記憶、ツールの使用を組み合わせて、自律的にタスクを完了する。それぞれのコンポーネントが何をするのかを説明しよう。
これらの機能を組み合わせることで、LLM エージェントは複雑な複数ステップのワークフローを完全な自律性で実行することができる。
例えば、こうだ：
- B2Bセールスエージェントは、見込み客のCRMデータを取得し、取引の進行を分析し、フォローアップをパーソナライズできるように見込み客との過去のやり取りを記憶し、メールとカレンダーのAPIを使用して送信とスケジュールを設定する。
- ITエージェントは、エラーを診断するためにシステムログを検索し、最善の戦略のためにトラブルシューティングのステップを分析し、以前のユーザー問題でうまくいったことを記憶し、サービスを再起動したりチケットを作成するためにスクリプトを実行します。
LLM エージェントを定義する4つの特徴とは？
LLM エージェントの主な特徴は4つある：
1.言語モデル
言語モデルは、LLM エージェントの「頭脳」とみなされることが多い。その品質と規模は、LLM エージェントのパフォーマンスに直接影響します。
これは、膨大なテキストのデータセットで訓練された高度なアルゴリズムで、文脈を理解し、パターンを認識し、首尾一貫した文脈に関連した応答を生成することができる。
- 言語パターンの識別と学習
- 膨大なトレーニングデータのおかげで）文脈をある程度認識できるようになる
- 異なる領域に適応し、幅広いトピックを扱う
言語モデルは、応答の深さ、正確さ、関連性を決定し、エージェントの言語能力の基礎を形成する。
2.メモリー
メモリーとは、セッションをまたいだ事実、ユーザーの好み、トピックなど、過去のインタラクションからの情報を保持する能力のことです。
これはエージェントの文脈理解を強化し、会話をより継続的で適切なものにする。
いくつかのセットアップでは、メモリによってエージェントが時間をかけて情報を保持することができる。これは、エージェントが繰り返されるユーザーの行動や好みから "学習 "する長期的なインタラクションをサポートする。
3.工具の使用
そのツールを使うことで、LLM 、エージェントは会話から行動に移すことができる。
LLM エージェントは、特定の機能を実行するために、外部のアプリケーション、データベース、または API と統合することができる。
つまり、リアルタイムの情報を取得したり、外部アクションを実行したり、特殊なデータベースにアクセスしたりすることができ、リアルタイムで情報を提供する能力を備えている。これには以下が含まれる：
- APIの呼び出し
- 天気予報や株価などのライブデータを取り込む
- ミーティングやアポイントメントのスケジューリング
- 製品カタログや人事方針文書などのデータベースの照会
ツールの使用により、LLM エージェントは、受動的な知識ベースのシステムから、他のシステムとのインターフェイスが可能な能動的な参加者へと移行することができる。
4.計画
プランニングとは、複雑なタスクを一連の管理しやすいステップに分解する、LLM エージェントの能力である。
LLM エージェントは、フィードバックの有無にかかわらず計画を立てることができる。その違いは？
- フィードバックなしのプランニングとは、LLM エージェントが最初の理解に基づいてプランを作成することを意味する。より速く、よりシンプルだが、適応性に欠ける。
- フィードバックのあるプランニングとは、LLM エージェントが環境からのインプットを受けて継続的にプランを改良できることを意味する。これはより複雑だが、はるかに柔軟で、時間の経過とともにパフォーマンスを向上させる。
LLM エージェントは、プランニングを行うことで、徐々にソリューションに向かう論理的なフローを作成することができ、複雑なリクエストの処理をより効果的に行うことができる。
LLM エージェントにはどのような種類がありますか？
.webp)
会話エージェント（カスタマーサポートやリードジェネレーションなど）
この種のエージェントは、ユーザーと自然な対話を行い、情報を提供したり、質問に答えたり、さまざまな作業を支援したりする。
これらのエージェントは、人間のような反応を理解し、生成するために、LLMs 。
例 カスタマーサポートエージェントと ヘルスケアチャットボット
タスク指向エージェント（AIアシスタントやAIワークフローなど）
特定のタスクの実行や、あらかじめ定義された目的の達成に重点を置くこれらのエージェントは、ユーザーと対話することでニーズを理解し、そのニーズを満たすためのアクションを実行する。
クリエイティブ・エージェント（コンテンツ生成ツールなど）
アートワーク、音楽、文章など、独創的でクリエイティブなコンテンツを生み出すことができるこれらのエージェントは、LLMs 、人間の好みや芸術的スタイルを理解し、視聴者の心に響くコンテンツを生み出すことができる。
例 コンテンツ生成ツールや画像生成ツール（Dall-E など）
コラボレーティブ・エージェント（企業向けAIエージェントなど）
これらのエージェントは、チームメンバー間、または人間と機械間のコミュニケーション、調整、協力を促進し、共有された目標やタスクを達成するために人間と一緒に働く。
LLMs は、意思決定を支援したり、レポートを作成したり、洞察を提供したりすることで、協働エージェントをサポートすることができる。
例 ほとんどの企業向けAIエージェントとプロジェクト管理チャットボット
企業はLLM エージェントをどのように利用しているのか？
LLM エージェントは、質問への回答、ガイダンスの提供、ワークフローの自動化、テキストの分析など、自然言語の処理と応答が必要な分野で、企業にとって有益である。
企業は、マーケティング、データ分析、コンプライアンス、法的支援、ヘルスケア支援、財務業務、教育などのために、LLM エージェントを使用することが多い。
LLM エージェントの最も一般的な使用例を3つ紹介しよう：
カスタマーサポート
自動化の専門家であるパスカル・ボルネが167社を対象に行った調査によると、LLM エージェントを採用するユースケースとして最も人気があるのはカスタマーサービスである。
LLM エージェントは、FAQを処理し、問題をトラブルシューティングし、24時間365日の支援を提供するために、顧客サポートで広く使用されています。
これらのエージェントはリアルタイムで顧客と関わり、即座にヘルプを提供したり、複雑な問い合わせを人間のエージェントにエスカレーションしたりすることができる。
こちらもご覧ください：カスタマーサービス・チャットボットとは？
セールスおよびリード・ジェネレーション
営業では、LLM エージェントはAIリードジェネレーションに使用され、潜在顧客との会話に参加し、ニーズを評価し、貴重な情報を収集することで、その後リードを適格化することもできる。
また、フォローアップ・インタラクションを自動化し、顧客の興味に基づいたパーソナライズされたおすすめ商品や商品情報を送ることもできる。
こちらもご覧ください：営業のためのAI活用法
社内サポート：人事およびIT
社内サポートについては、LLM エージェントが従業員からの一般的な問い合わせに対応することで、人事およびITプロセスを合理化する。
実際、ボルネットの調査によると、社内業務におけるLLM エージェントは最も費用対効果が高く、これまで社内業務の遂行に要していた時間の30～90％を節約できたという。
人事部では、福利厚生、休暇規定、給与計算などのトピックに関する質問に答え、IT部では、基本的な技術的問題のトラブルシューティングを行ったり、アカウント設定などのルーチンワークを自動化したりする。
これにより、人事部やITチームは、繰り返しの雑務に追われることなく、より複雑な責務に集中することができる。
こちらもご覧ください：人事部門に最適なAIエージェント
改善方法LLM エージェントの応答
AIプロジェクト向けにLLMをカスタマイズする場合は、公開モデルがユーザーに提供する標準的な応答を微調整する必要があります（チャットボットに競合他社を推奨させることはできませんよね？）。また、ランダムな言語生成ではなく、訓練された従業員のように動作するように、カスタムビジネスロジックを使用する必要があるかもしれません。
品質を向上させる4つの一般的な概念があります。 LLM 回答:
- ラグ
- 微調整
- Nショット・プロンプティング
- 迅速なエンジニアリング
1. 検索拡張生成
RAGというのは、ChatGPT で誰もがやったことのある単純なこと、つまり、ChatGPT にテキストを貼り付けて、それについて質問する、ということの高級な名前である。
典型的な例としては、eコマースサイトで特定の商品の在庫があるかどうかを尋ね、チャットボットが（より広いインターネットの代わりに）商品カタログで情報を調べるというものだ。
開発スピードやリアルタイムの情報を得るという点で、RAGは必須アイテムだ。
通常、どのモデルを選ぶかには影響しないが、情報や回答を問い合わせるLLM APIエンドポイントを作成し、このエンドポイントを独自のLLM のように使用することを止めるものはない。
ナレッジベースのチャットボットにRAGを使用すると、モデルの微調整や最新の状態に保つ必要がないため、メンテナンスが容易になることが多く、コスト削減にもつながります。
2. 微調整
ファインチューニングには、モデルが特定のタスクをうまくこなす方法を学ぶように、モデルに例を提供することが含まれます。あなたの製品について話すことを得意にさせたいのであれば、あなたの会社の最高のセールスコールの例を広範囲に提供するかもしれない。
モデルがオープンソースである場合、あなたのチームにモデルを微調整できるだけのエンジニアリング能力があるかどうかを自問する。
モデルがクローズドソースでサービスとして提供されている場合（GPT-4、またはClaude）、通常はAPIを使ってエンジニアにカスタムモデルを微調整してもらうことができる。通常、この方法では価格は大幅に上がりますが、メンテナンスはほとんど必要ありません。
しかし、多くのユースケースでは、微調整はモデルを最適化するための最初のステップではない。
微調整に最適なケースは、静的知識のためのナレッジボットを構築することだ。質問と答えの例を示すことで、将来、答えを調べなくても答えられるようになるはずだ。しかし、リアルタイムの情報には実用的なソリューションではない。
3. Nショット学習
レスポンスの質を向上させる最も手っ取り早い方法は、LLM APIコール1回で例を提供することです。
ゼロショット（回答で求めていることの例をゼロで示すこと）とは、私たちの多くがChatGPT を使う方法です。通常、1つの例（またはワンショット）を追加するだけで、回答の質が大幅に向上します。
つ以上の例がNショットとみなされる。Nショットはファインチューニングとは異なり、モデルを変えることはない。あなたは毎回、回答を求める直前に例を挙げているだけだ。
LLM モデルにはコンテキストの最大サイズがあり、メッセージのサイズに応じて価格が決まる。ファインチューニングはnショットの例の必要性を取り除くことができるが、正しく理解するのに時間がかかる。
4. 迅速なエンジニアリング技術
思考連鎖のような、モデルに答えを出す前に声に出して考えさせるプロンプト・エンジニアリングのテクニックは他にもある。
また、プロンプト チェーンもあり、これはモデルが複数のプロンプトを連続して実行することで複雑なタスクをより小さなステップに分割することを推奨します。
これらの戦略は、特に推論を多用するタスクの場合、応答の品質と信頼性を大幅に向上させることができますが、応答が長くなり、トークンの使用量が増え、パフォーマンスが低下するという犠牲を払うことがよくあります。
これによってレスポンスの質は高まるが、レスポンスの長さ、コスト、スピードが犠牲になる。
構築方法LLM 6つのステップでエージェントになる
1.目標の定義
AIエージェントやチャットボットを構築する最初のステップは、何を達成させたいのかを明確にすることだ。
顧客からの問い合わせのサポート、コンテンツの作成、特定のタスクの処理など、LLM エージェントに達成してほしいことを明確にする。
明確な目標を設定することで、エージェントの設定と構成が形作られる。
2.AIプラットフォームの選択
最適なAIプラットフォームは、あなたのゴールとニーズによってまったく異なる。
カスタマイズオプション、統合機能、使いやすさ、サポートなどの要素を考慮し、要件に合ったプラットフォームを選択する。
プラットフォームはそうあるべきだ：
- ご希望のユースケースをサポート
- 希望するLLMs
- 統合機能の提供
3. 設定するLLM
プラットフォームのオプションに基づき、事前に構築されたLLM を選択するか、必要に応じて特殊なタスク用にモデルを微調整する。
多くのプラットフォームは、学習済みですぐに使える組み込みの言語モデルを提供している。
LLM の使い方をカスタマイズすることに興味がある方は、弊社のグロース・エンジニアによる、AIプロジェクトのためのカスタムLLM オプションの選択に関する記事をお読みください。Patrick Hamelin 。
4. ツールを統合する
ほとんどのプラットフォームは、外部ツールとの統合オプションを提供しています。API、データベース、またはCRMデータやリアルタイム情報など、エージェントがアクセスする必要のあるリソースを接続します。
5. テストと改良
プラットフォーム内蔵のテストツールを使用して、エージェントを徹底的にテストします。テスト結果に基づいてパラメータ、プロンプトの言い回し、ワークフローを調整し、エージェントが実際のシナリオでうまく機能するようにします。
6. 展開と監視
プラットフォームの監視ツールを使用して、展開後のエージェントのインタラクションとパフォーマンスを追跡します。
インサイトを収集し、プラットフォームが提供するフィードバックの仕組みを活用しながら、必要に応じて設定を改良する。
カスタムLLM エージェントを展開する
LLM 顧客サービス、社内業務、eコマースなど、企業におけるエージェントの大量導入が進んでいる。導入が遅れた企業は、AIの波に乗り遅れるという結果を味わうことになるだろう。
Botpress は、企業向けに構築された無限に拡張可能なAIエージェントプラットフォームです。当社のstack では、開発者は必要なあらゆる機能を備えたLLM エージェントを構築することができます。
当社の強化されたセキュリティ・スイートは、顧客データが常に保護され、開発チームによって完全に管理されることを保証します。
今日から始めよう。無料です。
または私たちのチームまでお問い合わせください。
