こんにちは。R&Dチームの浅野です。
「AIエージェント」という言葉を聞かない日はなくなってきました。「エージェントに任せれば全部やってくれる」「エージェントを使っていれば最先端のAI活用だ」という雰囲気が漂っていますが、実際のところ、自律性が高いほど良いシステムかというとそんなことはありません。今回は、私たちのチームが日々意識している「AIをどこで使い、どこで使わないか」という考え方についてまとめてみたいと思います。
AIエージェントって何？
いろんな定義がありますが、AIエージェントとは「LLMの推論能力を使って、示されたゴールに向かって自律的に動作するシステム」を指す、という認識で大きく外すことはないと思います。
ここで重要なのは、システムの自律性にはグラデーションがあるという点です。
システムの安定性、再現性、コストなどの観点から、課題を解決できるならば自律性は低ければ低いほどよいです。つまり、「あるシステムがエージェントかどうか」の議論に意味はなく、課題に対して最適な自律性のレベルがあるだけです。問うべきは、どこでAIの力を使い、どこでAIを使わないか、ということだと思っています。
AIソリューション構築の二つのアプローチ
AIを活用したシステムを作るアプローチとして、大きく二つあります。
人間がフローを作る
自社でAI機能を開発する、あるいはDifyやn8nのようなワークフローツールを使うようなケースです。自律性ゼロからスタートし、本当に必要なときにだけ自律性を追加していくことが多いと思います。
- コードやツールでフローを明示的に設計する
- AIは固定タスクの実行になるべく限定する
- 必要な部分だけ自律性を追加する
- 高い自律性は原則避ける
汎用エージェントを使う
Claude Cowork, Claude Code, Codexなどのような汎用エージェントを使ってソリューションを作るケースです。これらの汎用エージェントは、もともと持っている自律性が最大です。デモ用途にはよいですが、実用を考えるとそのままでは再現性やコストの面で厳しいことが多いです。よって、プロンプトやスキル、ツールを活用して自律性を下げていくアプローチをとります。(Claude Agent SDKなどを使うことで、自社アプリ開発においても高い自律性をもった状態からスタートすることもできます。)
- 人間が知っている知識や成功ワークフローをスキルやプロンプトに明示する
- AIが苦手な計算はコード実行に誘導する
- 自律性ゼロにはならないが、極力下げることが重要
どちらのアプローチをとるにしても、「AIを使わないところを決める」という視点が共通して重要になります。
ルクミーでのAIの使い方
ルクミーでは様々なAI機能を提供しています。 lookmee.jp
現在開発中のものも含めて、AIにどんなタスクをさせるのか、常に慎重に設計しています。現在は意図的に自律性を低く保つことで、AIがもつ不確実性がシステムに伝搬することを防いでいます。これからもAIをどこで使い、どこで使わないか強く意識して開発していきます。
汎用エージェントで自律性を下げる例
汎用エージェントを使う場合、プロンプトやスキルの書き方やツールの利用方法によって自律性を大きく変えることができます。例えば、フォルダにある資料を全部読んでExcelに入力するタスクを考えてみます。
自律性が高い（成功確率が低い）指示の例：
このフォルダにある資料をみて、このフォーマットに入力して
何をどう読み、どう判断するか、どの順で処理するか、AIが全て決めることになります。うまくいくかは神頼みで、再現性に乏しいです。トークンだけ大量に消費して、目的を達成できない、といったことにつながりがちです。
自律性を下げた（成功確率が高い）指示の例：
PDFには処理ルールが、Excelには元データが入っています。 同じ内容のファイルがある場合は日付が新しい方のみを参照してください。 入力すべきセルはxxxです。 計算が必要な場合は必ずPythonコードを書いて実行すること。 フォルダの資料のみ参照し、Web検索は使わないこと。
人間が知っている成功パターンをスキルなどで明示することで、AIが自分で考える余地を狭めます。また、AIが苦手なことはやらせない、使えるツールに制限を加えるといった工夫で、成功確率と精度が上がります。
まとめ
- エージェントかどうかではなく、AIの能力をどこで使うか、どこで使わないかを考えよう
- 人間がフローを作る場合、本当に必要なときにだけ自律性を追加しよう
- 汎用エージェントを使う場合、スキルやツールを活用して、できるだけ自律性を下げよう
- 必要のないところでAIを使わないのが、良いシステムです
バズワードに振り回されず、課題ごとに「AIをどこで使い、どこで使わないか」を丁寧に考える。これが結果的に安定していて、使われる機能を作ることに繋がると思っています。
ユニファでは一緒に働く仲間を探しています！
