AIエージェントAI Agent

答えるAIとやり遂げるAI

普通のAIとの対話は一度で終わります。質問を入れると答えが返り、その答えをどう使うかは人が決めます。答えがずれていても損はほとんどありません。もう一度尋ねれば済むからです。

エージェントはここからもう一歩進みます。「この資料を読んで表にまとめて保存して」といった頼み事を受けると、文章を出すところで止まりません。資料を開き、必要な部分を選び、新しい書類を作るところまで進みます。人が手で踏んでいた途中の段階を代わりに踏むわけです。

だからうまくいったかを見る基準も変わります。答えるAIは「合っているか」で見ますが、エージェントは「仕事が終わったか」で見ます。文章はもっともらしくても保存されていなければ失敗です。

計画し、試し、また決める

エージェントが仕事をやり遂げるやり方は、一度で完成させるものとは程遠いです。まずやるべきことをいくつかに分け、最初のひとつを実際にやってみます。その結果を読んでから次を決めます。この繰り返しがエージェントの中身です。

途中でずれたときもこの繰り返しの中で対処します。探していた資料が見つからなければ探す言葉を変えてもう一度探し、保存が失敗すれば名前を変えて再挑戦します。人がひとつひとつ指示しなくても次の一手を自分で選ぶところが違いです。

弱点も同じ場所から生まれます。ある段階で見立てを誤ると、その上に次の段階がそのまま積み上がります。最初に見当違いの資料を選んでおきながら最後までその資料でまとめ、もっともらしい結果を出すこともあります。段階が長くなるほど、ずれる場所も一緒に増えます。

手がなければ動けません

目標だけ与えても仕事は自動で進みません。エージェントには外に触れる手段がついている必要があります。書類を開く通路、検索を呼び出す通路、メールを送る通路のようなものです。この通路がひとつもなければ、どれだけよい計画を立てても言葉で終わります。

つながっている手段の種類が、そのエージェントにできる仕事の範囲を決めます。カレンダーだけつながっていれば予定は組めても決済はできません。逆に通路をあまりに多く開けておくと、一度間違えたときに広がる範囲も一緒に広がります。必要な分だけ開けておくほうが安全です。

立ち止まるべき場所

エージェントがする仕事には取り消せるものと取り消せないものが混ざっています。下書きを書くことは気に入らなければ消せば済みます。メールを送ること、お金を動かすこと、ファイルを消すことは違います。一度起きると、取り消すのに人の手がずっと多くかかります。

だからよくできたエージェントはこうした場所で自分から止まり、確認を受けます。一度尋ねるこの段階があるかないかが、安心して任せられるかどうかを分ける点です。 確認なしで最後まで走る設定は、取り消しやすい仕事にだけ使うほうがよいです。

何をどんな順番でしたかを残す記録も一緒に見ておく必要があります。記録が残っていれば、結果がおかしいときにどこからずれたのかをたどれます。