デモは製品ではありません
エージェントのデモは、どれも同じように作られています。目標を入力すると、計画が表示され、ツールが呼び出され、何か役立つことが起きます。本当に印象的ですが、ほとんど何も教えてくれません。見ている実行は、うまくいった実行だからです。
エージェントを使い続けるかどうかを決める実行は、それ以外のものです。返金ポリシーを誤って読み、本来提示すべきでない返金を提示するエージェント。午前4時に、壊れた処理を何度も再試行し続けるエージェント。正しい判断は2,000人にメールを送ることだと決めてしまうエージェント。
これらは、厳密にはモデルの失敗ではありません。より良いモデルなら失敗は減りますが、ゼロにはなりません。これは、モデルが間違えたときに、その周りのシステムが何をするかという問題であり、デモを見るずっと前に、ベンダーが行った設計上の判断です。
モデルより価値のある4つの仕組み
送信する前に、何かで止まりますか？重要な線は、「ガードレールがあるか」ではありません。それは誰もが「ある」と言います。大事なのは、送信するメッセージが、人に届く前に保留されるかどうかです。ProxyAIでは、エージェントがメッセージ、メール、または通話を行おうとすると、停止して待機します。メールが届き、タスクは「要対応」の一覧に表示されます。送信しようとしている各メッセージ、つまり宛先、件名、本文の冒頭を確認できます。承認すると全件が送信され、却下すると破棄されます。
これは、意図的に単純な仕組みです。承認は全件か無かのどちらかです。5件のうち3件だけを承認することはできません。
支出は、月ごとではなく実行ごとに上限がありますか？月額の予算は、後で知る請求額です。実行ごとの上限は、問題が起きている個々の実行を、その最中に止めます。ProxyAIの既定値は、実行ごとに2.00ドルで、そこに達した実行は停止します。
残高がなくなったときに何が起きますか？これは、誰も尋ねず、全員があとで気づく質問です。誠実な答えは、部分的に実行するのではなく、拒否することであるべきです。新しいエージェントは作成できず、実行は「クレジット不足」のエラーで停止し、チャットでタスクを依頼した顧客には、利用できないと伝えられます。半分だけ実行されることはありません。
保留中の判断が、次の実行を止めますか？3件の承認が未確認のまま残っている間も、スケジュールされた実行を開始し続けるエージェントは、決して消化できない待ち行列を作っています。保留された実行は7日間待ってから期限切れになり、判断が保留されている間は、エージェントは新しいスケジュール実行を開始しません。これは不便ですが、正しいトレードオフです。
実用的にする例外
すべてが承認のために止まるシステムは、誰もオンにしないシステムです。例外は、便利さのための切り替えではなく、原則に基づいている必要があり、その原則は送信先です。
保留されない送信先は2つあります。ご自身の受信箱へのレポートと、ご自身で選んだスプレッドシートです。どちらも顧客には届かないため、恥をかくことはありません。この例外があるからこそ、レポート用のエージェントは初日から無人で実行でき、顧客向けのエージェントは監視された状態を保てます。すべてに対して監視を静かに無効にする設定は、必要ありません。
「人による事前承認」とは何か
「人による事前承認」という表現は、使われすぎて意味が曖昧になっています。単にシステムの近くに人がいることを指す場合もあります。正確には、作業内容が見える状態で保留され、人が判断するまで実行されないことを意味します。
判断基準は単純です。エージェントが提案したけれどまだ実行していないすべてを、今すぐ見るためにどこを見るかを尋ねてください。答えが、後から読まなければならないログであれば、事前承認の仕組みはありません。あるのは監査証跡であり、事後に確認する記録です。
地味なエージェントから始める
エージェントを使う最も強い理由は、最も自律的なものではありません。ストアで起きたことの日次の要約が、ご自身の受信箱に届き、費用は1セントの何分の一かで、顧客には一切触れないものです。それは本当に役立ち、誰かに話させる前に、そのエージェントが何を正しく行うかを学ぶ方法です。
次に、一歩だけ外に広げます。返信を下書きして保留するエージェントです。1週間、下書きを読みます。良ければ、すばやく承認します。良くなければ、失ったものは何もありません。
最も信頼できるベンダーは、その段階的な進め方が見つけやすいドキュメントを持っているところです。そこには、エージェントができないことの説明も含まれています。制限の項目がない機能の一覧は、販売用のページです。
よくある質問
AIエージェントにおける「人による事前承認」とは何ですか？
正確に使うと、エージェントの提案した行動が、人が決めるまで、まだ実行されずに、あなたが見られる場所で待機していることを意味します。ずさんに使うと、システムの近くのどこかに人がいるというだけの意味になります。判断基準は、エージェントが提案したけれどまだ実行していないすべてを、今すぐ見られるかどうかです。後から読むログしか記録がないなら、それは事後の監査証跡であり、事前承認とは別のものです。
AIエージェントは、承認なしに顧客へメールを送れますか？
それは製品によって完全に異なるため、直接尋ねる価値があります。ProxyAIでは、顧客にメッセージ、メール、通話を行おうとする実行は、停止して、承認されるまで待機します。例外は、顧客に恥をかかせることのない送信先です。ご自身の受信箱へのレポートと、ご自身で選んだスプレッドシートです。そのため、レポート用のエージェントは無人で実行でき、顧客向けのエージェントは監視されたままです。
AIエージェントが1つのタスクに多くお金を使いすぎないようにするには、何が必要ですか？
月ごとの予算ではなく、実行ごとの上限です。月額の上限は後で知る請求額です。実行ごとの上限は、問題が起きている個々の実行を、その最中に止めます。ProxyAIの既定値は、実行ごとに2.00ドルで、そこに達した実行は、続けるのではなく停止します。
エージェントが承認を待ち続け、承認されなかった場合はどうなりますか？
保留された実行は7日後に期限切れになり、判断が保留されている間は、エージェントは新しいスケジュール実行を開始しません。承認されないまま作業を積み上げ続けるよりも、意図的に不便にしてあります。承認されないまま作業をキューに入れ続けるエージェントは、誰も消化しない溜まった作業を生み出します。
AIエージェントは、どこから始めるべきですか？
顧客には一切触れず、ストアで起きたことの日次の要約を、ご自身の受信箱に送るエージェントから始めてください。それは本当に役立ち、費用は1セントの何分の一かで、顧客に話させる前に、エージェントが何を正しく行うかを学ぶ方法です。
エージェントタスクは、ProxyAIのエージェントのアドオンです。エージェントタスクのガイドでは、承認、実行のコスト、制限について説明しており、料金ページには、その背後にあるモデルの料金が記載されています。