問題設定
エージェントに「何でもできる」権限を与えると、ユーザーは便利さより先に不安を感じる。では、どの程度の自律性が信頼を生むのか。2026年前半、3つのプロダクトで観察したデータから作業仮説をまとめる。
観察: 承認予算
ユーザーが1セッションで許容する「確認ダイアログ」は平均 5回前後。6回目以降、ユーザーは二極化する:
- 全承認(「もういいや」モード) — 危険
- 全拒否(「自分でやる」モード) — 離脱
つまり、確認の回数は設計リソースであり、使い切ったら終わりである。
パターン: 信頼の三段階
- 可視化 — エージェントが次に何をするか、常に一覧できる(キュー)
- 可逆化 — すべての操作に「戻す」がある(undo)
- 段階委任 — 小さな成功の積み上げで、初めて権限が広がる
推論の表示は信頼を増やすか
意外な結果: 推論プロセスの詳細表示は、初心者の信頼を下げた。「わからないことがわかっていない」状態にノイズが加わるため。要約1行 + 詳細は折りたたみ、が現時点の最適解。
次の実験
承認予算を可視化したら(「残り2回確認します」)、全承認モードは減るか。計画中。
これは生きたドキュメントです——観察が溜まり次第更新します。