Human in the loop / Human on the loop
Human in the loopとHuman on the loopは、いずれも「AIにすべてを任せきりにするのではなく、人間が最終的な管理や責任に関与する仕組み」です。
名前は非常によく似ていますが、両者は人間がAIの動作に介入するタイミングが異なります。
Human in the loop
「Human in the loop」は、ざっくり言うと「AIを活用するプロセスの中に、必ず人間の判断や介入を組み込む考え方」となりますが、これは重要な局面で人間が介入できるようにしておくことで、システムの精度や安全性を担保することを目的としています。
ゆえに、Human in the loopにおけるAIの役割はあくまで補助であり、決定は基本的に人間が下すようになります。
AIの自律性を尊重しすぎると…
ただ、最近はCodex、Antigravity、Claude Codeなどが広く使われるようになったこともあり、AIによってある程度自律的に作業できるようになりました。極端な話、「最初に作業の内容を説明すると、追加の指示なしでもAIが自律的に考えながら作業を完了させる」ことが可能です。
ただし、「AIエージェントが会社のデータベースをたった9秒で丸ごと消し飛ばした」という事例も報告されており [1] 、完全にAI任せにしてしまうと取り返しのつかない事態に発展する可能性があります。
ゆえに、本来は作業の合間で適宜ユーザーに許可を求める設定にしておくほうが望ましいのですが、その確認が過剰になりすぎるとAIの自律性によるメリットを享受できなくなってしまいます。
Human on the loop
このような状況において提唱された概念が「Human on the loop」で、こちらは「基本的にAIが自律的に作業を進めるが、人間は常時または定期的にその動きを監督し、必要なときに介入する」という考え方になります。
Human in the loopと類似しているように見えますが、Human in the loopの場合は「人間が主体、AIは補助」であったのに対し、Human on the loopの場合は「AIが作業の中心を担い、人間はその動きを監督しつつ介入・評価する立場」に回ることになります。
まさに、AIの性能が大きく向上したからこそ成り立つ概念であるといえます。
Human on the loopに必要なのは…
この仕組みを実現するためには、「業務のリスク分類」「AIの作業の可視化」「人間が介入する条件の明確化」「ログが残り、監査ができる状況」「人間側の能力」「段階的なAIの導入」が必要となるでしょう。
特にAIの作業の可視化と人間が介入する条件の明確化は非常に重要で、「AIが動いている間に人間が何を見て、どのタイミングで止めて、誰がどう責任を持つか」を事前に設計しておかないと、AIのハイリスクな行動を見逃したり、本来適切かつ無害な作業をストップさせてしまう可能性があります。
加えて、人間側の能力も今まで以上に必要になると考えられます。
具体的には、
- AIに適切な指示を出せる能力
- AIの出力を批判的に読める能力
- ハルシネーションや情報の欠落を見つけられる能力
- 複数のAIの出力を統合できる能力
- どこまで任せてよいかを判断できる能力
こうした能力が要求されるようになるでしょう。
簡潔にまとめると
Human on the loopは、AIを放置する仕組みではありません。AIが自律的に動く範囲をあらかじめ設計し、人間が適切に監督しつつ介入できるようにする仕組みです。
少々誇大妄想になりますが、近い将来、AIが自ら考えて行動するのが当たり前の時代になるかもしれません。そうなると、リスクを減らしつつメリットを最大限享受するために、Human on the loopの考え方がさらに重要になってくるでしょう。
