AIに任せてはいけないのは、高影響な判断、本人確認、法律・医療・金融の最終判断、公開・削除、支払い、個人情報の取り扱い、セキュリティ変更、緊急対応です。これらは「人間が主体」とし、AIは下書きや選択肢の提示にとどめます。AGENT WORKBENCHでは、その線引きをカードの役割（HUMAN）として設計できます。

高影響な判断

結果が取り返しつかない、あるいは多くの人に影響する判断は人間が持ちます。AIは選択肢を出し、人間が決めます。

本人確認

誰であるかの確認（身分証・認証・署名）は人間が担います。AIに任せるとなりすましや誤認のリスクがあります。

法的効力、診断、投資助言などの最終判断は、資格を持つ人間が責任を持ちます。AIは情報整理や下書きにとどめ、専門家の判断を代行しません。EU AI法も高リスク領域に人間監視を要件化しています[1]。

公開・削除

一度公開した情報は広く残り、削除も完全にはいかない場合があります。公開・削除の判断は人間（HUMAN）が行います。

支払い

お金の移動を伴う操作は、人の承認なしに実行してはいけません。予算の範囲と承認を分けます。

個人情報

個人を特定できる情報の収集・利用・提供は、目的と同意を人間が管理します。AIへ渡す際は必要最小限に絞ります。

セキュリティ変更

権限の付与・設定の変更・公開範囲の操作は、誤ると全体へ影響します。人間の承認（approval gate）を置きます。NIST SSDFも安全な変更管理を求めています[2]。

AI支援として使える範囲

  • 下書き・たたき台の作成
  • 選択肢の列挙と整理
  • 事実確認の補助（出典提示）
  • 要約・分類・表形式への整形
  • リスクの洗い出し（案）

人間主体の範囲

  • 最終判断と承認
  • 責任の所在の明記
  • 公開・削除・支払いの実行
  • 本人確認と認証
  • 専門的助言の署名

判断表

作業AIHUMANSHARED
記事の下書き●仕上げ
法的・医療・金融の最終判断●
公開・削除●
支払い●
本人確認●
セキュリティ変更●
リスク洗い出し（案）●確認
要約・分類●利用

具体例

例1：契約書のレビュー

AIは条項の要約と抜け穴の候補を出します。最終判断と署名は人間（法務）が行います。

例2：健康情報の整理

AIは情報を整理しますが、診断や服薬判断は医療従事者が行います。

例3：経費の支払い

AIは明細を集計します。支払いの実行は承認を得た人間が行います。

FAQ

「AIに任せてはいけない」は絶対ですか？
資格や責任が伴う最終判断は人間が持つ、という運用ルールです。AIが下書きを助けるのは問題ありません。
下書きならどこまでOK？
事実確認可能な範囲のたたき台なら十分に有効です。重要なのは「最終判断を人間がする」ことです。
個人情報をAIに入力してもいい？
必要最小限に絞り、同意と目的を人間が管理します。機微なものは避けるのが安全です。
緊急時はAIを使わない？
人の安全が優先です。AIは補助にとどめ、人間が即座に対応します。
この線引きをツールで設計できる？
はい。AGENT WORKBENCHで各カードの役割を HUMAN に設定できます。

ツールで設計する

ワークフローをツールで開く

参考資料

最終確認日：2026-07-13