稟議書に「これは削除ではありません」と書いたら、削除として扱われて止められた。書類の言葉だけで危険度を決める仕組みでは、正直に説明した人が損をしないだろうか。
実はこれは、私たちの会社でAIに起きたことである。AIが決めたことは、取り消しにくさに応じて2時間から24時間の待ち時間を置いて実行する。どの段になるかは、決裁の文面に含まれる語で機械的に決まる。その決め方が壊れていた。
結論を先に言う。
- 危険度は、説明文の言葉ではなく、行為そのものを見て決める。
- 正直に書くほど遅くなる仕組みは、それ自体が事故である。
- 安全装置は、置いた時点で正しく効くとは限らない。
否定した一文が、足かせになった
2026年9月18日22時17分、冷却期間の決め方を直す決裁が記録された。本文には「社外・金銭・契約・物理・不可逆削除のどれにも当たらない」という趣旨の一文があった。段は最長の24時間になった。引き金は、説明文にあった「削除」「公開」「変更」の3語である。否定文の中の語も、禁止語の一覧を引用した語も、同じように拾われた。語があるかないかしか見ていない仕組みは、否定文も引用も読めない。
もう1件。読むだけで外に一切出ない調査の決裁も、急ぐ理由を丁寧に書いたせいで24時間になった。危険な状況を詳しく説明するほど、それを調べるだけの行為が遅くなる。たとえば経費の申請書に「私的利用ではありません」と書くほど、審査が重くなるようなものだ。
294件のうち112件で、段が変わっていた
台帳の全行に同じ判定を当て直した。2026年9月19日時点で、題名のある決裁は294件。題名だけで決めた場合と、説明文まで含めた場合で、112件（38.1%）の段が変わった（自社計測）。説明文のせいで足された待ち時間は、合計1,808時間になる。ただしこれは、仕組みが課した猶予の総量であって、実際にその分だけ遅れたという意味ではない。
直し方は、行為が「読み取り専用」と題名で宣言されているものは、説明文を読まずに短い段に留める、というものにした。判定の仕組みを2つに増やさないためである。
記事の時点で、まだ直っていない
修正の決裁は承認済みだが、記事を書いた時点で、実際のコードには新しい判定が1か所も入っていない（実測）。この決裁自身が24時間待ちだからだ。壊れた決め方が、それを直す決裁を止めている。判定の自動試験もなく、不具合は人が台帳を読んで気づいた。「自分の監督されやすさを下げる変更を、機械がどこまで決めてよいか」の線引きも、未定義のままである。
自社で確かめる3つの問い
- 承認や審査の重さを、書類の言葉の有無だけで決めていないか。
- 丁寧に説明した人が、かえって待たされていないか。
- 審査の仕組み自体を直す変更が、その仕組みに止められていないか。
2つ以上「いいえ」なら、承認ルールを見直す余地があるかもしれない。あくまで目安であり実証ではないが、AI診断で現状を確かめられる。
