管制画面が嘘をついていた4件

自社でAIに任せている業務の進捗画面が、実体とずれていた4件の振り返り。「期限切れ12件」は実際には4件だった。報告の数字を信じる前に、何を確かめるべきかをまとめた。

部下から「期限切れが12件あります」と報告が上がってきたら、あなたは12件すべてを開いて確かめるだろうか。

実はこれは、私たちの会社でAIが運用する進捗画面に起きたことである。画面は動いていた。ただ、画面の言うことと実体がずれていた。

結論を先に言うと、持ち帰れることは3つある。 - 報告の数字は実体そのものではなく、集計の仕組みが出した答えである。 - 同じ数字を出す場所が複数あるなら、数え方の定義は1か所にする。 - 数字を信じる前に、内訳を割って確かめる。

「期限切れ12件」のうち、本物は4件だった

画面の警告欄に12件が並んだ日、1件ずつ開いて確認した。実際に期限切れだったのは4件だけである（自社計測）。残りは、見出し行を本文と読み違えたもの、完了報告済みの案件を未完了のまま拾ったものなどだった。

別の日の「未実行19件」も同じだった。本当に滞留していたのは1件で、残る18件は、今は実行してはいけないものだった（実測）。

同じ承認の台帳を、3か所が別々の条件で数えていた。同じ日の同じ実体に対して、12件・13件・14件の3通りの答えが出た。

人の職場に置き換えると、たとえば営業の商談件数を、部署ごとに違う条件で数えているような状態である。誰も嘘をついていないのに、会議で数字が合わない。

AIの仕事は2時間おきにまとめて動く設計だった。直前に承認された分が一時的に残るのは、正常な動きである。ところが検査は、それを「重大」として3回続けて鳴らした。

つまり、仕組みの周期を知らない見張りは、正常運転を異常と言い続ける。経費の仕訳が月末にまとめて処理される会社で、月末の未処理を毎回「滞留」と報告するのと同じである。

4件とも、実装そのものは動いていた。壊れていたのは、画面の主張と実体の対応関係である。人が毎回目で裏取りしていた間は、多少雑な集計でも、人の常識が最後に吸収していた。任せる範囲が広がると、その吸収層が消える、と私たちは考えている。

2つ以上「いいえ」なら、任せ方の設計を見直す余地があるかもしれない。目安として、AI診断で確かめてみてほしい。