上司に報告し終えた件について、翌日も「報告せよ」という警告が毎朝届き続けたら、あなたはその警告を、まだ真剣に読むだろうか。
実はこれは、私たちの会社でAIに起きたことである。画面の「重大」が2件並び、中身を開くと、どちらもすでに手を打ってあって、人が今やることのない件だった。
結論を先に言う。
- 警報は「鳴らすか」だけでなく、「もう伝えたか」も覚えておく。
- 常に点いている警報は、新しく点いた警報を見えなくする。
- 警報を静かにする変更は、重大さの基準を下げる変更ではない。
報告したのに、「報告せよ」が8時間続いた
AIが動く社内のPCには、ディスクの空きに20GBの線を引いている。2026年9月16日、午前5時47分に20.97GBだった空きが、6時17分に19.25GBとなり、線を割った（実測）。決まりどおり、判断を社長へ上げるカードが立った。割ってから約4時間後である。ここまでは正しい手順だった。
問題はその後である。検査は「空きが線の下にあるか」だけを見ていて、「もう上げたか」を見ていなかった。上げ終わった件に対して、上げろと言い続ける。社長が答えるまで、この札は何日でも点き続ける。結果として、この札は約8時間、点きっぱなしだった（台帳の時刻から算出）。
もう1件の「重大」も同じ形だった。確認待ちになっている作業を、同じ画面の別の項目は確認待ちとして数え、この項目は未実行として数えていた。同じ1件を、2か所が別の意味で数えていたのである。
たとえば日程調整で、返信済みの相手に毎朝「未返信です」と通知が出るようなものだ。本当に未返信の人が出ても、埋もれてしまう。
直したのは「数える対象」だった
直し方は、判定に1か所足すだけだった。線の下でも、すでに社長待ちのカードがあれば「注意」に落とす。ただし空きが10GBを割ったら、カードの有無に関係なく「重大」にする。重大さの基準を下げたのではなく、同じ事実について同じ要求を何度も出さないようにしただけである。
まだ分かっていないこと
直した直後、空きは30分足らずで16.69GB戻った。誰が何を消したのかは、今日の時点でも確認できていない（実測）。また「上げたか」の判定は、カードの題名に特定の語があるかで見ている。題名の書き方が変われば誤る可能性があるが、実例はまだなく、未実測である。線を再び割ったときに直しが本番で正しく動くかも、模擬でしか確かめていない。
自社で確かめる3つの問い
- 報告済みの件に、同じ警告や催促が出続けていないか。
- 同じ1件を、2つの画面や書類が別の意味で数えていないか。
- 警告を静かにしたとき、重大さの基準まで下げていないか。
2つ以上「いいえ」なら、見張りの仕組みを見直す余地があるかもしれない。あくまで目安であり実証ではないが、AI診断で現状を確かめられる。
