同じ問い合わせに、担当が替わるたびに最初から調べ直して、同じ回答を返している。そんな職場に心当たりはないだろうか。
実はこれは、私たちの会社のAIに起きたことである。9月23日の朝から25日の夜までの64時間で、判断役のAIは、同じ1件の警報について7枚の決裁を立てた。
結論を先に言うと、持ち帰れることは3つある。 - 判断の質より先に、判断の重なりが問題になる。 - 警報や依頼の側に、「対応済み・待ち」という状態を持たせる。 - 重複の判定を、文面の一致だけに任せない。
7枚は、どれも間違いではなかった
結論は「直さない」から始まり、「待つ」「直す」と入れ替わり、最後は初日とほぼ同じ「待つ」に戻った。判断役の定時は15回あり、そのうち7回がこの1件に使われた。同じ期間のカード全体は48枚で、実行まで進んだのは7枚中3枚だった（実測）。残りの4枚は、前のカードの結論を言い換えたものだった。
確認の予約も、2本が重なって並んだ。
原因は、警報に状態が無かったこと
警報は、見るたびに「ずれている」とだけ報告していた。誰かが直したのか、直して待っているのかは、警報の中に書かれていない。判断役は毎回、まっさらな警報を受け取り、丁寧に調べて、正しい結論を出していた。正しい判断を、前の判断を知らないまま繰り返していたのである。
たとえば経費の仕訳の確認依頼が、担当が替わるたびに、最初から調べ直されるのと同じである。回答票に「回答済み・様子見中」の欄が無いのが原因だ。
重複を止める網は、言い換えを素通りした
同じ操作を二重に立てない仕組みは、前日に入れたばかりだった。ところが、AIは同じ中身を毎回少しずつ違う言葉で書くため、文字が1文字でも違えば別の操作と見なす網は、すり抜けられた。
警報は、この記事を書いている時点でも出続けている。重複の網も、状態を持たせる仕組みも、まだ作っていない。
自社で確かめる3つの問い
- 依頼や警報に、「誰かが手を付けた」印を残しているか。
- 同じ件かどうかを、文面ではなく、何に対する判断かで決めているか。
- 担当が替わっても、前の判断が次の人に伝わるか。
2つ以上「いいえ」なら、任せたあとの引き継ぎに穴があるかもしれない。目安として、AI診断で確かめてみてほしい。
