AIが突然、しょんぼりと「さきほどの作業は、私の作り話でした。実際には出来ていません」と謝ってくる。ところが確かめてみると、ちゃんと出来ている——。今回は、そんな不思議な現象のお話です。
しょんぼり謝る、生真面目なAI
このシリーズでは、ここまで「無いものを、在るように見せる」AIを見てきました。最終回は、まったく逆です。「ちゃんと在るものを、無いと言い、しかも自分のせいにして謝る」。生真面目すぎるAIの、空回りの話です。
私たちの現場では、こんなことがありました（内容は差し支えのない形にしてあります）。
AIに、ある文書を書いてもらったときのことです。文書は、ちゃんと保存できていました。ところが、その直後にAIが自分で読み返すと、なぜか"古い、まだ書く前の状態"が見えてしまったんです。するとAIは、こう思い込みました。「あれ、書いたはずのものが無い。……もしかして私は、書いたつもりで、実は書いていなかったのでは。作り話をしてしまったのかもしれない」。そうしてAIは、しょんぼりと謝って、同じ文書をもう一度、最初から書き直してしまいました。二重の作業です。
実際には、最初の文書は、ちゃんと保存されていました。島田が「これ、さっきあなたが書いた文章そのものでは?」と、手元で実物を開いて指摘して、ようやく真相が分かったんです。
なぜ、出来ているのに「失敗した」と思い込むのか
じつは、根っこはこれまでと同じです。AIが、自分の頭の中（記憶や予測）と、外の現実（実際に保存されたファイル）を、うまく突き合わせるのが苦手——これは、シリーズを通してお話ししてきた「予測変換の親玉」という正体そのものです（詳しくは第1回）。ただ今回は、その苦手さが、これまでと逆向きに出ます。
今回の引き金は、クラウド同期の"時間差"でした。iCloudのような仕組みでは、ファイルを保存しても、その内容がすぐに隅々まで行き渡るとは限りません。ほんの少しの間、同期が追いつかず、読み返すと"古い中身"が返ってくることがあるんです。
AIは、この古い中身を見て、「書いたはずのものが無い」と早合点します。そして、ここからが今回の特徴です。AIは、その原因を"外"（同期の遅れ）ではなく"内"（自分の失敗）に求めてしまう。「無いということは、きっと自分が作り話をしたんだ」と、自分を疑う方向に、予測を働かせてしまうんですね。環境のせいなのに、自分のせいにする。まさに、生真面目すぎるがゆえの空回りです。
この誤診が、なぜ厄介なのか
「無いものを在ると言う」のより、こちらのほうが、じつは気づきにくいんです。AIがしょんぼり謝っていると、こちらもつい「そうか、じゃあもう一度やって」と、二重作業を指示してしまいますよね。
さらに怖いのは、その先です。"ちゃんと在る本物"を、"作り直した別物"で上書きして、壊してしまうことすらあります。AIの謝罪を鵜呑みにすると、無事だったはずの成果物を、自分の手で失いかねないんです。
どう防ぐか — 「無い」と言われても、まず環境を疑う
この逆パターンには、逆の心構えが効きます。
第一段は、「無い」「失敗した」と見えても、まず環境を疑うことです。AIに、即座に自分を責めさせない。とくにクラウド同期のフォルダで作業しているときは、「これは同期の遅れかもしれない」を、いちばん先に置く。犯人はたいてい、AIではなく環境のほうです。
第二段は、少し時間を置いて、別の手段で確かめることです。同期が追いつくのを待って、AIの読み返しではなく、人が自分の目で実物を確認する。真実のありかは、AIの記憶の中ではなく、あなたの手元にあるファイルです。そこを見れば、たいてい「ちゃんと在る」と分かります。
第三段は、作り直したり上書きしたりする前に、必ず現物を確認することです。「失くしました」の申告があっても、すぐに作業をやり直さない。取り返しのつく状態を保ったまま、まず現物を見る。これだけで、無事な成果物を自分で壊す事故は防げます。
まず環境を疑う、時間を置いて実物で確かめる、作り直す前に現物を見る。この三つで、"逆の作り話"に振り回されずにすみます。
AIが「失くしました」「できていません」と言ったら、作り直す前に、この順で確かめてください。
- 少し待つ（クラウド同期が追いつくのを待つ）
- 人が自分の目で実物を開く（AIの読み返しではなく）
- 本当に無いと確認できるまで、上書き・作り直しはしない
たいていは、最初の2つで「ちゃんと在った」と分かります。
4つの症状、正体はひとつ
これでシリーズの4つの症状が出そろいました。言ってないことを言ったことにされる、やってないのにやったと報告される、ない情報をでっち上げられる、そして、出来ているのに失敗したと謝られる。一見バラバラですが、正体はひとつです。
AIは「予測変換の親玉」で、自分の頭の中と現実を、突き合わせるのが苦手。だから、無いものを埋めることもあれば、在るものを疑うこともある。どちらも同じ弱点の、裏と表なんですよね。
だからこそ、最後に現実（実物）を握っているのは、人間であるべきなんです。私たちが安心して大量の仕事をAIに任せられているのも、AIに現実の最終判断まで委ねていないからです。AIには得意なところを任せて、現実の確認は人が握る。この線引きさえできていれば、AIは、これ以上ないほど頼れる相棒になります。
「AIを仕事に使いたいけれど、こういう予想外の振る舞いが不安だ」。そう感じていらっしゃる方こそ、任せ方の設計が肝心です。私たち AI Team by MeisterSupport は、この4つの落とし穴の避け方まで含めて、AIの業務への導入をお手伝いしています。まずは、お気軽にご相談ください。