# AIからの「あなたはこういう傾向がありますね」は、たいてい外れている
「AIが勝手に気づきを出してくれるのが便利なんですよ」最近、こう言われることが増えました。気持ちはわかるんですが、その気づき、僕は採用してません。
今回の話を一言でいうと、こちらが意図を決めて頼んだ分析は使う、向こうから勝手に出てきた提案は採用しない、です。同じAIに同じ記録を渡しているのに、ここで扱いを分けます。
偉そうに言ってますが、僕も最初は膝を打った側です。頼んでもいないのに「ここに気をつけたほうがいいですね」と出てきて、おお、見てるなあと。それが外れているとわかるまで、少し時間がかかりました。
向こうから来る提案を、僕が信用しない理由
月次レポートの端に書いてあった「気をつけてね」
先日の会議で、電子カルテを1年使っておられる先生からご相談がありました。月次レポートの集計はもうAIにやってもらっていて、その先に何ができるか、というお話です。前の記事で書いたとおり、この先生はお客さん一人ひとりの記録をAIに渡してあります。今回はその上での話です。
やり取りの途中で、先生がふと思い出されました。月次レポートの集計の中に、曜日や時間帯の数字だけじゃなくて、「こんなことに気をつけてね」みたいな一言がチラッと書いてあった気がする、と。ちょっと感じ取ってる部分なのかな、ともおっしゃってました。
これ、嬉しいんですよね。数字を頼んだだけなのに、向こうから一歩踏み込んでくる。自分の仕事を見てくれてる気がします。
でも僕の答えは、その傾向のサジェストは逆に信用しないほうがいいです、でした。せっかく思い出してくださったのに水を差すようで申し訳なかったんですが、ここは言っておかないといけないところなんです。
こちらが意図を渡した分析は、どこまで使えるか
先に断っておきます。記録を渡した上で「こういう意図で分析してね」と頼んだものは、結構答えが出ます。
たとえば、来なくなった方にどんな傾向があるか。一度離れて、また戻ってきた方はどんなパターンか。誰の紹介で来た方が多いか。こういう頼み方なら、記録の中から使える答えが返ってきます。それぞれ何を頼むかは前の記事でお話ししたので、ここでは省きます。
こちらが「知りたいこと」を決めている。AIはその問いに合わせて記録を読む。この順番のときは、ちゃんと働くんです。
同じAIなのに、提案になると外れる
ところが、向こうが自分から「あなたはこういうところがありますよね」と出してくる。これが割とトンチンカンなんですよ。
同じAIです。同じ記録です。頼んだ分析は当たるのに、提案になった途端に外れる。最初は僕も不思議でした。機嫌でも悪いのかと思うぐらい、当たらないんです。
なんでそうなるのかは、AIが答えを作る順番を見るとわかります。次でお話しします。
提案が外れる仕組み
見えているデータの中だけで話を作る
AIは、自分が見ているデータしか見ません。当たり前じゃないかと思われるでしょうが、ここが落とし穴なんです。
こちらが意図を渡したときは、その意図に合わせて記録を探しにいきます。でも意図がないときは、たまたま目の前にあるもの、つまり普段よく入力されているものの中で話を作ります。見たいデータだけを見て、それで一つの結論を作ってしまうんです。
その結論は、文章としては整ってます。整っているから、外れていても気づきにくいんですよね。
普段の入力に合わせて、喜びそうな分析を引っ張ってくる
もう一つ、こっちのほうが厄介です。AIは、普段のあなたの入力に合わせて答えを寄せてきます。
こういう分析だったら喜んでくれるかな。そう思わせるものが出てきたら、それを引っ張っちゃうんです。迎合、ってやつですね。
普段からある方向の記録ばかり入れていれば、その方向の「気づき」が出てきます。普段から気にしていることがあれば、それを裏付けるような一言が出てきます。だから読んだときに「そうそう、それ」と膝を打つんです。膝を打った瞬間、自分の思い込みに自分で拍手してるようなものなんですよね。
先生が思い出された「気をつけてね」の一言も、そうやって出てきた可能性が高いです。向こうが感じ取ったというより、こちらの入力に寄せてきた、と見たほうが安全です。
仮説を先に持ってきて、後から数字を集める
向こうからの提案は、だいたいダメです。なぜかというと、仮説ありきで持ってくるからです。
こちらが頼んだ分析は、問いが先で、答えが後です。向こうからの提案は、答えらしきものが先にあって、それに合う数字を後から集めてくる。順番が逆なんです。
数字は出てきます。本物の記録から出てきた数字です。だから余計に信じたくなるんですよね。でも、その数字は「最初に置いた仮説に合うもの」を選んで持ってきただけかもしれません。仮説そのものを疑う材料が、その提案の中には入ってないんです。だから、外れていても外れたまま、するっと通ってしまいます。
経営相談でもこれ、よくあります。結論を先に決めて、それに合う話だけ集めてる社長さん。ご本人は数字で裏付けたつもりなんですが、周りから見ると仮説の上に数字を積んでるだけなんです。AIの提案も、それと同じ形をしてます。
相手が考えていると錯覚する人ほど、引っかかる
このエラー、起こしやすい人がいます。相手が考えてくれてるかのように感じてしまう方です。
人の話を丁寧に聞く方ほど、そうなります。相手の言葉の裏に考えがあると受け取るのが癖になっているので、AIの一言にも考えがあるように見えてしまう。悪いことじゃないんです。人相手なら、それで正しいんです。
ただAIは、あなたのことを考えて一言添えたわけじゃありません。入力に合わせて、それらしいものを出しただけです。そこを人と同じ感覚で受け取ると、迎合された結論をそのまま経営判断に使うことになります。これがいちばん困るパターンです。
じゃあ、提案が来たらどうするか
結論ではなく、切り口として受け取る
提案が来たら捨てろ、とは言いません。結論として採用しない、というだけです。
「あなたはこういう傾向がありますね」が出てきたら、それを「そういう切り口があるのか」に置き換えて受け取る。当たっているかどうかは、この時点では決めません。材料止まりです。
そう決めておくと、膝を打ちそうになった瞬間に一呼吸置けます。おお、と思ったら、まだ結論じゃないんです。これだけで大きく違います。
意図をこちらで決めて、渡し直す
切り口として受け取ったら、次にやることは決まってます。その切り口を、こちらの意図に組み直して、もう一度頼むんです。
たとえば「この曜日に気をつけてね」と出てきたとします。そのまま信じるんじゃなくて、「曜日ごとに、来なくなった方の割合を出して」と、こちらから頼み直す。頼まれた分析なら、AIは記録を素直に読みます。向こうが勝手に持ってきた仮説を、こちらの問いに作り替えて検算させる、という順番です。
これをやると、間違ってる提案だったと露見します。露見したら、それでいいんです。残ったものだけが、経営判断に使える傾向です。
先ほどの、来なくなった方の傾向、戻ってきた方のパターン、紹介のグループ。どれもこちらが意図を決めて頼む形です。向こう発の提案を、この形に翻訳してから使う。それが、記録を渡しているからこそできる使い方です。
会議でその先生にお伝えしたこと
会議では、その傾向のサジェストは信用しないほうがいいです、とだけお伝えしました。1年かけて記録を溜めて、集計まで任せられるようになった先生です。その記録があるからこそ、意図を渡した分析がちゃんと返ってきます。勝手な提案に頼らなくても、こちらから聞けば答えが出る状態を、もう作っておられるわけです。
AIに気づいてもらう必要はないんです。気づくのはこちらの仕事で、AIには確かめてもらう。この役割分担さえ決まっていれば、向こうから何が出てきても振り回されません。
ってことで、次に「あなたはこういう傾向がありますね」が出てきたら、膝を打つ前に、こちらの問いに作り替えて聞き直してみてください。外れていたら、それはそれで安心できる話ですよね。