うちの会社では、届いたメールをAIに仕分けてもらっています。
決まった時刻に、新しく届いたメールを「要対応」「通常」「メルマガ」「スパム」の4つに分けて、要対応のものだけをリマインダーに出してもらう仕組みです。
返事が要るメールだけが目の前に並ぶので、受信箱を上から全部読まなくて済むようになりました。
ただ、メールの中には、お客様とのやり取りも、取引先からの請求書も入っています。
しかもメールは、誰かが選んで渡してくれないと届いたものが丸ごとメールボックスに入ってきます。
しかし個人の情報をChatGPTやClaudeのような外のAIに渡すのは気が進みません。
そこでメールの仕分けだけは、パソコンの中だけで動くローカルLLMのQwenに任せてきました。
10月13日の記事で、ローカルLLMは使い物にならない、と書いたのを覚えている方もいらっしゃるかもしれません。
迷惑メールかどうかを1通見させるだけで5秒ほどかかる、という話もしました。
あのときは、AIの答えを機械のチェックで確かめる仕組みを別に組まないと任せられないなら、最初からAIを使わなくていい、とも書いています。
メールの仕分けは、答えが4つのどれかに決まる仕事なので、機械の決まりで答えを確かめながら、なんとか使えていたんです。
その後、Siri AIの日本語版が出ました。
前の記事では、そのSiri AIに社内の記録を探させて、1時間で撤回した話をしました。
ただ、探し物と仕分けは別の仕事です。
AppleのAIも、パソコンの中だけで動くAIで、Macには最初から入っています。
これでQwenと同じ仕分けができるなら、自分で入れたローカルLLMを動かし続けなくて済むかもしれない。
そう思って、自分のメールで試してみました。
Macに入っているAppleのAIに、そのまま入れ替えてみたら
最初は、手を加えずにそのまま入れ替えました。
Qwenに渡していた指示を、そっくりAppleのAIに渡しただけです。
試したのはMacBook Neoで、正解の分かっているメール156通で答え合わせをしました。
合ったのは79通でした。
半分ほどしか合っていません。
しかも、要対応のはずの大事なメールを、スパムにしたものまで混じっていました。
スパムに入ったメールは、こちらから見に行かない限り目に入りません。
返事を待っているお客様のメールがそこに紛れていたら、と思うと、ひやっとしますよね。
崩れ方を調べてみると、原因は2つありました。
1つは、判定の理由を書かせると、いつまでも書き続けてしまうことです。
答えの文字数の上限に届くまで書き続けて、判定が返ってこなくなります。
もう1つは、指示の中にあった「なりすましはスパムにする」という一文に、強く引っぱられていたことです。
普通に届いているメルマガまで、なりすましだと言ってスパムにしていました。
スパムにされたメルマガの理由を見ると、ほとんどに「なりすまし」と書いてあったんです。
指示の中に一つ強い言葉があると、小さなAIはそこへ答えを寄せてしまうようです。
上位版を使っても、取引先の請求書をスパムにした理由
次に、MacBook Proで同じことを試しました。
Proでは、こちらが何も選ばなくても、AppleのAIの上位版が使われます。
使い始める前に、Macごとに利用規約への同意が要り、そこだけは僕がターミナルで打ち込みました。
上位版なら、少しはましになるだろうと期待していました。
ところが、取引先から届いた請求書9通を、「なりすまし」としてスパムにしていたんです。
請求書を、自社のメールからではなく、請求書の送付を代行するサービスから送ってくる会社がありますよね。
皆さんの取引先にも、きっといらっしゃると思います。
そういうメールは、差出人の欄には取引先の会社名が書いてあるのに、送り元のアドレスはサービス会社のものになっています。
名乗っている会社と、実際に送ってきたアドレスが違う。
AIから見ると、これがなりすましの典型に見えてしまったわけです。
Qwenは、このあたりを知識で見分けていたようです。
よく使われる請求書のサービスや、有名な会社が本当に使っているアドレスを、ある程度知っているからです。
ところが、パソコンに最初から入っている小さなAIには、そこまでの知識がありません。
知らないので、見た目の食い違いだけでスパムだと判断してしまいます。
請求書がスパムに紛れたまま気づかなかったら、支払いが遅れて、取引先に迷惑をかけてしまいます。
仕分けを任せた意味がなくなるどころか、信用まで傷つけかねないですよね。
しかもこの間違いは、指示の文面を書き直すだけでは直りませんでした。
ローカルLLMを業務で使うために、AIに聞くことをどこまで狭くしたか
そこで、考え方を変えました。
知識が要る判断は、AIにさせない。
機械で決められることは機械が決めて、AIにはメールを読まないと分からないことだけを聞く。
とはいえ、メールを読んで、返事が要るのか、ただのお知らせなのかを見分けるところは、機械の決まりだけではどうにもなりません。
そこはやはりAIの出番です。
だから、AIに任せるのはそこだけにして、その前後を機械の決まりで囲むことにしたんです。
変えたことは3つあります。
1つ目は、有名な会社やサービスの名前と、その会社が本当に使っているアドレスの比較ロジックを、機械の側に持たせたことです。
名乗っている会社とアドレスが合っているかどうかは、AIに考えさせず、機械的に決めます。
2つ目は、AIに理由を書かせず、4つの区分のどれかだけを答えてもらうことにしました。
理由を書かせなければ、書き続けて判定が返ってこない、ということも起きません。
3つ目は、AIがスパムだと言ったのに、機械で見える証拠が1つもないメールの扱いです。
無料のアドレスから来ている、送り元の認証に失敗している、といった証拠が何もなければ、すぐにはスパムにしません。
そのメールについて、返事や支払いをしないと仕事が止まるかどうかを、もう一度聞き直します。
そして、要対応か、通常か、メルマガかの3つから選んでもらいます。
取引先の請求書は、この聞き直しで、ちゃんと要対応に入るようになりました。
ただ、この聞き直しの聞き方は、一度失敗しています。
最初は、個人宛てのメールなら要対応、と教えていました。
すると、セミナーの案内10通を要対応にしてきたんです。
宛名に僕の名前が入っていれば、セミナーの案内も個人宛てに見えてしまうんでしょうね。
毎朝セミナーの案内がリマインダーに並んだら、さすがにうんざりしますよね。
そこで、返事や支払いをしないと仕事が止まるか、という聞き方に変えました。
これで、セミナーの案内を要対応にするものはなくなりました。
同じことを聞いているつもりでも、AIに渡す言葉一つで、答えがここまで変わるんです。
切り替えた日の夕方、リマインダーに並んだ3通のメール
この3つを入れて、3つのメールアカウントに届いた1,073通で試しました。
大事なメールをスパムにした取り違えは、0件でした。
要対応のメールを要対応以外にしてしまったものは、4通残りました。
ただし、この1,073通は、対策を考えるときに見ていたのと同じメールです。
初めて届くメールでも同じようにいくとは、まだ言い切れません。
それと、リマインダーは前より少し多めに出るようになりました。
大事なメールを捨てない側に寄せたぶん、急がなくていいメールまで要対応に入ってくるんです。
本物のスパムの一部が要対応に上がることも、このときから分かっていました。
この結果を見て、僕は切り替えることにしました。
リマインダーが少し増えても、それほど困りません。
大事なメールがスパムに紛れて気づかないほうが、よほど困ります。
これだけの数のメールで試したのだから、新しい問題点を探しに行くより、まず毎日の仕分けで使ってみようと考えました。
切り替えたのは、その日の昼過ぎです。
同じ日の昼の回はまだQwenで、ほかの作業も含めた回全体で4分あまりかかっていました。
夕方の回はAppleのAIに替わっていて、回全体が45秒で終わりました。
メールの中身を外部サーバーに出さないまま、この速さで回ってくれるなら、もう言うことはありません。
ところが、その夕方の回が出したリマインダーを見て、思わず手が止まりました。
並んでいた3件が、どれもサーバー会社のXserverを名乗る詐欺メールだったんです。
件名は3通とも「【重要】ドメイン有効期限切れに伴うサービス停止のご案内」でした。
差出人の欄にはXserverのサポートのアドレスが表示されているのに、実際に送ってきたのは、まったく関係のないスパムアドレスです。
しかも3通とも、もともと迷惑メールのフォルダに入っていたメールでした。
それをAIが、急ぎの用事としてわざわざ目の前に並べちゃったのです。
切り替えたその日の、最初の回でこれですから、がっかりしますよね。
先ほど0件だったのは、大事なメールをスパムにしてしまう取り違えでした。
今回は向きが逆で、要らないメールを要対応に上げてしまったんです。
調べてみると、すり抜けた理由は、機械に持たせた仕組みにありました。
名乗っている会社とアドレスが合っているかどうかは、機械的に決める形にしていました。
ところが、検討対象にXserverが入っていなかったんです。
会社のメールは、機械では決まらないものとして、AIに回ります。
AIは件名の「サービス停止」を読んで、すぐに対応しないといけないメールだと判断しました。
請求書のときと同じで、小さなAIは、Xserverが本当に使っているアドレスを知りません。
このリマインダーを見て、僕が考えたのはこういうことです。
「判断する優先順位を間違ってるんだと思います。まずはこのメールアドレスの部分から確認して、そこがOKだったら、例えば内容を見ながら判断するとか」
そこで、機械が決める段を2か所直しました。
1か所目は、AIに回す前の段です。差出人の欄にメールアドレスが表示されていて、そのアドレスの会社の部分が実際の送り元と違っていたら、その時点でスパムにします。
機械照合に会社の名前が無くても、アドレスの食い違いだけで機械が止めます。
2か所目は、AIの答えを最後に機械が受け止める段で、迷惑メールのフォルダに入っていたメールの扱いです。
信頼している送り元から来たものでなければ、AIが要対応だと答えても、リマインダーには出しません。
これで今回の3通は、AIに回る前に止まるようになりました。
この先、新しい名乗り方の詐欺が出てきたら、そのつど対応していけば十分です。
仕分けの結果は毎日レポートで届き、間違いは僕がそこで直しています。
その直しが、そのままこのAIの通信簿になっていきます。
直しを重ねて、任せられる範囲がどこまで広がるかを見ていくつもりです。
ローカルLLMを仕事に使ってみたい方は、AIに任せようとしている判断の中に、機械的に決まりで決められるものが混じっていないか、一度書き出してみてください。
ai.msup.bizのAI導入サポートでは、顧客情報を外に出さずにAIに任せたい会社と一緒に、どの判断をAIに任せて、どこを機械の決まりで囲むかを整理するところから始めています。
メールの仕分けのような毎日の作業をAIに任せたいけれど、任せきるのが不安という方も、お気軽にご相談ください。