「プレスリリース、ChatGPTに書いてもらいました」
問題解決ワークで、ある会員さんが原稿を見せてくださいました。
イベントの告知を新聞社に送るための原稿です。
実際の企画は、チャリティーでミニ畳を作るというもの。
参加した人が、小さな畳を自分の手で作る、というものです。
ところが原稿を読んでいくと、途中で話が変わります。
参加者1名につき1万円を、主催者がポケットマネーで払う。
そう書いてあるんです。
しかも、産地を応援するプロジェクトが立ち上がった、という一文まで添えてあります。
そんなプロジェクトはありません。
主催するご本人も、初めて聞く企画です。
会場は大笑いでした。
100名来たら100万円の赤字ですからね。
笑い話で済んだのは、送る前に人の目で読んだからです。
もしそのまま新聞社に送っていたら、1万円の話が記事になって、あとから取り消しに回る羽目になっていたかもしれません。
考えたらヒヤッとしますよね。
これがハルシネーションですよ。勝手に変えちゃうんで。架空の情報を埋めちゃうんですよね。
ただ、ChatGPTだからこうなった、という話ではありません。
クロードでもありますよ。
どこのモデルでも、社内の情報が見れない状態なら、同じことは起きえます。
どのAIも、文章の空いたところを、それらしい言葉で埋めるようにできています。
プレスリリースという型の中に「チャリティー」「産地」「応援」といった言葉が並べば、AIの中ではプロジェクトが一つ立ち上がっていても不思議ではないんです。
書いたAIに、嘘をついているつもりはありません。
話の筋が通るように、足りない部分を作ってしまっただけなんです。
だから、AIに書かせた人が悪いわけでもありません。
原稿を頼んだ人なら、誰にでも起きます。
じゃあ、どうやって防ぐのか。
当日、対策として挙がったものがあります。
まずは、設定に「事実を勝手に足さないこと」と書いておくやり方です。
ChatGPTなら、あらかじめ守らせたい指示を登録しておけますよね。
やらないよりはいいです。
ただ、これはかかりが弱いんです。
指示は覚えているのに、原稿を書き始めた途端に、話を面白くする方へ引っ張られていく。
「守れ」と書いてあるだけでは、書いている最中のAIを止めるフックにならないんですよね。
もう一つは、書かせた原稿に対して、こう頼むことです。
「すべての文言に対して、情報源を提出してください」
これが有効な予防策になります。
情報源を出させると、1万円の話には出どころが付きません。
産地を応援するプロジェクトにも、出どころが付きません。
出どころのない文がそこに並ぶので、消す場所がその場で分かります。
逆に、こちらが渡した資料やホームページに書いてある文には、ちゃんと出どころが付きます。
残す文と消す文が、読んだ人の側で仕分けできるんです。
AIに嘘をつかせないようにするのは事実上不可能です。
対策として嘘が混じっていても見つかる形で出させる。
そういう発想です。
社員さんに書いてもらった原稿でも、「これ、どこ情報？」と聞きますよね。
それと同じことをAIにも聞くだけなんです。
では、この会員さんの原稿はどうしたかというと。
この会員さんが使えるのは、ChatGPTだけです。
Claude Codeが使えていれば、社内の情報を参照しながら書くので、こういう作り替えはまず起きないんですよね。
ChatGPTだけで書く、という前提で、僕はこうお伝えしました。
「とりあえず間違ってる部分と、プレスリリースとして記者さんがコピペしやすい構成にしてください、がいいんじゃないですか」
書き直しではありません。
企画が違っている部分を直して、あとは記者さんがそのまま記事に使える並びに整える。
これだけです。
なぜ一から書き直さないかというと、プレスリリースという文書そのものは、AIに向いているからです。
型が決まった硬い文章を、事実の順番どおりに並べる仕事ですからね。
今回の事故があっても、その評価は変わりません。
向いている道具に、確認の手順を一つ足す。
それで対外文書は任せられるようになります。
AIに書かせた原稿を、中身まで読まずに送っていませんか？
一度、「すべての文言に情報源を」と頼んでみてください。
出どころが付かなかった文が、そのまま直す場所です。
ai.msup.bizでは、こうやって自分の仕事で試しながらAIを入れていく手順をお伝えしています。
対外文書に情報源を付けさせる仕組みを自社にも入れてみたい方は、ご相談ください。