生成AIのファクトチェックで見逃すのは、どんな答えか？

2026-08-192026-10-08

生成AIのファクトチェックで見逃しやすいのは、出典も内容も正しいのに、自分の状況について書かれていない答えです。出典が実在するか、内容が正確かを確かめる方法はそろっています。ただ、その文が自分のしようとしている操作の説明かどうかは、どの方法でも確かめられません。

しかし、出典を開いて原文まで確かめたのなら、それで十分だと考える人も多いはずです。

この記事では、実際に起きた取り違えの例と、それを防ぐ2つの確かめ方を順に書きます。

AIは公式ヘルプを根拠に「返金されない」と答えた

AIは「返金されない」と答え、根拠に公式ヘルプの原文を添えましたが、実際には日割りのクレジットが付きました。チーム向けのAIサービスで、契約している席の種類を入れ替えようとしたときのことです。

安いほうの席を1つ減らし、高いほうの席を1つ増やす作業でした。作業の前に、減らした席の料金が日割りで戻るかをAIに訊きました。

AIの答えは「返金されない」でした。添えられたヘルプの原文にも、すぐのクレジットも返金も発生しないと書いてありました。そこで、月の途中で減らすと1か月分の料金が無駄になるので、更新日の直前に作業しようと考えました。

ところが、管理画面で確定前の確認画面を開くと、減らす席に残り日数分のクレジットが付いていました。AIの答えも、添えられた原文も正しかったのに、私の場合の結論は違っていました。

ヘルプの文は間違っていませんでした。あの文が説明していたのは、メンバーをチームから外す操作です。

メンバーを外すと、その人の席は空きますが、契約している席の数は変わりません。空いた席の料金は払い続けるので、返金はありません。

私がしようとしていたのは、契約している席の数を減らす操作でした。そのサービスの確認画面では、この操作に日割りのクレジットが付いていました。同じヘルプの中でも、2つの操作は別の手順として書かれていました。

資料は正しく、AIがその資料を当てはめた操作が、私のしようとしていた操作と違っていました。なお、席の数を減らしたときの精算の扱いは、サービスや契約の形で違います。使っているサービスの説明と確認画面で確かめてください。

取り違えが起きたのは、日常の言葉ではどちらの操作も「減らす」と呼ぶからです。人を減らすのも席を減らすのも、使う側には同じ作業に見えます。管理画面でも、メンバーの一覧と契約の設定は近い場所にありました。

サービスの側では、2つは別の処理です。

操作	変わるもの	料金
メンバーを外す	席の割り当て	契約している席の数は変わらないので、料金も変わらない
席の数を減らす	契約している席の数	請求の対象が減る（精算の時期はサービスによる）

この区別を知っていれば、ヘルプのどの文が自分の操作の説明かはすぐ分かります。似た取り違えは、ほかの手続きでも起こりえます。

どれも会話では一言で済ませがちですが、実際に起きることは違います。違いを知らないうちは、どちらの説明を読んでも自分の操作の説明に見えます。

「席の割り当てと、契約している席の数は別のもの」という一文は、ヘルプのどこにも書かれていませんでした。ここから先は私の解釈で、仕組みとして確かめたものではありません。

資料の書き手にとって、その区別は前提なので、わざわざ書かないのだと思います。区別を知らない読み手には、どちらの文も自分の操作の説明に見えます。

AIは資料を読めますが、質問した人がどちらの操作をしようとしているかまでは分かりません。質問に「減らす」とあれば、「減らす」と書かれた文を引用するのだと思います。引用した文が正しくても、質問した人の操作に当てはまるとは限りません。

生成AIのファクトチェックとしてよく勧められる方法を、この例に当てはめると、どの方法でも取り違えは見つかりません。

方法	この例での結果
出典を示させる	公式ヘルプの原文が示される
複数のAIに同じことを訊く	どのAIも同じ公式ヘルプを根拠にしやすく、同じ答えになりやすい
検索機能のあるAIで裏を取る	その文は実在するので、裏が取れてしまう

これらの方法が確かめているのは、その文が実在するか、書かれた内容が正確か、の2点です。今回の答えは、どちらも満たしていました。

確かめられないのは、その文が自分の操作について書かれているかどうかです。判断に必要な区別が資料に書かれていないので、AIに何度訊き直しても、同じ資料から同じ答えが返ってきます。