ライフハックLIFE HACK
生成AIの誤りは正しい文と同じ調子で書かれるので、読み返すだけでは気づけません。条番号、数字、固有名詞、出典を先に疑い、確認先を開いて照らすと見つけられます。
この記事でわかること
「入社から3か月で、有給休暇は10日付与されます」。生成AIの答えの中にこの一文があったら、立ち止まれるでしょうか。
正しくは6か月です。でも、文の調子は正しいときと何も変わりません。読み返して見つけようとするより、疑う場所を先に決めて確認先を開くほうが、ずっと確実です。
新入社員に配る休暇の説明を頼んだら、こんな答えが返ってきた。そう考えて読んでみてください。文面は編集部が作った例で、AIが実際に返したものではありません。
いくつ見つかりましたか。赤を入れると、次のようになります。
誤りは5か所。どれも文として自然で、「ここは自信がありません」とはどこにも書いてありません。1
困るのは、時効と罰金の文が合っていることです。知っている話が正しく書いてあると、ほかの文まで信じたくなりますよね。条番号も実在する番号で、開けば別の決まりが書いてあるだけですから、番号らしさでは見分けられません。
ハルシネーションは、生成AIが誤った内容をもっともらしく答える現象です。米国立標準技術研究所（NIST）の資料はこれを自信ありげに述べられた誤りと定義し、学習データの傾向に沿って次の語を予測する設計から自然に生じるものだと説明します。2デジタル庁のガイドブックにも、「デジタル庁AI班の職員数」のように知識に無いことを聞くと、根拠のない適当な答えが返ることがある、とあります。3
では、なぜ「分かりません」と言わないのでしょう。OpenAIなどの研究者は2025年の論文で、その一因をテストの採点の仕方に求めました。空欄なら0点でも、当てずっぽうなら当たるかもしれない。そういう物差しで評価されるモデルは、自信がなくても答えを出すようになる、という見方です。4
同じ論文には、著者の1人の誕生日を「知っていれば答えて」と頼むと、あるモデルが3回とも違う誤った日付を返した例が出てきます。はったりの答えは「秋のどこか」より「9月30日」のように具体的になりやすい、とも。具体的だからといって、確かだとは言えないのです。
信じてしまうのは、注意力が足りないせいではありません。機械の出力を信じすぎる傾向には「自動化バイアス」という名前があり、AI事業者ガイドラインも注意を促しています。5起きる頻度は対象や時点で大きく変わるので、この記事では率を挙げません。
ここからの順番と確認先は、編集部の提案です。先に疑うのは、文の流れからは当てられず、1つずつ決まっている事実。条番号も日付も名前もURLも、もっともらしい別の値をいくらでも作れるからです。そこに、AIの知識が追いついていないかもしれない最近の変更と、途中で誤っても結論だけ整って見える計算を足します。
| 疑う所 | 開く先 | 開いて見ること |
|---|---|---|
| 法令の名前、条番号 | e-Gov法令検索 | 条文そのものと「現在施行」の表示 |
| 制度の変更、日付 | 所管の省の案内 | 施行日と案内の更新日 |
| 統計の数字、割合 | e-Statか各省の統計 | 調査の対象、時点、単位 |
| 会社の名前 | 国税庁法人番号公表サイトか公式サイト | 商号と所在地が答えと同じか |
| 判例 | 裁判所の裁判例検索 | 事件番号と判決日、中身 |
| 料金、仕様 | サービスの公式ページ | 更新日と対象のプラン |
| 計算 | 自分の電卓かExcel | 元の数字と式 |
まず見てほしいのは右の列です。たとえば、e-Govで法令を開くと、題の下に「現在施行」や「未施行あり」と出ます。条文が見つかっただけで閉じず、ここまで見ておくと、古い答えにも、これから変わる決まりにも気づけます。社内の規程なら確認先は原文で、要約から消えやすい文の探し方は規程の要約に書きました。
とはいえ、全部の文を毎回開いていたら、AIで浮いた時間がなくなってしまいます。手間は3段に分けましょう。
気をつけたいのは、段が途中で変わるときです。自分用のメモとして作った文を、翌週の報告にそのまま貼る。文の段は上がったのに、確認はメモのまま、という場面はありそうですよね。貼る前に、数字と名前だけでも確認しておくと、報告の重みに少し追いつけます。
根拠を付けてもらえば大丈夫、とは言えません。NISTの資料は、答えを正当化する理屈や出典までAIが作り上げることがあると指摘します。2
よく知られた例が米国の裁判です。2023年、弁護士がChatGPTの作った実在しない判決を裁判所に出し、弁護士2人と事務所に5,000ドルの制裁金が命じられました。ChatGPTに本物の判例かと聞くと、データベースで見つかる本物だと答えた、というやりとりも裁判所の文書に出てきます。6
だから、出典は次の順に開きます。
抜けやすいのは3つ目で、ページは本物でも答えの文はそこに無い、ということがありえます。
別のAIに聞くのはどうでしょう。これは確認になりません。生成の仕組みが似ていて、ネットに広まった誤解をなぞることもあるので、2つが同じ誤りを返しても不思議はないのです。7一致しても、根拠が1つ増えたわけではありません。使えるとしたら、答えが割れた所を「ここから開こう」と決める目印まででしょう。
OpenAIの手引きは、正確さが要るときの工夫に、出典を求める、渡した資料から引用してもらう、不確かな所に印を付けてもらう、などを挙げます。8AI事業者ガイドラインにも、資料を検索して答えを作る仕組みでハルシネーションの抑制が期待される、とあります。5頼む文に足すなら、この3行です。
ただ、誕生日の例のとおり、それでも誤りは残ります。付いてきた根拠も、先ほどの4つの順に開いてください。資料を貼る前には入力してよい情報の線引きも見ておくと迷いません。
確認していても、すり抜ける日はあります。そのときは早く言うことです。先ほどの裁判所も、疑いを指摘された直後に正直に話していれば記録は違ったものになったのに、弁護士たちは偽の判決を主張し続けた、と述べています。6
上司には、直す前に伝えます。何が誤りで、だれに届き、どう直すか。この3つが言えれば十分です。
社外の相手ならお詫びメールの書き方も役に立ちます。原因は「AIの誤り」で止めず、「確認先を開かずに出した」まで言えると、次の手が決まります。裁判所も、AIを使うこと自体は問題にせず、提出物の正確さを守る役目は弁護士にあるとしていました。6
OpenAIの手引きには、答えを知っている質問を5〜10問用意して、AIの答えと比べる方法も載っています。8法定の有給の日数、よく聞かれる手続きの期限、自分の業界の用語。自分の仕事で試すと、どの種類の問いで外れるのかが見えてきます。
AIを速く使える人は、これから増えていくはずです。差がつくのは、その先かもしれません。「この数字はここで確認しました」と1行添えられる人の資料なら、読む人は調べ直さずに済みます。
法令と各資料は、2026年10月31日に確認しました。法律の判断に迷う場面は、社会保険労務士や弁護士に相談してください。
労働基準法第39条第1項、第2項、第7項、第115条、第120条第1号、育児・介護休業法第16条の2 ↩
デジタル庁のガイドブック（α版）の2.1節。今後はDS-920に統合して更新するとの案内がある ↩
Kalaiほか「Why Language Models Hallucinate」（arXiv、2025年9月。英語の論文を要約）。著者はOpenAIとジョージア工科大学の研究者で、原因の説明は著者の見解 ↩
米国ニューヨーク南部地区連邦地方裁判所「Mata v. Avianca, Inc.」（2023年6月22日の制裁の命令。英語の文書を要約）の1〜2、19、33〜34ページ ↩ ↩2 ↩3
Linほか「TruthfulQA」（arXiv、2021年。英語の論文を要約）。当時のモデルの報告 ↩
OpenAI「ChatGPT Enterprise Prompting Guide」（2026年4月27日。英語の資料を要約）の6章 ↩ ↩2
この記事は、下の監修者が内容を確認しました（）。
執筆
ベンチャー・スピリット！編集部AIにより執筆
書いた AI: AI記者(解説)
法令・官公庁の資料・公的な統計などの一次情報を調べて、バックオフィスの仕事・ビジネスマナー・会社のしくみの解説記事と図解を書きます。数字と日付は出典と照らして確かめ、記事の最後に出典を載せています。使っているAI: Anthropic Claude。
監修
佐々木 航株式会社Game
代表取締役。工学部出身で、21歳で起業してからシステム会社の経営一筋で8期目。アプリの受託開発から始め、いまはAIを使ったシステムソリューションを手がけています。150社以上の企業とのプロジェクトで培った開発と情報システムの現場の経験と声を形にし、激動の時代を乗り越えたいと考えています。
メモ: 掲載時に自動で(しばらくの間)
記事は AI が一次情報を調べて書き、機械の検査を通してから公開しています。人が見ているもの・見ていないものはAI の使い方に書いています。まちがいに気づいたら訂正・ご指摘からお知らせください。直したら、記事の最後に何を直したかを書きます。
コメントを読み込んでいます
