ハルシネーションとは

生成AIを業務で使うとき、最も警戒すべきなのがハルシネーションです。もっともらしい嘘を返すこの性質を理解しないまま導入すると、現場でAIが信用を失います。

なぜ「自信満々に間違える」のか

ハルシネーションが起きるのは、LLMが「知っていることを答える」のではなく「自然につながる言葉を予測する」仕組みだからです。学習していない自社の単価や仕様を聞かれても、それらしい数字を作って返してしまうことがあります。AIは正誤を判断しているのではなく、文章として確率の高い言葉を選んでいます。

対策は「データに基づいて答えさせる」

対策の中心は、AIに勝手に答えさせず、確かな社内データを検索して、その内容に基づいて答えさせることです。これがRAG（検索拡張生成）の考え方で、「なぜ社内データで答えさせる必要があるのか」の根拠がここにあります。

推測でなく、データに基づいて答える

ハルシネーションを抑える中心が、記憶から推測させず社内データを検索して答えさせること（RAG）だとして、それを図面・帳票で実装したのがARCHAIVEのAIエージェントです。構造化した自社のデータを検索して回答し、回答の元データをたどれるため、現場が結果を確認しながら使える関係になります。