AIエンジン・技術
ハルシネーションとは?Hallucination
結論
ハルシネーションとは、AIが事実に基づかない情報をあたかも事実であるかのように生成してしまう現象のこと。
自社に関する誤った情報(存在しないサービス内容、誤った価格、誤った競合比較など)をAIが「幻覚」として生成してしまうと、ユーザーの誤解や信頼低下に直結する。AI引用のモニタリングは、単に「引用されているか」だけでなく「正しく紹介されているか」を確認する目的でも重要になる。
Web検索を伴うRAG・グラウンディングは、AIが学習知識だけに頼るのを防ぎハルシネーションを減らす効果があるとされるが、完全になくすことはできない。