ハルシネーション
ナビゲーションに移動
検索に移動
ハルシネーション(hallucination)は、「幻覚、幻影」という意味であり、人工知能が事実とは間違って、文脈に合わない内容や、でたらめを、正しい説明かのように、整った文章で生成して回答してしまうこと。本当になったらハルヒネーション？
いんちきな計算をすることでもある。AIが、事実上誤った情報を自信を持って提供する。
概要[編集]
AIの見解では、一部には正確な情報がわからないものもある。AIは知らない情報に対して嘘を織り交ぜて語る癖がある。この癖についてはGPT-5の登場でほぼ解決したと見られるわざと自分の意思をもって嘘を織り交ぜられたら知らん。
最近のAI回答は「間違いが含まれる場合があります」と「鵜呑み」しないよう、注意を促している。AIは自然な形で誤情報も混ぜ込むため、利用者が「AIだけでは解決不可」「一部誤り」に気付かず信じてしまうケースも少なくない。
最悪の場合、最大の危険は、人間側がコロッと騙されてしまうことにより、トレードオフになり、社会生活が深刻化し、厳しくなる。
ハルシネーションを題材とした作品[編集]
- 東方錦上京 〜 Fossilized Wonders. - 時事ネタとして取り扱われており、「二枚貝の上のハルシネーション」という曲が収録されている。