こんにちは！Agy有限会社のコンテンツ制作部です！

最近、いろんなところでAIが活躍していますよね。文章を書いてくれたり、データを整理してくれたり、本当に頼りになる相棒です。でも、AIを使っていて「あれ？」と思ったことありませんか？

例えば、AIに「関連する画像を表示して！」とお願いしたとき。AIが自信満々に画像へのリンクを出してくれたのに、いざ開いてみると「ファイルが見つかりません」というエラー画面が……。

実はこれ、AIの「知ったかぶり」、専門用語で**ハルシネーション（幻覚）**と呼ばれる現象なんです。AIは悪気なく「こんな画像があるはずだ！」と架空のファイル名をでっち上げてしまうことがあるんですね。

今回は、そんなAIのおっちょこちょいなミスを防ぐための、賢い対策方法をご紹介します！

実は当社でも……！実際に起きた「画像でっち上げ」トラブル

実は、私たちのチームでも最近この「ハルシネーション」によるトラブルが発生しました！

システムの引っ越し作業で、動画やブログの基本となるアセット素材（base-assets）の保存場所を移行した時のことです。 AI（LLM）を使ってスライドやコンテンツを自動生成するシステムを動かしたところ、AIが自己紹介用の画像（SELF_INTRO画像）や、最後の挨拶用の画像（ENDING画像）を読み込もうとしました。

ところが、アセットの引っ越しによってファイルの場所や名前が変わってしまったため、AIは「あれ？画像がないぞ？」と混乱してしまったのです。そこでAIが取った行動が、まさにハルシネーションでした。 「きっとこの名前で画像があるはずだ！」と、存在しない画像ファイル名を勝手にでっち上げて出力してしまったのです。

プログラム側は、AIから指示された通りのファイル名を読み込もうとします。しかし実在しないファイルですから、当然のように「ファイルが見つかりません」とシステムエラーが発生して、処理がストップしてしまいました。

この生々しい失敗から学んだのが、次に紹介する「AIに自由を与えすぎない対策」と「二重チェック」の重要性です。

AIに「選べるメニュー」を渡してあげる

まず効果的なのは、AIにお願いをするとき（プロンプトを書くとき）に、あらかじめ「実在する画像のリスト」を教えてあげることです。

レストランで注文するとき、メニューにないものを頼まれても困っちゃいますよね。AIも同じで、自由に選ばせると想像で作ってしまうので、「画像を選ぶなら、このリストの中からだけ選んでね！」としっかり制約をつけてあげるんです。

これだけでも、AIが勝手に存在しない画像を作り出してしまうのをグッと減らすことができます。

プログラムで「本当に画像はある？」とダブルチェック

とはいえ、AIもたまにはメニューのルールを忘れてしまうかもしれません。そこでさらに、プログラム側でしっかりチェックする仕組みを作るのもおすすめです。

AIが「この画像がいいですよ！」と教えてくれたら、そのまま信じるのではなく、プログラム（例えばPythonの os.path.exists という機能など）を使って「本当にその画像ファイルはそこにある？」と確認をするんです。

もし画像がなかったら、「ごめんなさい、画像が用意できませんでした」という代わりの画像を表示するようにしておけば、見ている人をガッカリさせることもありません。

2つの壁でしっかりガード！

• 事前に「実在するリスト」を渡して制限する
• あとからプログラムで「ファイルが本当にあるか」チェックする

この「2層のガードレール」を用意しておくことで、AIのハルシネーションをしっかり防ぐことができます。

AIはとっても賢いですが、完璧ではありません。ちょっとしたおっちょこちょいを人間がしっかりサポートしてあげることで、もっと素晴らしい相棒になってくれますよ！

それでは、また次回の記事でお会いしましょう！