読み込み中

AIモデルはなぜハルシネーションを起こすのか?

AI研究者がAIモデルにおけるハルシネーションについて語るとき、それが何を意味するのか、なぜ起こり得るのか、そして会話の中でこれを見抜くために使える方法を学びます。

5 分
読み込み中

AIモデルはなぜハルシネーションを起こすのか? · 5分

AIがそれほど高度なら、なぜ時々でたらめな情報を作り出してしまうのでしょうか?私の名前はJordanで、Anthropicで働いています。私たちはAIアシスタントであるClaudeを作っており、正確な情報を提供できるよう多くの努力をしています。しかし、それでもAIは時々物事を作り出してしまいます。私たちはこうした誤りを幻覚(ハルシネーション)と呼んでいます。そしてこれらは単なる間違いよりも厄介なことが多いのです。なぜなら、AIは非常に自信ありげに見えたり、自分が正しいとあなたを説得しようとさえするからです。

幻覚はさまざまな形で現れます。AIは存在しない研究論文を引用したり、架空の統計データを作り出したり、実在の人物や出来事について事実を誤って伝えたりすることがあります。実際の例を見てみましょう。あなたがClaudeに、Jared Kaplanが書いたいくつかの論文について教えてほしいと頼んだとします。Claudeは自信満々に答えを返しますが、それらのタイトルは実際には一つも存在しません。

Claudeは1年前と比べても幻覚がはるかに少なくなっています。正直なところ、このような例を見つけるのにかなり時間がかかりました。なぜなら、私たちはClaudeの幻覚を減らすために多くの労力を注いできたからです。しかし、それこそがまさに重要な点なのです。幻覚は予測しづらく、見つけにくく、間違った答えはしばしば正しい答えとまったく同じように見えます。そして幻覚がますます稀になるにつれて、人々はAIの仕事をわざわざ確認しなくなりがちです。そこで、なぜこうしたことが起こるのか、私たちがそれに対して何をしているのか、そしてAIを使う際にどうやって幻覚を見つけられるのかについてお話ししましょう。

ClaudeのようなAIアシスタントは、インターネット上の膨大な量のテキストを読むことで学習します。そして、どの単語やアイデアが次に来る傾向があるかを見極めるのが非常に得意になります。これは、あなたが文字を入力する際にスマートフォンが次の単語を予測するのと少し似ています。これはほとんどの場合うまく機能します。しかし、比較的無名の研究者による特定の研究論文のような、あまり知られていないことについて尋ねると、AIが参照できる十分な情報がそもそも存在しません。そこでAIは役に立とうとして推測を行います。そして、その推測が時には間違っていることがあるのです。

これは、人気のある本をすべて読んでいて、それらに関するあらゆる雑学を知っていることに大きな誇りを持っている友人に尋ねるようなものです。しかし、その友人は専門家のように見られたいがために、「わからない」と認める代わりに、時々自信満々に間違ったことを言ってしまうのです。AIは役に立つように訓練されているため、確信が持てない時でも何らかの答えを返したがるのです。

しかし、これを軽減する方法はあります。訓練の過程で、私たちはClaudeに正直であること、そして確信が持てない時には「わからない」と言うことを教えています。正直であることは正しい行いであると同時に、より役に立つための方法の一部でもあるということをClaudeに教えようとしています。

私たちは、Claudeをつまずかせるために特別に設計された何千もの質問を使って、定期的にClaudeをテストしています。あまり知られていない事実、ニッチな話題、真実の答えが「わからない」であるような質問です。私たちは次のようなことを測定しています。Claudeは自分が確信を持てないことをどのくらいの頻度で正しく伝えるか。引用や統計を作り出してしまうか。適切にためらいを示すのと、誤った情報を自信満々に述べるのとでは、どちらがどのくらいの頻度で起こるか。これらのテストは、問題を発見し、私たちの進捗を追跡するのに役立ちます。Claudeの新しいバージョンが出るたびに改善が見られていますが、これはAI分野全体にとって今なお続く課題であり、決して解決済みの問題ではないということを、私たちは正直にお伝えします。

こうしたことがいつ起こるかを見分ける方法について気になる方のために説明すると、幻覚はいくつかの種類の状況で最も起こりやすくなります。例えば、具体的な事実、統計、引用を求めている場合、話題があまり知られていない、ニッチである、あるいは非常に最近のものである場合、実在するもののあまり広く知られていない人物や場所について尋ねている場合、あるいは日付、名前、数字といった正確な詳細が必要な場合などです。

幻覚を減らすために使えるいくつかのコツを紹介します。まず、AIに自分の主張を裏付ける情報源を見つけるよう頼んでみてください。そして、すでに情報源が示されている場合は、それらの情報源が実際にAIの発言を裏付けているかを確認するよう頼んでください。「わからなくても大丈夫です」と最初にAIに伝えてみてください。そして、ある答えについて確信が持てない場合は、AIにどのくらい自信があるか、何か間違っている可能性はないかを尋ねてみてください。多くの場合、AIは自分が間違っていることを分かっていながら、ただ自信があるように見せたかっただけなのです。

確信が持てない答えがある場合は、新しいチャットを開始し、AIにその答えの誤りを見つけるよう、そして情報源がその発言を裏付けているかを確認するよう頼んでください。重要な作業については、信頼できる情報源と照らし合わせて確認する必要があります。懐疑的な姿勢を持ち、具体的な数字、日付、引用は再確認してください。何かおかしいと感じたら、追加の質問をしてみてください。

幻覚を減らすことは、AIをすべての人にとってより信頼でき、より役立つものにするための重要な目標です。私たちはこの分野における進捗を、今後もブログで共有していきます。AIを活用するための他のツールやフレームワークについては、Anthropic Academyで学ぶことができます。

詳細はこちら: AIの仕組み