ChatGPTも過去のことは忘れてしまうのか？【LLM における壊滅的な忘却(モデルドリフト)】

はじめに

最近面白い記事を見かけました。

ChatGPTも人間と同じように過去の情報は忘れてしまうのでしょうか？

「AIなんだから人間と違って忘れるはずないよね？」と思ってしまいますが、実はそうでもないようです。

壊滅的忘却 (CF) とは、LLM が新しい情報を学習する際に、以前に取得した知識を失う傾向にある現象を指します。

この現象によると、ChatGPTのようなLLMも、人間と同じように新しいことを覚えると過去のことは忘れます。

改めて考えると、器の大きさが決まっていて学習できる量が決まっているのであれば、古いことは忘れても不思議ではありません。

生成AIのモデルを新しいデータでトレーニングしたり、特定タスク向けにファインチューニングすると以前学習した情報が失われる傾向があります。

この現象のことを「モデルドリフト」と呼びます。

その影響で概念や知識の表現が劣化したり、新しい情報によって上書きされる可能性があります。
なのでチャット回答精度の低下につながる可能性があります。

GPT-3.5とGPT-4で2023 年 3 月と2023 年 6 月に実施された以下の評価は、さまざまなタスクで両モデルを比較しています。

評価の結果、GPT-3.5 と GPT-4 のパフォーマンスと動作は時間の経過とともに大きく変化していました。

GPT-4 ( 2023 年 3 月) は、素数と合成数の識別において良好なパフォーマンスを示しました (精度 84%) が、GPT-4 (2023 年 6 月) は、次のCoTの低下が部分的に原因として、パフォーマンスが低かった (精度 51%)。
GPT-3.5 は、特定のタスクにおいて 3 月と比較して 6 月に改善されました。
GPT-4は、3月に比べて6月には機密性の高い質問や世論調査の質問に答える意欲が減りました。
6 月のマルチホップ質問では GPT-4 のパフォーマンスが向上しましたが、GPT-3.5 のパフォーマンスは低下しました。
どちらのモデルでも、6 月は 3 月に比べてコード生成時のフォーマットミスが多かった。
この研究では、LLM の動作は時間の経過とともに変化するため、LLM を継続的に監視する必要性が強調されています。