LLMによる要約・詳細化過程におけるハルシネーションの分析

本研究の目的は，大規模言語モデル（LLM）が要約と詳細化を繰り返す過程で情報がどのように変化し，ハルシネーションが生じるかを明らかにすることである．ニュース記事を用い，LLMによる要約・詳細化を複数回繰り返し，出力結果をハルシネーションのタイプ別分類，原文と各回の出力結果を比較した類似度，原文および出力結果の修辞構造の観点から分析した．結果，要約・詳細化の繰り返しに伴い類似度が低下し，記事の趣旨を示す文は維持される一方で，具体的な数値や根拠情報が失われるなど，既存研究で報告されている人のうわさの伝播行為と同様の変化が確認された．