5 注目度 注目度 5段階中 5
RAG/検索 定番 原論文 2020年 約2分で読める
RAG(検索拡張生成)の原点――言語モデルに外部知識の検索を組み合わせ、より事実に即した生成へ
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
要点事前学習済みの生成モデル(パラメトリック記憶)に、Wikipediaの密ベクトル索引を検索する仕組み(非パラメトリック記憶)を組み合わせた「RAG」を提案。オープンドメインQA 3タスクで最高性能を出し、より具体的で事実に即した文章を生成した。