掲載中の 27 本から検索できます。日本語・英語・著者名・arXiv ID のどれでも探せ、「agent／エージェント」のような表記ゆれも吸収します。
エージェント 約1分で読める
SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization
要点1ラウンドに数百の低コストエージェントが群れで働き、潜在空間で推論して情報を共有する進化探索フレームワーク「SwarmEvolve」。21課題で最高の平均スコア、最良スコアへの到達は中央値3〜8分とされる。
プロダクト／開発 約1分で読める
Cognitive Tours: Making Understanding a Deliverable in AI-Assisted Development
要点AI支援開発で生まれる「認知負債」「意図負債」に対し、ニーズ・設計判断・コード・テスト・未解決の疑問をつなぐ道筋をたどれるプロトタイプ「Cognitive Tours」を提示する論文。
研究手法 約1分で読める
Do You Miss the Nights We Spent Crafting Figures? Rethinking Teaser and Framework Figures in the Age of Generative AI
要点200本の論文の図371点を対象に生成AIによる図の作り直しを検討。制約付きの改訂では明瞭さが平均0.428点上がる一方、美的一貫性は0.111点下がり、著者らは「研究者主導の設計」を支持する。
大規模言語モデル 定番 原論文 2017年 約2分で読める
Attention Is All You Need
要点再帰（RNN）や畳み込み（CNN）を使わず、注意機構（アテンション）だけで構成する新しいモデル「Transformer」を提案。機械翻訳で当時の最高精度を出しつつ、並列化しやすく学習時間も大幅に短い。
大規模言語モデル 定番 原論文 2018年 約2分で読める
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
要点ラベルなしテキストから、全層で左右両方の文脈を同時に使う双方向の表現を事前学習する「BERT」を提案。出力層を1つ足してファインチューニングするだけで、質問応答や推論など11の言語タスクで最高精度を更新した。
RAG／検索 定番 原論文 2020年 約2分で読める
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
要点事前学習済みの生成モデル（パラメトリック記憶）に、Wikipediaの密ベクトル索引を検索する仕組み（非パラメトリック記憶）を組み合わせた「RAG」を提案。オープンドメインQA 3タスクで最高性能を出し、より具体的で事実に即した文章を生成した。
大規模言語モデル 定番 原論文 2020年 約2分で読める
Language Models are Few-Shot Learners
要点1750億パラメータの言語モデルGPT-3を学習し、追加学習なしで、テキストで数例を示すだけ（few-shot）で翻訳・質問応答・3桁の計算など多くのタスクを高い性能でこなせることを示した。人が見分けにくいニュース記事も生成できた。
画像生成 定番 原論文 2020年 約1分で読める
Denoising Diffusion Probabilistic Models
要点非平衡熱力学に着想を得た「拡散確率モデル」で高品質な画像生成を実現。CIFAR10でFID 3.17の最高スコアを出し、LSUN 256×256ではProgressiveGANと同等の品質を得た。
学習手法／ファインチューニング 定番 原論文 2021年 約2分で読める
LoRA: Low-Rank Adaptation of Large Language Models
要点事前学習済みの重みを固定し、各層に学習可能な低ランク行列を差し込むだけでモデルを適応させる「LoRA」を提案。GPT-3 175Bの通常のファインチューニングと比べ、学習するパラメータを1万分の1、GPUメモリを3分の1にしつつ、同等以上の品質を得た。