AI論文ライブラリarXivの生成AI論文を日本語で

カテゴリ

マルチモーダルの論文

画像・音声・動画とテキストを横断するマルチモーダルモデルに関する論文。

掲載 2本 ・ 最終更新

4 注目度 注目度 5段階中 4

マルチモーダル 定番 原論文 2021年 約2分で読める

CLIP――画像とテキストの組を4億件学習し、追加学習なしで多様な画像認識をこなす

Learning Transferable Visual Models From Natural Language Supervision

要点インターネットから集めた4億組の画像とテキストで「どのキャプションがどの画像に合うか」を予測する学習を行い、自然言語で指定するだけで新しいタスクに転用(ゼロショット)できる画像モデルを実現。ImageNetで元のResNet-50と同等の精度を、その学習データを使わずに達成した。

Alec Radford, Jong Wook Kim, Chris Hallacy 他9名 arXiv:2103.00020 GitHub

4 注目度 注目度 5段階中 4

マルチモーダル 定番 原論文 2023年 約2分で読める

LLaVA――画像を見て会話できるAIを、GPT-4が作った指示データで学習

Visual Instruction Tuning

要点テキストのみのGPT-4に画像と言語の指示データを生成させ、それで指示チューニングした大規模マルチモーダルモデル「LLaVA」を提案。合成データでGPT-4比85.1%の相対スコアを出し、Science QAではGPT-4との組み合わせで92.53%の最高精度を達成した。

Haotian Liu, Chunyuan Li, Qingyang Wu 他1名 arXiv:2304.08485