4 注目度 注目度 5段階中 4
安全性／評価 定番 原論文 2022年 約2分で読める
Constitutional AI――「原則のリスト」だけを人が与え、AIのフィードバックで無害なアシスタントを学習
Constitutional AI: Harmlessness from AI Feedback
要点有害な出力に人がラベルを付けず、「原則（憲法）のリスト」だけを与えて、AI自身の批評・修正とAIによる評価（RLAIF）で無害なアシスタントを学習する「Constitutional AI」を提案。回避的にならず、有害な質問には理由を説明して応じるアシスタントを実現した。