バイアスとペルソナ

課題

言語モデルは学習データに含まれるバイアスを引き継ぎ、演じるペルソナによって振る舞いが変わることがあります。その結果、有害な固定観念の強化や一貫性のない出力が生じます。こうした影響は捉えにくく、文脈によっても変わるため、測定が難しく、モデルの有用性を損なわずに修正することも容易ではありません。

研究内容

• バイアスの測定 — モデルの出力に含まれる性別や年齢などの属性に関するバイアスや、社会的なバイアスの検出と定量化。
• ペルソナの分析 — モデル内部でペルソナがどのように表現・切り替えられ、安全性に影響するかの解明。
• 内部メカニズムとの関係 — バイアスやペルソナを内部表現と結び付け、表面的な修正にとどまらない制御を目指す研究。