ガバナンス

課題

技術的な安全性だけでは十分ではありません。適切なルールと監督がなければ、意図どおりに動くモデルであっても、害をもたらす可能性があります。規制は技術の進歩に追いつかず、既存の法制度はAIを活用した活動を前提としていません。AI開発が共通基準の整備を待たずに国境を越えて進むなか、AIが生成する画像・音声・映像などの合成メディアについても、その出所の確認や同意のあり方が喫緊の課題となっています。

研究内容

• AIと国際法 — AIを活用したサイバー攻撃が、既存の国際人道法の枠組みにもたらす課題。
• 合成メディアのガバナンス — 生成モデルによるリスクを軽減するための検出と改変箇所の特定。
• コミュニティの形成 — 日本を中心としたAI安全性・ガバナンス分野の発展。