研究方針

Shiba AIは、高度化・自律化が進み、相互作用が複雑になるAIシステムの安全性を研究しています。

AIの利用は、単独の言語モデルとのやり取りから、長時間にわたる相互作用や複数のエージェントが連携するシステムへと広がっています。それに伴い、重大なリスクは一つひとつの応答だけでなく、やり取りの積み重ねやエージェント同士の関わり、集団としての振る舞いからも生じる可能性があります。

個々のモデルの内部メカニズムからエージェント間の相互作用まで、こうした行動が生まれる仕組みを理解し、検出、制御、ガバナンスの手法を開発します。

AIの行動・相互作用・創発

個々のAIモデルとマルチエージェントシステムの両方において、安全性に関わる振る舞いがどのように生じるのかを研究しています。

中心となる問い：単独では高い能力を発揮し、安全に見えるAIエージェントが、互いに関わると予期せぬ危険な振る舞いを示すのはなぜでしょうか。

こうした行動が生まれる条件を理解し、マルチエージェントAIの信頼性と安全性を高めるエージェント間の関わり方を設計することを目指します。

これらの研究は深く結び付いています。AIの行動とマルチエージェントの研究が新たな創発的行動を明らかにし、メカニスティック解釈可能性がその背後の仕組みを解明します。検出・制御・ガバナンスの研究は、その理解をAIの監視と改善のための実践的な手法へとつなげます。

モデル内部のメカニズムから相互作用の変化、そしてシステム全体への介入とガバナンスまで、一体としてAI安全性を研究します。

AIの失敗を観測するだけでなく、どのような仕組みで、なぜ失敗が起こるのかを深く理解することを目指しています。メカニズムの理解、創発の予測、リスクの検出、介入、ガバナンスをつなぎ、高度な自律型AIが相互につながるシステムの安全性を支えます。