研究を支えるメンバー
38名のメンバーが研究と活動を支えています。
研究分野
アラインメント、解釈可能性、ガバナンスなど、さまざまな観点からAIの安全性を研究しています。
アラインメントと協調
AIシステムが単独でも集団でも人間の意図を正しく理解し、それに沿って安定して行動できるようにするための研究です。
研究内容を見るバイアスとペルソナ
言語モデルが学習を通じて取り込むバイアスや、演じる人物像（ペルソナ）が、その振る舞いに与える影響を調べます。
研究内容を見るガバナンス
AIを安全かつ責任ある形で管理するための政策、法律、制度的枠組みを研究します。
研究内容を見る解釈可能性
ニューラルネットワークの内部メカニズムを解明し、その行動の予測、検証、制御を目指します。
研究内容を見るメタ認知とハルシネーション
モデルが自らの知識の範囲を認識できるか、なぜ誤った情報を確信を持って述べるのかを調べます。
研究内容を見るセキュリティと頑健性
プロンプトインジェクションへの対策、レッドチーミング、敵対的な攻撃に対する頑健性の研究を通じて、AIシステムの脆弱性を明らかにし、防御を強化します。
研究内容を見る最新情報
研究室のニュース、記事、お知らせをお届けします。
ECML PKDD 2026併設のBIASワークショップに論文が採択
Serena A. Hoffstedde、Machiko Hirota、Akshara Nadayanur Sathis Kanna、Rihito Kotani、Ujwal Kumar、Gabriele Trovato、Phan Xuan Tanによる論文「Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies」が、ECML PKDD 2026併設の第7回Bias and Fairness in AI国際ワークショップ（BIAS 2026）に採択されました。
外部サイトで読む
Shiba AIのメンバーがソウルのICML 2026で論文を発表
Shiba AIはソウルで開催されたICML 2026に参加し、マルチエージェント協調の研究を発表するとともに、世界の機械学習コミュニティと交流しました。
続きを読む
AliceとUjwalがTokyo AI × OpenAIハッカソンで3位入賞
Shiba AIのUjwal KとAlice Saitoが、AIを活用した緊急通報対応支援システムTsunaguでB2B部門に入賞しました。
続きを読む
Shiba AIのメンバーがTARAプログラムを修了
Shiba AIの研究者7名が、アジア太平洋地域を対象とした14週間の選抜制プログラムを修了し、エージェントの安全性や敵対的脆弱性に関する研究に取り組みました。
続きを読む
Shiba AIがOASec 2026のコミュニティサポーターに：発表を募集中
Shiba AIは、アジア太平洋地域の実務者に向けたAI安全性・セキュリティ会議OASec 2026の公式コミュニティサポーターとなりました。
続きを読む