医療AIの安全性レッドチーム — MedAgentBenchがFHIR患者プロファイル活用で30%超のエラーを事前検出

サマリー

MedAgentBenchは300タスクと100件のリアルなFHIR患者プロファイル（785,207件レコード）を使い、AIエージェントが電子医療ワークフロー内で計画・取得・処方を行う際の安全性を多角的に評価するベンチマークフレームワークを提供している。Hartford HealthCareが2段階のレッドチーム試験を実施した結果、高リスク失敗率を30.2%から8.5%まで削減することに成功し、FHIR準拠データを使った継続的な臨床QAと自動攻撃テストの組み合わせが医療AIの安全性担保に有効であることが示された。