「テストしたら正答率100%でした」
医療機関でAI導入を検討する際、この報告を聞いて安心してしまう経営層・事務長の方は少なくありません。しかし、正答率という数字だけを見ていると、見落としてしまうリスクがあります。
「正解している」と「正しく判断している」は別物
2026年に発表されたAIエージェントの研究（DRIFT論文）は、興味深い事実を示しました。AIが最終的に正しい答えを出したケースでも、その判断過程の36.9%にエラーが含まれていたというのです。
つまり、3件に1件以上は「たまたま正解にたどり着いただけ」の可能性があるということです。途中の判断根拠が誤っているのに、最後のつじつまだけ合ってしまう——これは人間の業務でも起こりうることですが、AIの場合は処理件数の規模が桁違いです。
医療現場で見落とされがちなリスク
診療報酬の算定判定や施設基準の自主点検にAIを活用する場合、「今回のテストは正答率100%でした」という報告だけで安心してしまうと、次のようなケースを見逃します。
- あるケースでは、誤った判断根拠でたまたま正解した
- 似ているが条件が少し異なる別のケースでは、同じ誤った判断根拠のまま誤答する
giverthの実践：正答率だけでなく判断根拠まで見る設計に取り組んでいる
giverthが診療報酬AI・施設基準自主点検AIの月次テストで意識しているのは、正答率という数字だけでなく「なぜその判定になったか」の妥当性です。
現在の月次テストでは、判定結果を「適切」「要確認」「不適切」等のラベルで検証し、条件に完全には合致しないケースは、たとえ結果的に正答していても「要確認」として扱う設計にしています。
さらに一歩進め、判定根拠（どの通知・どの条文を参照したか）まで記録し、類似ケース間で根拠が一貫しているかを比較できる仕組み（失敗モード分類）の導入を進めているところです。「今回は当たったから良し」で終わらせず、「なぜ当たったか」まで検証できる体制を、段階的に強化しています。
AI導入を検討する際に確認すべき質問
医療機関の経営層・事務長の方にお伝えしたいのは、AIベンダーに確認すべき質問は「正答率は何%ですか」だけでは不十分だということです。
もう一歩踏み込んで、次のように聞いてみてください。
この質問に明確に答えられる仕組みを持つベンダーは、正答率の数字以上に信頼できる可能性が高いといえます。
判断根拠まで検証できるAI設計をお探しですか
「導入するAIの精度をどう検証すればいいか分からない」「正答率は聞いたが、判断根拠までは確認していなかった」——そうしたご相談に、giverthでは施設基準自主点検AI・診療報酬AIの設計段階からご支援しています。
医療機関向けに、完全オフラインAI環境での精度検証・運用設計を一貫してサポートします。
