ヘルスケアにおける AI

適切な評価は、意図された用途、患者集団、臨床ワークフロー、誤差の結果に依存します。あるデータセットで良好なパフォーマンスを発揮するモデルが、自動的にケアを導く準備が整うわけではありません。

主なポイント

• 使用と責任の文脈を定義してください。
• 代表的な患者、デバイス、ワークフローを評価しましょう。
• 規制状況やモデルの性能を具体的な証拠として扱いましょう。

モデルを選択する前に臨床的または運用上の目的を定義してください。記録を優先し、所見を提案し、治療勧告を行うシステムは、異なるリスクプロファイルとエビデンス要件を持ちます。誰が出力をレビューし、どのような情報を見ているか、システムが利用不能または不確実な場合に何が起こるかを特定します。代表的なデータを使用し、開発、検証、実世界評価の区別を保持してください。サブグループのパフォーマンス、欠損データ、デバイスの違い、臨床実践の変化をチェックします。回顧的な結果は調査を支援しつつ、将来の利用のための証拠には足りません。モデル、データ、バージョン、使用文脈を記録しましょう。FDAのAI対応デバイスリストは、デバイスの意図された用途、技術、適用されるレビューとの関係を強調しています。規制ステータスは認可された機器および使用に特化しています。すべてのモデルやワークフローの一般的な支持ではありません。入力、ログ、派生特徴、出力にわたる健康情報を保護します。有資格の人間意思決定者に責任を負わせ、誤りを調査・修正するためのルートを提供すること。

1. 100件の緊急記録をランキングし、診断を提案する別のシステムを想像してみてください。
2. 最初のランキングが臨床医が緊急症例を見つけるのに役立つかどうかを測定し、その結果を第2システムの診断の証拠として扱わないでください。
3. いずれかの成果物を実際に使用する前に、見逃した事例のテスト、レビュー時間、エスカレーション手続きを必ず行ってください。

この構築された例は、医療の証拠が意図された使用と正確に一致しなければならない理由を示しています。