メリクリでごんす。
英国の42名の医師を対象とした、静注から経口抗菌薬への切り替え判断を支援するAIによる臨床意思決定支援システム（CDSS）が意思決定に与える影響を評価した症例実験。多くの症例ではAIの有無で判断は変わらなかったが、AIが「切り替えない」と推奨した場合には、切り替えを控える方向に判断が有意に誘導された。AIは概ね好意的に受け止められた一方、説明機能はほとんど利用されなかった。
AIの説明可能性(explainability)についてのシュミレーション研究を続けてもう一つ。
ICU医師19名。説明可能AIによる「安全／危険な」治療推奨が、医師の処方判断と注意配分に与える影響をアイトラッキングで検証した。危険なAI推奨は安全な推奨よりも強く注目を集めたが、同時提示された4種類の説明自体への注意は増加せず、説明が危険なAI助言を是正する明確な効果は示されなかった。
忘れているだけかもしれないが、AIの説明可能性の有効性を示した研究は読んだことがない、気がする。
タイトル：クリスマスイブに「AIの説明可能性は不要だ」という趣旨のブログを書きました
過去ログもあるよ。
