英紙ガーディアンの報道によると、英国の国家医療サービス（NHS）の規制機関が、医師と患者の診察を聞くことと要約することに使われるAI技術が患者にとってリスクになっていると警告しています。このツールは薬品名や疾患名を誤って認識する可能性があります。患者権利団体Healthwatch Englandは、この急速に導入されている技術が患者の安全に実際的な脅威をもたらしていることを示す多数の事例を明らかにしました。

"脱髄なし"を"脱髄"と記録

一つの事例では、AIによる記録ツールが女性患者を「脱髄」という、多発性硬化症につながる重大な神経障害を持つものとして誤って記録していました。その女性自身もNHSの医療専門家でしたが、MRIの結果に疑問を抱き、病院で記録の誤りに気づき、「脱髄なし」と修正しました。彼女は、AIが間違った診断をした後、それは単なるスペルミスだと説明されたことについて「非常に苦痛な経験だった」と述べました。

別の事例では、AIが一般医が処方した薬と名前が似た別の薬を混同し、最終的に誤りに気づいたのは患者本人でした。また、一度はAIが作成した要約文に、専門医が一般医に偏頭痛の処方を再開するよう求めた内容が見逃され、その欠けが原因で患者が必要な薬を受け取れなかったという事例もありました。

規制の欠如と「二面性」

Healthwatchは、これらの誤りが適切に見つからない場合、患者の記録に記録され、その後の治療に影響を与える可能性があると指摘しています。機関は、「患者が誤りに気づいたが専門家は気づかなかった」という複数のフィードバックを受けていると述べています。さらに心配なのは、イギリスの医薬品・健康製品規制庁（MHRA）がこのようなツールを医療機器として分類しない決定をしたことにより、イングランドでは全土をカバーする安全かつ効果的な規制体制が設けられないということです。しかし、すでにイギリスの一般医療機関で使用されているこのようなツールは27種類もあります。