MeinungFür Fachpersonen
„Die letzte Entscheidung muss beim Menschen bleiben“
Künstliche Intelligenz verändert die Medizin grundlegend, doch viele moderne KI-Modelle, insbesondere tiefe neuronale Netze, liefern Ergebnisse, deren Weg verborgen bleibt – sogenannte Black Boxes. Im klinischen Kontext ist dies problematisch, weil medizinische Entscheidungen begründbar sein müssen gegenüber Patienten, Kollegen und potenziell vor Gericht. Philipp A. Toussaint von der Technischen Universität München argumentiert, dass Empfehlungen, die das Fachpersonal nicht erklären kann, in der klinischen Praxis nicht tragfähig sind. Der EU AI Act stuft KI im Gesundheitswesen als Hochrisikotechnologie ein.
Für Ärztinnen und Ärzte sowie Klinikmanagement relevant: Erklärbare KI ist eine Voraussetzung für den verantwortungsvollen Einsatz von Algorithmen in der Klinik.
Siehe auch
Weitere Quellen
- NachrichtPatientensicherheit: Auszeichnung für KI-gestützte AllergieerfassungFür Ärztinnen und Ärzte sowie Pflegefachkräfte relevant: Ein System zur strukturierten Erfassung von Allergien aus Freitextdokumenten kann Fehlmedikationen verhindern.
- NachrichtPatientensicherheit: Tupfer vergessen – Etwas mehr vermeidbare BehandlungsfehlerFür Krankenhäuser, Ärztinnen und Ärzte sowie Regulierer relevant: Ein strukturiertes, sanktionsfreies Meldesystem für Never Events könnte aus gemachten Fehlern systematisches Lernen ermöglichen.
- NachrichtPatientensicherheit: Behandlungsfehler könnten Krankenkassen Milliarden kostenFür Kassen, Krankenhauspolitik und Ärztinnen und Ärzte relevant: Investitionen in Patientensicherheit sind aus ökonomischer Perspektive eine notwendige Massnahme angesichts der Finanzlücken der Krankenkassen.
- NachrichtStadtspital Zürich prüft Projekt für mehr PatientensicherheitFür Spitalmanagement und Ärztinnen und Ärzte relevant: Ein System zur Stärkung der Patientensicherheit durch strukturierte Eskalationsmöglichkeiten könnte vermeidbare Todesfälle reduzieren.
- NachrichtPatientensicherheit trainieren: Warum das Pflegeheim zum „Room of Horror“ wird