Eine KI-Demo dauert fünf Minuten. Ob die Anwendung im Krankenhaus etwas verbessert, zeigt sich erst zwischen Aufnahme, Visite, Dokumentation und Übergabe. Dort muss sie mit unvollständigen Informationen, Zeitdruck und der Verantwortung der Menschen zurechtkommen, die mit ihrem Ergebnis arbeiten.
Ich bin für KI im Krankenhaus. Gerade deshalb halte ich wenig von Pilotprojekten, deren Ziel zunächst nur lautet: „Wir wollen auch etwas mit KI machen.“ Wenn der Anwendungsfall unscharf bleibt, lässt sich später jeder schöne Bildschirm als Erfolg verkaufen. Die wichtigere Frage lautet: Welche konkrete Arbeit oder Entscheidung soll für wen besser werden?
KI ist nicht gleich KI
Eine Anwendung, die einen Entwurf für einen Text erstellt, ist etwas anderes als ein System, das Informationen für eine klinische Entscheidung aufbereitet. Beide können nützlich sein, verlangen aber unterschiedliche Prüfungen. Je näher ein Ergebnis an Diagnostik, Behandlung oder einer sicherheitsrelevanten Übergabe liegt, desto genauer müssen Einsatzgrenzen, Fehlerfolgen und menschliche Kontrolle geklärt werden.
Nehmen wir einen möglichen Entwurf für einen Entlassbrief. Er kann Schreibarbeit reduzieren. Er kann aber auch eine Angabe weglassen, falsch gewichten oder überzeugend formulieren, obwohl die Grundlage fehlt. Dann spart der erste Entwurf nur Zeit, wenn die anschließende Prüfung in den tatsächlichen Arbeitsablauf passt. Das ist ein hypothetisches Beispiel, keine Aussage über ein bestimmtes Produkt.
Fünf Fragen, die ich vor einem KI-Piloten stellen würde
1. Welches Problem lösen wir genau?
„Dokumentation kostet Zeit“ ist ein Anfang. Präziser wäre: Welche Dokumentation, an welcher Stelle, für welche Berufsgruppe? Geht Zeit für das Suchen nach Informationen verloren, für das Formulieren, für doppelte Eingaben oder für Rückfragen? Je nach Ursache braucht es eine andere Lösung. Manchmal ist eine bessere Schnittstelle wertvoller als ein KI-Modell.
2. Welche Daten stehen tatsächlich zur Verfügung?
Ein überzeugender Test mit sorgfältig vorbereiteten Beispielen sagt wenig darüber, ob im Alltag die nötigen Informationen vollständig, aktuell und richtig zugeordnet sind. Vor einem Pilotversuch würde ich prüfen: Wo entstehen die Daten? Wie kommen sie in die Anwendung? Welche Lücken sind bekannt? Was geschieht, wenn etwas fehlt? Datenschutz und Zugriffsrechte müssen für den konkreten Einsatzfall mit den zuständigen Fachleuten geklärt werden; ein allgemeiner Satz darüber ersetzt diese Prüfung nicht.
3. Wer nutzt das Ergebnis, und wer trägt die Entscheidung?
Ein KI-Ergebnis hat erst dann einen Platz im Prozess, wenn klar ist, wer es sieht, versteht, prüft und gegebenenfalls verwirft. „Der Mensch bleibt im Mittelpunkt“ klingt gut, beschreibt aber noch keine Aufgabe. Die relevante Frage ist, ob die Person genug Zeit und Informationen hat, einen Fehler überhaupt zu erkennen.
4. Was passiert bei einem schlechten Ergebnis?
Ein Pilot braucht nicht nur Erfolgsbeispiele, sondern bewusst schwierige Fälle. Welche Fehler sind denkbar, wie werden sie entdeckt und was ist der sichere Weg ohne die Anwendung? Wer Rückmeldungen aus dem Alltag sammelt und über Anpassungen entscheidet, gehört ebenfalls vor dem Start festgelegt.
5. Woran erkennen wir einen Nutzen?
Eine hohe Anzahl erzeugter Texte oder Nutzungsaufrufe ist noch kein Versorgungsnutzen. Bei einer Schreibhilfe könnte man etwa Bearbeitungszeit, Korrekturaufwand und Vollständigkeit gemeinsam betrachten. Wird die Erstellung schneller, aber die Prüfung länger, ist wenig gewonnen. Die passenden Maßstäbe hängen vom Einsatzfall ab und sollten vor dem Piloten feststehen.
Ein Pilot ist eine Prüfung, keine Pressemitteilung
Ein sinnvoller Pilot beginnt klein, aber mit einer ehrlichen Ausgangslage. Ein Team beschreibt den bisherigen Ablauf, testet die Anwendung mit geeigneten Fällen, dokumentiert Abweichungen und entscheidet danach, ob sie Arbeit erleichtert. Zu dieser Entscheidung gehört auch ein Nein, wenn Nutzen und Aufwand nicht zusammenpassen.
Aus der Kinderkrankenpflege kenne ich die Bedeutung von Übergaben und unvollständigen Informationen. Aus der Arbeit mit klinischen Prozessen weiß ich, dass ein technisch richtig erzeugter Inhalt noch nicht am richtigen Ort zur richtigen Zeit ankommen muss. Deshalb möchte ich KI nicht an ihrer Vorführung messen, sondern an ihrer Wirkung im Alltag.
Meine Position: Krankenhäuser sollten KI erproben und dabei anspruchsvoll sein. Eine gute Anwendung macht eine konkrete Aufgabe besser, ist in den Arbeitsablauf eingebunden und lässt erkennen, wann Menschen eingreifen müssen. Alles andere ist zunächst ein interessanter Versuch.
Zum Hintergrund: Die WHO-Leitlinien zu generativer KI im Gesundheitswesen behandeln Chancen, Grenzen und Governance großer multimodaler Modelle. Die SAFER-Empfehlungen zur Einführung von Gesundheits-IT betonen klinische Abläufe, beteiligte Fachkräfte und sichere Einbindung. Die fünf Fragen und das Entlassbrief-Beispiel sind meine Einordnung; sie ersetzen keine Prüfung eines konkreten Produkts.
Über den Autor: Lars Drüke-Thiele ist ausgebildeter Kinderkrankenpfleger und arbeitete in Medizinpädagogik, Krankenhaus-IT und Clinical Process Engineering. Heute verbindet er klinische Perspektive, Daten und digitale Lösungen im Innovationsvertrieb und in Fachgesprächen.
