Notermed ist ein KI-Scribe für Arztpraxen. Die Ärztin oder der Arzt nimmt das Gespräch auf, die App macht daraus eine klinische Notiz, und die Ärztin prüft und unterschreibt sie.
Anfangs lief die KI über OpenAI. Dann änderte eine einfache Anforderung alles: Jede Patientenangabe musste bei Anbietern bleiben, die durch eine HIPAA-Vereinbarung abgedeckt sind. Der sauberste Weg war, die gesamte KI auf Amazon Bedrock umzuziehen, das durch unsere Vereinbarung mit AWS abgedeckt ist.
Auf dem Papier ist ein Anbieterwechsel eine Konfigurationsänderung. In der Praxis war es ein kurzes Projekt mit echten Entscheidungen. Wenn Sie ein Team führen, das KI einsetzt oder einsetzen will, lohnt es sich, diese Lehren vorher zu kennen.
1. Legen Sie fest, wohin Daten dürfen, und machen Sie alles andere unmöglich
Naheliegend wäre gewesen, den alten Anbieter als Reserve zu behalten. Das haben wir nicht getan. Eine Reserve, die Patientendaten empfangen kann, ist auch ein Weg, auf dem Patientendaten abfließen, sobald jemand die falsche Einstellung setzt.
Also haben wir den alten Anbieter vollständig entfernt. Die App startet nicht einmal mehr, wenn jemand versucht, sie wieder dorthin zu verbinden. Für die Compliance ist „wir versprechen, es nicht zu nutzen“ schwächer als „es ist nicht mehr möglich“.
Für Führungskräfte: Wenn Sie eine KI-Richtlinie schreiben, fragen Sie Ihr Team, wie das System sie durchsetzt, nicht nur, ob es das tut.
2. „Unterstützt“ und „funktioniert bei uns“ sind zwei verschiedene Antworten
Unser erstes KI-Modell war auf der Plattform verfügbar und als unterstützt gelistet. Trotzdem scheiterte es an einer kleinen Unverträglichkeit mit der Version unserer Softwarebibliothek. Wir haben ein gleichwertiges Modell gewählt, das funktionierte, auf derselben konformen Plattform.
Für Führungskräfte: Planen Sie für jeden Anbieterwechsel einige Testtage ein, auch wenn der Anbieter von einem direkten Ersatz spricht. Die Überraschungen sind klein, aber sie stoppen Releases.
3. Das „Gedächtnis“ Ihrer KI hängt am Modell, das es erstellt hat
Notermed beantwortet Fragen aus den eigenen Dokumenten einer Praxis: Leitlinien, Formulare, interne Abläufe. Dafür werden die Dokumente in ein Format umgewandelt, das die KI durchsuchen kann. Dieses Format hängt vom genauen Modell ab, das es erzeugt hat.
Wechselt das Modell, muss jedes Dokument neu verarbeitet werden. Wir haben das in einen neuen Speicher geschrieben und den alten unverändert gelassen, um bei Problemen in Minuten zurückwechseln zu können. Eine Admin-Ansicht zeigte nach dem Wechsel noch eine Weile den alten Speicher an und sorgte für Verwirrung. Genau wegen solcher Kleinigkeiten plant man einen Rollback.
Für Führungskräfte: Behandeln Sie einen Modellwechsel wie eine Datenmigration, mit Rollback-Plan, und nicht wie eine Einstellungsänderung.
4. Echte Dokumente widerlegen Annahmen
Das neue Modell begrenzt, wie viel Text es auf einmal annimmt. Unsere Standardeinstellungen schickten größere Abschnitte, und manche hochgeladenen PDF- und Word-Dateien scheiterten schlicht. Die Lösung: Dokumente in kleinere Abschnitte teilen und die Grenze strikt durchsetzen, statt einer Schätzung zu vertrauen.
Für Führungskräfte: Testen Sie mit den echten, unordentlichen Dateien Ihrer Kunden, nicht mit sauberen Beispielen. Dort verstecken sich die Probleme im Betrieb.
5. In der Medizin darf die KI nicht „hilfsbereit“ sein
Sprachmodelle sind darauf trainiert, Dinge zu vervollständigen. In einer medizinischen Notiz ist das gefährlich. Hat die Ärztin die Lunge nie untersucht, darf die KI nicht „Lunge frei“ schreiben, nur weil das in den meisten Notizen der Welt steht.
Deshalb lesen sich unsere Anweisungen an die KI wie ein Vertrag: nur verwenden, was im Gespräch gesagt wurde, nie eine Diagnose, Dosis oder einen Befund raten, nie standardmäßige „Normalbefunde“ ergänzen und einen Abschnitt lieber weglassen, als ihn mit Annahmen zu füllen. Ist der Plan unklar, steht in der Notiz „Ärztliche Prüfung ausstehend“. Das letzte Wort hat immer die Ärztin oder der Arzt.
Für Führungskräfte: Legen Sie bei jeder KI-Funktion mit hohem Risiko zuerst fest, was die KI nie tun darf, und erst dann, was sie tun soll.
6. Individuelle Einstellungen dürfen die Kernfunktion nie lahmlegen
Praxen und einzelne Ärzte können anpassen, wie ihre Notizen geschrieben werden und welches Modell sie schreibt. Das ist nützlich, aber eine fehlerhafte Einstellung darf nie verhindern, dass ein Arzt seine Notiz bekommt. Jede Anpassung fällt bei Problemen auf das Standardverhalten zurück.
Für Führungskräfte: Fragen Sie Ihr Team, was passiert, wenn die individuelle Konfiguration eines Kunden fehlerhaft ist. Die richtige Antwort lautet: „Er bekommt trotzdem das Standardergebnis.“
7. Halten Sie die Daten jedes Kunden getrennt, bis ganz nach unten
Die Dokumente einer Praxis sieht nur diese Praxis. Kunden in der Datenbank zu trennen, ist der offensichtliche Teil. Weniger offensichtlich ist die KI-Suche selbst: Auch sie muss auf die Dokumente des jeweiligen Kunden beschränkt sein, sonst könnte sie Inhalte einer anderen Praxis zitieren.
Für Führungskräfte: Wenn Ihr Produkt KI bekommt, prüfen Sie, ob die Trennung der Kunden auch innerhalb der KI-Funktionen hält, nicht nur in der Datenbank.
Kurz gesagt
Der Wechsel selbst verlief reibungslos, und die Kernlogik des Produkts hat sich kaum verändert. Die eigentliche Arbeit lag in Entscheidungen: wohin Daten dürfen, wie man zurückwechselt, wie man mit echten Dokumenten umgeht und was die KI nie tun darf. Diese Entscheidungen zählen mehr als die Wahl des KI-Modells.