6 Fragen, die Sie jedem KI-Anbieter stellen müssen

Vertriebsgespräche mit KI-Anbietern laufen oft nach demselben Muster: charmante Demo, vage Antworten auf konkrete Fragen, schneller Vertragsentwurf. Wer diese sechs Fragen stellt — und auf schriftlichen Antworten besteht — sortiert in zehn Minuten die unseriösen Anbieter aus. Die Liste ist nicht erschöpfend, aber sie deckt die Stolperstellen ab, die in der Praxis am häufigsten zu Ärger führen.

Frage 1: „Wo werden die Patientendaten verarbeitet?”

Eine seriöse Antwort nennt Land, Stadt und Rechenzentrum. Eine unseriöse Antwort nennt „Europa”, „DSGVO-konform” oder „verschlüsselt”.

Grüne Flagge: „Verarbeitung lokal in Ihrer otium.arx” oder „Rechenzentrum in Würzburg, Betreiber XY GmbH”.
Gelbe Flagge: „EU-Rechenzentrum, Anbieter US-Mutter” — rechtlich problematisch wegen Cloud Act.
Rote Flagge: „Wir nutzen verschiedene Anbieter, je nach Auslastung.”

Wer sich der genauen Verarbeitung nicht sicher ist, sollte schriftlich den Datenfluss dokumentieren lassen — inklusive aller Subunternehmer.

Frage 2: „Werden meine Patientendaten zum Modelltraining verwendet?”

Diese Frage hat exakt eine richtige Antwort: „Nein, niemals, schriftlich zugesichert.” Alles andere ist Verhandlungsspielraum, den Sie nicht akzeptieren sollten.

Rote Flagge: „Nur in anonymisierter Form” — Anonymisierung im medizinischen Kontext ist technisch fragil und rechtlich umstritten.
Rote Flagge: „Sie können widersprechen” — bedeutet, dass Trainingsnutzung der Standard ist.
Rote Flagge: „Aggregierte Auswertungen sind möglich” — definieren Sie „aggregiert”, bevor Sie unterschreiben.

Frage 3: „Was passiert mit meinen Daten, wenn ich kündige?”

Datenexport und Löschung sollten Standard sein — sind es in der Praxis aber oft nicht. Klären Sie schriftlich:

In welchem Format werden die Daten exportiert (offene Formate, nicht proprietär)?
Wie lange dauert der Export nach Kündigung?
Wird die Löschung schriftlich bestätigt — mit Datum und Vollständigkeitserklärung?
Was passiert mit Backups (typischerweise 30-90 Tage Nachlauf)?

„Wir haben einen Anbieter gewechselt. Beim alten lagen unsere Daten noch ein Jahr nach Kündigung in Backups. Schriftliche Löschbestätigung gab es nie.” — Praxismanagerin aus Köln

Frage 4: „Welche Versionskontrolle gibt es bei den KI-Modellen?”

Ein KI-Modell ändert sich. Was gestern stabil war, kann morgen anders antworten. In der medizinischen Doku ist das ein Strukturproblem.

Fragen Sie konkret:

Werden Modell-Updates angekündigt?
Können Sie Updates ablehnen oder verschieben?
Gibt es eine Versionsnummer, die in der Doku gespeichert wird?
Wird vor Updates auf Validierungstests verwiesen?

Bei Cloud-Anbietern haben Sie oft keine Kontrolle. Bei lokalen Lösungen liegt sie bei Ihnen — das ist ein wichtiger Unterschied.

Frage 5: „Wie haftet der Anbieter bei Fehlern?”

Haftung ist ein Tabuthema im Vertrieb. Lassen Sie sich schriftlich geben:

Punkt	Was Sie hören wollen
Haftung für Halluzinationen	Anbieter haftet im Rahmen der Sorgfaltspflicht
Haftung für Datenverluste	klare Höchstgrenze, idealerweise Versicherungsdeckung
Haftung für Systemausfall	Reaktionszeiten, Ersatzpflichten
Berufshaftpflicht-Klärung	Anbieter bestätigt Vereinbarkeit mit ärztlicher Berufshaftpflicht

Pauschale Haftungsausschlüsse über AGB sind in Deutschland nur eingeschränkt wirksam — aber im Streitfall lange durchzusetzen.

Frage 6: „Was passiert, wenn Sie pleitegehen?”

Unangenehm, aber wichtig. Ein Anbieter, der nach drei Jahren verschwindet, hinterlässt im schlimmsten Fall eine nicht mehr nutzbare Software mit gesperrtem Datenzugang.

Grüne Flagge: „Unsere Software läuft auch ohne unsere Server weiter” oder „otium.arx in Ihrer Praxis funktioniert eigenständig.”
Gelbe Flagge: „Ein Treuhänder hält den Quellcode.”
Rote Flagge: „Das Risiko sehen wir nicht” oder „Wir sind seit fünf Jahren am Markt.”

Eine Frage, die fast nie ehrlich beantwortet wird — gerade deshalb ist das Stellen der Frage selbst aussagekräftig.

Was Sie mit den Antworten machen

Die Antworten gehören schriftlich in die Akte. Vor Vertragsunterschrift, nicht danach. Wenn ein Anbieter zwei oder mehr rote Flaggen produziert, lohnt der Wechsel — auch wenn die Demo überzeugt hat. Eine zweite Demo bei einem konservativeren Anbieter ist immer billiger als ein Vertragsstreit nach 18 Monaten.

Praktischer Hinweis

Eine Praxis-KI, die lokal in Ihrer Hardware läuft, beantwortet die meisten dieser Fragen strukturell — keine Cloud, kein Modelltraining, keine Drittanbieter. Otium ist nach diesem Modell gebaut.