Legal

EU-KI-Verordnung und verantwortungsvolle KI

1. Zweck

eDoer nutzt KI-gestützte Funktionen zur Unterstützung des Lernens und, sofern aktiviert, der Patientenaufklärung.

eDoer ist bestrebt, KI transparent und verantwortungsvoll einzusetzen und die geltenden Anforderungen der EU-Verordnung über künstliche Intelligenz (EU-KI-Verordnung) umzusetzen.

Dieses Dokument beschreibt die von eDoer zunächst umgesetzten Maßnahmen. Der Schwerpunkt liegt auf KI-Transparenz, KI-Kompetenz und dem verantwortungsvollen Einsatz von KI in der Patientenaufklärung.

2. KI-Transparenz

Deutlicher Hinweis auf die Interaktion mit KI

eDoer informiert Nutzende deutlich darüber, wenn sie direkt mit KI-gestützten Funktionen interagieren.

Bei der Patientenaufklärung ist die KI-Oberfläche deutlich als KI-gestützt gekennzeichnet. Nutzende werden zu Beginn der Interaktion darüber informiert, dass sie mit einem KI-System kommunizieren.

Zum Beispiel:

KI-Assistent für Patientenaufklärung

Sie interagieren mit einem KI-gestützten Assistenten.

Soweit angemessen, können zusätzliche Informationen bereitgestellt werden, um die Rolle und Grenzen des KI-Assistenten zu verdeutlichen:

Dieser Assistent unterstützt die Patienteninformation und das Lernen. Er ersetzt keine professionelle medizinische Beratung, Diagnose oder Behandlung.

Der Hinweis wird direkt in der Benutzeroberfläche angezeigt und ist nicht auf Nutzungsbedingungen, Datenschutzerklärungen oder andere rechtliche Dokumente beschränkt.

Dieser Ansatz unterstützt die Transparenzanforderungen für KI-Systeme, die direkt mit natürlichen Personen interagieren, gemäß Artikel 50 der EU-KI-Verordnung.

Nachweise zur Umsetzung

eDoer bewahrt Nachweise dafür auf, dass der Hinweis auf KI in der Benutzeroberfläche umgesetzt ist, beispielsweise Screenshots oder Aufzeichnungen der entsprechenden Oberflächenimplementierung.

3. KI-Kompetenz

eDoer ergreift Maßnahmen zur Förderung der KI-Kompetenz seiner Mitarbeitenden, die an der Entwicklung, Konfiguration, dem Betrieb oder der Unterstützung KI-gestützter Funktionen beteiligt sind.

Die betreffenden Mitarbeitenden von eDoer werden über Themen informiert, die für ihre jeweilige Rolle und ihren Umgang mit KI relevant sind. Dazu gehören:

Zweck und Fähigkeiten der von eDoer verwendeten KI-Funktionen;
Grenzen der KI und die Möglichkeit unrichtiger, unvollständiger oder nicht belegter KI-generierter Informationen;
angemessener Umgang mit personenbezogenen Daten und Gesundheitsinformationen bei der Nutzung von KI-Funktionen;
die festgelegten Grenzen der KI für die Patientenaufklärung; und
die Bedeutung eines verantwortungsvollen KI-Einsatzes im Gesundheitswesen.

Von Mitarbeitenden, die direkt mit der KI für die Patientenaufklärung arbeiten, wird erwartet, dass sie diese Grundsätze sowie die vorgesehene Rolle und die Grenzen der Funktionen verstehen.

eDoer vermittelt diese Grundsätze den betreffenden Mitarbeitenden und bewahrt geeignete interne Leitlinien oder Nachweise über entsprechende Maßnahmen auf.

Diese Maßnahmen unterstützen die Anforderungen an KI-Kompetenz gemäß Artikel 4 der EU-KI-Verordnung.

4. Grenzen für den verantwortungsvollen KI-Einsatz in der Patientenaufklärung

Zusätzlich zu den oben beschriebenen Maßnahmen für Transparenz und KI-Kompetenz legt eDoer funktionale Grenzen fest, um den verantwortungsvollen Einsatz von KI in der Patientenaufklärung zu unterstützen.

Die KI für die Patientenaufklärung von eDoer ist darauf ausgelegt, unter anderem folgende Tätigkeiten zu unterstützen:

Zugang zu relevanten Gesundheitsinformationen und deren Abruf;
Erläuterung von Gesundheitsinformationen und Fachbegriffen;
Zusammenfassung von Informationen und Dokumenten;
Übersetzung von Informationen;
Unterstützung des Lernens und Verständnisses von Patientinnen und Patienten; und
Beantwortung von Fragen zu Lernzwecken auf Grundlage zulässiger Informationsquellen.

Die KI für die Patientenaufklärung ist nicht dafür vorgesehen:

Erkrankungen zu diagnostizieren;
Behandlungen auszuwählen oder zu empfehlen;
zu empfehlen, Medikamente einzunehmen, abzusetzen oder die Medikation zu ändern;
individuelle klinische Risiken für Patientinnen und Patienten zu berechnen;
physiologische Parameter zu überwachen; oder
klinische Entscheidungen anstelle von Gesundheitsfachkräften zu treffen.

Gesundheitsfachkräfte bleiben für medizinische Diagnosen, Behandlungen und klinische Entscheidungen verantwortlich.

eDoer berücksichtigt diese Grenzen bei der Gestaltung, Konfiguration und Prüfung seiner KI-Funktionen für die Patientenaufklärung.

5. Umsetzung und Nachweise

eDoer bewahrt angemessene Nachweise für die in diesem Dokument beschriebenen Maßnahmen auf.

Für die aktuelle Umsetzung umfasst dies:

KI-Transparenz

Nachweise darüber, dass Nutzende deutlich informiert werden, wenn sie direkt mit KI-gestützten Funktionen interagieren, beispielsweise Screenshots oder Aufzeichnungen der entsprechenden Benutzeroberfläche.

KI-Kompetenz

Interne Leitlinien und die Vermittlung relevanter KI-Fähigkeiten, Grenzen, Risiken und Grundsätze für einen verantwortungsvollen Einsatz an Mitarbeitende von eDoer, die mit KI-Funktionen befasst sind.

Grenzen für den verantwortungsvollen KI-Einsatz

Festgelegte funktionale Grenzen für die KI in der Patientenaufklärung, die sich in der Gestaltung, Konfiguration und Prüfung der Funktionen widerspiegeln.

Diese Maßnahmen können überprüft und aktualisiert werden, wenn sich die KI-Funktionen von eDoer und die geltenden rechtlichen Anforderungen weiterentwickeln.