Studieninformationen

Liebe*r Studieninteressierte*r,
wir freuen uns sehr, dass Sie sich für die Teilnahme an der Studie „Textbasierte künstliche Intelligenzen in der medizinischen Ausbildung“ (AIMED) interessieren. Im Folgenden erhalten Sie Informationen zum Zweck, Ablauf und Datenschutz.

Die Wissenschaftliche Studienleitung ist:

1. Zweck der Studie

In dem Vorhaben „AIMED“ geht es um das Training kommunikativer Fertigkeiten mit Hilfe eines Large Language Models (LLMs) auf Basis von künstlicher Intelligenz (KI). LLMs sind eine Form von generativer künstlicher Intelligenz, die darauf trainiert wird, natürliche Sprache verstehen, verarbeiten und generieren zu können. Wir wollen herausfinden, ob Studierende ihre kommunikativen Fähigkeiten im Gespräch mit dem LLM verbessern können. Zu diesem Zweck adressieren wir volljährige Medizinstudierende. Die Datenerhebung soll im Sommersemester 2025 stattfinden und wird ggf. erweitert auf das Wintersemester 2025/26 oder spätere Zeitpunkte, sofern die anvisierte Fallzahl von 156 Proband:innen nicht erreicht wurde.

2. Ablauf der Untersuchung

Entscheiden Sie sich für die Teilnahme an der Studie, werden Sie zunächst gebeten, ein paar soziodemographische Angaben zu machen und Ihre Kompetenzen zur ärztlichen Gesprächsführung in verschiedenen Settings selbst einzuschätzen. Anschließend sollen Sie sich in die Rolle eines Arztes/einer Ärztin hineinversetzen und ein Gespräch mit einer sprachbasierten KI zu einem bestimmten Thema führen. Das LLM nimmt dabei die Rolle eines/einer Patient*in an, der/die mit einem Anliegen zu Ihnen gekommen ist. Das Gespräch läuft so ab, dass Sie über die Studienwebseite einen Online-Anruf mit dem LLM tätigen, bei dem Sie Audioinput durch gesprochene Sprache geben und Audiofeedback erhalten. Um ein Gespräch zu ermöglichen, wird das LLM durch weitere Modelle wie ein Transkriptionsmodell und ein Stimmmodell unterstützt, um das Gesprochene zu transkribieren und in einem Chatfenster anzuzeigen. Die Audiospur wird nicht aufgezeichnet, das Transkript des Gesprächs jedoch gespeichert. Sie können die Interaktion jederzeit beenden, jedoch anschließend nicht wiederaufnehmen. Wir bitten Sie, die Konversation so lange zu führen, bis sie zu einem für Sie zufriedenstellenden Ende gekommen ist.

Wir rechnen mit einem Zeitaufwand von etwa 15 Minuten für die gesamte Studie; allerdings hängt der individuelle Zeitaufwand davon ab, wie ausführlich Sie das Gespräch führen. Der Online-Anruf mit dem LLM wird durch Klick auf „Gespräch beenden“ beendet und Sie werden direkt zum Feedback weitergeleitet, das auf der Basis der Interaktion vom LLM erstellt wird. Beim Feedback sehen Sie die Bewertung Ihrer Performance inkl. Verbesserungsvorschlägen durch das LLM und können auch auf die Konversation zwischen Ihnen und dem LLM zugreifen.

In einem anschließenden Fragebogen bitten wir Sie wiederum dieses Feedback hinsichtlich der Nützlichkeit zu bewerten (Skala 0-10). Im abschließenden Teil der Befragung stellen wir Ihnen einige Fragen zu ihren Einstellungen zu unterschiedlichen Aspekten sowie erneut dazu, wie sicher sie sich in den verschiedenen Gesprächsformen fühlen.

Der Chat und die Fragebögen werden separat erhoben und anschließend vom Studienteam mithilfe einer im Hintergrund randomisiert erstellten und nicht zuordbaren Session-ID zusammengeführt, welche keine personen-identifizierenden Daten beinhaltet und nur für die Dauer der Durchführung lokal in Ihrem Browser gespeichert wird.

Die Datenanalysen finden in erster Linie auf aggregierter Ebene statt, sodass jeder individuelle Datensatz einer von vielen ist (z.B. Mittelwertvergleiche, Regressionen, Korrelationen). Um besonders lehrreiche Interaktionen genauer zu verstehen, werden jedoch auch vereinzelt Gespräche sowie das vom LLM bereitgestellte Feedback genauer inhaltsanalytisch betrachtet. Als Datengrundlage werden diejenigen Konversationen ausgewählt, bei denen die Teilnehmer:innen besonders hohen Lerneffekt (oberste 25%) oder besonders niedrigen oder gar negativen Lerneffekt berichteten (unterste 25%). Die Konversationen werden mittels qualitativer Inhaltsanalyse nach Kuckartz als Methode der qualitativen Forschung ausgewertet.

3. Möglicher Nutzen und mögliche Risiken

Der Nutzen der Studie besteht in einem potentiellen Lernzuwachs in selbstbewerteter kommunikativer Kompetenz sowie in der Erfahrung im Führen von herausfordernden ärztlichen Gesprächen. Die Größe dieser Effekte ist jedoch vor Durchführung der Studie nicht absehbar. Durchschnittliche Effekte können auch bedeuten, dass Sie im individuellen Fall ggf. keinen Nutzen aus der Studie ziehen. Die wissenschaftliche Studie gibt jedoch Aufschluss darüber, ob LLM-Chatbots eine sinnvolle Ergänzung in der didaktischen Vermittlung kommunikativer Fähigkeiten darstellt.

Für die Studie wird ein Application Programming Interface (API) der Firma OpenAI verwendet, das Ihren Input auf Server des Unternehmens überträgt, das in den USA ansässig ist und damit außerhalb des Geltungsbereichs der EU-DSGVO. An diese Server wird Ihr Input sowie die Antworten durch das LLM gesendet. Außerdem wird die von Ihnen getätigte Geschlechtsangabe gesendet, um die Ansprache der Patientenrolle anzupassen (Herr/Frau). Ihre Angaben in den Fragebögen sowie die Selbsteinschätzung und das Fachsemester verbleiben auf den Servern in Deutschland und werden nicht in das API gespeist. Sie entscheiden dabei selbst, was Sie sagen möchten. Wir empfehlen nachdrücklich, keine personen-identifizierbaren Inhalte wie Namen, Adressen, o.ä. im Gespräch zu nennen.

4. Datenschutz

Die erhobenen Daten lassen keinerlei Rückschluss auf Ihre Person zu. Damit ist die Befragung anonym. Die erhobenen Daten werden über eine eigens für diese Studie entwickelte, nicht frei auffindbare Webseite erhoben und dort gespeichert. Die Webseite wird über Vercel gehostet, deren Server in Deutschland bzw. in der EU liegen und unter den Einflussbereich der EU-DSGVO fallen. Die Call-Daten werden nach Gesprächsabschluss temporär in Neon-Datenbanken in Deutschland gespeichert. Innerhalb der Webseite ist das API integriert. Die Fragebogendaten und der Chat werden separat verarbeitet und die Fragebögen nicht an das API geschickt.

Die Daten werden zum Ende der Rekrutierung von der Webseite exportiert, auf den Charité-internen Laufwerken (S-Laufwerk) gespeichert und von der Webseite gelöscht. Die Charité-internen Laufwerke sind passwortgeschützt, sodass nur Mitarbeiter*innen des Instituts für Medizinische Soziologie und Rehabilitationswissenschaft und die von ihnen Beauftragten darauf Zugriff haben.

Die von Ihnen bereitgestellten Daten (siehe obige Auflistung) werden ausschließlich zum Zwecke der Forschung und statistischen Auswertung verwendet. Die Daten werden nach Studienende von dem Charité-S-Laufwerk gelöscht, auf einen USB-Stick übertragen und für die Zeit von maximal 10 Jahren in einem verschlossenen Aktenschrank am Institut für Medizinische Soziologie und Rehabilitationswissenschaft aufbewahrt. Nach 10 Jahren werden die vorhandenen Daten vernichtet bzw. gelöscht. Bitte beachten Sie, dass die Ergebnisse der Studie in der Fachliteratur veröffentlicht werden können, wobei Ihre Identität in jedem Falle anonym bleibt.

Da es sich bei „AIMED“ um eine anonyme Befragung handelt, haben Sie nicht die folgenden Rechte:

• Recht auf Auskunft über alle zu Ihrer Person verarbeiteten und gespeicherten Daten sowie der Empfänger, an die Daten weitergegeben werden oder wurden, Art. 15 DS-GVO;
• Recht auf Berichtigung unrichtiger personenbezogener Daten, Art. 16 DS-GVO;
• Recht der Weiterverarbeitung Ihrer personenbezogenen Daten zu widersprechen, die ohne Ihre Einwilligung aufgrund eines öffentlichen Interesses oder zur Wahrung berechtigter Interessen des/der Verantwortlichen erfolgt ist. Der Widerspruch einer Weiterverarbeitung ist zu begründen, sodass deutlich wird, dass besondere in Ihrer Person begründete Umstände das vorgenannte Interesse an einer Weiterverarbeitung überwiegen, Art. 21 DS-GVO;
• Recht auf Löschung unter der Voraussetzung, dass bestimmte Gründe vorliegen. Dies ist insbesondere der Fall bei unrechtmäßiger Verarbeitung oder wenn die Daten zu dem Zweck, zu dem sie erhoben oder verarbeitet wurden, nicht mehr notwendig sind, Sie die Einwilligung widerrufen und eine anderweitige Rechtsgrundlage für die Datenverarbeitung nicht gegeben ist oder anstelle des vorbenannten Widerspruchs nach Art. 21 DS-GVO unter den dort genannten Voraussetzungen. Sofern die Löschung die Ziele eines im wissenschaftlichen Interesse durchgeführten Forschungsprojektes zunichtemachen oder wesentlich erschweren würde, besteht kein Recht auf Löschen, Art. 17 Absatz 3 DS-GVO.
• Recht auf Einschränkung der Verarbeitung Ihrer personenbezogenen Daten, insbesondere wenn die Verarbeitung unrechtmäßig ist und Sie die Einschränkung anstelle des Löschens verlangen (siehe dort) oder solange streitig ist, ob die Verarbeitung personenbezogener Daten rechtmäßig erfolgt, Art. 18 DS-GVO.

5. Fragerecht/Mitteilungspflicht

Bei Rückfragen oder Anmerkungen wenden Sie sich bitte an die Studienleitung:

Bei Anliegen zur Datenverarbeitung und zur Einhaltung der datenschutzrechtlichen Anforderungen können Sie sich auch an die Datenschutzbeauftragte der Charité Universitätsmedizin Berlin wenden:

Für den Fall, dass Sie eine Datenverarbeitung für rechtswidrig halten, haben Sie die Möglichkeit, bei der für die Charité - Universitätsmedizin Berlin zuständigen Aufsichtsbehörde Beschwerde einzureichen:

6. Freiwilligkeit der Teilnahme

Ihre Teilnahme ist freiwillig. Jede:r Studienteilnehmer:in hat das Recht, ohne Angabe von Gründen nicht an der Studie teilzunehmen oder die Studienteilnahme abzubrechen. Die bis zum Abbruch der Teilnahme erhobenen Daten können vom Studienteam analysiert werden. Es werden nur Daten von Personen in die Studie eingeschlossen, die zuvor der Teilnahme zugestimmt haben. Durch Nicht-Teilnahme oder Abbruch entstehen Ihnen keinerlei Nachteile. Das Forschungsteam hat das Recht, den/die Studienteilnehmer:in aufgrund von Änderungen der Maßnahmen aus der Studie herauszunehmen.

7. Kosten

Es fallen keine Kosten für Sie an. Sie erhalten für die Teilnahme keine Aufwandsentschädigung.