Transparenz

KI in BROCALY

Welche KI-Systeme die App nutzt, wofür, und wo ihre Grenzen liegen.

Du sprichst in BROCALY immer mit einer KI, nie mit einem Menschen. Gesprächspartnerin, Patient:in, Stimme, Bild und Auswertung sind KI-generiert.

Einordnung nach dem EU AI Act

BROCALY setzt KI-Systeme im Sinne der Verordnung (EU) 2024/1689 (EU AI Act) ein. Nach unserer Einschätzung fällt die App nicht unter die Hochrisiko-Kategorien des Anhangs III: Sie entscheidet weder über den Zugang zu Bildungseinrichtungen oder Berufen noch gibt sie Ergebnisse an Dritte weiter. Die Auswertung dient nur deiner eigenen Selbstreflexion. Es gelten die Transparenzpflichten nach Art. 50.

Eingesetzte KI-Systeme

System	Aufgabe	Aufruf
Claude (Anthropic)	Gesprächsführung und Auswertung nach der Simulation	Über unseren Server, Anbieter in den USA
Gemini (Google)	Spracherkennung deiner Antworten und Stimme der Gesprächspartnerin	Über unseren Server, Anbieter in den USA

Was KI-generiert ist

Gespräch: Nachfragen und Reaktionen der Gesprächspartnerin entstehen in Echtzeit durch das Sprachmodell. Die Fälle selbst stammen aus einer eigenen Falldatenbank.
Auswertung: KI-generiert und nicht von Menschen geprüft. Sie ist keine Note, kein Prüfungsergebnis und kein Nachweis.
Stimme: synthetisch erzeugt, keine Aufnahme eines Menschen.
Bild der Gesprächspartnerin: KI-generiert, zeigt keine reale Person.

Grenzen

Sprachmodelle können plausibel klingende, aber falsche oder unvollständige Aussagen erzeugen. Prüfe medizinische Inhalte immer an Leitlinien und Fachliteratur. BROCALY ist kein Medizinprodukt und keine Grundlage für Entscheidungen bei realen Patient:innen.

Fehler oder Bedenken melden

Ist dir eine falsche, irreführende oder unangemessene KI-Ausgabe aufgefallen, oder hast du Fragen zum KI-Einsatz? Schreib uns an mario@urbanek.de. Beschreib kurz Fachgebiet, Fall und was nicht stimmte. Meldungen helfen uns, die App zu verbessern; ein Anspruch auf Korrektur besteht nicht.

Stand: Oktober 2026