Transparenz

KI in BROCALY

Welche KI-Systeme die App nutzt, wofür, und wo ihre Grenzen liegen.

Du sprichst in BROCALY immer mit einer KI, nie mit einem Menschen. Gesprächspartnerin, Patient:in, Stimme, Bild und Auswertung sind KI-generiert.

Einordnung nach dem EU AI Act

BROCALY setzt KI-Systeme im Sinne der Verordnung (EU) 2024/1689 (EU AI Act) ein. Nach unserer Einschätzung fällt die App nicht unter die Hochrisiko-Kategorien des Anhangs III: Sie entscheidet weder über den Zugang zu Bildungseinrichtungen oder Berufen noch gibt sie Ergebnisse an Dritte weiter. Die Auswertung dient nur deiner eigenen Selbstreflexion. Es gelten die Transparenzpflichten nach Art. 50.

Eingesetzte KI-Systeme

System	Aufgabe	Aufruf
GPT-Sprachmodelle (OpenAI)	Gesprächsführung und Auswertung nach der Simulation	Direkt von deinem Gerät, mit deinem eigenen Schlüssel
Spracherkennung (OpenAI)	Umwandlung deiner gesprochenen Antworten in Text	Direkt von deinem Gerät, mit deinem eigenen Schlüssel
Sprachausgabe (OpenAI)	Stimme der Gesprächspartnerin	Direkt von deinem Gerät, mit deinem eigenen Schlüssel
Claude (Anthropic)	Gesprächsführung in der Kostprobe im Browser	Über den Server von brocaly.de, auf unsere Kosten
Gemini (Google)	Spracherkennung und Stimme in der Kostprobe im Browser	Über den Server von brocaly.de, auf unsere Kosten

Was KI-generiert ist

Gespräch: Nachfragen und Reaktionen der Gesprächspartnerin entstehen in Echtzeit durch das Sprachmodell. Die Fälle selbst stammen aus einer eigenen Falldatenbank.
Auswertung: KI-generiert und nicht von Menschen geprüft. Sie ist keine Note, kein Prüfungsergebnis und kein Nachweis.
Stimme: synthetisch erzeugt, keine Aufnahme eines Menschen.
Bild der Gesprächspartnerin: KI-generiert, zeigt keine reale Person.

Grenzen

Sprachmodelle können plausibel klingende, aber falsche oder unvollständige Aussagen erzeugen. Prüfe medizinische Inhalte immer an Leitlinien und Fachliteratur. BROCALY ist kein Medizinprodukt und keine Grundlage für Entscheidungen bei realen Patient:innen.

Fehler oder Bedenken melden

Ist dir eine falsche, irreführende oder unangemessene KI-Ausgabe aufgefallen, oder hast du Fragen zum KI-Einsatz? Schreib uns an mario@urbanek.de. Beschreib kurz Fachgebiet, Fall und was nicht stimmte. Meldungen helfen uns, die App zu verbessern; ein Anspruch auf Korrektur besteht nicht.

Stand: Oktober 2026