KI-Transparenz

Welche KI arbeitet hier, und wie.

Diese Seite zeigt jedes KI-System der Plattform mit Zweck, Grenzen, menschlicher Aufsicht, Anbieter und Einwilligung. Sie liest das Systemregister, das auch die Schnittstelle /api/ai-governance/systems ausliefert.

14 Systeme im Register 7 Hochrisiko 3 mit Transparenzpflicht 4 regelbasiert
Ehrlichkeitshinweis: Die Einstufungen sind eine technische Selbsteinschätzung, kein Rechtsgutachten, und im Zweifel bewusst die strengere Klasse. Eine Konformitätsbewertung wurde nicht durchgeführt. Fragen an security@braingaininformatik.com.

01Rolle: Anbieter oder Betreiber

Rechtliche Einordnung Ob Klugfunke für die einzelnen KI-Systeme rechtlich als Anbieter oder als Betreiber im Sinne der KI-Verordnung gilt, ist noch nicht entschieden; die rechtliche Prüfung steht aus. Die Einstufungen unten sind eine technische Selbsteinschätzung am Code, kein Rechtsgutachten, und im Zweifel bewusst konservativ gewählt.
Offen

02KI-Systeme und Risikoklassen

Jedes System mit Zweck, Betroffenen, Modell, menschlicher Aufsicht, Grenzen und der Frage, ob eine Einwilligung nötig ist.

LLM-gestützte Bewertung von Abgaben Zweck: Bewertet Schüler-/Teilnehmerabgaben gegen eine Rubrik und erzeugt Punktzahl und Begründung.
Betroffene: Lernende, deren Abgabe bewertet wird
Modell: Google Gemini (Version je Lauf in AutogradeRun.modelVersion protokolliert)
Aufsicht: Menschliche Bestätigung erforderlich — Die KI-Bewertung ist ein VORSCHLAG. Bis eine Lehrkraft sie bestätigt oder korrigiert, trägt die Abgabe das Merkmal aiGradeProvisional=true und wird überall als vorläufig gekennzeichnet — auch gegenüber den Lernenden (Art. 26(11)). Die Punktzahl wird dabei NICHT technisch zurückgehalten: sie ist sichtbar, aber als unbestätigt ausgewiesen und jederzeit durch die Lehrkraft überschreibbar (Art. 14(4)(d)). Jede Bestätigung und jede Abweichung wird protokolliert.
Grenzen: Sprachmodelle bewerten nicht deterministisch. Bei gleichem Text sind abweichende Bewertungen möglich. Nicht als alleinige Grundlage für Zeugnisnoten geeignet.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 3(b)
KI-Bewertung eingescannter Schülerarbeiten Zweck: Bewertet fotografierte oder eingescannte handschriftliche Arbeiten mit einem Bildmodell und vergibt Punktzahl, Kriterien und Feedback.
Betroffene: Lernende, deren Arbeit eingescannt wurde
Modell: Google Gemini Vision (GEMINI_MODEL)
Aufsicht: Menschliche Bestätigung erforderlich — Die KI-Punktzahl ist ein VORSCHLAG. Sie gilt als unbestätigt, bis eine Lehrkraft über die Korrekturfunktion eine eigene Punktzahl setzt oder sie ausdrücklich bestätigt. Bis dahin wird die Bewertung als vorläufig gekennzeichnet.
Grenzen: Bewertet Handschrift aus einem Foto. Schlechte Bildqualität, ungewöhnliche Schrift, Skizzen und Formeln führen zu Fehllesungen. Besonders fehleranfällig unter allen Bewertungsfunktionen — nicht ohne Sichtprüfung übernehmen.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 3(b)
Fehlertyp-Klassifikator für Programmieraufgaben Zweck: Trainiertes scikit-learn-Modell, das den Fehlertyp in eingereichtem Code klassifiziert und daraus Feedback ableitet.
Betroffene: Lernende, deren Code ausgeführt wird
Modell: scikit-learn-Klassifikator im eigenen Python-Dienst (BRAINCODE_CLASSIFIER_URL), trainiert über die ML-Pipeline in manage.sh
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Liefert Fehlerklasse und Hinweistext. Vergibt keine Punkte — die Bewertung stammt aus der deterministischen Judge0-Testausführung.
Grenzen: Statistische Klassifikation aus Quelltext und Fehlerausgabe. Die Fehlerklasse kann falsch sein; der Dienst ist optional und fällt ohne Auswirkung auf die Bewertung aus.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 3(b)
KI-Feedback zu Programmieraufgaben Zweck: Erzeugt erklärendes Feedback zu eingereichtem Code, ergänzend zur Judge0-Testausführung.
Betroffene: Lernende
Modell: Google Gemini
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Reines Feedback. Die Punktevergabe stammt aus der deterministischen Judge0-Testausführung, nicht aus der KI.
Grenzen: Feedbacktext kann fachlich falsch sein. Die Bewertung selbst ist KI-frei (gradingMode judge_only ⇒ gar keine KI beteiligt).
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 3(b)
KI-Zusammenfassung von Bewerbungen Zweck: Fasst Bewerbungsunterlagen für die Personalauswahl zusammen.
Betroffene: Bewerberinnen und Bewerber
Modell: siehe HR_AI_MODEL (Anthropic Claude bzw. OpenAI, je Konfiguration)
Aufsicht: Menschliche Bestätigung erforderlich — Die Zusammenfassung ist Entscheidungshilfe. Sie darf nicht die Grundlage einer Absage sein, ohne dass ein Mensch die Unterlagen selbst gesichtet und dies bestätigt hat.
Grenzen: Zusammenfassungen können Qualifikationen auslassen oder verzerren. Keine Rangfolge, kein Eignungsurteil.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 4(a)
KI-generierte Interviewfragen Zweck: Erzeugt kandidatenbezogene Fragen für Auswahlgespräche.
Betroffene: Bewerberinnen und Bewerber
Modell: siehe HR_AI_MODEL
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Vorschlagsliste. Die Gesprächsführung liegt beim Menschen.
Grenzen: Fragen können unpassend oder benachteiligend sein und müssen vor der Verwendung gesichtet werden.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 4(a)
KI-Entwurf für Leistungsfeedback Zweck: Entwirft Leistungsfeedback aus einer bestehenden Leistungsbeurteilung.
Betroffene: Beschäftigte
Modell: siehe HR_AI_MODEL
Aufsicht: Menschliche Bestätigung erforderlich — Der Entwurf ist VORLÄUFIG. Er wird erst Teil der Beurteilung, wenn eine Führungskraft ihn bestätigt oder überarbeitet.
Grenzen: Entwurf auf Basis vorhandener Bewertungen. Erzeugt keine eigene Leistungsbeurteilung und darf nicht als solche verwendet werden.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Hochrisiko (Anhang III) · Nr. 4(b)
KI-Assistenz-Chats (BrainMate, Tutoren, CRM, Planer) Zweck: Dialogische Unterstützung beim Lernen und Arbeiten. Keine Bewertung, keine Auswahl, keine Entscheidung über Personen.
Betroffene: Nutzende selbst
Modell: Google Gemini
Aufsicht: Keine Aufsichtspflicht
Grenzen: Antworten können falsch sein. Kennzeichnung und Prüfmechanik nach Art. 50 siehe KI-TRANSPARENZ.md.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Transparenzpflicht (Art. 50)
KI-Inhaltsgenerierung (Lernkarten, Aufgaben, Kurse, Texte) Zweck: Erzeugt Lernmaterial auf Anforderung der nutzenden Person.
Betroffene: Nutzende selbst
Modell: Google Gemini
Aufsicht: Keine Aufsichtspflicht
Grenzen: Generierte Inhalte können fachlich falsch sein und sind vor Verwendung zu prüfen.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Transparenzpflicht (Art. 50)
Spracherkennung für die Spracheingabe (Whisper, lokal) Zweck: Wandelt eine vom Nutzer selbst aufgenommene Sprachaufnahme in Text um, damit dieser statt getippt diktiert werden kann.
Betroffene: Nutzende selbst (eigene Aufnahme, eigene Eingabe)
Modell: OpenAI Whisper (Modell `base`), lokal im eigenen Compose-Netz — keine Übermittlung an Dritte
Aufsicht: Keine Aufsichtspflicht
Grenzen: Erkennung ist fehlerbehaftet, besonders bei Dialekt, Fachbegriffen, Hintergrundgeräuschen und leiser Aufnahme. Der Text landet als Vorschlag im Eingabefeld und wird vor dem Absenden vom Menschen gelesen — er wird nirgends automatisch weiterverarbeitet.
Einwilligung: Keine Übermittlung an Dritte, die Verarbeitung läuft lokal in der eigenen Infrastruktur.
Transparenzpflicht (Art. 50)
AST-Autograder (regelbasiert) Zweck: Bewertet Code deterministisch anhand von Regeln über den Syntaxbaum.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Kein KI-System (regelbasiert)
Stichwortbasierte Tonwahl im Klassen-Tutor Zweck: Wählt anhand einer festen Stichwortliste den Ton der Tutor-Antwort.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Kein KI-System (regelbasiert)
Adaptive Niveau- und Wegsteuerung (Elo-basiert) Zweck: Schätzt Kompetenzstände und steuert daraus Auswahl, Reihenfolge und Freischaltung von Aufgaben.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Kein KI-System (regelbasiert)
Ähnlichkeitsscan für Abgaben Zweck: Findet strukturell ähnliche Abgabepaare zur menschlichen Nachprüfung.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Kein KI-System (regelbasiert)

03Anbieter und Vertragsstatus

Gelistet sind nur Anbieter, die zur laufenden Konfiguration passen. Der Vertragsstatus folgt der Bestätigung des Betreibers; ohne Bestätigung steht dort „in Vorbereitung“.

Anbieter mit Zweck, Sitz der Verarbeitung und Vertragsstatus
AnbieterZweckSitz der VerarbeitungVertrag
Google (Gemini API) KI-Funktionen (Lern- / Chat-Assistenz), nur mit Einwilligung EU / USA Auftragsverarbeitungsvertrag (Art. 28 DSGVO) in Vorbereitung

KI-Anbieter außer Google Gemini werden nur genutzt, wenn der Betreiber sie ausdrücklich freigibt, und nur mit Einwilligung der Nutzenden. Details stehen in der Datenschutzerklärung und im Trust-Center.

04Hinweis auf KI-Interaktion (Art. 50 Abs. 1)

In jedem Dialog mit einer KI steht dauerhaft der Hinweis „Du sprichst mit einer KI. Antworten können Fehler enthalten.“ Er lässt sich nicht ausblenden. Diese Flächen tragen ihn:

Flächen mit dauerhaftem Hinweis auf KI-Interaktion und ihre Umsetzung
FlächeUmsetzung
BrainMate-Chat Hinweis in der Chat-Vorlage
Notizen (KI-Assistent) Hinweis in der Seite
Scholar (KI-Recherche) Hinweis in der Seite
Dokumente (KI-Fragen an Dokumente) Hinweis in der Seite
Schreiben (KI-Schreibhilfe) Hinweis in der Seite
Kurs-Tutor in Lektionen Hinweis in der Seite
LinguaCoach (Sprach-Tutor) Hinweis in der Seite
Video- und Dokument-Chat Hinweis in der Seite
Training-Coach Hinweis in der Seite
Ernährung (KI-Erfassung) Hinweis in der Seite
BrainCode (KI-Mentor) Hinweis per Skript
Kopfrechnen (KI-Erklärung) Hinweis per Skript
Planer-KI-Chat Hinweis per Skript
Klassen-KI-Tutor Hinweis per Skript
Maskottchen-Frage (Ask) Hinweis per Skript

Gespeicherte KI-Texte sind zusätzlich maschinenlesbar als KI-generiert markiert (Art. 50 Abs. 2); die Kennzeichnung bleibt auch nach einer Prüfung durch Nutzende bestehen.

05Fristen der KI-Verordnung

Stand der Zusammenstellung: 12. Oktober 2026.

2. Februar 2025 Kapitel I und II gelten: KI-Kompetenz (Art. 4) und verbotene Praktiken (Art. 5).
Gilt
2. August 2025 Kapitel V (Modelle mit allgemeinem Verwendungszweck), Governance und Sanktionsvorschriften gelten.
Gilt
2. August 2026 Allgemeine Anwendbarkeit, insbesondere die Transparenzpflichten nach Art. 50 und die Marktüberwachung.
Gilt
2. Dezember 2026 Ende der Übergangsfrist für die Kennzeichnung (Art. 50) bereits in Verkehr befindlicher Systeme.
Bevorstehend
2. Dezember 2027 Hochrisiko-Systeme nach Anhang III (dazu zählen die Bildungs- und Beschäftigungs-Systeme unten): durch die VO (EU) 2026/1744 verschoben.
Verschoben
2. August 2028 Hochrisiko-Systeme nach Anhang I (Produktsicherheit): durch die VO (EU) 2026/1744 verschoben.
Verschoben

Quelle: Verordnung (EU) 2024/1689 (KI-Verordnung) in der Fassung der Verordnung (EU) 2026/1744 („Digital Omnibus on AI“); Zusammenstellung im Lerninhalt „EU AI Act“ dieser Plattform (/lernen/eu-ai-act, Zeitachse „Stand 2. August 2026“). Vor rechtlicher Verwendung ist der Wortlaut im Amtsblatt der EU zu prüfen.