Welche KI arbeitet hier, und wie.
Diese Seite zeigt jedes KI-System der Plattform mit Zweck, Grenzen, menschlicher Aufsicht, Anbieter und Einwilligung. Sie liest das Systemregister, das auch die Schnittstelle /api/ai-governance/systems ausliefert.
01Rolle: Anbieter oder Betreiber
02KI-Systeme und Risikoklassen
Jedes System mit Zweck, Betroffenen, Modell, menschlicher Aufsicht, Grenzen und der Frage, ob eine Einwilligung nötig ist.
Betroffene: Lernende, deren Abgabe bewertet wird
Modell: Google Gemini (Version je Lauf in AutogradeRun.modelVersion protokolliert)
Aufsicht: Menschliche Bestätigung erforderlich — Die KI-Bewertung ist ein VORSCHLAG. Bis eine Lehrkraft sie bestätigt oder korrigiert, trägt die Abgabe das Merkmal aiGradeProvisional=true und wird überall als vorläufig gekennzeichnet — auch gegenüber den Lernenden (Art. 26(11)). Die Punktzahl wird dabei NICHT technisch zurückgehalten: sie ist sichtbar, aber als unbestätigt ausgewiesen und jederzeit durch die Lehrkraft überschreibbar (Art. 14(4)(d)). Jede Bestätigung und jede Abweichung wird protokolliert.
Grenzen: Sprachmodelle bewerten nicht deterministisch. Bei gleichem Text sind abweichende Bewertungen möglich. Nicht als alleinige Grundlage für Zeugnisnoten geeignet.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Lernende, deren Arbeit eingescannt wurde
Modell: Google Gemini Vision (GEMINI_MODEL)
Aufsicht: Menschliche Bestätigung erforderlich — Die KI-Punktzahl ist ein VORSCHLAG. Sie gilt als unbestätigt, bis eine Lehrkraft über die Korrekturfunktion eine eigene Punktzahl setzt oder sie ausdrücklich bestätigt. Bis dahin wird die Bewertung als vorläufig gekennzeichnet.
Grenzen: Bewertet Handschrift aus einem Foto. Schlechte Bildqualität, ungewöhnliche Schrift, Skizzen und Formeln führen zu Fehllesungen. Besonders fehleranfällig unter allen Bewertungsfunktionen — nicht ohne Sichtprüfung übernehmen.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Lernende, deren Code ausgeführt wird
Modell: scikit-learn-Klassifikator im eigenen Python-Dienst (BRAINCODE_CLASSIFIER_URL), trainiert über die ML-Pipeline in manage.sh
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Liefert Fehlerklasse und Hinweistext. Vergibt keine Punkte — die Bewertung stammt aus der deterministischen Judge0-Testausführung.
Grenzen: Statistische Klassifikation aus Quelltext und Fehlerausgabe. Die Fehlerklasse kann falsch sein; der Dienst ist optional und fällt ohne Auswirkung auf die Bewertung aus.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Lernende
Modell: Google Gemini
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Reines Feedback. Die Punktevergabe stammt aus der deterministischen Judge0-Testausführung, nicht aus der KI.
Grenzen: Feedbacktext kann fachlich falsch sein. Die Bewertung selbst ist KI-frei (gradingMode judge_only ⇒ gar keine KI beteiligt).
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Bewerberinnen und Bewerber
Modell: siehe HR_AI_MODEL (Anthropic Claude bzw. OpenAI, je Konfiguration)
Aufsicht: Menschliche Bestätigung erforderlich — Die Zusammenfassung ist Entscheidungshilfe. Sie darf nicht die Grundlage einer Absage sein, ohne dass ein Mensch die Unterlagen selbst gesichtet und dies bestätigt hat.
Grenzen: Zusammenfassungen können Qualifikationen auslassen oder verzerren. Keine Rangfolge, kein Eignungsurteil.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Bewerberinnen und Bewerber
Modell: siehe HR_AI_MODEL
Aufsicht: Mensch entscheidet, KI ist Entscheidungshilfe — Vorschlagsliste. Die Gesprächsführung liegt beim Menschen.
Grenzen: Fragen können unpassend oder benachteiligend sein und müssen vor der Verwendung gesichtet werden.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Beschäftigte
Modell: siehe HR_AI_MODEL
Aufsicht: Menschliche Bestätigung erforderlich — Der Entwurf ist VORLÄUFIG. Er wird erst Teil der Beurteilung, wenn eine Führungskraft ihn bestätigt oder überarbeitet.
Grenzen: Entwurf auf Basis vorhandener Bewertungen. Erzeugt keine eigene Leistungsbeurteilung und darf nicht als solche verwendet werden.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Recht auf Erklärung: Betroffene können eine Erklärung der Einzelentscheidung verlangen (Art. 86).
Betroffene: Nutzende selbst
Modell: Google Gemini
Aufsicht: Keine Aufsichtspflicht
Grenzen: Antworten können falsch sein. Kennzeichnung und Prüfmechanik nach Art. 50 siehe KI-TRANSPARENZ.md.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Betroffene: Nutzende selbst
Modell: Google Gemini
Aufsicht: Keine Aufsichtspflicht
Grenzen: Generierte Inhalte können fachlich falsch sein und sind vor Verwendung zu prüfen.
Einwilligung: KI-Einwilligung erforderlich (Fassung 2026-10-03); jederzeit widerrufbar. Für Minderjährige zusätzlich Zustimmung der Erziehungsberechtigten.
Betroffene: Nutzende selbst (eigene Aufnahme, eigene Eingabe)
Modell: OpenAI Whisper (Modell `base`), lokal im eigenen Compose-Netz — keine Übermittlung an Dritte
Aufsicht: Keine Aufsichtspflicht
Grenzen: Erkennung ist fehlerbehaftet, besonders bei Dialekt, Fachbegriffen, Hintergrundgeräuschen und leiser Aufnahme. Der Text landet als Vorschlag im Eingabefeld und wird vor dem Absenden vom Menschen gelesen — er wird nirgends automatisch weiterverarbeitet.
Einwilligung: Keine Übermittlung an Dritte, die Verarbeitung läuft lokal in der eigenen Infrastruktur.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
Aufsicht: Keine Aufsichtspflicht
Einwilligung: Nicht erforderlich: keine KI-Verarbeitung.
03Anbieter und Vertragsstatus
Gelistet sind nur Anbieter, die zur laufenden Konfiguration passen. Der Vertragsstatus folgt der Bestätigung des Betreibers; ohne Bestätigung steht dort „in Vorbereitung“.
| Anbieter | Zweck | Sitz der Verarbeitung | Vertrag |
|---|---|---|---|
| Google (Gemini API) | KI-Funktionen (Lern- / Chat-Assistenz), nur mit Einwilligung | EU / USA | Auftragsverarbeitungsvertrag (Art. 28 DSGVO) in Vorbereitung |
KI-Anbieter außer Google Gemini werden nur genutzt, wenn der Betreiber sie ausdrücklich freigibt, und nur mit Einwilligung der Nutzenden. Details stehen in der Datenschutzerklärung und im Trust-Center.
04Hinweis auf KI-Interaktion (Art. 50 Abs. 1)
In jedem Dialog mit einer KI steht dauerhaft der Hinweis „Du sprichst mit einer KI. Antworten können Fehler enthalten.“ Er lässt sich nicht ausblenden. Diese Flächen tragen ihn:
| Fläche | Umsetzung |
|---|---|
| BrainMate-Chat | Hinweis in der Chat-Vorlage |
| Notizen (KI-Assistent) | Hinweis in der Seite |
| Scholar (KI-Recherche) | Hinweis in der Seite |
| Dokumente (KI-Fragen an Dokumente) | Hinweis in der Seite |
| Schreiben (KI-Schreibhilfe) | Hinweis in der Seite |
| Kurs-Tutor in Lektionen | Hinweis in der Seite |
| LinguaCoach (Sprach-Tutor) | Hinweis in der Seite |
| Video- und Dokument-Chat | Hinweis in der Seite |
| Training-Coach | Hinweis in der Seite |
| Ernährung (KI-Erfassung) | Hinweis in der Seite |
| BrainCode (KI-Mentor) | Hinweis per Skript |
| Kopfrechnen (KI-Erklärung) | Hinweis per Skript |
| Planer-KI-Chat | Hinweis per Skript |
| Klassen-KI-Tutor | Hinweis per Skript |
| Maskottchen-Frage (Ask) | Hinweis per Skript |
Gespeicherte KI-Texte sind zusätzlich maschinenlesbar als KI-generiert markiert (Art. 50 Abs. 2); die Kennzeichnung bleibt auch nach einer Prüfung durch Nutzende bestehen.
05Fristen der KI-Verordnung
Stand der Zusammenstellung: 12. Oktober 2026.
Quelle: Verordnung (EU) 2024/1689 (KI-Verordnung) in der Fassung der Verordnung (EU) 2026/1744 („Digital Omnibus on AI“); Zusammenstellung im Lerninhalt „EU AI Act“ dieser Plattform (/lernen/eu-ai-act, Zeitachse „Stand 2. August 2026“). Vor rechtlicher Verwendung ist der Wortlaut im Amtsblatt der EU zu prüfen.