KI-Verordnung — Transparenz

Information nach EU-KI-Verordnung (VO (EU) 2024/1689), insb. Art. 13, Art. 50 und Anhang III Nr. 3 (Allgemeine und berufliche Bildung)

1. Was ist die EU-KI-Verordnung?

Die KI-Verordnung (offiziell: Verordnung (EU) 2024/1689) ist das erste umfassende Gesetz zur Regulierung Kuenstlicher Intelligenz in der Europaeischen Union. Sie ist am 1. August 2024 in Kraft getreten und gilt gestaffelt:

• Seit 2. Februar 2025: Verbotene KI-Praktiken (Art. 5) und Pflicht zur KI-Kompetenz (Art. 4).
• Seit 2. August 2025: Pflichten fuer Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI).
• Ab 2. August 2026: Pflichten fuer Hochrisiko-KI-Systeme nach Anhang III (u.a. Bildung).
• Ab 2. August 2027: Pflichten fuer Hochrisiko-KI-Systeme nach Anhang I.

2. Risikoklassifikation von CirCur360

CirCur360 setzt KI ein, um Lerninhalte zu generieren, Lernfortschritt zu adaptieren und Antworten zu bewerten. Wir klassifizieren die eingesetzten Funktionen wie folgt:

• Generierung von Lerninhalten(Lektionen, Quizzes, Storyboards, MINT-Aufgaben) — begrenztes Risiko (Art. 50): Lernende werden klar darauf hingewiesen, dass diese Inhalte automatisiert erstellt wurden.
• Adaptive Empfehlungen(VARK-Match, CEFR-Niveaufilter, Bloom-Klassifikation) — begrenztes Risiko: Hilfsfunktionen ohne automatisierte Einzelfallentscheidung mit Rechtswirkung.
• Pruefungs-/Bewertungsfunktionen— werden in CirCur360 ausschliesslich als Vorbewertung eingesetzt; die endgueltige Notenfeststellung erfolgt durch eine menschliche Lehrkraft. Sollten zukuenftig autonome Bewertungen mit Auswirkung auf Bildungslaufbahn implementiert werden, gilt dies als Hochrisiko-System nach Anhang III Nr. 3 lit. b und unterliegt entsprechenden Pflichten (Konformitaetsbewertung, CE-Kennzeichnung, Eintrag in EU-Datenbank).

3. Eingesetzte KI-Funktionen

Folgende KI-Funktionen kommen in CirCur360 zum Einsatz. Lernende und Lehrkraefte werden vor jeder KI-generierten Ausgabe in der Benutzeroberflaeche kenntlich gemacht (Symbol ü SparkleIcon, Hinweistext „KI-generiert“).

• Inhaltsgenerierung: Quizfragen, Lektions-Outlines, MINT-Aufgaben, Storyboards, Onboarding-Texte.
• Klassifikation: Bloom-Taxonomie-Stufe (1–6), CEFR-Sprachniveau (A1–C2), VARK-Lernstil, sokratischer vs. direkter Frage-Stil. Trainiert auf Open-Source-Embeddings (BAAI/bge-m3) mit logistischer Regression; lokal gehostet.
• Retrieval-Augmented Generation (RAG): Suche und Einbindung von hochgeladenen Lehrwerken in Generierungsprozesse.
• Sprachverarbeitung fuer Diagnose: Auswertung von Freitext-Antworten zur Lernstandsfeststellung.

4. Eingesetzte KI-Anbieter und Datenflusswege

Die Wahl des konkreten KI-Anbieters trifft der Betreiber der jeweiligen Instanz im Admin-Panel. Folgende Optionen stehen zur Verfuegung — in absteigender Reihenfolge der Daten-Souveraenitaet:

• Ollama (lokal, self-hosted): Modelle laufen auf dem Server der Instanz, kein Drittland-Transfer, kein externer API-Aufruf.
• Mistral AI (Frankreich, EU): Verarbeitung ausschliesslich innerhalb der EU. AVV gemaess Art. 28 DSGVO.
• Aleph Alpha (Deutschland): Verarbeitung in Deutschland. AVV vorhanden.
• Anthropic (USA): Verarbeitung in den USA. Nur mit aktivem AVV inkl. Standardvertragsklauseln (SCC) und ausdruecklicher Einwilligung der Lernenden.
• OpenAI (USA), Google Gemini (USA): wie oben — nur mit AVV + SCC + Einwilligung.

Wir empfehlen Bildungseinrichtungen die Nutzung der EU-/lokalen Optionen (Ollama, Mistral, Aleph Alpha), insbesondere wenn minderjaehrige Lernende beteiligt sind.

5. Transparenz und Kennzeichnungspflicht (Art. 50 KI-VO)

Wir setzen die Pflicht aus Art. 50 KI-VO konkret wie folgt um:

• Jede automatisch generierte Ausgabe traegt in der UI einen Hinweis„KI-generiert“ und ein unterscheidbares Icon.
• Generierte Inhalte werden bevor sie an Lernende ausgegeben werden standardmaessig durch die Lehrkraft freigegeben (4-Augen-Prinzip; vgl. Approval-Workflow im Lehrkraftbereich).
• Im API-Bereich (Headless-Mode) werden generierte Inhalte mit den Metadaten autoTags und provider maschinenlesbar markiert.
• Bildmaterial mit synthetischem Ursprung wird, sofern verwendet, mit einem Wasserzeichen oder einem entsprechenden provenance-Metadatum versehen (vgl. Art. 50 Abs. 2 KI-VO).

6. Menschliche Aufsicht (Human Oversight)

CirCur360 ist als assistive Plattform konzipiert. KI generiert Vorschlaege, die menschliche Entscheidungstraeger (Lehrkraefte, Mentor:innen) jederzeit einsehen, anpassen oder verwerfen koennen:

• Generierte Lerninhalte landen vor Veroeffentlichung im Approval-Workflow der Lehrkraft.
• Adaptive Empfehlungen sind Hinweise; Lernende koennen sie jederzeit ueberschreiben.
• Bewertungen werden nicht autonom finalisiert — die Lehrkraft bestaetigt vor Ausstellung von Zertifikaten.

7. Daten zum Training und Bias-Mitigationen

CirCur360 nutzt vortrainierte Drittanbieter-Modelle (siehe Abschnitt 4) sowie eigens trainierte Klassifikator-Modelle auf Basis oeffentlicher Embeddings. Fuer die eigenen Klassifikatoren gilt:

• Trainingsdaten: synthetisch erzeugte Beispiele (LLM-as-judge), ueberprueft auf interne Konsistenz und Genauigkeit auf einem gehaltenen Validierungs-Set.
• Mess-Werte (Test-Set, Stand 2026-04-27): Bloom 89 %, CEFR 84 %, VARK 96 %, Sokratisch 100 %.
• Verfahren zur Bias-Reduktion: ausgewogene Klassen-Verteilung in den Trainingsdaten, regelmaessige Inspektion auf systematische Fehlklassifikationen, Drift-Monitoring.
• Lernende koennen Fehlklassifikationen melden — entsprechende Beispiele fliessen ins naechste Training.

8. Rechte der Betroffenen

Zusaetzlich zu den Rechten nach DSGVO (siehe Datenschutzerklaerung, Abschnitt 6) ergeben sich aus der KI-Verordnung folgende konkrete Rechte:

• Recht auf Erklaerung (Art. 86 KI-VO): Bei Entscheidungen, die unter Einsatz eines Hochrisiko-KI-Systems getroffen werden, koennen Betroffene eine klare und sinnvolle Erlaeuterung der Rolle des Systems im Entscheidungsprozess verlangen.
• Recht auf Beschwerde (Art. 85 KI-VO): Beschwerden ueber moegliche Verstoesse koennen bei der zustaendigen nationalen Marktueberwachungsbehoerde eingereicht werden.
• Recht, nicht ausschliesslich automatisiert entschieden zu werden(Art. 22 DSGVO): Wir treffen keine Entscheidungen mit erheblicher Wirkung allein anhand automatisierter Verarbeitung — eine menschliche Pruefung ist stets vorgesehen.

9. Zustaendige Aufsichtsbehoerden in Deutschland

Die nationale Aufsicht ueber die KI-Verordnung wird in Deutschland gemeinsam von folgenden Stellen wahrgenommen:

• Bundesnetzagentur (BNetzA): koordinierende Marktueberwachungsbehoerde fuer KI-Systeme.
• Bundesbeauftragte(r) fuer den Datenschutz und die Informationsfreiheit (BfDI): zustaendig fuer Datenschutz-Aspekte (Art. 26 KI-VO i.V.m. DSGVO).
• Europaeisches Buero fuer Kuenstliche Intelligenz (AI Office, Bruessel): europaweite Koordination.

10. Vorfallsmeldungen und Incident-Reporting

Schwere Vorfaelle im Sinne von Art. 73 KI-VO (z. B. diskriminierende Wirkungen, sicherheitsrelevante Fehlfunktionen) werden von uns unverzueglich an die Marktueberwachungsbehoerde gemeldet. Anwender:innen koennen Vorfaelle an folgende Adresse melden:

[Firma/Name eintragen]
E-Mail: [Kontakt-Email]

11. KI-Kompetenz (Art. 4 KI-VO)

Wir stellen Lehrkraeften und Administratoren der Plattform Schulungsmaterial zur sicheren Nutzung von KI-gestuetzten Funktionen zur Verfuegung. Beim Anlegen von KI-Arbeitsablaeufen werden Hinweise auf Grenzen, typische Fehler und Verifikationspflichten eingeblendet.

12. Verbotene KI-Praktiken (Art. 5 KI-VO)

CirCur360 setzt keine der nach Art. 5 KI-VO verbotenen Praktiken ein, insbesondere kein Social Scoring, keine emotionale Erkennung am Arbeitsplatz oder in Bildungseinrichtungen ohne medizinischen oder Sicherheits-Anlass und keine biometrische Kategorisierung.

13. Anfragen zur KI-Nutzung

Bei Fragen zu konkreten KI-Funktionen, eingesetzten Modellen oder zur Ausuebung Ihrer Rechte nach KI-Verordnung wenden Sie sich an:

[Firma/Name eintragen]
E-Mail: [Kontakt-Email]

Stand: April 2026 (v7.5.0-rc1+). Diese Erklaerung wird angepasst, sobald sich der Funktionsumfang oder die eingesetzten Anbieter aendern, spaetestens jedoch zum naechsten gestaffelten Geltungsbeginn der KI-Verordnung.