| name | gpai-systemisches-risiko-schwelle-10e25-flop |
| title | GPAI-Modelle mit systemischem Risiko — Art. 51 bis 55 KI-VO |
| description | Anbieter eines sehr grossen Basismodells fragt: Haben wir die Schwelle für systemisches Risiko ueberschritten und welche Zusatzpflichten gelten dann? Art. 51 und 55 KI-VO GPAI systemisches Risiko. Prüfraster: Schwellenwert 10 hoch 25 FLOP Trainingsrechenleistung Notifikationspflicht Kommission Art. 52 Abs. 1. Zusatzpflichten Art. 55: Modellbewertungen Gegenmassnahmen Vorfallmeldung Cybersicherheit adversarielle Tests. Output: Pflichtenprogramm systemisches-Risiko mit Fristen und Nachweisdokumentation. Abgrenzung zu gpai-modelle-art-51-bis-55 (Basis-GPAI-Pflichten). |
| author | Klotzkette |
| author_url | https://github.com/Klotzkette/claude-fuer-deutsches-recht/tree/main/ki-vo-ai-act-pruefer/skills/gpai-systemisches-risiko-schwelle-10e25-flop |
| license | Apache-2.0 |
| version | 0.1.1 |
| execution_mode | open |
| jurisdiction | eu |
| practice | regulatory |
| language | de |
GPAI-Modelle mit systemischem Risiko — Art. 51 bis 55 KI-VO
Zweck
Bestimmte GPAI-Modelle mit sehr hoher Trainingsrechenleistung gelten als Modelle mit systemischem Risiko und unterliegen verschärften Pflichten. Dieser Skill klärt den Schwellenwert, die Notifikationspflicht und die zusätzlichen Anforderungen.
Schwellenwert — 10e25 FLOP (Art. 51 Abs. 1 lit. a KI-VO)
Ein GPAI-Modell gilt als Modell mit systemischem Risiko, wenn die kumulierte Trainingsrechenleistung 10e25 FLOP (Floating Point Operations) übersteigt.
Was ist FLOP? FLOP ist eine Maßeinheit für Rechenoperationen. 10e25 FLOP entspricht zehn hoch 25 Rechenoperationen — eine sehr hohe Schwelle, die zum Zeitpunkt der Verabschiedung der KI-VO nur von den größten bekannten Grundmodellen überschritten wurde.
Prüffragen:
- Kennt Ihr Unternehmen die kumulierte Trainingsrechenleistung des Modells?
- Überschreitet diese Rechenleistung 10e25 FLOP?
Wenn unklar: Die Berechnung der FLOP-Trainingsrechenleistung hängt von Architektur, Datenmenge und Trainingszeit ab. Im Zweifelsfall sind technische Experten und das Europäische KI-Büro zu konsultieren.
Systemisches Risiko durch Kommissionsbeschluss (Art. 51 Abs. 1 lit. b KI-VO)
Unabhängig von der FLOP-Schwelle kann die Kommission ein GPAI-Modell durch Beschluss als Modell mit systemischem Risiko einstufen, wenn es auf der Grundlage bestimmter Kriterien ein systemisches Risiko darstellt. Solche Beschlüsse können auch für Modelle unterhalb der FLOP-Schwelle gelten.
Kriterien für einen Kommissionsbeschluss:
- Anzahl der Nutzer (Erreichung kritischer Masse)
- Einsatz in Hochrisikobereichen
- Marktmacht des Anbieters
- Potenzielle Auswirkungen auf demokratische Prozesse
Notifikationspflicht (Art. 52 Abs. 1 KI-VO)
Anbieter von GPAI-Modellen, die die FLOP-Schwelle überschreiten, müssen dies der Kommission vor dem Inverkehrbringen des Modells mitteilen.
Inhalt der Notifikation:
- Identität des Anbieters
- Trainingsrechenleistung
- Datum des Inverkehrbringens oder der Bereitstellung
Anbieter können auch freiwillig eine Selbsteinstufung vornehmen, wenn sie meinen, dass ihr Modell systemisches Risiko aufweist.
Zusätzliche Pflichten für Modelle mit systemischem Risiko (Art. 55 KI-VO)
Pflicht 1 — Modellbewertung (Art. 55 Abs. 1 lit. a KI-VO)
Anbieter müssen:
- Das Modell auf der Grundlage standardisierter Protokolle und Tools evaluieren
- Systemische Risiken identifizieren und bewerten
