Risikobewertung
Lerne, wie du strukturierte Risikobewertungen für deine KI-Systeme durchführst. Das System ordnet automatisch die passende Risikoklasse zu.
Die Risikobewertung ist ein zentraler Bestandteil der EU AI Act Compliance. Sie erfolgt über einen strukturierten Fragebogen mit drei Abschnitten (A, B, C), der automatisch die Risikoklasse bestimmt: Minimal Risk, Limited Risk oder High Risk.
Information
Automatische Einstufung: Die Risikoklasse wird regelbasiert anhand deiner Antworten bestimmt. Du musst keine rechtliche Interpretation vornehmen - das System führt die Zuordnung automatisch durch.
Die drei Abschnitte im Detail
Section A: High-Risk-Trigger
Diese Fragen prüfen, ob das System als High-Risk eingestuft werden muss gemäß EU AI Act Artikel 6.
- Entscheidungen über Personen (Einstellung, Kredit, Versicherung)
- Automatisierte Entscheidungen ohne menschliche Überprüfung
- Rechtliche Auswirkungen (Verträge, rechtliche Beratung)
- Verarbeitung sensibler Daten (Gesundheit, Finanzen, persönliche Daten)
Section B: Limited-Risk-Trigger
Diese Fragen prüfen Limited-Risk-Trigger gemäß EU AI Act Artikel 50-52.
- Interaktion mit Menschen (Chatbots, virtuelle Assistenten)
- Content-Generierung (Text, Bilder, Videos, Audio)
- Emotionale Erkennung oder Manipulation
- Biometrische Identifikation (außer für Sicherheitszwecke)
Section C: Kontext
Diese Fragen erfassen den Nutzungskontext und helfen bei der finalen Einstufung.
- Unterstützend (Mensch behält Kontrolle) vs. autonom
- Intern (nur Mitarbeiter) vs. extern (Kunden, Öffentlichkeit)
- Sensible Domäne (Gesundheit, Justiz, Bildung, etc.)
- Zugriffskontrolle und Sicherheitsmaßnahmen
- 1
System auswählen
Wähle das KI-System aus, für das du eine Risikobewertung durchführen möchtest. Du kannst nur Systeme bewerten, die bereits im Inventar erfasst sind.
- Navigiere zum "Risikobewertung" Bereich
- Wähle ein System aus der Dropdown-Liste
- Das System muss im Inventar vorhanden sein
- 2
Section A: High-Risk-Trigger beantworten
Section A prüft, ob das System High-Risk-Trigger erfüllt. Beantworte die Fragen zu Entscheidungen über Personen, automatisierten Entscheidungen, rechtlichen Auswirkungen und sensiblen Daten.
- Entscheidungen über Personen (z.B. Einstellung, Kreditvergabe)
- Automatisierte Entscheidungen ohne menschliche Überprüfung
- Rechtliche Auswirkungen (z.B. Verträge, rechtliche Beratung)
- Sensible Daten (Gesundheit, Finanzen, persönliche Daten)
- 3
Section B: Limited-Risk-Trigger beantworten
Section B prüft Limited-Risk-Trigger wie Interaktion mit Menschen und Content-Generierung. Diese Fragen sind relevant für Systeme, die mit Endnutzern interagieren.
- Interaktion mit Menschen (Chatbots, virtuelle Assistenten)
- Content-Generierung (Text, Bilder, Videos)
- Emotionale Erkennung oder Manipulation
- Biometrische Identifikation
- 4
Section C: Kontext erfassen
Section C erfasst den Kontext der Nutzung: Ist das System unterstützend oder autonom? Wird es intern oder extern genutzt? Gibt es sensible Domänen?
- Unterstützend vs. autonom
- Intern vs. extern
- Sensible Domäne (Gesundheit, Justiz, etc.)
- Zugriffskontrolle und Sicherheit
- 5
Bewertung durchführen
Nach dem Beantworten aller Fragen klicke auf "Bewertung durchführen". Das System wertet deine Antworten regelbasiert aus und ordnet das System automatisch einer Risikoklasse zu.
- Klicke auf "Bewertung durchführen"
- Das System wertet automatisch aus
- Risikoklasse wird angezeigt: Minimal, Limited oder High Risk
- Ergebnis wird gespeichert
Risikoklassen
Minimal Risk
Systeme, die keine High-Risk- oder Limited-Risk-Trigger erfüllen.
- • Basis-Dokumentation erforderlich
- • Privacy-Alignment
- • Keine speziellen Compliance-Pflichten
Limited Risk
Systeme mit Limited-Risk-Triggern (z.B. Chatbots, Content-Generierung).
- • Transparenz-Hinweise erforderlich
- • Content-Kennzeichnung
- • Support-Kanal bereitstellen
High Risk
Systeme mit High-Risk-Triggern (z.B. Einstellung, Kreditvergabe).
- • Vollständige Compliance-Checkliste
- • Risikomanagement-System
- • Daten-Governance
- • Technische Dokumentation
- • Human Oversight
Assessment-Versionierung
Wenn sich ein KI-System ändert oder du eine neue Bewertung durchführen möchtest, kannst du ein neues Assessment erstellen. Alle Assessments werden versioniert und im Audit-Log gespeichert.
Neues Assessment erstellen
- Wähle das System aus, für das du ein neues Assessment erstellen möchtest
- Klicke auf "Neues Assessment"
- Beantworte die Fragen erneut
- Führe die Bewertung durch
- Das neue Assessment wird als neue Version gespeichert
Wichtig
Wichtig: Assessments sollten regelmäßig überprüft werden, insbesondere wenn sich das System oder seine Nutzung ändert. Das System erinnert dich an Assessments, die älter als 12 Monate sind.