Wie Sprachmodelle „denken“
KI arbeitet nicht mit Fakten, sondern mit Wahrscheinlichkeiten. Sie denkt nicht in Wörtern, sondern in „Tokens“ (Wortbausteinen), die kontextbezogen vorhergesagt werden.
Die Illusion der Wahrheit
Input / Trainingsdaten: Internetquellen, menschliche Meinungen, Vorurteile, kulturelle Kontexte.
Verarbeitung: Fehlendes Erfahrungs-Wissen, reine Mustererkennung.
Output / Risiken: KI halluziniert (erfindet Quellen und Sachverhalte). KI BIAS (Algorithmische Verzerrung) z. B. eine Gesichtserkennungs-Software funktioniert schlechter bei Frauen oder People of Color, wenn sie primär mit Fotos von weißen Männern trainiert wird. KI und Urheberrecht (beim Training von KI-Anwendungen & bei der Nutzung des KI-generierten Ergebnisses).
EU-Risikoklassen
Unannehmbares Risiko (verbotene KI-Systeme): Systeme, die eine klare Bedrohung für die Sicherheit, den Lebensunterhalt oder die Rechte von Menschen darstellen.
Beispiele: Social Scoring (staatliche Bewertung des Sozialverhaltens), manipulative Systeme, die das Verhalten beeinflussen, biometrische Identifizierung in Echtzeit im öffentlichen Raum (mit wenigen Ausnahmen).
Konsequenz: Diese Anwendungen sind in der EU verboten.
Hohes Risiko (Hochrisiko-KI-Systeme): KI-Anwendungen, die erhebliche negative Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte haben können.
Beispiele: Einsatz in kritischen Infrastrukturen (Verkehr), medizinische Diagnosesysteme, KI im Personalwesen (Recruiting, CV-Screening), Kreditwürdigkeitsprüfung, Strafverfolgung.
Konsequenz: Strenge Auflagen müssen erfüllt werden, darunter Risikomanagement, hohe Datenqualität, technische Dokumentation und menschliche Aufsicht.
Begrenztes Risiko (Limited Risk): KI-Systeme, bei denen bestimmte Transparenzpflichten gelten, um Nutzer über die Interaktion mit einer KI zu informieren.
Beispiele: Chatbots (z. B. ChatGPT, Copilot), Deepfakes (KI-generierte Inhalte).
Konsequenz: Transparenzpflichten: Nutzer müssen wissen, dass sie mit einer KI interagieren.
Minimales oder kein Risiko: Die Mehrheit der KI-Anwendungen, die alltäglich genutzt werden und keine signifikanten Gefahren bergen.
Beispiele: Spam-Filter, KI-gestützte Videospiele, Empfehlungsalgorithmen (Netflix/Amazon).
Konsequenz: Keine speziellen Regulierungen durch den AI Act, freiwillige Verhaltensregeln sind jedoch möglich.
KI in Vereinen
Datenschutz und DSGVO: keine personenbezogenen Daten; prüfen, ob ein Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter geschlossen werden kann; der Einsatz von KI sollte in der Datenschutzerklärung des Vereins erwähnt werden
Rechtliche Rahmenbedingungen: Urheberrecht; Haftung; KI-Verordnung (AI Act)
Urheberrecht: Texte oder Bilder, die von KI generiert wurden, sind urheberrechtlich oft nicht geschützt. Zudem besteht das Risiko, bei der Nutzung fremde Urheberrechte zu verletzen.
Haftung: Der Vorstand haftet für die Ergebnisse der KI. Eine inhaltliche Prüfung jedes KI-generierten Textes ist unerlässlich.
Organisatorische Vorbereitung: Ziele definieren; Transparenz & Einverständnis; Schulung & Kompetenzaufbau; Verantwortlichkeiten festlegen
Technische Anbindung: Zugangsrechte; Auswahl der Tools
