Eine Landkarte für die KI-Sicherheit

fTeilen

Chatbots, medizinische Diagnosen, intelligente Stromnetze: Algorithmen aus
dem Werkzeugkasten Künstlicher Intelligenz werden in immer mehr Bereichen
eingesetzt. Klar ist, dass die Systeme zuverlässig und sicher
funktionieren müssen. Unklar bleibt jedoch, was „Sicherheit“ bei KI genau
bedeutet und welche Risiken entstehen.

Diese Fragen stehen im Mittelpunkt
des Workshops „AI Risk and Safety Landscape“ (Landschaft der Risiken und
Sicherheit in der Künstliche Intelligenz), der vom 24. bis zum 26.
September am Zentrum für interdisziplinäre Forschung (ZiF) der Universität
Bielefeld stattfindet. Ziel der Forschenden ist es, eine praxisnahe
Übersicht zu erarbeiten.

„Es gibt ganz unterschiedliche Perspektiven auf Künstliche Intelligenz und
die Risiken, die mit ihr einhergehen“, sagt Kryptographie-Experte und IT-
Sicherheitsberater Dr. Alexander Koch (Karlsruhe). Verfahren zur
automatischen Entscheidungsfindung können unfair sein, Chatbots falsche
Antworten geben oder KI-generierte Bilder Verwirrung stiften. Auch die
Möglichkeiten, diesen Gefahren zu begegnen, seien vielfältig: Müssen die
KI-Verfahren robuster sein oder besser an menschliche Ziele angepasst
werden? „Es ist wichtig, diese Risiken und die verschiedenen Ansätze,
ihnen entgegenzuwirken, systematisch zusammenzutragen und zu bewerten“, so
Koch. Er leitet den Workshop zusammen mit Dr. Benjamin Paaßen,
Juniorprofessur für Wissensrepräsentation und Maschinelles Lernen an der
Universität Bielefeld, und Elizabeth Herbert, die an der Technischen
Universität München zu Computational Neuroscience forscht.

„Wir möchten auch klären, wie sich die Gesellschaft insgesamt besser für
den Umgang mit KI-Risiken aufstellen kann“, ergänzt Paaßen. Dazu haben die
Forschenden 15 Kolleg*innen aus acht Ländern ans ZiF eingeladen. Sie
vertreten so unterschiedliche Disziplinen wie Maschinelles Lernen,
Neurowissenschaft, Politikwissenschaft, Regierung und Verwaltung,
Philosophie und Ethik.

Ziel ist Karte zur KI-Risikolandschaft

„Unser Ziel ist, eine verständliche Karte der Risikolandschaft der
Künstlichen Intelligenz, auf der alle wichtigen Gefahren und mögliche
Gegenmaßnahmen verzeichnet sind und die es Individuen und Institutionen
ermöglicht, diese abzuwägen und begründete Entscheidungen zur KI-
Sicherheit zu treffen“, fasst Elizabeth Herbert zusammen.

Alexander Koch und Benjamin Paaßen sind Fellows des „Jungen ZiF“, des
Postdoc-Netzwerks des Zentrums für interdisziplinäre Forschung. Dieses
besteht seit 2002 und bietet herausragenden Forschenden früher
Karrierestufen die Möglichkeit zur Vernetzung und zum interdisziplinären
Diskurs.

Die Arbeitssprache des Workshops ist Englisch. Journalist*innen sind
herzlich eingeladen, über die Veranstaltung zu berichten. Die Leiter*innen
stehen für Medienanfragen gerne zur Verfügung.