„Künstliche Intelligenz, die für Verhaltensmanipulation genutzt wird, ist besonders problematisch“

Sprachassistenten, Übersetzungssoftware oder Suchmaschinen – in den vergangenen Jahren hat die Entwicklung von KI-Systemen rasante Fortschritte gemacht. Viele der Anwendungen stehen jedoch im Verdacht, die Autonomie oder Selbstbestimmung von Menschen einzuschränken. Auf der anderen Seite bietet künstliche Intelligenz auch viele Chancen und neuen Nutzungsmöglichkeiten. So können digitale Assistenzsysteme im Gesundheitswesen die Selbstbestimmung und Autonomie fördern, indem beispielsweise Menschen mit Seh- oder Hörbehinderung Technologien einsetzen, die die gesprochene Sprache in Text umwandeln (und umgekehrt), um ihre Wahrnehmungseinschränkungen zu kompensieren.

Problematisch sind Technologien der Täuschung und Verhaltensmanipulation

Hingegen greift eine subtile Manipulation der Nutzenden, so genanntes „nudging“ (engl. für "anstoßen", "schubsen" oder "stupsen"), auf Basis der Auswertung großer Datenmengen in die Selbstbestimmung dieser Menschen ein. „Vor allem Technologien wie DeepFakes, also Bilder, Videos oder Sprachdateien, die durch maschinelles Lernen synthetisch hergestellt wurden und die dezidiert zum Zweck der Verhaltensmanipulation und Täuschung entwickelt werden, halte ich für besonders problematisch“, so Dr. Thilo Hagendorff, Medienethiker an der Universität Tübingen und Mitglied im „Forum Privatheit“. Hier seien sowohl der Gesetzgeber aber auch die Entwickler von KI-Technologie selbst gefragt, um Regeln und Grenzen zu definieren. „Nur so kann gesichert werden, dass auch die vielen positiven Potenziale von KI realisiert werden.“

Betroffene Personen sollten den Einsatz von KI selbst bestimmen können 

Rechtliche Rahmenbedingungen für KI-Anwendungen müssten weiterentwickelt werden, sodass betroffene Personen selbstbestimmt entscheiden können, ob und welche personenbezogenen Daten verarbeitet werden. "Die Selbstbestimmung eines Menschen ist ein wesentlicher Grundpfeiler unseres Verfassungssystems. Künstliche Intelligenz und selbstlernende Systeme oder Maschinen stellen jedoch das Recht in vielen Bereichen vor enorme Herausforderungen. Dies darf aber nicht dazu führen, dass wir etablierte Grundprinzipien infolge des von der Technik ausgeübten Drucks aufgeben. Vielmehr müssen insbesondere die datenschutzrechtlichen Prinzipien von Transparenz und Erforderlichkeit, die Ausdruck verfassungsrechtlicher Wertungen sind, die Gestaltung von KI bestimmen", fordert Dr. Christian Geminn, Rechtswissenschaftler an der Universität Kassel und Mitglied im „Forum Privatheit“.

Mehr zum Einfluss künstlicher Intelligenz auf die individuelle und kollektive Selbstbestimmung von Mensch und Gesellschaft sowie konkrete Vorschläge, wie welche Akteure zum Schutz von Selbstbestimmung beitragen können, finden Sie im Policy Paper „Risiken Künstlicher Intelligenz für die menschliche Selbstbestimmung“

Im Forum Privatheit setzen sich Expert*innen aus sieben wissenschaftlichen Institutionen interdisziplinär, kritisch und unabhängig mit Fragestellungen zum Schutz der Privatheit auseinander. Das Projekt wird vom Fraunhofer ISI koordiniert. Weitere Partner sind das Fraunhofer SIT, die Universität Duisburg-Essen, das Wissenschaftliche Zentrum für Informationstechnik-Gestaltung (ITeG) der Universität Kassel, die Eberhard Karls Universität Tübingen, die Ludwig-Maximilians-Universität München sowie das Unabhängige Landeszentrum für Datenschutz Schleswig-Holstein. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Forum Privatheit, um den öffentlichen Diskurs zu den Themen Privatheit und Datenschutz anzuregen.