Studie: KI-„Schwärme“ könnten Demokratie gefährden

Künstliche Intelligenz (KI) macht es möglich. Sogenannte Fake-Accounts werden immer besser und lassen selbst Videoclips immer echter ausschauen. Davor warnt auch das Max-Planck-Institut für Sicherheit und Privatsphäre. Die nächste Generation der Einflussnahme wird möglicherweise nicht nach offensichtlichen „Copy-Paste-Bots“ aussehen, sondern wie koordinierte Gemeinschaften. Geschwader von KI-gesteuerten Persönlichkeiten, die sich in Echtzeit anpassen, Gruppen infiltrieren und in großem Maßstab den Anschein eines öffentlichen Konsens erwecken können.

Solche „bösartigen KI-Schwärme“ könnten auf authentische Weise soziale Dynamiken imitieren und den demokratischen Diskurs durch die Fälschung sozialer Beweise und sozialen Konsens bedrohen. Ein bösartiger „KI-Schwarm“ ist ein Netzwerk von KI-gesteuerten Agenten, die über dauerhafte Identitäten und Erinnerungen verfügen. Sie können sich auf gemeinsame Ziele abstimmen, dabei Ton und Inhalt variieren und sich an menschliche Reaktionen anpassen.

„Bei unseren Untersuchungen während COVID-19 haben wir beobachtet, dass sich Fehlinformationen genauso schnell über Grenzen hinweg verbreiten wie das Virus selbst“, sagt Meeyoung Cha, Direktorin am Max-Planck-Institut für Sicherheit und Privatsphäre. „KI-Schwärme, die in der Lage sind, einen künstlichen Konsens zu erzeugen, könnten diese Bedrohung in einen noch gefährlicheren Bereich treiben.“