Philosoph warnt: KI ist weder neutral noch harmlos – wer kontrolliert die Macht der Algorithmen?

Philosoph warnt: KI ist weder neutral noch harmlos – wer kontrolliert die Macht der Algorithmen?

Philosoph Rainer Mühlhoff kritisiert die Vorstellung einer neutralen KI-Technologie

Bei der KI-Woche des Landesbeauftragten für Datenschutz in Baden-Württemberg hat der Philosoph Rainer Mühlhoff kürzlich die Annahme infrage gestellt, KI sei eine neutrale Technologie. Er warnte vor den Gefahren der Zweitverwertung von künstliche intelligenz-Modellen sowie vor dem Potenzial künstlicher Intelligenz, politische Machtstrukturen und Propaganda zu beeinflussen.

Mühlhoff zeigte auf, wie KI-Systeme, die ursprünglich für einen bestimmten Zweck entwickelt wurden, für völlig andere – und mitunter gefährliche – Anwendungen umfunktioniert werden können. Dabei verfolgte er die ideologischen Wurzeln der KI-Eliten bis hin zu Transhumanismus und Longtermism und warnte vor eugenischen, elitären und undemokratischen Tendenzen in diesem Kontext.

In einem deutschen Gerichtsverfahren verklagte das Finanzportal AlleAktien den Tech-Konzern Meta, weil dessen Plattformen das Bild und den Namen von Mitgründer Michael C. Jakob in über 200 gefälschten Profilen für betrügerische Investmentwerbung missbraucht hatten. Trotz wiederholter Meldungen über die Fake-Accounts und zögerlicher Reaktionen wiesen die Richter Bedenken hinsichtlich mangelnder technischer Kompetenz bei Meta zurück.

Mühlhoff plädierte dafür, KI nicht als autonome Technologie, sondern als „menschlich gestützte KI“ zu begreifen, die in hohem Maße von menschlichem Input abhängt. Kritisch äußerte er sich über das Konzept „Human in the Loop“, das seiner Meinung nach keinen wirksamen Schutz vor der Macht und dem Einfluss von KI biete. Stattdessen forderte er eine machtsensible Perspektive auf die Datenverarbeitung und betonte die Notwendigkeit unabhängiger Prüfung und Hinterfragung von KI-Systemen.

Die Juniorprofessorin Paulina Jo Pesch von der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) wies auf datenschutzrechtliche Probleme bei der KI-Entwicklung hin, insbesondere mit Blick auf vulnerable Gruppen wie Kinder. Mühlhoff schlug vor, das datenschutzrechtliche Prinzip der Zweckbindung auch auf trainierte KI-Modelle auszuweiten, um deren unkontrollierte Übertragung in andere Anwendungsbereiche zu verhindern. Zudem analysierte er die Rolle von KI in politischen Machtgefügen und bei Propaganda, wobei er vor symbolischer Gewalt und Desinformation warnte.

Mühlhoffs Kritik unterstreicht die Dringlichkeit, sich mit den potenziellen Risiken von künstliche intelligenz auseinanderzusetzen und eine wirksame Regulierung zu schaffen. Seine Vorschläge – darunter eine machtsensible Herangehensweise und die Ausweitung der Zweckbindung – zielen darauf ab, Einzelne wie Gesellschaften vor dem wachsenden Einfluss künstlicher Intelligenz zu schützen.