Planckton

Neue Datenschutzregeln schön und gut. Es geht aber um mehr. Der Krieg um Daten ist der Krieg ums Leben. Er wird zur Abwehrschlacht gegen unmenschliche Intelligenz, warnt das “Digital-Manifest”. Dabei scheint die Lösung so einfach.

Man kann sich für die Feiertage besinnlicheren Stoff zum Nachdenken wünschen, als ihn die ehrwürdige Spektrum-Redaktion in Kürze präsentiert. Andererseits: Vielleicht klammern wir auch einfach schon zu viel aus, über das nachzudenken sich wirklich lohnt. Unangenehme Dinge vor allem, die wir zu weit in die Zukunft verorten, oder Dinge, die wir für erledigt halten oder ganz und gar dem Problemkreis anderer zurechnen. Nun ist Adventszeit ja die Zeit der Vorbereitung. Genau deshalb, aber auch weil es sich bei dem Problemkreis, um das sich das Spektrum-Heft dreht, eben nur beim ersten Blick um ein Thema handelt, das wir für abgestanden, fernliegend und abstrakt halten könnten, will ich es hier aufgreifen: Es geht um die Gefährdung unserer Demokratie durch künstliche Intelligenz.

© dpaFinstere Mächte

Wenn man die Digitalisierung nur weit genug fasst und vor allem ihre Wurzeln berücksichtigt, handelt es sich sogar um ein übergeordnetes Phänomen  – um demokratiegefährdende Auswüchse der Wissenschaft schlechthin. Im konkreten Fall geht es um die Verwendung und den Missbrauch von Wissen und Daten. Um Big Data. Und alles, was daraus gemacht wird.

In einem anderen Zusammenhang, als es um die technologischen Auswüchse der Digitalisierung in den Lebenswissenschaften, der neuen Gen- und Biotechniken, ging, habe ich es unter der Überschrift “dunkle Macht“ der Wissenschaften thematisiert. Oft bin ich gefragt worden, ob das nicht einen Schwung zu negativ war, zu pessimistisch, rufschädigend sogar. Dabei ging es eindeutig aber gerade nicht um finstere Absichten von  Wissenschaftlern, die sie verfolgen, wenn sie ihre datengetriebenen und vergleichsweise präzisen Verfahren auf Lebewesen anwenden, auf Menschen allzumal. Es ging vielmaher darum, wie die Wissenschaft draußen wahrgenommen wird mit dem, was sie dank der immer stärker beschleunigten Verschiebung von Machbarkeitsgrenzen inzwischen erreichen können.

© dpaLeben Sie schon oder trotteln sie noch?

Wie formulierte es einer, der das kraft seines Amtes von drinnen nach draußen kommuniziert: „Das Biohacking des Menschen läuft.“ Markus Hengstschläger, Genetiker und Chef der österreichischen Bioethik-Kommission, sieht seine Zunft an einem historischen Punkt und fürchtet, dass erstmals in der Geschichte unserer Gattung das „endogene Grundgerüst des Menschen zur Disposition steht“. Mit Genome-Editing, so fürchtet er, könnte schon bald ein Weg direkt zur Selbstoptimierung führen, am Ende zum gefährlichen Spiel mit dem Schicksal nachfolgender Generationen. Nun, wenn Genom-Manipulation der Verlust der Natürlichkeit im Inneren darstellt, könnte das, was in der Spektrum-Veröffentlichung behandelt wird, als der Frevel an an dem äußeren Grundgerüst des Menschseins, seiner Selbstbestimmung, und damit als Verrat an unseren kulturellen Errungenschaften bezeichnet werden. Es geht, um es auf den Punkt zu bringen, um die fortschreitende Manipulation unseres Verhaltens durch digitale Systeme. Um Fremdsteuerung und Fremdoptimierung.

Neun namhafte und manche durchaus prominente Wissenschaftler, Kultur- wie Naturwissenschaftler, Sozial- und Bildungsforscher, IT-Praktiker und –Theoretiker, haben sich gemeinsam zur Formulierung eines „Digital-Manifestes“ verabredet. Sie haben eine „Strategie für das digitale Zeitalter“ entwickelt. Das erinnert natürlich nicht zufällig an das „Hirn-Manifest“ vor mehr als zehn Jahren, das sich mit den kritischen Auswüchsen der Hirnforschung, vor allem mit den Ausüchsen in der Deutungshoheit vieler Hirnforscher auseinandersetzte und im Spektrum-Ableger „Gehirn und Geist“ erschienen war. Einige Kollegen, denen ich das Digital-Manifest vorlegte, als der Text – vorab – online erschienen war, reagierten, wie es nach den jüngsten Mahnreden noch sehr viel prominenterer Wissenschafter und IT-Praktiker wie Stephen Hawking, Bill Gates, Steve Wozniak oder Elon Musk zu erwarten war: Noch ein paar Kassandras mehr, bitte nicht? Lernende künstliche Intelligenz, die bald unseren Planeten und unser Verhalten beherrscht, Mess-Sonsoren, die flächendeckend und pausenlos unser Leben erfassen, autonome Waffensysteme und Rechner, die uns unsere Identität rauben und uns diktieren, was wir zu kaufen und zu entscheiden haben – all das ist schon von Eingeweihteren und von echten (teilgeläuterten) Visionären beklagt worden.

© AFPBegegnung auf neutralem Boden: Roboter “Yemo” des Deutschen Zentrums für Künstliche Intelligenz.

Mancher wie Elon Musk, der Gründer der Firma Tesla und des Paypal-Bezahlsystems wollen auch immer wieder unter Beweis stellen, dass sie die Bedrohung ernst nehmen: Eine Milliarde Dollar hat er soeben in die Gründung eines neuen Ethik-Instituts gesteckt – „Open-AI“-, das am Ende in der Lage sein soll zu sagen, was gute und was gefährliche künstliche Intelligenz ist. Keine Frage, die Richtung ist grundsätzlich dieselbe. Was aber das Digital-Manifest von vielen dieser prominenten Mahnschreiben an die Öffentlichkeit unterscheidet, ist die kritische Nähe, die es beim Durchlesen erzeugt. Das sind keine Tech-Cowboys und IT-Millionäre, die Angst haben, dass man übers Ziel hinausschießt und am Ende die ganze Branche desavouiert – dass die vielen wohltätigen Ziele, die man doch mit der Verbreitung oder wenigstens der Verteidigung der digitalen Revolution vermittelt hat, unter dem Regime intelligenter Maschinen vergessen werden. Hier sind es vielmehr neun unabhängige Forscher, zusammengeführt von dem Züricher Physiker und Soziologen Dirk Helbing und dem Berliner Risikoforscher und Psychologen Gerd Gigerenzer, die wie der Genforscher Hengstschläger, die „Menschheit an einem Scheideweg“ sehen.

Natürlich hat man Sätze wie den schon gehört und gelesen: „Die Entwicklung verläuft von der Programmierung von Computern zur Programmierung von Menschen.“ In Frank Schirrmachers „Ego – Spiel des Lebens“ kann man die entsprechenden Szenarien der digitalen Verhaltensmanipulationen in extenso nachlesen. Aber kommt solches Wachrütteln überhaupt noch an, dringen die Warnungen durch, fragt der Mainzer Neurophoilosoph Thomas Metzinger, der in einem ebenfalls soeben publizierten Diskussionspapier der Stiftung für effektiven Altruismus mit dem unspektakulären Titel “Künstliche Intelligenz: Chancen und Risiken” die Gefahren durch das Wettrüsten mit lernenden, sich selbst optimierenden Systemen wie Googles “Deep Mind”  kaum geringer schätzt als die Manifest-Autoren.

© dpaGut oder böse? “Apollo” aus dem Max-Planck-Institut für intelligente Systeme in Tübingen.

Hier wie dort werden spekulative Szenarien entwickelt, Extrapolationen vorgenommen oder exponentielles Wachstum der dämonischen KI  angetrieben von der Sorge, dass sich der Clash der Intelligenzen kaum noch vermeiden lässt. Im Digital-Manifest kristalliert sich  das in Vokabeln wie „Gesinnungsüberwachung“ oder „Nudging“, das in der Verhaltsnökonomie und längst auch in der Politik Karriere gemacht hat. Es sind, kann man trocken feststellen, keine unbekannten IT-Bedrohungsszenarien. Aber macht sie die Wiederholung deswegen weniger wichtig? Je konkreter die Sache erläutert wird, umso deutlicher werden sie – und sprachlich unzweideutiger: die digitalisierte „Volksverdummung“ sei die eigentliche Gefahr. Genau an der Stelle ertappt man sich, wie man sich von den Phrasen der Schönwetterrevolutionäre fesseln lässt. Wiederkehrende Phrasen wie die: „Fit für den digitalen Wandel?“ Oder die gehobene Aufforderung zum Trittbrettfahren auf dem IT-Welteroberungszug: „Kompetenzen sind ein Schlüsselfaktor für Unternehmen in digitalen transformationsprozessen.“ Maschinenintelligenz erfüllt wie die Gentechnik die klassischen Kriterien des Dual-Use-Dilemmas: Sie ist vom Grundatz her nützlich, die Motive ihrer Schöpfer sind fast immer positiv – sie kann behinderten Menschen helfen, Mobilitätsbarrieren abzubauen. Sie kann aber ebenso zur Mobilitätsfalle werden, wenn sie den Menschen der Untätigkeit ausliefert und zur Gedankenlosigkeit verdammt. Von der Selbstentblößung im Datenpool zur hilfreichen Automatisierung und von dort zur kollektiven Entmündigung im Alltag.

Die Befürchtung der neun Wissenschaftler ist ja völlig nachvollziehbar: Dass wir uns weiter und immer öfter und völlig widerstandslos auf intelligente Systeme verlassen müssen, die ihre moralische Berechtigung nicht mal ansatzweise unter Beweis stellen müssen. In der akademischen Welt, stellen die Autoren beispielsweise fest, gelten selbst harmlose Entscheidungsexperimente mit Studenten als Versuche am Menschen und bedürfen der Beurteilungen durch eine Ethikkomission, die der Öffentlichkeit Rechenschaft schuldet. Manipulative Werbetechniken hingegen, die lernende Rechner auf uns hetzen und unsere Aufmerksamkeit in die gewünschten Kanäle –   in „Informations-Filterblasen“ – steuern, können völlig unkontrolliert installiert und verbreitet werden.

© Reuters“Vesuvius”-Prozessor aus dem Quantum Artificial Intelligence Laboratory.

Sind Restriktionen und Verbote also die Lösung für das Problem? Bemerkenswerter Weise, und genau deshalb ist dieses Manifest über die allgemeine Klage hinaus eine breite Debatte wert, halten die neun Wissenschaftler das für den falschen Weg. Top-down sei veraltet. Was jetzt zähle sind „föderale Systeme und Mehrheitsentscheidungen“. Die Gefahr für die Demokratie mit den Waffen der Demokratie beseitigen. So schlagen wahre Aufklärer zurück. Es soll kein Stoppschild aufgestellt werden für den digitalen Schnellzug, sondern die Kontrolle wieder gewonnen werden über die Algorithmen und Daten. Das klingt gut. Praktisch gesehen könnten das den Vorstellungen der neun Autoren zufolge „Daten-Treuhänderinnen übernehmen – unabhängige wissenschaftliche Institutionen, die die Daten verwalten. Die dafür sorgen, dass Kopien aller Informationen, die über den Einzelnen gesammelt werden, „in einem stanardisierten Format automatisch an eine persönliche Datenmailbox gesandt werden“, welche der Bürger selbst steuern kann. Und spätestens an der Stelle tauchen dann die Fragen auf, die in dem Digital-Manifest unbeantwortet bleiben. Denn wer bitte schön sollte denn diese „Institution“ sein, der nach all den Geheimdienst-Enthüllungen der letzten Jahre eine Mehrheit noch seine Datenbox anvertrauen wollte – und könnte? Die jetzt beschlossene Datenschutzreform der EU, die Internetnutzern mehr Rechte auf ihre eigenen Daten einräumt, aber ohnehin erst 2018 in Kraft treten soll, gibt jedenfalls auf all das noch keine erschöpfende Antwort.

© Wissenschaft kommuniziert 

Noch ein Hinweis in eigener Sache:

Es ist wieder so weit: „Wissenschaft kommuniziert“ ruft die Leser zum fünften Mal auf, den Wissenschaftsblog des Jahres zu wählen. „Planckton“ ist auch diesmal wieder unter den nominierten Blogs. Grundlage ist die Platzierung im  Top Blog-Ranking von Teads Labs, das nicht nur Klickzahlen berücksichtigt, sondern auch Verlinkungen und Querverweise.  Ein Klick und Sie können für Planckton ihre Stimme abgeben. Wählen Sie hier.