Fortschrittliche Datenanalyse ermöglicht es Forscherinnen und Forschern, Muster zu erkennen, Ergebnisse vorherzusagen und Wahrscheinlichkeiten zuzuordnen. Roboter, die mit Künstlicher Intelligenz ausgestattet sind, können menschliche Ausdrücke und Gefühle lesen, Krankheiten diagnostizieren, menschliche Reaktionen simulieren oder den Menschen Handlungsempfehlungen geben.

„DIE MENSCHEN FÜHLEN EINE GEWISSE ZUNEIGUNG ZU NEUEN TECHNOLOGIEN.“

Welche Konsequenzen hat diese größere Transparenz für die Zukunft der Menschen? Führt eine erhöhte Fähigkeit, individuelle Schicksale vorherzusagen, zu einer vorhersehbaren Zukunft für alle? Wie viel Gestaltungsspielraum haben wir beim Einfluss von Big Data und KI auf die Privatsphäre und den öffentlichen Diskurs, auf Emotionen und Verhalten? Werden wir von der Technologie getrieben oder können und müssen wir ihre Anwendungen und Auswirkungen bestimmen?

ACADEMIA SUPERIOR lud drei renommierte, „out of the box“ Denkerinnen und Denker ein, sich mit diesen Themen auseinanderzusetzen. Mit seiner bahnbrechenden Forschung vor zehn Jahren über die Vorhersagefähigkeit der Datenanalyse prägte Stanford Associate Professor Michal Kosinski das Feld der Psychometrie. Heute betont er kritisch die Risiken, die er mit aufgedeckt hat, bleibt aber optimistisch, dass neue Technologien zur Verbesserung des Lebens beitragen.

Nadia Magnenat Thalmann teilt diesen Optimismus. Die Gründerin und Leiterin von MIRALab an der Universität Genf und Direktorin des Institute for Media Innovation an der Nanyang Technological University in Singapur war eine frühe Pionierin auf dem Gebiet der Computeranimation. Sie sieht sich selbst als Künstlerin und erklärte uns, Rodins Arbeit habe sie inspiriert, den humanoiden Roboter Nadine nach ihrem Ebenbild zu erschaffen.

Die Autorin, Journalistin und ehemalige Politikerin Susanne Gaschke ist skeptisch in Bezug auf den Einfluss neuer Technologien auf das Lesen, Lernen und Kommunizieren. Klick, ihr Manifest gegen „digitale Verdummung“, stieß bei seiner Veröffentlichung vor zehn Jahren auf eine gemischte Resonanz, erscheint aber im Nachhinein vorausschauend. Gaschke gab zu, dass ihr Wahlspruch „analog statt digital“ praktisch schwer einzuhalten ist, vertrat zugleich aber überzeugende Argumente für einen vorsichtigen Umgang mit digitalen Werkzeugen.

Die Diskussion zwischen den Expertinnen und Experten und Vertreterinnen und Vertretern der ACADEMIA SUPERIOR war nuanciert und breit gefächert. Bei der Erkundung, wo uns die neuen Technologien hinführen, schilderten Kosinksi und Gaschke offen die Nachteile wie den Verlust der Privatsphäre oder die Verschärfung der politischen Polarisierung. Kosinski ging gar so weit, die Privatsphäre für tot zu erklären. So bedauerlich wir diesen Verlust auch finden mögen, so könnte die Transparenz, die wir dadurch gewinnen, auch Vorteile mit sich bringen. Als Beispiele dafür zitierte er die Situation eines jungen Schülers in einem Armenviertel, der über einen Algorithmus möglicherweise einen besseren Unterricht erhalten würde als von einem überarbeiteten Lehrer, sowie die Erweiterung des Horizonts durch Suchmaschinen-Optionen für eine Bürgerin eines Landes mit einem autokratischen Regime.

Magnenat Thalmann nannte auch Beispiele für den positiven Nutzen von sozialen Robotern: als Diagnostikassistenten bei der Suche nach Mustern, die auf eine Erkrankung wie Bipolarität oder Demenz hinweisen könnten, oder als Begleiter für ältere Menschen. Sie argumentierte, dass humanoide Roboter isolierten alten Menschen ein „Gefühl der Präsenz und weniger Einsamkeit“ bieten können, und sagte, wenn es eine Wahl gäbe, einen Teddybären in der Hand zu halten oder die Gesellschaft einer Nadine zu genießen, wäre ihre klare Präferenz letztere: „Es ist eine Frage der Würde.“

Die Diskussion über die Grenzen von und für prädiktive Technologien beanspruchte den ganzen Tag über einen großen Teil des Austauschs. In Bezug auf die inhärenten Leistungsgrenzen bestand Kosinski darauf, dass „dieser perfekte Algorithmus, die perfekte Vorhersage der Zukunft nicht existiert. Es wird immer eine gewisse Befangenheit geben.“ Aber er pochte darauf, dass es schwieriger sei, Vorurteile bei Polizisten, Richterinnen oder Zollbeamten – den jetzigen Entscheidungsträgerinnen und -trägern – auszumerzen, als es sein wird, Techniken zur Erkennung und Behebung versteckter Vorurteile in der Technologie zu entwickeln.

„ALLE LINEAREN VORHERSAGEN SIND MIR SUSPEKT.“

Ebenso erklärte Magnenat Thalmann, dass Roboter Maschinen bleiben werden, die zwar in der Lage sind, Emotionen wie Empathie oder Wärme zu simulieren, aber unter keinen Umständen tatsächlich zu empfinden. Sie wies darauf hin, dass sie mit den Mikroplättchen und Kabeln eines Humanoiden wie Nadine bestens vertraut sei, und sagte, die Interaktion mit einem Roboter würde sich weiterhin qualitativ von der Beziehung mit einem anderen Menschen unterscheiden: „Menschen sind so viel komplexer, die Interaktion mit Menschen ist so vielfältig, das ist kein Vergleich.“

Doch es war klar, dass uns der Einsatz von prädiktiven Technologien als Menschen beeinflusst: Auch wenn Nadine selbst nicht fühlen kann, scheint Magnenat Thalmann so etwas wie Zuneigung bei der Interaktion mit ihrer Kreatur zu empfinden. Gaschke erklärte, dass übermäßige Abhängigkeit von Online-Unterrichtsmethoden die Fähigkeit zum kritischen und kreativen Denken beeinträchtigt, und sagte, dass die Online-Leserinnen und -Leser ihrer Zeitungen dazu neigten, aggressiver und polemischer zu kommunizieren.

Alle drei Gäste wünschen sich, dass die Politik Maßnahmen ergreift, um Standards und Limits für prädiktive Technologie zu setzen. In den Worten von Gaschke: „Ich sehe nicht ein, dass irgendeine Technologie davon ausgenommen werden kann, Gegenstand politischer Entscheidungen zu sein.“ Wie eine effektive Regulation aussehen sollte, war allerdings umstritten.

Gaschke äußerte die Hoffnung, dass Zahlungsmodelle entstehen, die einen stärkeren Datenschutz ermöglichen, während Kosinski solche Modelle verurteilte, da diese seiner Meinung nach soziale Ungleichheit schüren und zur Entstehung eines Zweiklassen-Internets führen. Er sprach sich jedoch für Regeln aus, welche große Tech-Firmen zwingen, Daten mit Start-ups zu teilen. Magnenat Thalmann wiederum beschrieb die zunehmende Bereitschaft von Wissenschafterinnen und Wissenschaftern, ethische Regeln und rechtliche Normen in die Softwareprogramme von KI einzufügen. Sie sagt, das Problem ist nicht die Technologie, sondern die Menschen. In Worten, die bei den meisten im Raum ankamen, beteuerte sie: „Es liegt an uns, zu entscheiden, was wir mit unseren Werkzeugen machen.“

VITA

Dr. Melinda Crane moderiert für zahlreiche Organisationen und Firmen hochrangige Podiumsdiskussionen und Konferenzen und hält Vorträge zu diversen transatlantischen Themen. Sie ist häufig Podiumsgast und Kommentatorin im deutschen Fernsehen und Hörfunk und analysiert regelmäßig die US-Politik für den Nachrichtensender n-tv.

Als erfahrene Fernsehmoderatorin und politische Chefkorrespondentin im englischen Programm von Deutsche Welle TV kommentiert sie auch die deutsche und europäische Politik und moderiert die internationale Talksendung „Quadriga“. Im Jahr 2014 erhielt sie den Steuben-Schurz Medienpreis für ihren Beitrag zur transatlantischen Verständigung.

Melinda Crane hat Geschichte und Politikwissenschaften an der Brown University und Rechtswissenschaften in Harvard studiert und über die Politische Ökonomie der Entwicklungszusammenarbeit an der Fletcher School of Law and Diplomacy promoviert.

Als Beraterin für Internationales der Diskussionssendung „Sabine Christiansen“ produzierte Crane u.a. Interviews mit Kofi Annan, Bill Clinton, Hillary Clinton und George Bush. Neben weiteren journalistischen Tätigkeiten schrieb sie für das „New York Times Magazine“, den „Christian Science Monitor”, die „Boston Globe” und die „Frankfurter Hefte“.