Künstliche Intelligenz heißt die Menschen herzlich willkommen

Diese Thematik diente Ende Juli 2019 als Inspiration für die im Goethe-Institut in São Paulo veranstaltete Diskussionsrunde „From Socionatures to Humanoid Robots: Transdisciplinary Perspectives on the Relations between Humans and Non-Humans”, die von der Freien Universität Berlin (FU Berlin) und dem Maria Sibylla Merian International Centre Conviviality-Inequality in Latin America (Mecila) organisiert und vom Deutschen Wissenschafts- und Innovationshaus São Paulo (DWIH São Paulo) unterstützt wurde.

Die Veranstaltung zählte unter anderem* auf die internationale Expertise von Prof. Christoph Benzmüller von der FU Berlin, der in einem Interview mit dem DWIH São Paulo über künstliche Intelligenz sprach – von ihren wichtigsten Facetten für die Menschheit über wissenschaftliche Innovationen im Hinblick auf humanoide Prototypentechnologien mit Schwerpunkt auf menschlichen und nichtmenschlichen Beziehungen und Erfahrungen bis hin zu den ethisch-politischen Implikationen, die mit diesem Thema verbunden sind. Die im Zusammenhang mit der KI entstehenden Herausforderungen, Gefahren, Perspektiven und technologischen Trends in verschiedenen Bereichen sowie Rechte und Pflichten standen ebenfalls auf der Tagesordnung. Und dabei wurde deutlich: Die KI ist bereits in unser Leben eingedrungen, und das Thema muss so schnell wie möglich in den Mittelpunkt der Debatten und Diskussionen gerückt werden, damit dieser Prozess der Menschheit zugutekommt, angesichts der Tatsache, dass die Geschwindigkeit der technologischen Entwicklung menschliche Grenzen übersteigt. Für Benzmüller, der derzeit Methoden und Verfahren zur Regulierung der ethisch-rechtlichen Kontrolle von KI-Systemen erforscht, gibt es im Hinblick auf diese Technologien sowohl negative als auch positive Aspekte. Die KI besitze aber, so der Professor, ein großes Potenzial, die Welt positiv zu verändern.

• Welche Rolle spielt Ihrer Meinung nach die Künstliche Intelligenz derzeit in unserem Leben, insbesondere in menschlichen und nichtmenschlichen Beziehungen?
  Die Künstliche Intelligenz (KI) dringt derzeit schon in kleinste und privateste Bereiche unseres Lebens vor – Alexa, Siri & Co. sind bereits in vielen Wohn- und Schlafzimmern heimisch und hören gerne mit. Auch im Bereich der Computerspiele, der sozialen Netzwerke oder der digitalen Sexindustrie verschmelzen menschliche und nichtmenschliche Beziehungen ja bereits. Diese Verzahnung von virtueller und realer Welt wird, beflügelt durch verbesserte KI-technologie, weiter an Fahrt gewinnen, und dies hat natürlich Auswirkungen auf unser soziales Verhalten. Auch richtige Partnerschaften zwischen Menschen und Maschine werden wir zunehmend erleben, nicht nur in Japan kann man solche Tendenzen bereits wahrnehmen. Wie so oft haben diese Entwicklungen aber Gutes wie Bedenkliches, und die Diskussion über Implikationen kann man nicht früh genug anstoßen. Die Pflege und Betreuung älterer Menschen, beispielsweise, stellt viele Länder vor große Herausforderungen und Robotik & KI kann hier, wenn Sie sinnvoll eingesetzt wird, möglicherweise von sehr großem Nutzen sein. Probleme könnten dabei aber durch falsche, zu vermenschlichte Erwartungen an die emotionale Intelligenz bzw. Kompetenz humanoider Roboter entstehen.Solche Anwendungen von KI-Technologien sollten nicht allein durch ökonomische Interessen angetrieben und gesteuert werden, sondern durch gut informierte politische Entscheidungen in ihren Ausprägungen vorgezeichnet werden.

   

  Wir leben in technologischen Zeiten, in denen humanoide Roboter zunehmend ihren Platz im gesellschaftlichen Leben einnehmen. Wie sehen Sie dieses Szenario? Was können wir von dieser neuen Realität und den dadurch entstehenden Beziehungen erwarten?
  So manche Nation kann es ja kaum abwarten, humanoiden Robotern sogar Bürgerrechte zu gewähren. Saudi-Arabien ist hier 2017 vorgeprescht. Aus Marketing-Gründen ist dies sicher auch sehr verführerisch. Dieser Entwicklung – so voreilig sie auch sein mag – ist allerdings auch Gutes abzugewinnen: solche Aktionen fördern die Debatte zu welchem Grad, in welcher Form und mit welchen Pflichten und Rechten ausgestattet, intelligente Maschinen in die bestehenden sozialen und gesellschaftlichen Strukturen integriert werden sollen und müssen. Diese Debatte gilt es jetzt anzustoßen, denn die aktuellen Entwicklungen in der Künstlichen Intelligenz sind rasant, während Anpassungsfähigkeit und -geschwindigkeit vieler gesellschaftlicher Strukturen rasch an ihre Grenzen stoßen. Im Kontext der Auseinandersetzung werden auch ungelöste verwandte Themen sichtbar werden, z.B. haben in vielen Gesellschaften Frauen noch nicht die gleiche Rechte wie Männer. In einer solchen Situation mit Bürgerrechten für humanoide Roboter vorzupreschen wirkt dann schon etwas befremdlich. Herausfordernd finde ich insbesondere Fragen nach den Pflichten und der Vertrauenswürdigkeit (zukünftiger) autonomer KI-Technologien, sowie Fragen nach der sozialverträglichen und nachhaltigen Integration solcher Technologien in bestehende gesellschaftliche Strukturen.

• Wie kann die Künstliche Intelligenz unseren Alltag und unser Leben beeinflussen? Und wie können wir besser damit umgehen?
  Der Einfluss von KI-Technologien auf unsere Lebensroutinen wird weiter zunehmen. Unsere Aktivitäten im Alltag werden durch KI-Technologien nicht nur besser planbar und beherrschbar, sie werden auch bis ins Detail verfolgbar. Durch diese Kombinationen werden wir vermutlich zunehmenden Manipulationsversuchen ausgesetzt sein, angefangen von einer perfekt personalisierten Werbung, bis hin zu Gadgets, die uns gewollt oder ungewollt, bewusst oder unbewusst, in unseren täglichen Entscheidungen „behilflich“ sein werden.

 

Nennen Sie uns bitte die mit diesem Thema verbundenen ethisch-politischen Implikationen.
Die Notwendigkeit zur Entwicklung vertrauenswürdiger KI-Technologie (in kritischen Anwendungsbereichen) ist für mich keine Option, sondern ein „Muss“. In dieser Hinsicht begrüße ich die sich derzeit herausbildende europäische Positionierung unter dem Schlagwort „Trustworthy AI made in Europe“ auch sehr. KI-Technologie hat ein großes Potential die Welt positiv zu verändern, und ich selbst bin, von diesem Ziel fasziniert, in die KI eingestiegen. Dieses positive Potential von KI-Technologie gilt es zu explorieren und zu nutzen. KI-Technologie hat aber auch Risiken, und die Erfahrung lehrt uns, dass ein aus gesellschaftlicher Perspektive gesundes Abwägen zwischen Nutzen und Risiken oft nur unbefriedigend von der Industrie selbst erbracht werden kann. Die Politik sollte sich deshalb einschalten und gemeinsam mit der Industrie Rahmenbedingungen für das Ausbilden gesellschaftlich wünschenswerter KI-Technologie entwerfen. Es gilt, das Schadenpotential für die Gesellschaft zu minimieren und gesellschaftlichen Nutzen zu maximieren. In einigen Bereichen sollte man die Entwicklung und die Anwendung von KI-Systemen deshalb erst einmal bewusst aussetzen oder verzögern. Sehr kritisch sehe ich z.B. letale autonome Waffensysteme, vollautomatisierte Finanzmärkte, betriebliche oder staatliche Überwachungssysteme, usw. Auch die leichte Manipulierbarkeit von Wählerverhalten über soziale Netzwerke stellt ein erhebliches gesellschaftliches Risiko dar, demokratische Strukturen scheinen dadurch zunehmend unter Druck zu geraten.

Welche sind Ihrer Meinung nach die Hauptbereiche, in denen künstliche Intelligenz Vorteile bringt, und warum?
Das ist schwer zu sagen. Das Anwendungsspektrum für KI-Technologien ist enorm groß und deckt viele wichtige Bereiche ab: Gesundheit, Verkehr, Umwelt, Finanzen, Industrieproduktion, Militär, Unternehmensführung, Verwaltung, usw.; in jedem dieser Bereiche gibt es viele spezielle Anwendungen für KI-Technologien. Diese Technologien werden in vielen konkreten Anwendungen mit Menschen interagieren, oder diese auch ganz ersetzen. In einzelnen Spezialbereichen werden KI-Technologien dem Menschen weit überlegen sein, und Arbeitsabläufe und -strukturen werden sich darauf entsprechend einstellen.

Die Vorteile sind vielfältig, und reichen von gesteigerter Produktivität und erhöhter Effizienz bis hin zur Reduzierung von Unfällen (gefährliche Tätigkeiten können zunehmend an Roboter übertragen werden). Risiken sind aber eben auch gegeben. Vor allem die Übertragung weitreichender Entscheidungskompetenzen aufzunehmend autonome KI-Systeme sollte mit entsprechender Vorsicht angegangen werden. Insbesondere in Anwendungsbereichen, in denen es zu Kollateralschäden kommen kann, würde ich KI-Techniken mit offensichtlichen Schwächen (z.B. mangelnde Vertrauenswürdigkeit, Erklärbarkeit und Transparenz, hohe Manipulierbarkeit) eher nicht mit maximaler Geschwindigkeit in konkrete Anwendungen bringen wollen. Das Aufkehren der Scherben, wenn es schief geht, bleibt nämlich typischerweise an der Gesellschaft hängen, und die Schäden könnten sogar irreparabler Natur sein.

Ich selbst forsche deshalb derzeit an Methoden und Verfahren zur ethisch-rechtlichen Kontrolle von KI-Systemen, die ich in besonders kritischen KI-Anwendungsbereichen für unbedingt erforderlich halte.

Eine weitere Herausforderung besteht natürlich in der Frage, wie eine adäquate gesamtgesellschaftliche Partizipation am technologischen Fortschritt und ökonomischen Erfolg gewährleistet werden kann; bei zunehmender globaler Konzentrierung von technologischer Macht gibt es darauf womöglich keine einfachen Antworten.

Die Exploration des gesamten Spektrums von Anwendungsmöglichkeiten von KI-Technologien scheint seinen Höhepunkt noch keineswegs erreicht zu haben und in zahlreichen Unternehmen und in der Politik mangelt es derzeit sogar noch an entsprechenden Kompetenzen. Ich verwende übrigens bewusst den Plural „KI-Technologien“, weil es eben nicht nur das maschinelle Lernen ist, dass viele Anwendungsbereiche haben. In jüngster Zeit scheinen übrigens auch die Medien von der übersteigerten Fokussierung auf das maschinelle Lernen wieder etwas Abstand zu nehmen.

* Neben der Teilnahme von Prof. Christoph Benzmüller von der FU Berlin zählte die Diskussionsrunde auch auf Beiträge von Prof. Astrid Ulloa (Universidad Nacional de Colombia) und Prof. Laymert Santos (Staatliche Universität von Campinas – Unicamp) sowie auf Kommentare von Dr. Maya Manzi, Postdoktorandin bei Mecila. Die Debatte wurde von Prof. Barbara Göbel (Ibero-Amerikanisches Institut & FU Berlin), geleitet

---

von Ana Paula Katz Calegari