Tag Archives: Künstliche Intelligenz

Science-Fiction in Nature Machine Intelligence

In der 2020er November-Ausgabe von Nature Machine Intelligence veröffentlichte ich den Kommentar “Beware of fictional AI narratives”. In dem Beitrag äußere ich die Besorgnis, dass Künstliche Intelligenz in der Science-Fiction als tatsächliche Darstellung der Technik zu wörtlich genommen wird (z.B. dass Maschinen tatsächlich Akteursqualitäten entwickeln), und so von den realen aktuellen Herausforderungen wie Überwachung und Diskriminierung durch KI-Systeme abgelenkt wird. Dabei handelt es sich bei den Maschinen und Robotern in der Science-Fiction um Metaphern für menschliche und soziale Problematiken.

Utopias for a digital Society

V.l.n.r.: Dr. Isabella Hermann, Dr. Benedikt Fecher, Bronwen Deacon und Christian Grauvogel
HIIG_Exhibition_twentyforty_-_Utopias_for_a_Digital_Society_Docu_©_Mathias_Voelzke

Am 2. Juli 2020 wurde die Ausstellung zu dem “twentyforty”-Projekt mit meinem Beitrag “The Manifesto” in Berlin mit einer Panelveranstaltung eröffnet, auf das ich als Autorin eingeladen war. Im morbid-charmanten Autoscooter vor der verfallenden Kulisse des Haus der Statistik feierten wir Mitten in der Corona-Krise Geschichten einer utopischen Zukunft.

The Manifesto in the year 2040

Im Mai 2019 nahm ich mit rund einem dutzend weiteren internationalen Wissenschaftler*innen auf Einladung des Humboldt Instituts für Internet und Gesellschaft am “twentyforty”-Projekt teil. Wir waren für fünf Tage in einem Workation-Retreat in Brandenburg eingeladen, um mit einem Creative-Coach and einer Workflow-Trainerin fiktive utopische Stories (keine wissenschaftlichen Texte!) über Digitalisierung und KI für einen gemeinsamen Sammelband zu schreiben. Die Veröffentlichung wurde mit einer Ausstellung und Vernissage gefeiert.

Die teilnehmenden Wissenschaftler*innen und Projektverantwortlichen vom HIIG des Projekts “twentyforty”.

In meiner Geschichte mit dem Titel “The Manifesto” leben wir in der Zukunft in einer von KI-Systemen optimierten Welt – wir können nur gegensteuern, indem wir Fehler in die Algorithmen einbauen: “The short story “The Manifesto” shows us how far artificial intelligence (AI) has progressed by the year 2040 from the perspective of an entry from the official “European Political Information Service.” AI basically means optimization. Accordingly, applying AI-based systems when it comes to social life means trying to make our lives more efficient. The underlying rationale of all kinds of social algorithms is that we can solve social problems technologically if we only have enough data and computing power. But what is the goal of this optimization and strive for efficiency? Is it really what is important for us in our lives, or is it rather the goals of companies and states that are hardwired into the software? Will we become increasingly unfree, other-directed, and intellectually bored without even noticing it? Will humans ultimately become like machines?”

Zum Projekt spreche ich auch im Podcast Europarama; außerdem gibt es eine Verfilmung von Helena Kühnemann und Kathrin Unger von “The Manifesto”

KI im Bundespresseamt

Am 30. Januar 2020 moderierte ich die öffentliche Abendveranstaltung “Digitale Arbeitswelt und intelligente Medizin” im Bundespresseamt in Kooperation mit der Einstein Stiftung Berlin. Die angekündigten Bundesminister Hubertus Heil und Jens Spahn waren leider gezwungen kurzfristig abzusagen (Jens Spahn musste sich bereits in einer Talkrunde zu der sich in Europa anbahnenden Corona-Krise äußern) – doch mit den vertretenden Staatssekretären Björn Böhning und Dr. Thomas Gebhardt, den Wissenschaftler*innen Prof. Dr. Anastasia Danilov und Prof. Dr. Roland Eils sowie den Unternehmern Chris Boos und Dr. Andreas Lemke waren die beiden Panelrunden hochkarätig und inhaltlich fundiert besetzt. Wichtige Themen waren die mögliche Überwachung von Arbeitnehmer*innen durch KI-Systeme und die mangelnde Datenlage über den Einsatz von KI in der Arbeitswelt, sowie das Thema Datenspende in der Medizin zur Entwicklung von besseren KI-Diagnose-Systemen, aber auch die Fehleranfälligkeit von medizinischen KI-Anwendungen. Der Live-Stream genierte über 1000 Klicks – hier zum Nachschauen.

Dr. Isabella Hermann, Prof. Dr. Anastasia Danilov, Chris Boos, Björn Böhning.

Berlin Sci-fi Filmfest 2019

Das Berlin Sci-fi Filmfest fand zum dritten Mal im Kino Babylon in Berlin Mitte statt.

Als Festival Associate des Berlin Sci-fi Filmfest bin ich im Selection Committee der Filme und Mitglied der Preisjury. Das zwei-tätigige Festival, das am 29. und 30. November 2019 im Kino Babylon in Berlin Mitte stattfand, erstreckt sich aber nicht nur auf Science-Fiction Short- und Featurefilme, sondern bietet Lesungen, Workshops, Paneldiskussionen und Musik…

Das Festival-Team v.l.n.r.: Direktor Anthony Straeger, Festival Associate Isabella Hermann, Direktor Alexander Pfander

Ich selbst moderierte eine Lesung des Science-Fiction Autors Jens Lubbadeh, der aus seinem neuen Roman “Transfusion” vorlas und organisierte das Panel “Projects of a Digital Future – interventions and talk” wo meine Panelgäste ihre jeweiligen Projekte zu Digitalisierung und KI vorstellten und danach mit dem Publikum diskutierten:

  • Bronwen Deacon vom Humboldt Institut für Internet und Gesellschaft (HIIG) präsentierte das Projekt 2040, bei dem Wissenschaftler in eine Schreibwerkstatt eingeladen wurden, um ihre utopische Vision einer digitalen Zukunft zu Papier zu bringen
  • Frithjof Nagel von der Gesellschaft für Informatik (GI) stellte die Umfrage der GI zum Einfluss von Science-Fiction auf das öffentliche Bild von Künstlicher Intelligenz vor
  • Niccolo Pescetelli vom Max-Planck-Institut für Bildungsforschung und ehemals
    Massachusetts Institute of Technology (MIT) zeigte das MIT-Project BeeMe – in dem Real-Life-Spiel wurde eine echte Person live von Mitspielern gesteuert um die Menschheit vor einer außer Kontrolle geratenen KI zu retten
  • Als Special Guest war Carylanna Taylor dabei, die mit ihrem Film Anya auf dem Filmfest vertreten war und als Filmemacherin und Wissenschaftlerin auf faktenbasierte Science-Fiction setzt
V.l.n.r.: Carylanna Taylor, Isabella Hermann, Niccolo Pescetelli, Bronwen Deacon, Frithjof Nagel

Science-Fiction auf dem KI Camp – mit Radio-Intervention

Auf dem KI-Camp des Bundesministeriums für Bildung und Forschung und der Gesellschaft für Informatik am 5. Dezember 2019 sprach ich passenderweise in einem kleinen Kino zur Darstellung von Künstlicher Intelligenz in der Science-Fiction – bzw. zur aktuellen Fehldeutung der in Filmen dargestellten bewussten Computersysteme und menschlichen Robotern.

Am Rande des KI-Camps gab es die Aufzeichnung der Deutschen Welle “New Peers Review” zum Thema Artificial Intelligence – zum Nachhören hier.

Stanley Kubrick auf dem VDE Hauptstadtforum

Am 25. November 2019 hielt ich die Keynote auf dem VDE Hauptstadtforum mit dem auf Stanley Kubricks “2001: A Space Odyssey” verweisenden Titel “It can only be attributable to human error”. Unten ein Ausschnitt aus der Event-Zusammenfassung, die sich hier komplett nachlesen lässt.

‘Nach der Begrüßung durch die Berliner VDE-Repräsentatin Sabine Schattke stellte die Politik-Wissenschaftlerin Dr. Isabella Hermann, die in der BBAW die Interdisziplinäre Arbeitsgruppe „Verantwortung: Maschinelles Lernen und Künstliche Intelligenz“ koordiniert, die Herausforderungen dar, die die Fortschritte der Künstliche Intelligenz an die Ethik der Forscher und Ingenieure sowie den Regulierungsbedarf durch die Politik stellen. Das Spannungsfeld zwischen Mensch und zunehmend autonom agierender Maschine hatte Frau Hermann unter ein Zitat aus dem Science Fiction-Film von Stanley Kubrick „2001- Odysee im Weltraum“ gestellt. „Es kann sich nur um einen menschlichen Fehler handeln“, diagnostiert darin der Supercomputer „Hal 9000“, als im Raumschiff ein technisches Problem auftritt. Da die Störung tatsächlich aber auf einer Fehlfunktion der Rechners beruht, agiert die Maschine mit ihrer verdrängenden Schuldzuweisung eher wie ein Mensch. KI-Spezialistin Hermann führte eine Reihe von Beispielen an, wie in der heutigen KI viele menschliche Annahmen stecken, die mitunter zu fatalen Ergebnissen führen. So etwa bei der Klassifizierung der Fotos von Menschen mit dunkler Hautfarbe als „Gorillas“, was letztlich auf einem zweideutigen Code der Programmierer beruhte, die „Menschen“ mit „weiße Hautfarbe“ gleichsetzten „Technik ist immer in einem sozialen Kontext eingebettet“, erklärte die BBAW-Referentin.’

AI, Art and Nature

Am 4. November 2019 ko-moderierte ich das Event “AI, Art and Nature” der Berlin-Brandenburgischen Akademie der Wissenschaften. Wir luden die KI-Künstler Anna Dumitriu, Alex May und Peter Freund ein (auch Adam Harvey, der leider wegen einer Erkrankung nicht teilnehmen konnte), um mit den Medien- und Kunstwissenschaftlern Nausikaä El-Mecky, Ingeborg Reichle und Thomas Bächle ins Gespräch zu kommen. Dafür wählten wir ein dynamisches Konzept von Break-Out-Sessions, die in verschiedenen Konstellation immer wieder einen anderen Künstler mit einem anderen Wissenschaftler zusammenbrachten

Isabella Hermann, Peter Freund, Alex Max, Anna Dumitriu, Friederike Krippner (v.l.n.r.)

Im Deutschlandfunk Kultur sprach ich im Interview vor der Veranstaltung.

Nausikaä El-Mecky, Peter Freund, Isabella Hermann (v.l.n.r.)