Rund 400 Personen verfolgten die Abschlussveranstaltung vor Ort und im Livestream. Über ein Abstimmungstool teilte das Publikum zunächst eigene Erfahrungen zur Nutzung Künstlicher Intelligenz. Rund zwei Drittel gaben an, KI in den letzten sieben Tagen im Studium oder in der Arbeit verwendet zu haben. Helga Nowotny, emeritierte Professorin für Wissenschaftsphilosophie und Wissenschaftsforschung an der ETH Zürich und Gründungsmitglied des Europäischen Forschungsrats, erklärt den weltweiten Aufstieg von AI: „Zu wissen, was in Zukunft auf sie zukommt, ist ein ganz altes Wunschdenken der Menschen: Früher haben Orakel dieses Bedürfnis befriedigt, heute versprechen uns die Algorithmen, dass sie die Zukunft vorhersagen können.“ Laut Nowotny nutzen viele Nutzer:innen KI in der Hoffnung, Risiken und Gefahren in der persönlichen Zukunft zu eliminieren und Lust und Erfolg zu maximieren. Verständlich, denn wer hat es schon gerne schwer im Leben?

Problemaufriss: Zwischen Kontrolle und Kontrollverlust

Was viele Österreicher:innen im September 2022 als Experiment sahen, ist mittlerweile ein fester Bestandteil unseres Alltags geworden. Dies jedoch nach wie vor mit viel Sorge und Skepsis: Wie sicher ist mein Arbeitsplatz, wenn doch eine automatisierte Maschine meine Aufgaben mit mehr Präzision und Verlässlichkeit erledigen könnte? Wie viel ist meine Expertise – angesichts der „allwissenden“ Macht der KI – eigentlich noch wert?

„Die Künstliche Intelligenz verleitet mehr als andere Technologien zur Illusion der Kontrolle: Haben wir sie unter Kontrolle oder sind wir ihr ausgeliefert? Wir übertragen ihr zunehmend mehr kognitive Aufgaben, ebenso wie unsere Entscheidungs- und Handlungsfähigkeit, ohne die Folgen zu kennen und ohne zu wissen, wie wir sie unter Kontrolle bringen können“, legt Nowotny das Problem dar. Wenn Input und Output nicht übereinstimmen, potenzielle Folgen nicht mehr abgeschätzt werden können, entsteht ein Gefühl des Kontrollverlustes – die Maschine, die über den Menschen hinauswachsen könnte, wie man es aus Sci-Fiction-Filmen wie der Matrix-Reihe kennt.

Gesellschaftliche Relevanz

Gemeinsam mit Nowotny diskutierten anschließend Rechtswissenschaftler Nikolaus Forgó, Data-Expertin Claudia Plant, Rechtsanwältin und Uni Wien-Alumna Beatrice Blümel sowie Spin-off Gründer und Alumnus Markus Tretzmüller am Panel. Dabei auch ein Thema: das Problem der automatisierten Entscheidungsfindung: Hilfesuchend wenden sich Nutzer:innen an ChatGPT und Co, um basierend auf Wahrscheinlichkeitsrechnungen, Ratschläge für die Zukunft zu erhalten. Das führt zu Bias und selbsterfüllenden Prophezeiungen – wir glauben an das Wissen des Algorithmus und handeln danach. 

„Welche Patient:in auf der Warteliste bekommt das Organ? Welche Bewerber:in bekommt den Studienplatz? Wer bekommt Asyl?“, stellt Paulina Sliwa, Professorin für Moralphilosophie und Politische Philosophie an der Fakultät für Philosophie und Bildungswissenschaft in Wien, via Videobotschaft in den Raum. „Es ist vorherzusehen, dass KI immer mehr bei so gewichtigen Entscheidungen einbezogen wird und wenn dies passiert, ist es umso wichtiger, dass wir nachvollziehen können, warum es uns bestimmte Antworten gibt.“ Ein Lösungsansatz seitens Claudia Plant zielt deshalb auch darauf ab, dass automatisierte Ergebnisse immer als solche gekennzeichnet werden sollten, sodass für Nutzer:innen klar ist, dass die Daten von einer Maschine generiert wurden.

Auch der AI-Act der Europäischen Kommission wird von den Panel-Teilnehmer:innen kritisch betrachtet. Rechtswissenschaftler Nikolaus Fargó sieht darin zwei große gesellschaftliche Risiken: zum einen den Strom- und Wasserverbrauch zur Speisung von KI, welcher den globalen Klimawandel befeuern könnte, zum anderen den militärischen Einsatz von KI. Nowotny befürchtet, dass Europa in Bezug auf die Rechtslage für KI dauerhaft hinterherhinken könnte. Im KI-Hype 2022 sei es wichtiger gewesen, im Bereich der Entwicklung und Anwendung von KI möglichst weit vorne zu sein, dahingehend sei das jetzige Schaffen von Regulierungen zu spät. Beatrice Blümel warnt außerdem vor Überregulierung, welche für Europa zum Wettbewerbsnachteil werden könnte.

KI und Datenschutz – ein machbares Unterfangen?

„Wir wissen nicht, was KI wissen wird, deshalb müssen wir früh genug darüber reden, wie wir regeln, dass wir nicht wissen werden, was KI wissen wird“, so Fargó über den persönlichen Datenschutz im Zeitalter der KI. Um den Datenmissbrauch zu unterbinden und Systeme, die von der EU als besonders risikoreich definiert werden, zu schützen, sieht der AI-Act eine Präventionsstrategie vor.

Im globalen Vergleich agiert Europa hier mit strengeren Maßnahmen als beispielsweise Länder wie Südkorea. In dessen Hauptstadt Seoul gibt es laut der Regierung 140.000 CCTV-Kameras, welche zum Schutz vor Gewalt oder der frühzeitigen Erkenntnis von Verbrechen genutzt werden. In Zeiten der Corona-Pandemie wurden Aufnahmen der Überwachungskameras sowie Kreditkarteninformationen dazu genutzt, Kontakte von Infizierten aufzuspüren. Des Weiteren setzte man Roboter in Einkaufszentren ein, welche die Körpertemperatur der Besucher:innen in Echtzeit analysierten und speicherten. Diese Art der Protokollierung von persönlichen Daten sehen Kritiker als eine reale Gefahr für die individuellen Freiheits- und Grundrechte der Menschen und fordern eine klare Rechtslage.

Bewusstseinswandel von Nöten

Abschließend erklärte Nowotny, dass neben der Politik auch ein gesteigertes Qualitätsbewusstsein bei der Analyse von Informationen notwendig sei, um die Abhängigkeit von KI und selbsterfüllende Prophezeiungen zu unterbinden. Daran anknüpfend plädiert Plant für mehr Bildung im Bereich der KI, sodass Österreicher:innen ein verantwortungsvoller Umgang mit KI und ein aktives Mitgestalten der persönlichen und staatlichen Zukunft möglich sei.