Interview mit Dr.in Hannah Fitsch
Der zweite Teil der spannenden FUQS-Reihe zu feministischen Perspektiven auf Neurowissenschaften und Künstliche Intelligenz ist da! In der Reihe werden unterschiedliche Aspekte gesellschaftlicher Auswirkungen von Wissenschaft und Technik vorgestellt. Ein kritisches Hinterfragen bestehender Logiken wird ebenso thematisiert wie ein feministisch-aktivistischer Blick auf aktuelle Entwicklungen. Im zweiten Teil wird beleuchtet, warum Künstliche Intelligenz als kontextbefreite Zone sehr viele Menschen, Körper und Erfahrungen nicht mitdenkt und welche Herausforderungen in den Forschungsstrukturen liegen.
Die Reihe beruht auf einem Interview mit Dr.in Hannah Fitsch und Theresa Scheutzow im November 2024 in Berlin.
Viele Menschen und ihre Erfahrungen werden in der Wissenschaft und Technologie nicht mitgedacht
Es ist wichtig, dass gesellschaftspolitische Fragen von Naturwissenschaft im Dialog mit Sozial- und Gesellschaftswissenschaften beantwortet werden, so Hannah. In den Natur- und Technikwissenschaften wird aufgrund methodischer Vorgehensweisen oft nur ein kleiner Teil eines größeren Ganzen betrachtet, einerseits bestimmt durch die Heißenbergsche Unschärferelation, die bestimmt, dass wissenschaftliche Mess- und Untersuchungsmethoden immer nur einen Ausschnitt scharf stellen können, andererseits um Ressourcen zu sparen. Aus sehr kleinen Zusammenhängen werden Aussagen universalisiert und verallgemeinert. Das gilt auch für die Vorgehensweise Künstlicher Intelligenz, die das Kontextuelle und das Zeitliche nicht mitdenkt. Viele Menschen und ihre Erfahrungen werden nicht berücksichtigt. So wird in der gängigen Forschung der Computational Neurosciences angenommen, dass wir wie Algorithmen denken. Hannah untersucht entsprechend die Ursachen und Auswirkungen.
Hannah betont, dass ein Großteil der Daten der letzten 100 Jahre Verzerrungen enthalten, was weitreichende Folgen hat. Zum Beispiel bekommen Frauen* und nichtweiße Menschen im Gesundheitswesen schlechtere Behandlungen, da Daten fehlen und die Diagnosesysteme auf ihre Körper und Lebensrealitäten schlechter und unzureichend trainiert sind. Diese systematische Ausgrenzung findet in vielen verschiedenen Lebensbereichen statt. Naturvorgänge und Menschen werden kategorisiert und in Schubladen gesteckt, statt sie als in Kontexte eingebundene Individuen zu verstehen. Dieser algorithmisch induzierte Teile-und-Herrsche Anspruch, entfremdet uns von der Natur und voneinander. Die Logik von Künstlicher Intelligenz und operativen Prozessen lassen nicht mehr zu, dass Fragen je nach Kontext beantwortet werden können. Deshalb ist es wichtig, dass nicht nur feministische Wissenschafts- und Techniksoziologie sich damit beschäftigt, sondern alle. Denn: Modelle sind eben nur Modelle. Hannahs Forschungsinteresse gilt auch der Rolle des Körpers in der Künstlichen Intelligenz, ein Thema, das bisher nur wenig Beachtung findet. Hier kann ein Verschwinden des Körpers konstatiert werden.
Die Folgen der Zweckoptimierung
Hannah stellt aus feministischer Perspektive die Frage, wie das Gehirn zu verstehen ist. Die neurowissenschaftliche Forschung setzt an dieser Stelle an und versucht, das Gehirn in Form von Algorithmen zu beschreiben. Um die komplexen Denkprozesse des Gehirns vollständig zu verstehen, bedarf es jedoch anderer Forschungsansätze. Künstliche Intelligenz, so die feministische Technik- und Wissenschaftssoziologin, basiere auf Zweckoptimierung. Das Grundproblem sei, dass der datengetriebene Charakter dieser Entwicklung verschleiert werde. Diese Zweckmäßigkeit ist mit einer subjektiven Steigerung bzw. Überhöhung des Subjektiven verbunden.
Hannah bezieht sich in ihrer Kritik am Forschungsgebiet der Künstlichen Intelligenz auf Max Horkheimer, der den Begriff der „instrumentellen Vernunft“ geprägt hat. Gemeint ist damit eine Form der Vernunft, die sich auf die effiziente Erreichung von Zielen, vor allem das eigene Überleben zu sichern, konzentriert. Die sozialen oder ethischen Folgen dieser Ziele werden jedoch nicht berücksichtigt. Nach Horkheimer ist die „instrumentelle Vernunft“ ein Produkt der modernen, kapitalistischen Gesellschaft, in der technischer Fortschritt und Effizienzmaximierung über menschliche Werte und das Wohl der Gesellschaft gestellt werden. Weizenbaum begann in den 1970er Jahren mit der Kritik an der Künstlichen Intelligenz. Er betonte, dass Menschen immer mehr zu Instrumenten für Computer und Algorithmen werden. Das ist ein Beispiel dafür, wie sich die Menschen von ihren Grundwerten entfernen. Hannah betont, dass wir uns in einem neuen Zeitalter der künstlichen Intelligenz befinden. Sie erweitert den Begriff der „instrumentellen Vernunft‘“ zur „unbedingten Vernunft“. Künstliche Intelligenz gehe davon aus, dass Daten und ihre Verzerrungen immer und überall gelten. In der Ermittlung vom nächsten am wahrscheinlichsten stattfindenden Ereignis wird eine Unendlichkeit unterstellt, die es nicht gibt. So vereinfachen, reduzieren und fragmentieren Daten und algorithmische Lernprozesse Menschen, Körper, Lebensrealitäten und Erfahrungen und entziehen sie ihrer materiellen Bedingungen, Zeitlichkeit und Kontextualität.
Konträre Entwicklungen an Hochschulen – großes Interesse aber wenig Angebot
Es gibt zu wenig kritische Auseinandersetzung mit (Natur-)Wissenschaften, insbesondere mit interdisziplinärem Anspruch. Hannah beobachtet, dass sich viele Studierende für das Thema feministische Wissenschafts- und Techniksoziologie interessieren, es aber kaum Lehr- und Forschungsangebote dazu gibt. Auch die Forschung an den Universitäten wird immer schwieriger. Viele Forscher*innen können sich nicht fest etablieren, weil das Fördersystem sehr output-orientiert ist. Die Forscher*innen müssen sich ständig selbst rechtfertigen und erklären. Auch sie als Forscherin hat Probleme, Förder*innen zu finden, die sehen, dass es diese Forschung im Bereich der Technik- und Wissenschaftssoziologie braucht. Die Geschlechterforschung und bestimmte feministische Perspektiven wurden lange Zeit ignoriert. Sie und andere Forscher*innen fordern ein Studium Generale, das den Studierenden ein breites Wissen vermittelt, von dem ausgehend sie sich spezialisieren können. So werden Studierende nicht in Schubladen gesteckt und es wird vernetzt gedacht.
Hannahs Kernaussage ist, dass die technologische Entwicklung, wenn sie der Optimierung von Prozessen dient, die Menschen immer weiter von einer reflexiven und kritischen Haltung entfernt. Sie fordert dazu auf, der Technologie und der rein „instrumentellen Vernunft“ nicht die Kontrolle über das Denken und die Gesellschaft zu überlassen.
Wir bedanken uns herzlich bei Hannah Fitsch für das Interview.
Quellen:
Fitsch, Hannah (2024): „The default trick. Warum Technikfaszination nicht neutral ist“. Gender und Diversity in Natur-, Technik- und Planungswissenschaften: Studien zu Transfer und Implementierung, edited by Sahra Dornick and Petra Lucht, Berlin, Boston: De Gruyter Oldenbourg, pp. 159-178.
Fitsch, Hannah; Greusing, Inka; Kerner, Ina; Meißner, Hanna; Oloff, Aline (Hg.) (2022a): Der Welt eine neue Wirklichkeit geben – Feministische und queertheoretische Interventionen.
Fitsch, Hannah (2022b): Die Schönheit des Denkens – Mathematisierung der Wahrnehmung am Beispiel der Computational Neurosciences. Bielefeld: transcript.
Fitsch, Hannah, Kämpf, Katrin M. and Klaus, Elisabeth (2022c): „Einleitung“ feministische studien, vol. 40, no. 2, 2022, pp. 213-217.
Fitsch, Hannah (2013): Scientifically assisted telepathy? Objektivierung und Standardisierung in der modernen Hirnforschung. In: Phase 2. Zeitschrift gegen die Realität 47, H. 2, S. 5–7.
Fitsch, Hannah (2014): … dem Gehirn beim Denken zusehen? Sicht- und Sagbarkeiten in der funktionellen Magnetresonanztomographie. Bielefeld: transcript.
Fitsch, Hannah; Meißner, Hanna (2017): Das An- und Fürsich apparativer Sichtbarmachungen. Ein historisch-kritischer Blick auf digitale Materialität. In: Behemoth. Journal on Civilisation 10, H. 1, S. 74–91, online unter https://ojs.ub.uni-freiburg.de/behemoth/article/download/944/904
Horkheimer, Max (1967): Zur Kritik der instrumentellen Vernunft. Frankfurt am Main: S. Fischer.
Weizenbaum, Joseph (1990): Die Macht der Computer und die Ohnmacht der Vernunft [1978]. Frankfurt am Main: Suhrkamp.
Mehr Infos gibt auf der Website von Hannah Fitsch: https://hannahfitsch.de
77. Innsbrucker Gender Lecture mit Hannah Fitsch (9. Mai 2023) zum Nachlesen und Nachhören: https://www.uibk.ac.at/de/geschlechterforschung/veranstaltungen/2023/77-innsbrucker-gender-lecture-mit-hannah-fitsch-9-mai-2023/
FUQS 