HfG-Forschungsgruppe KIM untersucht Chancen und Risiken der KI

Die Chancen und Risiken von Künstlicher Intelligenz (KI) werden in Wissenschaft und Gesellschaft kontrovers diskutiert. Auf der einen Seite stehen der technische Fortschritt und die Entwicklung von innovativen System für das autonome Fahren. Auf der anderen Seite stehen die Angst vor Datenmissbrauch und der weiteren Abhängigkeit der Menschen von den Menschen. An der Hochschule für Gestaltung (HfG) Karlsruhe widmen sich Wissenschaftler*innen in der Forschungsgruppe Künstliche Intelligenz und Medientheorie (KIM) solchen Fragen.

Den Grund für die Forschungsaktivitäten auf relativ unbekanntem Terrain formuliert die HfG folgendermaßen: „Im Angesicht der sich rapide ausbreitenden KI in Wirtschaft und Industrie, stehen die Geisteswissenschaften und die Kunstinstitutionen in einer besonderen Verantwortung, die Grenzen und Auswirkungen dieser neuen Technologien auf das Soziale und die Ästhetik zu erforschen.“

„Mythos der KI als allwissende Entität hat Risse bekommen“

Etwas deutlicher wird KIM-Koordinatorin Ariana Dongus im Gespräch mit karlsruhe.digital: „Der Mythos der KI als allwissende Entität hat bereits Risse bekommen. Deshalb können wir den Hype um die großen Erfolge der neuen Technologien gut hinterfragen“, sagt die akademische Mitarbeiterin der HfG. Künstliche Intelligenz sei schließlich „keine Hexerei und keine Zauberei“, sondern lediglich Mittel zur schnellen Analyse von extrem großen Datenmengen. Innerhalb der Forschungsgruppe werde das Thema vollkommen ergebnisoffen diskutiert. „Wir sind da sehr breit aufgestellt“, betont Dongus. Die soziologischen Auswirkungen von KI würden ebenso beleuchtet wie die verschiedenen Einsatzgebiete von innovativen Algorithmen.

Manche Anwendungen befördern Rassismus und Ungleichheit

Wenn es um mögliche Probleme beim Einsatz von KI geht, fällt Ariana Dongus als erstes der Rassismus ein. Durch die bloße Analyse von Daten entstehe oft ein extrem undifferenziertes Bild der Gesellschaft. So werden Migrant*innen von vielen Algorithmen immer noch als weniger kreditwürdig oder tendenziell gewaltbereit eingestuft. Und bei Gesichtserkennungssoftware ist die Fehleranfälligkeit bei nicht-weißen Menschen deutlich höher. Die Folgen solcher Fehleinschätzungen liegen für Dongus auf der Hand: Wenn Künstliche Intelligenz Vorurteile durch eine statistische Analyse untermauert, wird die Ungleichheit in der Gesellschaft weiter verstärkt. „Diversität spielt bei KI eigentlich noch keine Rolle“, sagt Dongus.

Zu wenige Frauen in der Tech-Branche

Ein Grund für solch negative Effekte liegt für Dongus auch in der gegenwärtigen Struktur der Technik-Szene begründet. In der Digitalisierungsbranche seien weiße Männer noch immer in der Überzahl. Die meisten der großen KI-Taktgeber wurden von Männern aus der Taufe gehoben, die Vorstandriegen der großen Tech-Konzerne sind ebenfalls männlich dominiert. „Mittlerweile gibt es zwar das Bemühen, dass Tech-Firmen alle Ethnien und Geschlechter abbilden“, sagt Dongus. Derzeit dienten solche Initiativen aber hauptsächlich der Imagekorrektur und der Suche nach qualifizierten Mitarbeiter*innen; von einem Gleichgewicht von Ethnien und Geschlechtern sei die Branche noch sehr weit entfernt.

Und wie würde die Welt aussehen, wenn mehr Frauen für die Entwicklung von KI verantwortlich wären? „Auf jeden Fall anders“, betont Dongus. Bislang werde die KI vor allem bei traditionell typischen Männerthemen wie für die Entwicklung von neuen Fahrsystemen oder die Steigerung der Produktivität in Fabriken eingesetzt. „Frauen denken anders. Sie haben mehr die Auswirkungen einer Entwicklung auf die gesamte Gesellschaft im Blick“, sagt Dongus. Deshalb könne ein höherer Frauenanteil in den KI-Firmen für die Entwicklung von innovativer Medizintechnik oder von nachhaltigen Systemen für Energieerzeugung und Landwirtschaft sorgen.