„…Komplexität menschlicher Entscheidungen unterschätzt!“

Welche Macht haben Algorithmen und Künstliche Intelligenz (KI) auf Lebensbereiche wie Bildung? Zu diesem Thema war Prof. Dr. Katharina Zweig 2019 auf der EduCouch(Öffnet neues Fenster) der Frankfurter Buchmesse zu Gast. Sie leitet als Universitätsprofessorin am Fachbereich Informatik(Öffnet neues Fenster) der TU Kaiserslautern das Algorithm Accountability Lab. Außerdem ist sie Autorin des Bestsellers zum Thema: "Ein Algorithmus hat kein Taktgefühl"(Öffnet neues Fenster) (Heyne, 2019). Zeit für ein Interview!

 

Sie werden häufig auf Panels oder Konferenzen zum Thema Algorithmen und KI eingeladen. Werden in diesem Kontext auch Bildungsfragen thematisiert? Und wenn ja, was sind die drängendsten Fragen?

Die drängendsten Fragen liegen eher nicht in der Bildung, sondern in der Frage der Regulierung auf der einen Seite und der nach der Förderung von KI-Innovationen auf der anderen Seite. Danach kommen Fragen zum Thema Arbeitsveränderungen und wie lebenslanges Lernen sinnvoll umgesetzt werden kann.

 

Beim Thema KI wird gerne über Jobverluste, die auch Akademiker betreffen, diskutiert. Welche Aufgaben und Qualifikationen von Lehrkräften und Dozenten könnten in Zukunft digital ersetzt werden?

Man sieht das immer in den USA - die aber an vielen Stellen auch andere Prozesse haben. So ist das nordamerikanische Justizsystem ein fallbasiertes System. Bisher haben viele amerikanische Anwält*innen zu Beginn ihrer Karriere für erfahrenere Kolleg*innen die jeweils passenden Fälle aus Archiven herausgesucht. Solche Arbeiten können jetzt mehr und mehr von KI-Systemen übernommen werden. Dadurch werden weniger junge Anwält*innen benötigt. Bei anderen menschlichen Entscheidungen wurden verfrüht KI-Systeme als Ersatz genommen. So wird ebenfalls in den USA gerade ein Risikobewertungssystem nach dem anderen als unzureichend bewertet: Beispielsweise ein System, das Kriminelle nach ihrem angeblichen Rückfälligkeitsrisiko sortiert oder das Bewerbungsbewertungssystem eines großen Onlinehändlers. Ich denke, dass in diesen Fällen die Komplexität von menschlichen Entscheidungen in unsicheren Situationen bei Weitem unterschätzt wurde. Die Verfahren des maschinellen Lernens – die hinter der künstlichen Intelligenz stecken – sind hier nicht adäquat.

 

Und jetzt positiv gefragt: Wo kann KI die Lehrkräfte in Schulen und Universitäten unterstützen und den Lernprozess verbessern?

Dabei geht es ja oft um smarte Tutor-Systeme, die versprechen, für alle Lernenden individuelle Lerninhalte zusammenzustellen. Ich sehe da im Moment kein echtes Potenzial. Dazu muss man sich kurz vor Augen halten, wie das maschinelle Lernen funktioniert: Wir geben dem dahinterstehenden statistischen Verfahren viele Situationen – also Daten – und die jeweilige Bewertung der Situation, damit das Verfahren daraus "lernt". Beispielsweise geben wir dem Programm verschiedene Antworten aus Klausuren und dazu die Bewertung: Das ist eine gute Antwort, das ist eine schlechte Antwort. Das Verfahren sucht dann in den Texten nach den Hinweisen, die möglichst bei allen richtigen Antworten dabei waren, und nach solchen, die möglichst nur bei falschen oder schlechten Antworten zu beobachten sind. Diese "gelernten" Muster speichert das Verfahren ab. Die nächste Antwort kann dann danach bewertet werden, ob sie eher Muster von guten oder schlechten Antworten beinhaltet. Aber auch hier gilt: Es ist für manche Fächer relativ einfach zu erfassen, ob ein Schüler die richtige Antwort gegeben hat – dafür braucht man oft noch nicht einmal KI-Systeme, da reichen einfache Datenbanken. Aber Schüler*innen können auf so viele Art und Weisen etwas missverstehen, dass es unmöglich sein wird, dafür genug Lernmaterial für den Computer zusammen zu bekommen. Zudem ist der individuelle Lernerfolg auch stark von der Gruppe, der Bindung zur Lehrperson u.ä. abhängig – diese Dimensionen werden von der KI eher verschlechtert. Außer für wenige Spezialgebiete sehe ich daher weder einen großen Bedarf an noch Nutzen von KI-basierten Tutor-Systemen in der Bildung.

 

Die Frankfurter Buchmesse bietet mit Frankfurt EDU(Öffnet neues Fenster) eine internationale Plattform für innovative Konzepte, Inhalte und Technologien der Bildungsbranche. Was erwarten Sie als Expertin dort für neue Angebote in den nächsten Jahren?

Es gibt viele tolle Konzepte – aber es fehlt am Willen, sie in den Schulen und an den Universitäten ins Laufen zu bringen. Das muss sich ändern.

 

Vielen Dank für das Gespräch, Frau Prof. Dr. Zweig!

(Das Interview führte Frank Krings, PR Manager der Frankfurter Buchmesse)

Prof. Dr. Katharina Zweig ist auch auf LinkedIn (Öffnet neues Fenster)vertreten.