Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht, doch Forscher der University of British Columbia warnen in einer neuen Studie vor großen Herausforderungen im Bereich des sogenannten „Common-Sense-Reasonings“. So fehle es den Modellen schlichtweg an gesundem Menschenverstand.
Training mit diversen Daten
Die kanadische Studie zeigt, dass KI-Bots wie ChatGPT insbesondere mit dem Umgang von Diversity Probleme haben, obwohl ein grundlegendes Potenzial für Gemeinsinn festzustellen sei. Füttert man die KI allerdings mit Daten aus unterschiedlichen Einflussgebieten, wie etwa Indien, Nigeria und Südkorea, führt dies zu genaueren und kulturell informierten Antworten.
Für Ihre Studie trainierten die Forscher ein Common-Sense-Reasoning-Modell mit Daten aus verschiedenen Kulturen, um seine kulturelle Sensibilität zu verbessern. Tatsächlich änderte sich das Verständnis der künstlichen Intelligenz. So antwortete die KI beispielsweise erst korrekt, dass eine Frau in Somalia, die ein Henna-Tattoo erhielt, kurz davor stand zu heiraten, als es mit kulturell vielfältigen Daten trainiert wurde. Zuvor hatte der Bot noch angenommen, dass sie Henna kaufen wollte.
Menschliche Korrekturen oft erforderlich
Laut Assistenzprofessorin Dr. Vered Shwartz reiche das Training von KI-Modellen mit massiven Datenmengen allein nicht aus, um korrekte Ergebnisse zu produzieren: „Große Sprachmodelle wie ChatGPT lernen, indem sie Millionen von Dokumenten, im Wesentlichen das gesamte Internet, lesen und Muster erkennen, um Informationen zu produzieren. Das bedeutet, dass sie nur Informationen über Dinge liefern können, die im Internet dokumentiert sind. Der Mensch hingegen ist in der Lage, logisch zu denken. Wir nutzen Logik und gesunden Menschenverstand, um eine Bedeutung zu finden, die über das hinausgeht, was ausdrücklich gesagt wird“.
So sei in der Anwendung von KI oft noch menschliches Eingreifen erforderlich, um Korrekturen anzuwenden. Darüber hinaus würden englischsprachige Modelle, die am häufigsten verwendet werden, oft eine nordamerikanische Voreingenommenheit aufweisen und das Risiko bergen, entweder nichts über Konzepte aus anderen Kulturen zu wissen oder Stereotypen zu verfallen. Die Ergebnisse ihrer Untersuchungen veröffentlichten die Forscher in der Wissenschaftsbibliothek ACL Anthology.
Bild von Alexandra_Koch auf Pixabay