Künstliche Intelligenz wird immer mehr zum wesentlichen Teil des menschlichen Alltags. KI-gestützte Anwendungen können etwa die Benutzerfreundlichkeit einer Website verbessern oder auch Arbeitsprozesse vereinfachen. Doch KI steht auch in der Kritik. Eine Forschungsgruppe untersuchte nun genauer, wie Menschen auf Nachrichten der Künstlichen Intelligenz reagieren. Das Team veröffentlichte seine Ergebnisse im Science Magazin.
Psychologische Schwachstellen
Wie die Wissenschaftler berichten, fällt es Menschen, die KI-erstellte Falschnachrichten lesen, oftmals schwer, diese von echten Berichten zu unterscheiden. Ein großer Faktor ist dabei das Auftreten der Technologien, wie die Autoren in ihrer Studie erklären: „Zum Beispiel kommunizieren Menschen regelmäßig Unsicherheit durch Sätze wie ‚Ich denke‘, Antwortverzögerungen, Korrekturen und Sprachstörungen. Im Gegensatz dazu erzeugen generative Modelle einseitig selbstbewusste, fließende Antworten ohne Unsicherheitsdarstellungen. Dieser Mangel an Unsicherheitssignalen könnte im Vergleich zu menschlichen Eingaben zu größerer Verzerrung führen.“
Die Psychologen beschreiben dieses Auftreten als Falle, auf die Menschen häufig hereinfallen. In anderen Worten: das sichere Auftreten der Anwendungen führt dazu, dass die Leser ihr schnell vertrauen.
Negative Erfahrungen können Leser beeinflussen
Allerdings haben die modernen Anwendungen selbst ein Vertrauensproblem. So beschreiben die Experten, dass Menschen derzeit oftmals davon ausgehen, dass KI-Systeme absichtlich entwickelt wurden, um falsche Nachrichten zu verbreiten: „Negative sterotypierte Verzerrungen in solchen visuellen Ergebnissen gehen ein ähnliches Risiko ein, auf hartnäckige Weise Wurzeln zu schlagen.“
So bestünde gar die Möglichkeit, dass ein tiefgreifender Vertrauensverlust in die Technologie entsteht. Die Forscher gehen dabei nicht davon aus, dass Personen, die bereits negative Erfahrungen mit KIs gemacht haben, wieder Vertrauen in sie schöpfen werden. Selbst für den Fall, dass die KIs in Zukunft nur noch überprüfte Daten herausgeben würden, wäre das Vertrauen möglicherweise langfristig gebrochen.
Angesichts dessen plädieren die Forscher sowohl an die Internet-User als auch an die Politik. Sie wünschen sich mehr Aufklärung. Auch Regulierungen, wie eine entsprechende Kennzeichnung, würden die Nutzung der Anwendungen künftig sicherer gestalten. Die Europäische Union hat jüngst bereits ein entsprechendes Gesetz auf den Weg gebracht.
Bild von Gerd Altmann auf Pixabay