Gefälschte Fotos von Papst Franziskus in einer Steppjacke gehen viral und verdeutlichen die Macht und Gefahr der KI

Dec 08, 2023

Von Simon Ellery

28. März 2023 / 11:39 Uhr / CBS News

Es war ein kalter Wind, der am Wochenende über den Petersplatz im Vatikan wehte, aber das hielt Papst Franziskus nicht davon ab, einen Spaziergang nach draußen zu machen, um die Gläubigen zu begrüßen, wie er es oft tut. Als im Internet Bilder auftauchten, die den 86-jährigen Papst zeigten, der sich untypisch gegen die Elemente in einer eleganten weißen Daunenjacke und einem silbernen, juwelenbesetzten Kruzifix schützte, gingen sie schnell viral und erreichten Millionen von Aufrufen auf Social-Media-Plattformen.

Das Bild, das zusammen mit mehreren anderen am Freitag erstmals auf Reddit veröffentlicht wurde, war in Wirklichkeit eine Fälschung. Es handelte sich um ein Rendering mit künstlicher Intelligenz, das mit der KI-Software Midjourney erstellt wurde.

Während es in den endgültig gerenderten Bildern einige Inkonsistenzen gibt – zum Beispiel sieht die linke Hand des Papstes, in der sie eine Wasserflasche hält, verzerrt aus und seine Haut sieht übermäßig scharf aus –, wurden viele Leute im Internet zu der Annahme verleitet, es handele sich um echte Bilder.

Die Enthüllung, dass sie betrogen worden waren, löste bei einigen Twitter-Nutzern Schock und Verwirrung aus.

„Ich dachte, die Pufferjacke des Papstes sei echt und habe nicht weiter darüber nachgedacht“, twitterte Model und Autorin Chrissy Teigen. „Ich werde die Zukunft der Technologie auf keinen Fall überleben.“

Der „Papst in der Daunenjacke“ war nur das Neueste in einer Reihe von „Deepfake“-Bildern, die mit KI-Software erstellt wurden. Ein weiteres aktuelles Beispiel waren Bilder des ehemaligen Präsidenten Donald Trump, die ihn scheinbar in Polizeigewahrsam zeigten. Obwohl der Urheber deutlich machte, dass sie als Übung im Einsatz von KI produziert wurden, verbreiteten sich die Bilder in Kombination mit Gerüchten über Trumps bevorstehende Verhaftung viral und schufen eine völlig betrügerische, aber potenziell gefährliche Erzählung.

Midjourney, DALL E2, OpenAI und Dream Studio gehören zu den Softwareoptionen, die jedem zur Verfügung stehen, der fotorealistische Bilder nur mit Texteingaben erstellen möchte – eine spezielle Schulung ist nicht erforderlich.

Da diese Art von Software immer weiter verbreitet wird, arbeiten KI-Entwickler an besseren Möglichkeiten, um Betrachter über die Authentizität von Bildern zu informieren.

„Sunday Morning“ von CBS News berichtete Anfang des Jahres, dass Microsofts wissenschaftlicher Leiter Eric Horvitz, der Mitentwickler des Spam-E-Mail-Filters, zu denjenigen gehörte, die versuchten, das Rätsel zu lösen, und prognostizierte, dass die Technologie nicht so weit entwickelt werden würde, dass es den Menschen möglich wäre „Das meiste, oder ziemlich viel davon, was die Leute sehen werden, wird synthetisch sein. Wir werden keinen Unterschied erkennen können.“

In der Zwischenzeit warnte Henry Ajder, der eine BBC-Radioserie mit dem Titel „The Future Will be Synthesised“ moderiert, in einem Zeitungsinterview, dass es „bereits sehr, sehr schwer zu bestimmen sei, ob“ einige der erstellten Bilder echt seien.

„Es gibt uns einen Eindruck davon, wie schlechte Akteure, Agenten, die Desinformation verbreiten, diese Werkzeuge zu Waffen machen könnten“, sagte Ajder der britischen Zeitung I.

Es gibt bereits eindeutige Beweise dafür, dass dies geschieht.

Im vergangenen März tauchte ein Video auf, in dem der ukrainische Präsident Wolodymyr Selenskyj zu sehen war, wie er seine Truppen aufforderte, die Waffen niederzulegen und sich zu ergeben. Es war von schlechter Qualität und wurde schnell als Fälschung entlarvt, aber es könnte nur die Eröffnungssalve in einem neuen Informationskrieg gewesen sein.

Auch wenn ein Bild mehr als tausend Worte sagt, kann es sich lohnen, zu fragen, wer eigentlich spricht.

Erstveröffentlichung am 28. März 2023 / 11:39 Uhr

© 2023 CBS Interactive Inc. Alle Rechte vorbehalten.