Kann man Bildern noch trauen? Fünf Fragen an Julian von Mach

Bilder gelten oft als unmittelbare Abbilder der Wirklichkeit. Doch mit der rasanten Entwicklung Künstlicher Intelligenz gerät dieses Verständnis zunehmend ins Wanken. KI kann täuschend echte Bildwelten erschaffen und verändert damit unseren Blick auf Authentizität, Wahrheit und Vertrauen.

Im Rahmen der Ausstellung Wirklich. Kunst und Realität 1400–1900 beantwortet Julian von Mach, Mitarbeiter des Deutschen Museums Bonn, im Vorfeld seines Vortrags KI erklärt – Transformationen von Bildbegriff, Wahrheit und Wirklichkeit fünf Fragen zu den Herausforderungen und Chancen, die KI für unseren Umgang mit Bildern mit sich bringt.

Arp Museum: Welches Beispiel von Fake-News beeindruckt Sie am meisten und warum?
von Mach: Ich mache immer häufiger die Beobachtung, dass Menschen „Fake News“ im Alltag als Randnotiz wahrnehmen. Diese Entwicklung ist in vielerlei Hinsicht besorgniserregend. Als vor einigen Jahren die ersten überzeugenden Fake-Bilder in den sozialen Medien zirkulierten, gab es Artikel in der Presse und Beiträge in den 20-Uhr-Nachrichten. Jene Medien, die vor einigen Jahren noch um Aufklärung bemüht waren, nutzen KI mittlerweile selbst, um Texte zu erstellen oder Beiträge zu bebildern. Das hat sicherlich zu einer gewissen Normalisierung beigetragen. Meiner Meinung nach sollte die Tatsache, dass der amtierende US-Präsident täglich mehrere Dutzend KI-generierte Beiträge fragwürdigen Inhalts auf Social Media verbreitet jedoch keinesfalls normalisiert werden.

Arp Museum: Sie sprechen davon, dass Bilder schon immer durch Regeln und Codes geprägt waren. Was unterscheidet KI-generierte Bilder grundsätzlich von früheren Formen der Bildmanipulation oder Inszenierung?
von Mach: Dazu ist es wichtig, zu verstehen, wie KI-generierte Inhalte produziert werden. Generative Modelle, also solche KI-Anwendungen wie Midjourney, Gemini oder ChatGPT, erstellen auf Basis riesiger Datenmengen neue, zufällig generierte Inhalte. Probleme entstehen, da diese Datenmengen einen sog. Bias haben. Das bedeutet, dass bei der Zusammenstellung dieser Daten an irgendeinem Punkt eine Auswahl getroffen wurde. Wer diese Auswahl getroffen hat und nach welchen Maßstäben entschieden wurde, wissen wir nicht.
Darin liegt ein wesentlicher Unterschied zu früheren Formen der Bildmanipulation oder Inszenierung, denn heutzutage fehlt die eindeutige Referenz oder sie wird verschleiert.

Arp Museum: Gibt es für Sie einen Moment in der Geschichte, an dem sich unser Verhältnis zur Wahrheit ähnlich stark verändert hat wie heute durch KI?
von Mach: Solche Vergleiche sind immer schwierig, aber am ehesten kommt einem das Aufkommen der Massenmedien in der zweiten Hälfte des 20. Jahrhunderts in den Sinn. Die Dynamik ist heute aber eine andere: Damals löste das bewegte Bild den Text als Wahrheitsreferenz ab, dies ging allerdings mit einer redaktionellen Kontrolle eben jener Bilder einher. Heutzutage fehlt diese Kontrolle, da jeder Mensch durch KI in die Lage versetzt wird, beliebig viele Inhalte zu erstellen und beispielsweise über das Internet zu verbreiten. Das führt dazu, dass Symbole und deren Referenz immer stärker partikularisiert werden. Wir kommen an den Punkt, wo wir bestimmte Bilder oder Symbole schlicht nicht mehr verstehen, weil wir deren Referenz nicht mehr kennen. Diese Entwicklung birgt das Potenzial, die Gesellschaft immer weiter zu spalten.

Arp Museum: Wer trägt Ihrer Meinung nach die Verantwortung dafür, dass KI-generierte Inhalte als solche erkennbar bleiben – die Entwickler, Plattformen oder die Nutzenden?
von Mach: Grundsätzlich gilt, dass die Politik klare gesetzliche Rahmen schaffen und für deren Einhaltung sorgen muss. Die Europäische Union hat erst kürzlich entsprechende Regeln dafür auf den Weg gebracht. Ob diese ausreichen, wird sich zeigen. Darüber hinaus sehe ich aber auch die Unternehmen in der Pflicht. xAI, ein Unternehmen von Elon Musk, verklagt beispielsweise aktuell den US-Bundesstaat Minnesota, weil dieser ein Gesetz verabschiedet hat, welches den Nutzen der Technologie hinter gefakten Nacktbildern unter Strafe stellt.

Arp Museum: Wie stellen Sie sich unseren Umgang mit Bildern in zehn Jahren vor?
von Mach: Die Technologie entwickelt sich aktuell in einem derart rapiden Tempo, dass solche Prognosen morgen schon obsolet seien können. Relevanter ist, wohin sich die Gesellschaft in den nächsten zehn Jahren entwickelt. Eine offene, demokratische Gesellschaft mit einer gesunden und kritischen Presselandschaft hat das Rüstzeug gegen Manipulation und Einflussnahme. Es kann nur in unserem Interesse seien, den Menschen von klein auf und bis ins hohe Alter eine umfängliche Medienkompetenz zu vermitteln.

Neugierig geworden? Dann freuen wir uns darauf, Sie beim Vortrag von Julian von Mach am Samstag, den 29. August, von 14 bis 15 Uhr im Arp Museum begrüßen zu dürfen.

Images are often regarded as direct representations of reality. Yet with the rapid development of artificial intelligence, this understanding is increasingly being called into question. AI can create deceptively realistic visual worlds, thereby altering our perspective on authenticity, truth, and trust.

As part of the exhibition Really. Art and Reality 1400–1900, Julian von Mach, Staff at the Deutsches Museum in Bonn, answers five questions about the challenges and opportunities that AI presents for our engagement with images in the lead-up to his lecture AI Explained: Transformations of the Concept of the Image, Truth, and Reality.

Arp Museum: Which example of fake news impresses you the most, and why?
von Mach: I’ve been noticing more and more that people treat “fake news” as a footnote in their daily lives. This trend is concerning in many ways. When the first convincing fake images began circulating on social media a few years ago, there were articles in the press and segments on the 8 p.m. news. Those media outlets that were still striving to educate the public a few years ago now use AI themselves to generate text or illustrate stories. This has certainly contributed to a certain degree of normalization. In my opinion, however, the fact that the incumbent U.S. president shares several dozen AI-generated posts with questionable content on social media every day should by no means be normalized.

Arp Museum: You mention that images have always been shaped by rules and codes. What fundamentally distinguishes AI-generated images from earlier forms of image manipulation or staging?
von Mach: To answer that, it’s important to understand how AI-generated content is produced. Generative models—that is, AI applications such as Midjourney, Gemini, or ChatGPT—create new, randomly generated content based on massive amounts of data. Problems arise because these data sets have what’s known as a bias. This means that at some point during the compilation of this data, a selection was made. We don’t know who made that selection or what criteria were used to make the decision. This represents a fundamental difference from earlier forms of image manipulation or staging, because today the clear reference is either missing or obscured.

Arp Museum: Is there a moment in history, in your view, when our relationship to the truth changed as dramatically as it is today due to AI?
von Mach: Such comparisons are always difficult, but the emergence of mass media in the second half of the 20th century is what comes to mind most readily. But the dynamics are different today: Back then, moving images replaced text as the reference point for truth, though this was accompanied by editorial control over those very images. Today, that control is lacking, since AI enables anyone to create as much content as they want and distribute it, for example, via the internet. This leads to symbols and their references becoming increasingly fragmented. We are reaching a point where we simply no longer understand certain images or symbols because we no longer know their reference. This development has the potential to further divide society.

Arp Museum: In your opinion, who is responsible for ensuring that AI-generated content remains recognizable as such—the developers, the platforms, or the users?
von Mach: As a general rule, policymakers must establish a clear legal framework and ensure compliance with it. The European Union has only recently introduced rules to this effect. It remains to be seen whether these will be sufficient. Beyond that, however, I also believe companies have a responsibility. xAI, a company owned by Elon Musk, is currently suing the U.S. state of Minnesota, for example, because it passed a law criminalizing the use of the technology behind fake nude images.

Arp Museum: How do you envision our use of images in ten years?
von Mach: Technology is currently evolving at such a rapid pace that such predictions could be obsolete by tomorrow. What’s more relevant is the direction in which society will develop over the next ten years. An open, democratic society with a healthy and critical press landscape has the tools to combat manipulation and undue influence. It can only be in our best interest to instill comprehensive media literacy in people from a young age through to old age.

Curious? Then we look forward to welcoming you to Julian von Mach’s talk on Saturday, August 29, from 2:00 to 3:00 p.m. at the Arp Museum.