FREELENS e.V. setzt sich als größter deutscher Berufsverband für Fotograf*innen dafür ein, Rahmenbedingungen für den Einsatz von KI zu schaffen. Lesen Sie in diesem Beitrag die Stellungnahme des Verbands und seine Forderungen.
FREELENS Stellungnahme zur Bilderzeugung durch KI
Künstliche Intelligenz (KI) erlebt derzeit durch die Möglichkeit, Bilder mithilfe von Stichworten (Prompts) zu generieren, in der Bilderzeugung (Text-to-Image-Technologie) eine rasante Entwicklung. Die KI lernt unter Zuhilfenahme von Links zu Milliarden von im Internet auffindbaren Fotografien und deren Metadaten, Bilder zu erstellen. Aus einigen Prompts der Internet-Nutzer*innen können so Bilder entstehen, die zwar fiktiv sind, aber auch eine Art von scheinbar authentischer Wirklichkeit zeigen können.
Diese Form der generativen Bilderzeugung hat damit völlig andere Auswirkungen als die KI, die wir in Kameras und Software nutzen, um bessere Aufnahmen zu erhalten oder diese zu bearbeiten. Sie birgt eklatante Gefahren für die Glaubwürdigkeit der Medien und damit für unsere demokratische Gesellschaftsordnung.
Fotografien entstehen ausschließlich durch kamerabasierte Belichtung. Deshalb sind KI-generierte Bilder keine Fotografien.
Authentizität vs. Künstliche Intelligenz
Generierte Bilder zeigen nicht die Realität. Für die Glaubwürdigkeit von Bildern in journalistischen Medien sind authentische Fotografien unverzichtbar. Die dokumentarische Fotografie belegt die Existenz von Personen und Situationen. Auch für das Image von Institutionen und Firmen ist dies relevant. Werden sie und ihre Repräsentant*innen und Produkte nicht durch authentische Fotografien dargestellt, sondern durch eine Idealisierung und die Erfindung einer KI, stellt das Ihre Glaubwürdigkeit in Frage.
Betrüger*innen und Manipulator*innen hingegen werden sich Text-to-Image-KI zu Nutzen machen, werden mit fotorealistischen KI-Bildern vorsätzlich Tatsachen verfälschen und die Betrachtenden manipulieren.
Das gab es bereits in der Vergangenheit, aber in Zukunft werden auch Menschen ohne Vorkenntnisse Deepfakes (realistisch wirkende Medieninhalte, die durch KI verfälscht worden sind) erstellen können, die qualitativ keinen Unterschied zu authentischen Fotos aufweisen. Eine Flut dieser Fälschungen der Wirklichkeit können eine Wirkung entfalten, die unsere Demokratie gefährdet.
Die Verantwortung hierfür weisen die Tech-Konzerne, welche die Technologie zur Verfügung stellen, einmal mehr von sich.
Wir als Fotograf*innen und wir als Gesellschaft werden uns damit auseinandersetzen müssen, dass ein Bild gleichermaßen eine KI-generierte Fiktion, wie auch eine authentische Fotografie sein kann.
Verantwortung übernehmen – Authentizität sicherstellen
Urheber*innen aller Werkformen stehen zu Ihrer Verantwortung. Fotograf*innen übernehmen Verantwortung für das, was sie fotografieren, wie sie es fotografieren und bearbeiten und an wen sie ihre Bilder weitergeben.
Die Herausforderung für Fotojournalist*innen und Medien wird zukünftig sein, den Rezipient*innen die Möglichkeit zu geben, authentische Fotografie von absolut fotorealistischen KI-generierten Bildern zu unterscheiden.
FREELENS ist Mitglied der Content Authenticity Initiative (CAI). Wir begrüßen ausdrücklich die Bereitstellung von international einheitlichen und durchgängig offenen technischen Standards für alle Agierenden (https://verify.
Fotograf*innen sollten Ihre Bilder nach IPTC-Standards entsprechend ihrer digitalen Quelle kennzeichnen (https://cv.iptc.org/newscodes).
Wir fordern alle Medien dazu auf, Bildmaterial entsprechend gut sichtbar wie den Urhebernachweis direkt am Bild zu kennzeichnen: Authentisches Foto [A], Manipuliertes Foto [M], Generiertes Bild [G].
Wir fordern ein Verbot der Löschung von Metadaten, damit die Herkunft und die Urheberschaft von Fotografien nachvollziehbar bleibt.
Politische Entscheidungsträger*innen weisen wir darauf hin, dass die Demokratie auf verlässlich wahre Nachrichten angewiesen ist. Wer den Rechtsstaat vor Deepfakes schützen will, muss die Publikation von nachprüfbar authentischen Informationen fördern.
Ethik & Moral vs. Künstliche Intelligenz
Es gibt über die Frage der Authentizität hinaus weitere ethische Fragen im Zusammenhang mit fotografiebasierten und KI-generierten Bildern.
KIs sind durchaus in der Lage, moralische oder gar politische Leitplanken vorzugeben. Das ist nötig und mag schlimme Auswüchse verhindern. Da aber die KI-Firmen in den USA und China beheimatet sind, werden diese Leitplanken auch entsprechend dortiger Vorstellungen ausgestaltet sein. Unser Konsens einer freiheitlichen, demokratischen Gesellschaft, weicht stark von der politischen Agenda der chinesischen Regierung ab. In Punkten der Moralvorstellungen, z.B. Nacktheit, gilt das auch für die USA.
Von Expert*innen wird zudem beanstandet, dass KI-generierte Werke Vielfalt, Gleichberechtigung und Inklusion bedrohen, da KI entsprechend der Trainings-Bilder menschliche Vorurteile transportiert und manifestiert.
KI-Anwendungen übernehmen keine Verantwortung. Tech-Konzerne übernehmen Verantwortung nur, wenn es dem Geschäftsmodell nützt. Nutzer*innen sind häufig nicht in der Lage, die Folgen ihres Handelns zu überblicken.
Wir fordern die Etablierung einer weltweit handlungsfähigen Aufsichtsbehörde und eine global gültige Vereinbarung über ethische Normen im Bereich der KI-Anwendungen.
Kreativität vs. Künstliche Intelligenz
KI-Bild-Generatoren können jedes Bild erschaffen, dass von Nutzer*innen mit den passenden Prompts angefordert wird. Unzweifelhaft wird sich das auf die Geschäftsmodelle von Fotograf*innen auswirken.
Trotzdem sind wir der Auffassung, dass Kreativität nicht einfach durch KI ersetzt werden kann. Denn was eine KI nicht kann, ist von Vorgaben abzuweichen. Echte Kreative tun das aber: Sie verstoßen gegen Regeln, brechen mit Traditionen, gehen Risiken ein, denken unkonventionell, überwinden Widerstände, sind neugierig, manchmal visionär.
Das ist es, was wir können, was uns Spaß macht und wofür uns unsere Kund*innen bezahlen. Kreativität ist ein chaotischer Vorgang, der nicht auf Berechnung beruht.
Eine KI kombiniert vielleicht Altes neu (z.B. den Stil von van Gogh mit einem Bild von Helmut Newton) und das Ergebnis mag überraschend sein. Aber sie kann immer nur im Korridor des bereits Existierenden erschaffen, ihre Originalität ist begrenzt. Sie kann fortentwickeln oder anders kombinieren, aber nicht gänzlich neu erschaffen.
Kulturelle Vielfalt erhalten, Urheberrechte schützen
Fotografie und Fotojournalismus bilden unsere Kultur nicht nur ab, sie sind ein wichtiger Bestandteil unserer Kultur. Sie prägen unser visuelles Gedächtnis.
Wir alle können uns an Fotografien erinnern, die uns besonders beeinflusst haben, egal ob wir sie in einer Ausstellung gesehen haben oder in einer Zeitung, egal ob sie Menschen zeigten oder vielleicht eine Landschaft.
Eine Kultur ohne authentische Fotografie ist kaum denkbar. Deshalb muss sie auch geschützt werden.
Wir fordern, die Rechte von Urheber*innen zu achten, deren Bilder von KI-Generatoren als Trainingsmaterial (Datamining) verwendet werden. Unter dem Vorwand wissenschaftlicher Forschung werden über gemeinnützige Vereine Links und Metadaten von derzeit 5,85 Milliarden Bildern den großen Tech-Konzernen zur Verfügung gestellt. Diese Trainingsdaten werden eine enorme Wertschöpfung erzeugen, die bei diesen wenigen Tech-Konzernen in den USA und in China verbleibt. KI-Business ist kein sympathisches Start-up-Business. IT-Giganten wie Microsoft, Google und Amazon, welche die Infrastruktur in Form von enormen Rechenkapazitäten beherrschen, werden die wirtschaftlichen Profiteure der Entwicklung sein.
Open Source ist nicht mehr “Open”
Der ursprüngliche Ansatz, diese Technologie »Open Source« und damit transparent zu erhalten, wurde inzwischen aufgegeben. Open AI ist seit GPT-4 nicht mehr »Open«. Damit fällt die Maske, es geht nicht um Forschung, es geht um sehr viel Geld. Es geht darum, den Markt zu dominieren und Abhängigkeiten zu schaffen.
Außen vor bleiben die Kreativen der Welt, die für die Speisung dieses Systems unerlässlich sind. Von ihnen wird keine Erlaubnis eingeholt und sie werden auch nicht honoriert, wie im Urhebergesetz vorgesehen.
Hier ist in kürzester Zeit ein parasitäres System entstanden. Tech-Konzerne verleiben sich die Kreativität erst ohne Vergütung ein, um dann die Kreativen durch KI zu ersetzen. Der Parasit tötet hier den Wirt, auch wenn er ohne frisches Blut in Form von neuen kreativen Werken selbst verenden wird. Es droht eine Dystopie des kreativen Stillstands und der ewigen Wiederholung.
FREELENS Stellungnahme zur Bilderzeugung durch KI: Forderungen
Der erste Schritt gegen diesen Kreislauf wäre, den Datamining-Vereinen die Gemeinnützigkeit zu entziehen. Werke dürfen ohne Zustimmung und angemessene Honorierung der Urheber*innen nicht als Trainingsmaterial verwendet werden.
Sind urheberrechtlich geschützte Werke in den KI-generierten Bildern identifizierbar (Montagen), müssen Urheber- und Persönlichkeitsrechte vollständig Anwendung finden.
Es müssen gesetzliche Regelungen geschaffen werden, die KI-Anwendungen kontrollieren, die Übermacht der großen Tech-Konzerne regulieren und die Transparenz beim Datamining sicherstellen.
Sam Altman, CEO von OpenAI, sagte gegenüber ABC News: »It is going to eliminate a lot of current jobs, that’s true. We can make much better ones.« Den zweiten Satz können wir für die Kreativbranche ausschließen.
Wir Fotograf*innen sind stets offen für neue Technologien. Großformatige Kameras wurden von Kleinbildkameras abgelöst, analoge Fotografie von digitaler Fotografie.
Aber es ist wichtig, sich der Folgen dieser revolutionären Neuerungen durch künstliche Intelligenz gewahr zu werden. Sie werden unser Leben umfassend verändern. Sie werden Chancen bieten, aber sie sind eine Gefahr für unsere Gesellschaft und unsere Demokratie.
FREELENS, der mitgliederstärkste Verband der Fotograf*innen Deutschlands, begrüßt die Stellungnahme des Ethikrates zur Verwendung von künstlicher Intelligenz: »Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen. Das sind grundlegende Regeln für die ethische Bewertung«, sagt Alena Buyx, die Vorsitzende des Deutschen Ethikrates.
Eine breite gesellschaftliche Debatte über die Folgen von KI ist unabdingbar. Wir sind dazu bereit.
Weitere Beiträge zum Thema:
