Einsatz von KI bei Bildern in CS Projekten
Beinahe alle Citizen Science Projekte, die sich dem Thema Biodiversität widmen, bitten Citizen Scientists darum Fotos von Tieren, Pflanzen oder Pilzen zu machen und auf ihre jeweiligen Plattformen hochzuladen. Da nun Künstliche Intelligenz (KI) in unserem Alltag angekommen ist, nutzen auch immer mehr Menschen unterschiedlichste Tools und Websiten um ihre Fotos mit Hilfe von KI zu "verbessern". Im Rahmen von Citizen Science Projekten kann dies aber dazu führen, dass Fotos so weit verändert werden, dass diese nicht mehr als Beleg für eine Beobachtung verwendet werden können, da (meist unbeabsichtigt) das Foto durch die KI so verändert wurde, dass eventuell sogar eine andere Art als ursprünglich beobachtet, auf dem "verbesserten" Foto zu sehen ist.
Bericht auf orf.at über "Nature" Kommentar
Diesem wichtigen Thema hat sich Mavie Michelitsch für ORF Wissen gewidmet. Im Fachjournal Nature Ecology & Evolution ist vor kurzem eine Correspondence von mehreren Autor*innen erschienen. Eine Correspondence ist eine Art von Meinungsartikel in einem Fachjournal. Unter den Autor*innen sind auch Wissenschaftler*innen des Cornell Lab of Ornithology und iNaturalist. Diese haben sich Fotos auf großen Vogelbeobachtungsplattformen und auch auf iNaturalist angesehen und dabei mehrere hundert Fotos gefunden, die KI generiert, also komplett neu zusammengestellt wurden. Nur durch die genaue Kontrolle durch Moderator*innen der Plattformen wurden diese Fotos als Fälschungen identifiziert. Die Dunkelziffer ist sicher weit höher.
Das größere Problem ist jenes, welches ich in der Einleitung angeführt habe. Citizen Scientists verwenden KI, um ihre Fotos zu "verbessern". Die Autor*innen der Correspondence zeigen Schritt für Schritt, wie durch KI aus einer Vogelart ungewünscht eine andere gemacht wurde. Es wurden einzelne Kennzeichen einer Vogelart (in diesem Fall ein kleiner Teil der Färbung des Gefieders) auf eine andere übertragen. Nur, weil einer der Autor*innen der KI geschrieben hat, sie solle das Foto verbessern.
Die Autor*innen empfehlen daher allen Citizen Science Plattformen, rigorose Kontrollen einzuführen, die die Echtheit der Fotos überprüfen können. iNaturalist ermöglicht es seit kurzem, dass Fotos von anderen Nutzer*innen markiert werden können, wenn sie denken, dass diese eventuell manipuliert wurden.
Meine Meinung dazu
Bei einigen österreichischen Citizen Science Projekten, wie zum Beispiel naturbeobachtung.at oder unserem Projekt Roadkill, weiß ich, dass hier viele hundert Stunden von Projektmitarbeiter*innen und freiwilligen Moderator*innen in die Datenkontrolle investiert und Fotos manuell kontrolliert werden. Dies schützt zwar nicht zu 100 % vor Manipulationen, ist aber ein wichtiger Schritt, um wissenschaftlich fundierte Daten zu erhalten.
Ich sehe es jedoch in unser aller Verantwortung, wenn wir in der Rolle als Citizen Scientists Meldungen einschicken, dass wir uns an die gute wissenschaftliche Praxis halten und keine Manipulationen an Fotos oder Daten durchführen. Ein "schlechtes" oder nicht so schönes Foto ist für die Wissenschaft mehr wert als ein schönes, aber manipuliertes Foto, welches nicht der Realität entspricht.
Denn wie die Österreichische Agentur für Wissenschaftliche Integrität vor kurzem in ihren neuen Richtlinien festhält:
- Bei Verwendung von KI-Anwendungen liegt die Verantwortung für alle damit in Verbindung stehenden Schritte, Ergebnisse und Konsequenzen jedenfalls bei den Anwendenden.
- Forschende legen die Verwendung von Hilfsmitteln, inklusive KI-Anwendungen, entsprechend der in ihrer Fachdisziplin geltenden Standards offen.
Wir als Citizen Scientists (Ja, auch ich sehe mich als solchen, da ich bei Projekten Daten melde, in denen ich als Laie mitarbeite) sind das Fundament der Forschung von mittlerweile über 80 Projekten, die auf Österreich forscht gelistet sind. Wenn dieses Fundament zu bröckeln beginnt, weil wir mit KI Fotos "verbessern", ist leider die gesamte Forschung mit Citizen Science gefährdet.
Halten wir uns also an die gute wissenschaftliche Praxis und laden lieber mal ein nicht so gelungenes Foto in das Projekt hoch, oder schreiben transparent dazu, dass wir es mit KI verändert haben und in welcher Weise.
Kommentare 9
Wir sehen das Thema KI und "Verbesserung" von Fotos besonders kritisch - siehe auch meinen Blog Artikel zum Thema "Topothek und KI" . Warum? In den Topotheken wird Alltags-Geschichte(n) in Form von alten Fotos, Dokumenten, Videos etc. nachhaltig für die nächsten Generationen bewahrt. Die Gefahr, dass durch KI (Filterfunktionen etc.) Original-Aufnahmen als Zeitzeugen verfälscht werden ist absolut gegeben. In anderen Bereichen wird die KI die Arbeit erleichtern (Beschlagworten von Fotos etc.) - in der beschriebenen Anwendungsweise jedoch sehen wir den Einsatz von KI sehr kritisch.
Danke dir, ja das sehe ich auch so. Die Fotos sind unsere Grundlage, sei es für die Geschichtsforschung oder die Verbreitung von Lebewesen. Sind diese verfälscht, sind auch unsere Ergebnisse verfälscht.
Habt ihr dazu Maßnahmen in den Topotheken gesetzt?
Da vor Ort jedes Topothek-Team selbständig + ehrenamtlich tätig ist, können wir als Plattform-Betreiber nur regelmäßig Bewusstsein schaffen und die Leute immer wieder zu diesem Thema sensibilisieren. Wenn z.B. jemand mit KI "verbesserte" s/w Fotos hochlädt so soll er unbedingt den Hinweis "Original mit KI verändert" anführen UND auch das unveränderte Originalfoto dazu stellen.
"die Geschichte darf nicht neu erzählt werden"
Sehr spannend! Ich dachte, das Problem wäre eher, dass Personen mit KI "fake" Daten generieren und dann Funde melden, die es gar nicht gibt. Darauf, dass Fotos mithilfe von KI "verbessert" werden, wäre ich gar nicht gekommen. Ich würde sagen, es ist einerseits wichtig, mit KI solche "verbesserten" Bilder zu markieren, und andererseits sowohl Citizen Scientists als auch die Moderator*innen über die Nutzung von KI im CS Kontext aufzuklären, zB durch Hinweise, Infomaterialien oder wie du schreibst ev. auch in Schulungen.
Volle Zustimmung!
In vielen Projekten sind Bilder massgeblich für die Qualität der Meldungen, bzw der Beiträge von Citizen Scientists.
zB bei uns, wettermelden.at, ist es essentiell, ausschliesslich Echtzeit-Meldungen und somit auch Echtzeit- Fotos gesendet zu bekommen, um die Ground-Truth der Wetter-Ereignisse korrekt abzubilden und entsprechende Handlungen (Warnungen) abzuleiten. Daher ist es uns gelungen, über unsere Web-App nur aktuell gemachte Fotos und keine Archivaufnahmen zuzulassen. Unsere Erfahrung ist, dass beeindruckende Bilder aus der Community, wenn hochgeladen, nicht aus Böswilligkeit, sondern vielmehr aus Begeisterung über bereits vorab gemachte Aufnahmen in die Echtzeit-App gesendet werden.
Ein nächster hypothetischer Schrit wäre, mit KI eine zuvor gemachte Beobachtung als Bild zu rekonstruieren und zu melden.
Wir werden das jedenfalls auf unserem nächsten Workshop diskutieren.
Man kann wissenschaftliche Sorgfaltspflicht nicht oft genug kommunizieren.
Danke dir, ein weiterer Aspekt, wo man sieht, wie wichtig unverfälschte Fotos sind. Aber auch wie wichtig es ist, dass alle im Projekt Beteiligten sich bewusst sind, welchen Beitrag ihre Meldungen auf Forschungsergebnisse haben.
Untergekommen ist mir ein Fall im Bereich historische Familienforschung, in dem jemand ohne große Vorkenntnisse versucht hat, ein Foto eines partiell schlecht erhaltenen alten Zeitungsartikels mit KI besser lesbar zu machen. Das Ergebnis war super und plausibel zu lesen - nach dem Ausheben des Original hat sich aber gezeigt, dass das gar nicht übereinstimmt. Die KI hatte ganz losgelöst vom Bildmaterial neue Textbausteine erfunden und optisch überzeugend in die Grafik eingefügt (und nicht nur die Pixel "geschärft", wie von dem Bekannten angenommen).
Na das ist ja auch besonders spannend und mir neu! Worauf hier alles zu achten ist! Wir verstehen sichtlich alle viel zu wenig von den Werkzeugen, die hier tagtäglich eingesetzt werden.
Lieber Florian,
unsere KI-Richtlinien sagen das gleiche - vielen Dank für das anschauliche Praxis-Beispiel! An selber denken führt kein Weg vorbei,
danke für Eure Arbeit, Katrin