Das "Wahrheit" im Gerichtssaal: "Ist dieses Beweismittel von einer KI erzeugt?" Falsche Bilder, die den Gerichtssaal erschüttern, und die Grenzen der Technik, sie zu entlarven

„Ist das Beweisstück von einer KI erstellt?“ Falsche Bilder erschüttern das Gericht und die Grenzen der Erkennungstechnologie

Auf dem Smartphone gespeicherte Aufnahmen, Überwachungskamerabilder, Fotos, die in sozialen Netzwerken gepostet wurden. Wenn es zu Problemen kommt, können solche Aufzeichnungen Hinweise liefern, um Meinungsverschiedenheiten zu klären.

Aber was, wenn jemand behauptet, dass diese Aufzeichnungen von einer generativen KI erstellt wurden?

Ist etwas echt, nur weil es natürlich aussieht? Ist es gefälscht, wenn ein Erkennungstool Zweifel äußert? Und haben wir die Originaldateien von Fotos, die wir vor Jahren gepostet haben, noch?

Forschung in Kanada hebt die Komplexität dieses Problems hervor. Technologien zur Erkennung von KI-generierten Beweisen werden entwickelt. Doch die Ergebnisse aus dem Labor lassen sich nicht einfach auf reale Gerichtsverfahren übertragen.

Selbst mit mehreren Erkennungs-KIs gibt es keine eindeutigen Schlussfolgerungen

Laut einem Artikel der Canadian Press, veröffentlicht von Global News am 30. Oktober 2026, wird die Forschung von Maura Grossman, einer Informatikforscherin an der Universität Waterloo, gemeinsam geleitet. Sie lehrt auch an der Osgoode Hall Law School der York University.

Das Ziel des Teams ist es, ein kostenloses, benutzerfreundliches Open-Source-Tool zu entwickeln, das von Gerichten und Justizmitarbeitern genutzt werden kann, um zu überprüfen, ob Bilder und andere Medien von KI erstellt oder bearbeitet wurden.

Ein Merkmal des Systems ist, dass es nicht auf einen einzelnen Algorithmus vertraut, sondern mehrere fortschrittliche Erkennungsalgorithmen kombiniert. Jeder Algorithmus trifft seine eigene Entscheidung, und die Ergebnisse werden wie in einem Komitee zusammengetragen.

Doch während sich das zweijährige Forschungsprojekt dem Halbzeitpunkt nähert, werden Herausforderungen sichtbar.

In zwei realen Tests, die Grossman durchgeführt hat, stimmten die Algorithmen nicht ausreichend überein, um nützliche Schlussfolgerungen zu ziehen.

Es ist wichtig zu beachten, dass dieser Bericht nicht beweist, dass „alle KI-Erkennungstechnologien unbrauchbar sind“. Die ursprünglichen Artikel geben keine detaillierten Bedingungen dieser zwei Fälle oder die Genauigkeitsrate basierend auf umfangreichen Bewertungen an. Es wird auch nicht erwähnt, dass die Überprüfung offiziell vor Gericht angenommen wurde.

Dennoch zeigt die Tatsache, dass selbst die Kombination modernster Technologien zu unterschiedlichen Urteilen führen kann, dass die Erwartung, „KI-Fälschungen durch eine andere KI zu lösen“, überdacht werden muss.

Mit dem Posten in sozialen Netzwerken gehen Hinweise zur Überprüfung verloren

Warum gibt es eine Diskrepanz zwischen Labor und Realität?

Ein Grund, den Grossman nennt, ist die Veränderung von Bildern während ihrer Verbreitung.

Die Datei direkt nach der Aufnahme und das Bild, das in sozialen Netzwerken gepostet wird, sind nicht unbedingt im gleichen Zustand. Beim Posten kann es komprimiert werden, und Metadaten, die Informationen zur Aufnahme enthalten, können entfernt werden.

Darüber hinaus kann das Bild gespeichert, an einem anderen Ort gepostet und als Screenshot geteilt werden. Auch wenn das Bild ähnlich aussieht, unterscheiden sich die überprüfbaren Informationen vom Original.

Zudem ist es nicht immer der Fall, dass das Problem direkt nach dem Posten vor Gericht kommt. Jahre später, wenn ein Streit entsteht, könnte die Originaldatei verschwunden sein.

Wichtig ist, dass die Komprimierung oder das Fehlen von Metadaten an sich kein Beweis für eine Fälschung ist. Schon die normale Nutzung sozialer Netzwerke kann zu solchen Zuständen führen.

Auch bei echten Bildern werden die Überprüfungsmöglichkeiten geringer. Deshalb muss klar zwischen „nicht überprüfbar“ und „gefälscht“ unterschieden werden.

Im Gerichtssaal zählt nicht nur das „Ergebnis der Erkennung“

Bei der alltäglichen Nutzung von sozialen Netzwerken mag die Entscheidung „es ist verdächtig, also teile ich es nicht“ ausreichen.

Im Gerichtssaal sind die Auswirkungen einer Entscheidung jedoch viel größer. Ob man einem Beweisstück glaubt oder nicht, kann die Verantwortung und das Leben einer Person beeinflussen.

Grossman betont, dass das Tool nie als Allheilmittel gedacht war und dass menschliches Eingreifen und Urteilsvermögen notwendig sind. Es braucht auch jemanden, der erklären kann, warum eine bestimmte Entscheidung getroffen wurde.

Wenn Erkennungsergebnisse verwendet werden, muss man sich damit auseinandersetzen, was untersucht wurde, unter welchen Bedingungen die Beurteilung schwierig wird und wie viel Unsicherheit bleibt.

„Weil die KI gesagt hat, es sei gefälscht“ reicht nicht aus, um ein möglicherweise von einer anderen KI erstelltes Beweisstück ausreichend zu überprüfen.

Diese Forschung stellt nicht nur die Leistung der Erkennungsgeräte in Frage, sondern auch, ob die Ergebnisse in einer für Menschen verständlichen und überprüfbaren Weise in die Justiz integriert werden können.

Der Grund für das Streben nach einem kostenlosen Tool liegt in den Überprüfungskosten

In der Forschungspräsentation der Universität Waterloo wird erklärt, dass die Überprüfung von KI-bezogenen Beweisen durch Experten teuer sein kann und zu Verzögerungen im Prozess führen kann. Bei kleineren Fällen ist eine solche Vorgehensweise oft nicht möglich.

Ein kostenloses und benutzerfreundliches Tool soll auch Menschen helfen, die ohne Anwalt vor Gericht gehen oder keinen Zugang zu ausreichender fachlicher Unterstützung haben.

Es besteht die Gefahr, dass die Belastung durch das Erstellen von Fälschungen und deren Überprüfung unausgewogen wird.

Was, wenn für jedes verdächtige Bild eine teure Begutachtung erforderlich wird? Oder wenn jemand, der echte Aufzeichnungen einreicht, viel Zeit und Geld aufwenden muss, um deren Echtheit zu beweisen?

Dies ist eine Frage der Fairness, die sich aus dem Hintergrund der Forschung ergibt. Wie weit können die Mittel zur Überprüfung von Beweisen verbreitet werden? Neben der Erkennungsgenauigkeit werden auch diese Bedingungen hinterfragt.

In sozialen Netzwerken wird nicht nur die „Angst vor durchgehenden Fälschungen“ thematisiert

In einer öffentlichen Diskussion zu diesem Thema auf Reddit, in der britischen Polizeikommunität „r/policeuk“, wird die Möglichkeit erörtert, dass von KI erstellte oder bearbeitete Bilder und Videos als Beweise eingebracht werden.

Im Folgenden werden die Hauptpunkte eines Beitrags in einem anderen Thread zum gleichen Thema zusammengefasst, der nicht direkt auf den Global News-Artikel reagiert. Es handelt sich um einen anonymen Beitrag, dessen Beruf oder Erfahrungsberichte nicht unabhängig verifiziert werden konnten.

Ein Punkt ist die Sorge, dass selbst echte Überwachungsbilder in Frage gestellt werden könnten, was deren Überzeugungskraft beeinträchtigen würde.

Andererseits wurde die Meinung geäußert, dass es wichtiger wird, Daten direkt von der Quelle zu erhalten oder mehrere Aufnahmen desselben Ereignisses zu vergleichen.

Es gab auch Beiträge, die die Nutzung von KI als Unterstützung bei der Erstüberprüfung befürworteten, da die Testdaten für Erkennungstools nicht mit den im Alltag verwendeten Bildern identisch sind und Menschen die weitere Untersuchung übernehmen sollten.

Diese Beiträge repräsentieren nicht die gesamte öffentliche Meinung. Sie zeigen jedoch, dass das Interesse nicht nur darauf gerichtet ist, „ob Fälschungen erkannt werden können“, sondern auch darauf, „wie das Vertrauen in das Echte bewahrt werden kann“.

Auch der Verdacht „Das ist KI“ muss überprüft werden

Die Probleme, die durch generative KI entstehen, haben zwei Richtungen.

Zum einen, dass Fälschungen als echt akzeptiert werden. Zum anderen, dass echte Aufnahmen als Fälschungen abgelehnt werden.

Wenn man nur das Erstere fürchtet und alle Aufnahmen anzweifelt, könnte die Mühe derer, die Vorfälle oder Schäden dokumentieren, bedeutungslos werden.

Umgekehrt besteht die Gefahr, dass man geschickt erstellte Materialien akzeptiert, wenn man nur auf die natürliche Erscheinung vertraut.

Es geht nicht darum, im Voraus zu entscheiden, ob man glaubt oder zweifelt, sondern darum, die Entstehung der Aufzeichnung zu überprüfen.

Wer hat wann und wo die Aufzeichnung gemacht? Gibt es die Originaldaten? Wie wurde sie geteilt? Widerspricht sie anderen Beweisen?

Auch diejenigen, die auf die Möglichkeit einer KI-Bearbeitung hinweisen, müssen Materialien bereitstellen, die diese Behauptung überprüfen können. Nur weil eine Möglichkeit besteht, wird ein einzelner Beweis nicht automatisch zur Fälschung.

Auch für uns in Japan relevant: „Wie man Aufzeichnungen aufbewahrt“

Dieser Bericht bezieht sich auf Forschung in Kanada und nicht darauf, dass japanische Gerichte das gleiche System anwenden.

Dennoch gibt es viele Berührungspunkte mit dem Alltag.

Dashcams bei Verkehrsunfällen, geschäftliche Korrespondenz, Probleme mit Geschäften, Belästigung in sozialen Netzwerken. Viele Menschen bewahren Fotos, Aufnahmen oder Bildschirmaufzeichnungen für den Fall eines Vorfalls auf.

Eine Lehre aus den aktuellen Herausforderungen für das tägliche Management von Aufzeichnungen ist, nicht nur Kopien für die Weitergabe, sondern auch die Originaldaten aufzubewahren.

Auch wenn es bearbeitete Bilder zur besseren Sichtbarkeit gibt, sollte man die Originale vor der Bearbeitung speichern. Auch wenn man kurze Videos erstellt, sollte man die Originalvideos mit den vorangegangenen und nachfolgenden Szenen aufbewahren. Datum und Umstände der Aufzeichnung sollten nachvollziehbar bleiben.

Diese Methoden garantieren nicht, dass bestimmte Materialien vor japanischen Gerichten als Beweise anerkannt werden. Sie sind jedoch eine Überlegung, um nicht selbst die späteren Überprüfungsmöglichkeiten zu verringern.

„Was gezeigt wird“ ist genauso wichtig wie „wie die Aufzeichnung erhalten wurde“.

Bildverbesserung und Faktenüberprüfung sind nicht dasselbe

Ein weiterer Punkt, auf den man im Alltag achten sollte, ist die Bildkorrektur mit generativer KI.

Hier geht es um ein Problem beim Umgang mit Aufzeichnungen, das sich von den zwei Versuchen von Grossman und ihrem Team unterscheidet.

Die Aufhellung eines dunklen Bildes und das Hinzufügen unsichtbarer Teile durch generative KI haben nicht die gleiche Bedeutung. Auch wenn glaubwürdige Gesichter oder Objekte erscheinen, bedeutet das nicht, dass sie im Original vorhanden waren.

Ein verbessertes Bild kann einen starken Eindruck hinterlassen. Doch die Klarheit des Eindrucks und die Zuverlässigkeit als Aufzeichnung sind zwei verschiedene Dinge.

Selbst wenn man eine bearbeitete Version zur Überprüfung oder Erklärung erstellt, ist es wichtig, sie nicht mit den Originaldaten zu verwechseln. Wo endet die Aufzeichnung und wo beginnt die durch Bearbeitung entstandene Darstellung? Wenn diese Unterscheidung verloren geht, kann selbst gut gemeinte Arbeit die Beurteilung erschweren.

Es reicht nicht, nur auf den „ultimativen Erkennungsdetektor“ zu warten

Grossman und ihr Team setzen ihre Forschung fort und planen, im nächsten Schritt Meinungen von Strafverfolgungsbehörden und politischen Entscheidungsträgern einzuholen.

Grossman hebt nicht nur die Technik hervor, sondern auch das Recht, die Regulierung, die Politik und die Bildung der Menschen zur Informationsbewertung.

Soll die Last der Erkennung schädlicher Inhalte, nachdem sie erstellt wurden, allein auf den Erkennungsprozess gelegt werden? Sollten bestimmte Inhalte überhaupt nicht erstellt werden dürfen? Der Originalartikel erwähnt auch solche politischen Überlegungen, jedoch ohne konkrete Vorschläge, was und in welchem Umfang verboten werden sollte.

Die Schwierigkeiten der Forschung sind kein Grund zur Aufgabe. Vielmehr liefern sie Materialien, um zu unterscheiden, was die Technik leisten kann und was nicht.

Das Vertrauen in zukünftige Beweise kann nicht allein auf die Antwort eines einzigen Erkennungsgeräts gestützt werden. Es erfordert die Kombination von Originaldaten, dem Verlauf der Aufzeichnung, umgebenden Materialien und menschlichen Erklärungen.

Der Wert von Fotos und Videos verschwindet nicht. Um diesen Wert zu schützen, ist es an der Zeit, nicht nur den Inhalt, sondern auch den Weg dorthin zu überprüfen.

Quellen und Referenzen

1. Global News/The Canadian Press:
   Grossmans Erklärungen, das System, das mehrere Erkennungsalgorithmen kombiniert, die unzureichende Übereinstimmung in zwei realen Fällen, Probleme mit Bildkomprimierung und Metadatenverlust, zukünftige Forschungspläne.
   https://globalnews.ca/news/12127820/distinguishing-ai-information-in-court/

2. Universität Waterloo: Hintergrund und Ziele des Forschungsprojekts
   Forschung unterstützt von CIFAR, Gründe für die Entwicklung eines kostenlosen Open-Source-Tools, Kosten und Zugang zu Expertenüberprüfungen in der Justiz.University of Waterloo
   https://uwaterloo.ca/computer-science/news/cs-professors-receive-new-cifar-grants-address-ai-safety

3. Reddit „r/policeuk“: Öffentliche Diskussion über KI-generierte und bearbeitete Beweise
   Bedenken, dass selbst echte Überwachungsbilder in Frage gestellt werden, Überprüfung der Quelle und Abgleich mehrerer Beweise, Rollenverteilung zwischen Mensch und KI. Anonym diskutiert, nicht direkt auf den Originalartikel bezogen.reddit.com
   https://www.reddit.com/r/policeuk/comments/1r5bxef/has_anyone_come_across_an_instance_of_ai/##HTML