Neuraforge AI: Wie erkennt ein Tool KI-Spuren? (2024)

»Künstliche Intelligenz hinterlässt eine Art Fingerabdruck im Hintergrundrauschen eines Bildes.«

Anatol Maier

Foto: Neuraforge

Wie geht eure Software, die ihr als Neuraforge AI entwickelt, bei der Analyse vor?

Anatol: Bei KI-Detektoren gibt es grundsätzlich zwei Ansätze. Der eine ist die Prüfung auf semantische Spuren, also visuell erkennbare Veränderungen. Da lassen sich Algorithmen entwickeln, die Widersprüchlichkeiten prüfen. Der zweite ist der Fokus auf statistische Merkmale, darauf legen wir unseren Schwerpunkt. Künstliche Intelligenz hinterlässt eine Art Fingerabdruck im Hintergrundrauschen eines Bildes. Diese Spur lässt sich aus den KI-Modellen schwer heraustrainieren, ohne das gewünschte Bild komplett zu degenerieren. Wenn Hersteller das wünschen, können sie diesen Fingerabdruck, den sie sowieso hinterlassen, um ein zusätzliches Element gezielt ergänzen. Dann hinterlassen sie eine Art unsichtbares Wasserzeichen.

Unsere Software erkennt diesen Fingerabdruck und erklärt, wie und warum er entstanden ist. Wir möchten möglichst viele Informationen ohne Wertung liefern. Was eine Person mit dieser Analyse macht, entscheidet sie selbst. Denn KI-generierte Inhalte sind nicht per se schlecht. KI-generierte Mood-Bilder etwa können für die Arbeit von Journalist:innen sinnvoll sein.

Wie ist euer Stand bei der Entwicklung des Tools?

Anatol: Wir arbeiten aktuell an einem Forschungsprototypen, für den wir eine Software für Anwender:innen entwickeln. Die größte Herausforderung für KI-Detektoren, die mit semantischen Spuren arbeiten, ist Bereiche abzudecken, die man selbst während des Trainings noch nie gesehen hat. KI sagt nie „Ich weiß es nicht“ – deswegen entstehen Halluzinationen. Bei unserem Ansatz haben wir eine Trefferquote von über 98 Prozent und können diese auch in unbekannten Bereichen halten. Wir ergänzen Metriken, die angeben, wenn das System keine zuverlässige Aussage treffen kann. Damit versuchen wir zu verhindern, dass unsere eigene Software halluziniert. Das ist zum Beispiel wichtig, wenn ganz neue KI-Modelle auf den Markt kommen. Dann müssen wir unsere Algorithmen prüfen und optimieren. Eine „One size fits all“-Lösung wird es nicht geben, im Zuge des technologischen Fortschritts werden wir immer Anpassungsbedarf haben.

Vielfältiger Einsatz: System für Redaktionssoftware und als Web-Solution

Wie lässt sich euer System in die Praxis von Medienschaffenden integrieren?

Anika: Da gibt es zwei Optionen. Einerseits sprechen wir mit Herstellern jeglicher Art von Archiv- oder Redaktionssoftware, um zum Beispiel eine Art automatisiertes Schlagwort-System für diese Systeme zu erstellen. Wir müssen wissen, wie die Daten verarbeitet werden, um eine Lösung zu liefern, die die Daten schon bei der Ankunft im System scannt. Andererseits arbeiten wir an einer Web-Solution, mit deren Hilfe Journalist:innen einzelne Bilder analysieren können. Das heißt: Man loggt sich online ein, lädt ein Bild hoch und erhält einen Prüfbericht.

Wie hilft euch das Media Lab Bayern dabei?

Anika: Wir haben selbst die Expertise bei der Software-Entwicklung, kennen uns aber im Start-up-Geschäft nur wenig aus. Hier ist die Unterstützung des Media Lab extrem wertvoll. Wir profitieren von dem Umfeld sowie den Kontakten und erhalten Inspiration. Dass wir unsere Idee erfolgreich pitchen konnten und jetzt die Förderung erhalten, gibt uns zusätzliche Motivation, ins Risiko zu gehen und in Vollzeit dieses neue Unternehmen voranzutreiben.