CYBERSICHERHEIT
KI entlarvt Deepfakes der anderen KI
Forschende der EPFL versuchen im Wettkampf um die beste Täuschung im Internet die Oberhand zu behalten.
Aus Elon Musk wird Robert Downey Jr. Solche Deepfakes lassen sich etwa mit Unstimmigkeiten bei der Haut aufspüren. | Bild: fiverr.com
Künstliche Intelligenzen machen es immer einfacher, Fotos zu manipulieren. Oder Menschen in Videos falsche Worte in den Mund zu legen. Glücklicherweise lassen sich solche Deepfakes oft entlarven − mithilfe von ebenfalls KI-basierten Programmen, die beispielsweise Unstimmigkeiten in der Hautfarbe aufspüren. EPFL-Forschende haben nun ein ergänzendes Modul entwickelt, das die Erfolgsrate aller gängigen Deepfake-Detektoren signifikant verbessert. Durch Transformationen erweitert das Modul die Datensätze, die für das Training der KI zur Verfügung stehen.
Doch auch Deepfake-Generatoren lernen ständig dazu. «Es ist ein ewiges Katz‑und-Maus-Spiel», sagt Teamleiter Touradj Ebrahimi. Er befürwortet deswegen die Einführung von vertrauenswürdigen Bild- und Videoformaten, die Informationen zu Herkunft und Bearbeitung enthalten – wie beispielsweise JPEG Trust, das Anfang 2024 lanciert wird.
