Die Universität von Maryland und die NYU forschen gemeinsam an einer Technik zur Umkehrung neuronaler Netzwerkmodelle. Sie haben eine Methode namens "Plug-In Inversion (PII)" entwickelt, eine Art Umkehrtechnik, die zur Erklärung von KI-generierten Bildern eingesetzt werden kann. PII kombiniert verschiedene Techniken und ist auf unterschiedliche Architekturen neuronaler Netze anwendbar. Sie hilft dabei, die vom Modell gelernten Informationen zu verstehen.
Diese Forschung liefert neue Werkzeuge zum Verständnis des inneren Verhaltens neuronaler Netze und erweitert den Blickwinkel auf die Erklärbarkeit von KI. Es wird erwartet, dass diese Entwicklung die Forschung im Bereich der neuronalen Netze vorantreiben wird.