Der boomende Trend der Nudify-Dienste führt zu Maßnahmen auf Social-Media-Plattformen, um den Missbrauch von fortschrittlichen KI-Modellen einzudämmen.
Im September 2023 verzeichneten Nudify-Dienste einen alarmierenden Anstieg auf einen Rekordwert von 24 Millionen Nutzern. Die Ursache dieses rapiden Anstiegs liegt in der Einführung fortschrittlicher Diffusionsmodelle, die die Erstellung realitätsnaher gefälschter Nacktbilder ermöglichen, ohne dass die Betroffenen davon Kenntnis haben. Was zunächst als kostenloser Zugang zu KI-Tools begann, entwickelte sich rasch zu lukrativen Geschäftsmöglichkeiten, da viele Dienste nach einer Testphase kostenpflichtig wurden.
Die Vermarktung dieser Nudify-Dienste erfolgt verstärkt über Plattformen wie Reddit und andere Social-Media-Plattformen. Seit Januar 2023 stieg die Anzahl der Links, die für diese Dienste in sozialen Medien werben, um erstaunliche 2.400 Prozent an, so berichtet „Graphika“. In den USA mangelt es derzeit an klaren Vorschriften für KI-gesteuerte Apps, die ohne Zustimmung Nacktbilder von Personen erstellen.
Angesichts dieser Entwicklung ergreifen einige Plattformen bereits Maßnahmen, um gegen den Missbrauch vorzugehen. TikTok blockierte beispielsweise die Suche nach Nudify, während Meta begann, bestimmte Suchbegriffe einzuschränken. Trotzdem fehlt es in den USA weiterhin an einer einheitlichen Regulierung für derartige KI-Anwendungen, die eine unerlaubte Generierung von Nacktbildern ermöglichen. Die Debatte über den Schutz der Privatsphäre und die Verantwortung der Plattformen in Bezug auf den Einsatz von KI-gesteuerten Technologien gewinnt daher zunehmend an Bedeutung.