Nedávné vystoupení Paris Hilton na Capitol Hill nebylo o módě nebo klepech celebrit; bylo to ostré varování před hrozbou AI deepfakes vytvořených bez souhlasu, zejména proti ženám a dívkám. Hilton využila své trauma z minulosti – neoprávněné zveřejnění soukromého videa, když jí bylo 19 – k tomu, aby upozornila na nebezpečí technologie, která nyní umožňuje vytvářet miliony vykořisťovatelských obrázků a videí s alarmující lehkostí. Nejde jen o otázku soukromí; je to nová forma digitálního násilí.
DEFIANCE Zákon a právní rámec
Načasování Hiltonovy obhajoby se shoduje se schválením zákona DEFIANCE v Senátu, což je iniciativa obou stran, jejímž cílem je poskytnout obětem hluboce napodobených pornografie vytvořené AI právní prostředky. Poprvé mohou lidé, kteří jsou obětí deepfakes vytvořených bez jejich souhlasu, žalovat tvůrce a distributory. Jedná se o důležitý krok vpřed, protože stávající zákony mají potíže udržet krok s rychlým rozvojem této technologie.
Hiltonova osobní historie poukazuje na nedostatek právní ochrany v minulosti. Popsala, jak na začátku roku 2000 neexistovala „žádná slova“, která by definovala, co se s ní stalo, když bylo její soukromé video zveřejněno. Nyní se měřítko změnilo: Hilton tvrdí, že na internetu je více než 100 000 jejích sexuálně explicitních deepfake, všechny vytvořené bez jejího souhlasu.
Rozsah problému: “epidemie”
Problém se netýká jen celebrit. Výzkum ukazuje hluboce zkreslený obrázek: analýza z roku 2019 zjistila, že 96 % deepfakeů bylo pornografických a přibližně 90 % z nich se zaměřovalo na ženy. Problém se zrychluje, protože organizace na ochranu dětí, jako je Národní centrum pro pohřešované a zneužívané děti, hlásí nárůst případů zahrnujících generativní umělou inteligenci a sexuální zneužívání dětí.
To je usnadněno snadností, s jakou lze s obrázky a videi manipulovat pomocí nástrojů, jako jsou Sora a ChatGPT. Stačí jen jedna veřejně dostupná fotka, aby špatní herci mohli vytvořit hluboce falešný obsah, díky čemuž je digitální souhlas důležitější než kdy jindy.
Co rodiče potřebují vědět
Praktické důsledky pro rodiče jsou jasné: digitální prostředí se změnilo. Tradiční „konverzace mezi ptáky a včelami“ nyní musí zahrnovat upřímné diskuse o obrázcích upravených umělou inteligencí, digitálním souhlasu a nastavení soukromí. Děti a teenageři musí pochopit, že s fotografiemi a videi na internetu lze manipulovat bez jejich vědomí nebo svolení.
Poselství Hiltonu je přímé: „Žádné množství peněz ani právníci“ nemohou plně ochránit oběti, pokud nebudou k dispozici právní a technologické nástroje pro boj proti tomuto zneužívání.
Nejde jen o zabránění vykořisťování; jde o přípravu generace na svět, kde je stále obtížnější odlišit digitální realitu od pravdy. Boj za digitální souhlas je nyní věcí veřejné bezpečnosti.
