Deepfake – dlaczego art. 50 ust. 4 AI Act dotyczy każdej firmy
Poniżej znajdziesz dwie grafiki. Na pierwszej familiaryzuję się z kosmitą na wycieczce w Czarnogórze. Na drugiej widać puszkę Coca-Coli. Obie zostały wygenerowane przez AI. Wedle wytycznych Komisji deepfakiem jest tylko jedna z nich. I nie, to nie ta, którą masz na myśli. Co tłumaczy, dlaczego ja mam prawo nazwać dokument Komisji głupim, a ty masz powód się martwić. I dlaczego powinieneś szybko przejrzeć umowy z agencjami reklamowymi oraz dostawcami treści wizualnych i audiowizualnych. No i obrazki na firmowej stronie internetowej. Bo jak nie to – i tu pada kochany zwrot każdego prawnika – grozi ci kara administracyjna. Dodam, że wysoka.
Papież w kurtce Balenciagi
Trzeba zacząć od tego, dlaczego AI Act w ogóle zawiera przepisy dotyczące deepfake’ów. Obowiązek oznaczania deepfake’ów z art. 50 ust. 4 wynika z obaw, że generowane przez AI nagrania i obrazy staną się nieodróżnialne od rzeczywistości i posłużą do łatwej masowej manipulacji. Motyw 134 AI Act wspomina treści, które łudząco przypominają prawdziwe osoby, przedmioty czy zdarzenia i fałszywie uchodzą za autentyczne. Kontekstem była przede wszystkim dezinformacja polityczna, bo nie bez powodu w literaturze opisuje się deepfake’i jako realne zagrożenie dla demokracji, zwłaszcza w latach wyborczych. Archetypem deepfake’a, który uświadomił wszystkim, jak może wyglądać dezinformacja w erze AI, był obraz papieża Franciszka w białej puchowej kurtce Balenciagi łudząco przypominający rzeczywiste zdjęcie. I który w pierwszej chwili wywołał rzeczywistą dezorientację odbiorców.
Wymuszenie wyraźnego oznaczenia takich deepfake’ów ma oczywiście sens, a zagrożenia dezinformacją nie należy lekceważyć (zwłaszcza – tu standardowy eufemizm – w obecnej sytuacji geopolitycznej). I gdyby się tego trzymać, zakres przepisu byłby stosunkowo wąski, obejmując tylko te sytuacje, w których odbiorca naprawdę nie jest w stanie odróżnić zapisu rzeczywistości od czegoś, co ją tylko udaje. I ma znaczenie informacyjne, wprowadzając w błąd co do tego, co się naprawdę zdarzyło: jak przebiegała demonstracja, gdzie był znany polityk, kto brał udział w zamieszkach, ile osób próbowało nielegalnie przekroczyć granicę albo jak była ubrana osoba publiczna i z kim się spotkała.
Brzmienie odpowiednich przepisów AI Act jest przy tym dość skromne. Artykuł 3 pkt 60 AI Act definiuje deepfake jako wygenerowaną lub zmanipulowaną przez AI treść obrazową, dźwiękową lub wideo, która przypomina istniejące osoby, przedmioty, miejsca lub zdarzenia i może fałszywie wydać się odbiorcy autentyczna lub zgodna z prawdą. Artykuł 50 ust. 4 dokłada do tego właściwie jedno zobowiązanie: podmiot, który taką treść wytwarza, ma ujawnić, że została ona sztucznie wygenerowana lub zmanipulowana. Jak dokładnie to robić, w jakim momencie i co konkretnie mieści się w definicji, przepis pozostawia otwarte.
Tę lukę miały wypełnić dokumenty opracowywane przez Komisję. AI Act przewiduje bowiem, że Komisja wyda wskazówki co do praktycznego stosowania jego przepisów, w tym tych o przejrzystości (art. 96). I z tego uprawnienia skorzystała: 8 maja 2026 r. opublikowała projekt wytycznych do art. 50, pierwszą całościową wykładnię tego przepisu. Formalnie dokument nie wiąże, ale w praktyce to on, a nie sam lakoniczny przepis, powie rynkowi, co naprawdę trzeba oznaczać i w jaki sposób. To na nim oprą się działy compliance, organy nadzoru oraz platformy, i właśnie dlatego, choć są to tylko wytyczne, mają znaczenie.
Na pierwszy rzut oka można narzekać co najwyżej na termin publikacji. Obowiązki z art. 50 ust. 4 zaczynają obowiązywać 2 sierpnia 2026 r., a wbrew rozpowszechnionym nadziejom Digital Omnibus tej daty nie zmienia, bo w zakresie art. 50 wprowadza jedynie grace period dla dostawców systemów generatywnych już obecnych na rynku, i to tylko co do obowiązku znakowania z art. 50 ust. 2 AI Act. Majowa publikacja pierwszego projektu wytycznych to więc tak naprawdę ostatnia chwila. Problem zaczyna się jednak, gdy przyjrzeć się treści dokumentu nieco głębiej. Jest on, trudno nie użyć tego słowa, naprawdę kuriozalny.
Definicja, dosłownie do bólu
Cały kłopot bierze się z samej definicji, a właściwie ze sposobu, w jaki Komisja ją czyta. Rozkłada ją na cztery przesłanki: deepfake to treść (i) podobna do (ii) istniejących (iii) osób, przedmiotów, miejsc, podmiotów lub zdarzeń, która (iv) fałszywie sprawia wrażenie autentycznej lub zgodnej z prawdą. Do tego dochodzi warunek wstępny, że została wygenerowana lub zmanipulowana przez AI. I tu zaczyna się problem, bo każdą z tych przesłanek Komisja bierze osobno i czyta najzupełniej dosłownie, nie pytając, czemu cały przepis miał właściwie służyć.
Najwięcej szkody robi przesłanka „istniejących”. Komisja czyta ją nie jako odwzorowanie konkretnej, rzeczywistej osoby czy miejsca, lecz jako wszystko, co istnieć mogłoby. Spod definicji wypadają więc tylko treści jawnie fantastyczne albo fizycznie niemożliwe, jak smoki, lewitujący ludzie czy kosmita w szlafroku z początku tego tekstu (bo przecież kosmici nie istnieją, prawda?). Wszystko, co choć trochę realistyczne, zostaje w środku. Test „fałszywej autentyczności” Komisja stosuje zaś obiektywnie, bez względu na to, czy podmiot stosujący w ogóle zamierzał kogokolwiek zwieść. I dlatego packshot puszki coli się łapie. Podobnie jak wygenerowane przez AI zdjęcie zespołu w biurze na firmowej stronie, fotorealistyczny render nowej pralki w sklepie internetowym, sukienka zaprezentowana na nieistniejącej modelce albo apetyczny burger ze zdjęcia w aplikacji z dostawą jedzenia. Każda z tych treści przypomina coś, co istnieje, każda może uchodzić za fotografię i żadna nie ma nic wspólnego z dezinformacją. Im bardziej zwyczajny i prawdopodobny obraz, tym w świetle wytycznych większe ryzyko, że zostanie uznany za deepfake.
A co z treściami o charakterze artystycznym lub twórczym?
A jeśli coś zostanie uznane za deepfake, to fakt wygenerowania treści przez AI trzeba wyraźnie ujawnić. Jak dokładnie? Tu akurat wiadomo całkiem sporo, choć nie wszystko. Wytyczne wymagają ujawnienia „jasnego i rozróżnialnego”: jasnego, czyli zauważalnego i zrozumiałego, również dla osób ze szczególnymi potrzebami, oraz rozróżnialnego, czyli łatwego do oddzielenia od reszty treści i otoczenia. Informacja schowana w regulaminie, instrukcji czy rozwijanym menu nie wystarczy. Ujawnienie musi przy tym nastąpić najpóźniej przy pierwszym kontakcie każdego odbiorcy z treścią, co oznacza, że widz, który włączy spot w połowie, również ma się dowiedzieć, że patrzy na deepfake, a więc oznaczenie trzeba w nagraniu powtarzać albo utrzymywać przez cały czas.
Towarzyszący wytycznym projekt Kodeksu praktyk dorzuca konkrety co do formy: dla obrazu jest to widoczna, wyraźna ikona na samej grafice, dla wideo ikona utrzymywana przez cały czas albo komunikat wyświetlany na początku i powtarzany w regularnych odstępach, a dla dźwięku słyszalne ostrzeżenie. Jest tylko jeden problem: docelowego, jednolitego unijnego oznaczenia wciąż nie ma. Dopiero powstaje w osobnym zespole roboczym, a do czasu jego gotowości dopuszczono prowizoryczną dwuliterową etykietę „AI”. Innymi słowy, obowiązek ruszy 2 sierpnia 2026 r., a oficjalnego znaczka, którym mielibyśmy go spełnić, jeszcze nie wymyślono.
Obowiązek ten złagodzono, choć nie wyłączono, dla treści o wyraźnie artystycznym, twórczym, satyrycznym, fikcyjnym lub analogicznym charakterze. W tym przypadku obowiązek ujawnienia może być wykonany w sposób, który nie utrudnia wyświetlania lub korzystania z utworu. Ale to nie nasz przypadek. Wszystkie treści komercyjne wypadają z zakresu wyjątku. Kryteria są przy tym cokolwiek mgliste. Trudno na przykład powiedzieć, czy obrazki, które stanowią ilustracje do postów na tym blogu, podpadają pod artystyczny czy twórczy charakter. A może przeważa fakt związku tego blogu z prowadzoną przeze mnie kancelarią?
I tu nie unikniemy zresztą zażenowania, czytając, jak Komisja zaplątuje się we własne nogi. Szczególnie tłumacząc, co to jest twórczy charakter. Wyraźnie nawiązuje tu do przesłanek ochrony prawnoautorskiej (ma to być rezultat twórczych wyborów autora, niezdeterminowany względami funkcjonalnymi lub technicznymi), żeby podać później jako przykład piosenkę wygenerowaną przez model AI, która – khekmmm… – przesłanek ochrony prawnoautorskiej nie spełnia, bo nie stanowi wyniku twórczych (i swobodnych) wyborów człowieka. Zresztą nie do końca wiadomo, jak ten wywód rozumieć, bo najpierw wynikałoby z niego, że w sumie wszystko, co jest utworem, podlega tym złagodzonym wymogom. Ale później, ni stąd, ni zowąd, Komisja stwierdza, że do treści komercyjnych te złagodzone wymogi i tak się nie stosują.
Czy odbiorcy to idioci?
Lektura wytycznych może prowadzić do wniosku, że owszem. Ustalając, czy treść „fałszywie wydaje się autentyczna”, Komisja wskazuje nie na model przeciętnego, rozsądnego odbiorcy, ale na każdego potencjalnego odbiorcę, nawet najmniej wprawnego cyfrowo. To standard znacznie niższy niż ten z prawa konsumenckiego, gdzie punktem odniesienia jest konsument dostatecznie dobrze poinformowany, uważny i ostrożny (model z orzecznictwa TSUE od sprawy C-210/96 Gut Springenheide).
Pewnym usprawiedliwieniem dla Komisji jest sposób sformułowania artykułu 50. W ust. 1, dotyczącym czatbotów, prawodawca unijny wyraźnie odwołał się do punktu widzenia osoby „dostatecznie poinformowanej, spostrzegawczej i ostrożnej”. W ust. 2 i 4, o znakowaniu treści syntetycznych i deepfake’ów, tego zastrzeżenia już nie ma. Definicja z art. 3 pkt 60 i motyw 134 mówią po prostu o treści, która fałszywie wydaje się „osobie” autentyczna. Skoro w jednym artykule ustawodawca raz użył filtra przeciętnego odbiorcy, a raz go pominął, Komisja odczytała go jako zróżnicowanie poziomu ochrony i przyjęła skrajnie paternalistyczny model ochrony odbiorców.
Wychodzi z tego rozjazd trudny do obrony. W reklamie, gdzie w grę wchodzą decyzje zakupowe odbiorcy, prawo ufa, że jest on uważny i ostrożny. Przy oznaczaniu packshotu puszki coli, gdzie nie dzieje się nic poza tym, że obraz ładnie wygląda, zakładamy odbiorcę bezradnego. Ten sam człowiek ma być raz świadomym konsumentem, a raz osobą całkowicie nierozumiejącą otaczającej rzeczywistości.
Sensu większego w tym nie ma. Cały obowiązek wisi bowiem na jednym słowie: że treść została wygenerowana lub zmanipulowana przez AI. Ten sam obraz, ten sam fotorealizm, ta sama zdolność uchodzenia za fotografię, ale wykonany w programie do modelowania 3D albo ręcznie złożony w Photoshopie, nie wymaga żadnego oznaczenia. I to nawet wtedy, gdy nie przedstawia niczego rzeczywistego, a odbiorców i tak może wprowadzać w błąd. Ale jeżeli tylko pojawi się AI, nagle – jak ten człowiek z czerwoną flagą biegnący przed samochodem z początków motoryzacji (autentyczne zdjęcie poniżej, nie żartuję) – mamy zamieszczać wyraźne ostrzeżenia.
I okazuje się, że to dotyczy wszystkich
Ale wytyczne Komisji, jak głupie by nie były, mają skutki praktyczne. I można powiedzieć, że są odpowiedzią na modły prawników, którzy mają problem z monetyzacją doradztwa w zakresie AI Act (bo Digital Omnibus on AI odracza wejście najważniejszych norm w życie, więc mało komu to doradztwo było dotąd potrzebne).
Przepis pomyślany jako wąskie narzędzie na deepfake’i dezinformacyjne, po lekturze wytycznych staje się obowiązkiem powszechnym. Skoro deepfakiem jest niemal każda realistyczna treść AI komunikowana w profesjonalnym kontekście, mierzona względem najmniej wprawnego odbiorcy i bez ratunku w wyjątku artystycznym, to oznaczać trzeba już nie tylko spreparowane nagrania polityków. Trzeba oznaczać w zasadzie wszystkie wykorzystywane w działalności gospodarczej realistyczne obrazy, dźwięki lub wideo wygenerowane lub istotnie zmodyfikowane przez AI. Pod obowiązek wpada spot reklamowy z packshotami z AI. Wpada generyczna fotografia stockowa na firmowe strony i blogi, od zespołu w biurze po lekarza z pacjentem. Wpadają fotorealistyczne wizualizacje produktów, auta w konfiguratorach, sprzęt AGD, meble. Wpada moda prezentowana na nieistniejących modelkach, wirtualny home staging w ogłoszeniach nieruchomości czy fotografia kulinarna do menu i aplikacji z dostawą. Wpada wreszcie cała postprodukcja, w której AI podmienia tło albo znacząco poprawia kadr realnego zdjęcia. W żadnym z tych przypadków nie ma śladu dezinformacji, a mimo to każda z tych treści miałaby nosić to samo widoczne oznaczenie, co deepfake polityka, któremu włożono w usta cudze słowa.
I dotyczy to wszystkich podmiotów stosujących. Podmiotem stosującym w rozumieniu art. 50 jest zaś nie tylko wykonawca, czyli agencja reklamowa, dom produkcyjny czy studio budujące stronę, ale i ten, kto treść zamawia i pod czyim kierownictwem ona powstaje, a więc sam reklamodawca. Dla niego oznacza to konieczność przejrzenia tego, co już ma, oraz upewnienia się, czy materiały otrzymywane od agencji i innych dostawców nie zawierają niezadeklarowanych treści syntetycznych. Powinien więc kontrolować, po jakie narzędzia sięgają pracownicy, i przejrzeć umowy z agencjami oraz dostawcami treści pod kątem ujawniania użycia AI i odpowiedzialności za jego brak. Bo sam jest zagrożony karami, i to wysokimi. Naruszenie obowiązków z art. 50 zagrożone jest administracyjną karą do 15 mln euro albo 3% światowego rocznego obrotu, w zależności od tego, która kwota jest wyższa (art. 99 ust. 4 AI Act).
Co z tego wynika
Niezależnie od tego, czy uznamy wytyczne za głupie, i niezależnie od tego, czy zostaną złagodzone (a zapewne zostaną, bo krytyka się rozlała szeroko), jeden wniosek pozostaje aktualny. Nie da się już dłużej zakładać, że skoro nikomu nie wmawiamy papieża w Balenciadze, deepfake’i nas nie dotyczą. Dotyczą. I chodzi tak naprawdę o każdy biznes, bo każdy posługuje się dziś jakimiś treściami wizualnymi, choćby stroną internetową, reklamą, postem czy wizualizacją produktu. To czyni z art. 50 problem powszechny, a nie niszowy.
Jest też wniosek bardziej ogólnej natury. Wytyczne są chwilami zabawne, bo trudno z całą powagą czytać rozważania o smokach latających nad Pałacem Elizejskim. Ale ich efekty prowadzą do rozmycia regulacji mającej sporo sensu. Nie jest więc to tylko zabawna wpadka. To sygnał niedojrzałości Komisji w tworzeniu wytycznych, aktów wykonawczych i całej obudowy AI Act. I to nie pierwszy. Przecież przerabiamy Digital Omnibus on AI i odraczamy wejście najważniejszych przepisów AI Act głównie dlatego, że Komisja i niektóre państwa członkowskie nie zdążyły z infrastrukturą regulacyjną.