Jak oznaczać treści AI? Kodeks postępowania wskazuje standardy

Charakter Kodeksu

Kodeks postępowania został przygotowany jako dokument wspierający stosowanie art. 50 AIAct. Jego pierwsza część odnosi się do dostawców systemów generatywnej AI, o których mowa w art. 50 ust. 2 i 5 AIAct. Druga część dotyczy podmiotów stosujących systemy AI, objętych art. 50 ust. 4 i 5 AIAct.

Dokument nie tworzy nowych obowiązków prawnych i nie zastępuje rozporządzenia. Ma służyć jako narzędzie pomocnicze przy wykazywaniu zgodności, przy czym przystąpienie do niego nie jest równoznaczne z automatycznym wykazaniem zgodności z AIAct. Jego znaczenie polega więc na wskazaniu praktycznych standardów realizacji obowiązków transparentności.

W porównaniu z samym art. 50 AIAct Kodeks schodzi na bardziej operacyjny poziom. Opisuje techniki oznaczania treści, zasady udostępniania mechanizmów detekcji, dokumentowanie zgodności oraz sposób komunikowania odbiorcom, że dana treść została wygenerowana albo zmodyfikowana przez AI.

Art. 50 AIAct jako punkt wyjścia

Art. 50 ust. 2 AIAct przewiduje, że dostawcy systemów AI generujących syntetyczne treści audio, obrazu, wideo lub tekst mają zapewnić oznaczenie wyników działania systemu w formacie nadającym się do odczytu maszynowego oraz ich wykrywalność jako treści sztucznie wygenerowanych lub zmanipulowanych. Rozwiązania techniczne mają być skuteczne, interoperacyjne, odporne i niezawodne w zakresie, w jakim jest to technicznie możliwe.

Art. 50 ust. 4 AIAct obejmuje obowiązek ujawnienia, że obraz, dźwięk lub wideo stanowiące deepfake zostały sztucznie wygenerowane lub zmanipulowane. Dotyczy też tekstów generowanych lub modyfikowanych przez AI, jeżeli są publikowane w celu informowania społeczeństwa o sprawach interesu publicznego. Art. 50 ust. 5 AIAct wymaga, aby informacja była jasna, odróżnialna, dostępna i przekazana najpóźniej przy pierwszym kontakcie z treścią.

Co Kodeks doprecyzowuje

Najważniejsza różnica między samym art. 50 AIAct a Kodeksem polega na poziomie szczegółowości. AIAct formułuje zasadę: określone treści mają być oznaczone, wykrywalne i odpowiednio ujawnione odbiorcom. Kodeks opisuje natomiast, jak realizacja tego obowiązku może wyglądać w praktyce.

Dotyczy to czterech obszarów: technik oznaczania treści, mechanizmów detekcji, organizacji procesu zgodności oraz zasad oznaczania deepfake’ów i wybranych tekstów publikowanych w sprawach interesu publicznego. Realizacja obowiązków z art. 50 AIAct nie powinna być więc sprowadzana wyłącznie do etykiety „AI” przy treści. Potrzebne mogą być także przypisanie odpowiedzialności, testy skuteczności oraz procedura reagowania na błędne albo brakujące oznaczenia.

Oznaczanie i wykrywanie treści AI

Sekcja 1 Kodeksu dotyczy dostawców systemów generatywnej AI. Dokument rozwija obowiązek zapewnienia, aby treści generowane lub modyfikowane przez system AI były oznaczone w sposób maszynowo odczytywalny i możliwe do wykrycia jako sztucznie wygenerowane lub zmanipulowane.

Jako podstawowe rozwiązania Kodeks wskazuje cyfrowo podpisane metadane oraz niewidoczne znaki wodne. Metadane mają zawierać informację, czy treść została wygenerowana albo zmodyfikowana przez AI, i powinny być podpisane cyfrowo oraz, jeżeli system na to pozwala, opatrzone znacznikiem czasu. Znak wodny ma być osadzony w treści w sposób niewidoczny dla człowieka i trudny do oddzielenia od samej treści.

Finalna wersja Kodeksu pozostawia jednak elastyczność technologiczną. Dopuszcza wykazywanie zgodności za pomocą alternatywnych technik oznaczania, także pojedynczych, jeżeli dostawca potrafi wykazać wymagany poziom odporności, niezawodności, skuteczności i interoperacyjności. W określonych przypadkach pojedyncza warstwa oznaczenia może być wystarczająca.

Istotną część Kodeksu poświęcono detekcji. Dostawca powinien udostępnić rozwiązanie pozwalające sprawdzić, czy dana treść została wygenerowana lub zmodyfikowana przez jego system. Może to być publiczna specyfikacja, oprogramowanie albo usługa chmurowa dostępna przez API. Wynik detekcji powinien być jasny, zrozumiały i dostępny dla osób fizycznych.

Compliance, testowanie i prywatność

Kodeks rozbudowuje część organizacyjną. Przewiduje ustanowienie, utrzymywanie i aktualizowanie procesów zgodności, testowania, weryfikacji i monitorowania w odniesieniu do obowiązków wynikających z art. 50 ust. 2 i 5 AIAct. Proces zgodności powinien opisywać, w jaki sposób wdrożono środki przewidziane w Kodeksie.

Jeżeli dostawca korzysta z rozwiązań oznaczania lub detekcji zapewnianych przez podmiot trzeci albo dostawcę modelu, może posługiwać się ich dokumentacją. Nie wyłącza to jednak jego własnej odpowiedzialności za zgodność z AIAct. Kodeks przewiduje też testowanie rozwiązań przed wprowadzeniem systemu do obrotu lub oddaniem go do używania, a następnie regularnie w trakcie cyklu życia systemu.

W przypadku usług detekcji wymagających przesłania treści do sprawdzenia Kodeks wskazuje na potrzebę minimalizacji danych, ograniczenia celu przetwarzania, zapewnienia poufności i integralności danych oraz usuwania treści po zakończeniu detekcji. Dokument odwołuje się także do zasady zero retention.

Deepfake i teksty dotyczące spraw publicznych

Sekcja 2 Kodeksu dotyczy podmiotów stosujących systemy AI. Obejmuje przypadki, w których deployer generuje lub modyfikuje obraz, dźwięk albo wideo stanowiące deepfake, a także teksty generowane lub modyfikowane przez AI, publikowane w celu informowania społeczeństwa o sprawach interesu publicznego.

Definicja deepfake’u przywołana w Kodeksie odpowiada art. 3 pkt 60 AIAct. Chodzi o wygenerowane lub zmanipulowane przez AI treści obrazu, dźwięku lub wideo, które przypominają istniejące osoby, obiekty, miejsca, podmioty lub zdarzenia i mogłyby fałszywie wydawać się odbiorcy autentyczne albo prawdziwe.

W odniesieniu do tekstów Kodeks doprecyzowuje, że obowiązek nie dotyczy każdego materiału przygotowanego z pomocą AI. Chodzi o tekst wygenerowany lub zmanipulowany przez AI, publikowany w celu informowania społeczeństwa o sprawach interesu publicznego, jeżeli nie został objęty ludzką kontrolą lub kontrolą redakcyjną i żadna osoba fizyczna albo prawna nie ponosi odpowiedzialności redakcyjnej za jego publikację.

Sposób oznaczania treści

Kodeks przewiduje, że ujawnienie sztucznego pochodzenia lub modyfikacji treści może być realizowane przez publicznie dostępną ikonę UE albo równoważną ikonę lub etykietę. W przypadku oznaczeń wizualnych głównym elementem ma być akronim „AI”. Dokument rozróżnia treści w pełni wygenerowane przez AI i treści częściowo zmodyfikowane przez AI. W załączniku przedstawiono warianty ikon dla treści „AI GENERATED”, „AI MODIFIED” oraz podstawową ikonę „AI”. Dla wideo Kodeks wskazuje na oznaczenie na początku materiału oraz, gdy to możliwe, w regularnych odstępach lub po przerwach. W przypadku treści audio przewidziano krótki komunikat dźwiękowy.

Znaczenie praktyczne

Publikacja Kodeksu nie zmienia treści AIAct, ale wskazuje praktyczne standardy realizacji obowiązków transparentności. Dokument pokazuje, że art. 50 AIAct ma znaczenie nie tylko dla dostawców systemów generatywnej AI, ale również dla organizacji publikujących lub rozpowszechniających treści tworzone z użyciem AI.

Z perspektywy praktyki compliance najważniejsze jest to, że obowiązki transparentności nie kończą się na graficznym oznaczeniu treści. Równie ważne stają się: ustalenie odpowiedzialności za decyzję o oznaczeniu, dokumentowanie zgodności, testowanie skuteczności oznaczeń, reagowanie na błędy oraz zapewnienie, że osoby pracujące z narzędziami AI rozumieją obowiązki wynikające z art. 50 AIAct. Choć Kodeks nie ma charakteru wiążącego aktu prawnego i nie zastępuje rozporządzenia, może stać się istotnym punktem odniesienia przy ocenie zgodności.