- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13.6.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) (Dz.Urz. UE L z 2024 r. s. 1689) weszło w życie 1.8.2024 r.
- Jednak zgodnie z przepisami końcowymi rozporządzenie 2024/1689/UE stosuje się od 2.8.2026 r. z wyjątkiem rozdziałów I oraz II, które stosuje się od 2.2.2025 r. oraz innych wymienionych w art. 113 rozporządzenia 2024/1689/UE przepisów, które stosuje się od 2.8.2025 r. lub 2.8.2027 r.
- Rozdział I. rozporządzenia 2024/1689/UE zawiera przepisy ogólne, w których omówiony jest przedmiot i zakres zastosowania, podane są definicje i określone kompetencje w zakresie AI, natomiast w rozdziale II. wyliczone zostały zakazane praktyki.
Praktyki zakazane przez AI Act
Akt w sprawie sztucznej inteligencji sklasyfikował systemy AI według następujących poziomów ryzyka: niedopuszczalnego, wysokiego, średniego i minimalnego. Obostrzenia stopniowane są w zależności od zagrożenia dla obowiązującego w Unii Europejskiej prawa. W stosowanym już 2.2.2025 r. art. 5 rozporządzenia 2024/1689/UE znalazły się te zastosowania sztucznej inteligencji, które mogą być dla społeczeństwa szkodliwe, ponieważ naruszają podstawowe prawa i są sprzeczne z wartościami UE. Do ośmiu niedopuszczalnych i tym samym zakazanych praktyk należą:
1. Stosowanie manipulacji i technik podprogowych, czyli wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie systemu AI, który stosuje techniki będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę.
2. Wykorzystywanie słabości osoby fizycznej lub grupy osób, czyli wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie systemu AI, który wykorzystuje słabości osoby fizycznej lub określonej grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną sytuację społeczną lub ekonomiczną, którego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub osoby należącej do tej grupy w sposób, który wyrządza lub może z uzasadnionym prawdopodobieństwem wyrządzić u tej osoby lub u innej osoby poważną szkodę.
3. Dyskryminujący scoring społeczny, czyli wprowadzanie do obrotu, oddawanie do użytku lub wykorzystywanie systemów AI na potrzeby oceny lub klasyfikacji osób fizycznych lub grup osób prowadzonej przez określony czas na podstawie ich zachowania społecznego lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości, kiedy to scoring społeczny prowadzi do jednego lub obu z następujących skutków: krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób w kontekstach społecznych, które nie są związane z kontekstami, w których pierwotnie wygenerowano lub zebrano dane oraz krzywdzącego lub niekorzystnego traktowania niektórych osób fizycznych lub grup osób, które jest nieuzasadnione lub nieproporcjonalne do ich zachowania społecznego lub jego wagi.
4. Przeprowadzanie oceny ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania, czyli wprowadzanie do obrotu, oddawanie do użytku w tym konkretnym celu lub wykorzystywanie systemu AI do przeprowadzania ocen ryzyka w odniesieniu do osób fizycznych, by ocenić lub przewidzieć ryzyko popełnienia przestępstwa przez osobę fizyczną, wyłącznie na podstawie profilowania osoby fizycznej lub oceny jej cech osobowości i cech charakterystycznych; zakaz ten nie ma zastosowania do systemów AI wykorzystywanych do wspierania dokonywanej przez człowieka oceny udziału danej osoby w działalności przestępczej, która to ocena opiera się już na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.
5. Tworzenie lub rozbudowywanie niezgodnie z prawem baz danych służących rozpoznawaniu twarzy, czyli wprowadzanie do obrotu, oddawania do użytku w tym konkretnym celu lub wykorzystywania systemów AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (ang. untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej.
6. Ocenianie emocji, czyli wprowadzanie do obrotu, oddawanie do użytku w tym konkretnym celu lub wykorzystywanie systemów AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa.
7. Wykorzystywanie kategoryzacji biometrycznej, czyli wprowadzanie do obrotu, oddawanie do użytku w tym konkretnym celu lub wykorzystywanie systemów kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej; zakaz ten nie obejmuje przypadków etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw.
8. Wykorzystywania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, chyba że – i w zakresie, w jakim – takie wykorzystanie jest bezwzględnie konieczne do jednego z następujących celów:
- ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwania osób zaginionych;
- zapobiegnięcia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym;
- lokalizowania lub identyfikowania osoby podejrzanej o popełnienie przestępstwa w celu prowadzenia postępowania przygotowawczego lub ścigania lub wykonania kar w odniesieniu do przestępstw, o których mowa w załączniku II, podlegających w danym państwie członkowskim karze pozbawienia wolności lub środkowi polegającemu na pozbawieniu wolności przez okres, którego górna granica wynosi co najmniej cztery lata.
Art. 5 rozporządzenia 2024/1689/UE podaje wskazówki służące do oceny zgodności z prawem wykorzystywania systemów zdalnej identyfikacji biometrycznej.
Legislacja, edukacja i kary
Kary za stosowanie wymienionych w art. 5 rozporządzenia 2024/1689/UE zakazanych praktyk będą wysokie, maksymalny próg kar administracyjnych sięga bowiem 35 milionów euro lub 7% całkowitego rocznego światowego obrotu firmy z poprzedniego roku. Dlatego prawodawca zadbał również o edukację dotyczącą materii regulowanej przez akt w sprawie sztucznej inteligencji. 2.2.2005 r. wchodzi w życie art. 4 rozporządzenia 2024/1689/UE, który obliguje dostawców i podmioty stosujące systemy AI do zapewnienie w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu.
Omówione przepisy rozdziału I oraz II rozporządzenia 2024/1689/UE obowiązują wprost, co oznacza że nie wymagają podjęcia działań legislacyjnych przez państwa członkowskie. Jednak obszar prawny podlegający zmianom z uwagi na rozwój sztucznej inteligencji jest tak ogromny, że niezbędne są porządkujące go przepisy krajowe. W Polsce trwają prace nad rządowym projektem ustawy o systemach sztucznej inteligencji (nr UC71), który jest obecnie na etapie opiniowania (https://legislacja.rcl.gov.pl/projekt/12390551/katalog/13087907#13087907).
Artykuł pochodzi z Systemu Legalis. Bądź na bieżąco, polub nas na Facebooku →
