1. Wprowadzenie
AI Act jest pierwszą w historii próbą kompleksowego uregulowania sztucznej inteligencji w Unii Europejskiej. Jednym z najważniejszych elementów tej regulacji jest określenie praktyk zakazanych – działań, które ze względu na swoje ryzyko dla praw podstawowych, bezpieczeństwa czy zaufania społecznego, są całkowicie zabronione w UE.
2. Czym są praktyki zakazane w AI Act?
Praktyki zakazane to działania uznane za nieakceptowalne w ramach regulacji AI Act. Są one wyraźnie wymienione w artykule 5 AI Act i obejmują zastosowania sztucznej inteligencji, które:
- Naruszają prawa podstawowe,
- Powodują poważne ryzyko dla zdrowia i bezpieczeństwa,
- Zagrażają zaufaniu publicznemu do technologii.
3. Lista zakazanych praktyk
Manipulacja i techniki podprogowe
AI Act zakazuje stosowania technik podprogowych lub manipulacyjnych, które:
- Materiałowo zniekształcają zachowania użytkowników,
- Naruszają ich autonomię decyzyjną,
- Powodują istotne szkody, takie jak psychologiczne czy finansowe.
Przykład: System AI wykorzystujący ukryte bodźce wizualne do manipulacji decyzjami konsumentów.
Wykorzystywanie podatności grup wrażliwych
Zabronione jest stosowanie systemów AI, które:
- Eksploatują podatności osób wynikające z wieku, niepełnosprawności lub sytuacji ekonomicznej,
- Powodują istotne szkody dla tych osób.
Przykład: AI wykorzystywana do wywierania presji finansowej na osoby w trudnej sytuacji ekonomicznej.
Społeczna ocena punktowa (social scoring)
Zakazane jest ocenianie osób lub grup na podstawie ich zachowań społecznych czy cech osobistych w celu:
- Niesprawiedliwego traktowania,
- Wprowadzania nieproporcjonalnych ograniczeń w ich życiu.
Przykład: Systemy oceny obywateli, które mogą ograniczać dostęp do usług publicznych.
Profilowanie dla oceny ryzyka przestępczości
AI Act zakazuje wykorzystywania AI do przewidywania, czy dana osoba popełni przestępstwo, jeśli takie prognozy są:
- Oparte wyłącznie na profilowaniu lub analizie cech osobistych,
- Nie wspierają obiektywnych faktów.
Przykład: Systemy identyfikujące potencjalnych przestępców wyłącznie na podstawie ich historii zawodowej.
Tworzenie baz danych rozpoznawania twarzy
Zakazane jest budowanie baz danych biometrycznych poprzez:
- Niezamierzone pobieranie zdjęć twarzy z internetu,
- Zbieranie obrazów z monitoringu wideo.
Przykład: Firma AI korzystająca z publicznych zdjęć z mediów społecznościowych do budowy bazy danych.
Rozpoznawanie emocji w miejscach pracy i szkołach
AI Act zakazuje używania AI do identyfikacji emocji w miejscach pracy i instytucjach edukacyjnych, z wyjątkiem zastosowań medycznych lub związanych z bezpieczeństwem.
Przykład: System monitorujący poziom stresu uczniów podczas egzaminów.
Kategoryzacja biometryczna na podstawie wrażliwych danych
Nie można używać AI do kategoryzacji osób na podstawie ich danych biometrycznych, jeśli dotyczy to:
- Rasy, przekonań politycznych, orientacji seksualnej i innych wrażliwych informacji.
Przykład: Systemy identyfikujące osoby na podstawie ich cech religijnych.
Zdalna biometryczna identyfikacja w czasie rzeczywistym w miejscach publicznych
Zakazane jest stosowanie systemów AI do zdalnej identyfikacji biometrycznej w czasie rzeczywistym w miejscach publicznych, z wyjątkiem określonych sytuacji, takich jak:
- Poszukiwanie zaginionych osób,
- Zapobieganie poważnym zagrożeniom terrorystycznym.
Przykład: Kamery miejskie analizujące twarze przechodniów w czasie rzeczywistym.
4. Wyjątki i szczególne przypadki
Niektóre z zakazanych praktyk mogą być dozwolone w szczególnych okolicznościach, takich jak:
- Konieczność ochrony życia lub zdrowia,
- Wsparcie organów ścigania w ściganiu przestępstw,
- Przestrzeganie rygorystycznych procedur zgłoszeniowych i autoryzacyjnych.
5. Konsekwencje naruszenia zakazów
Podmioty naruszające zakazy określone w AI Act mogą zostać ukarane grzywną wynoszącą:
- Do 35 milionów euro,
- Lub do 7% globalnych przychodów firmy – w zależności od tego, która wartość jest wyższa.
Wdrażanie i monitorowanie przepisów będą prowadzić krajowe organy nadzoru oraz Europejska Rada ds. Sztucznej Inteligencji.
6. Podsumowanie
Zakazane praktyki w AI Act stanowią fundament dla ochrony praw podstawowych w kontekście sztucznej inteligencji. Dzięki jasnym przepisom i surowym sankcjom Unia Europejska chce przeciwdziałać nadużyciom, zwiększać zaufanie publiczne oraz promować odpowiedzialne wykorzystanie technologii AI.
7. Najczęściej zadawane pytania (FAQ)
1. Czy wszystkie praktyki AI są zakazane?
Nie, AI Act zakazuje tylko tych praktyk, które naruszają prawa podstawowe lub powodują poważne ryzyko dla społeczeństwa.
2. Czy zakaz manipulacji dotyczy wszystkich form reklamy?
Nie, AI Act nie zakazuje standardowych praktyk reklamowych, które nie naruszają autonomii decyzyjnej konsumentów.
3. Czy rozpoznawanie twarzy jest całkowicie zakazane?
Nie, jest zakazane w określonych przypadkach, np. w czasie rzeczywistym w miejscach publicznych, chyba że spełnione są szczególne warunki.
4. Jakie kary grożą za naruszenie zakazów?
Kary wynoszą do 35 milionów euro lub 7% globalnych przychodów podmiotu.
5. Czy zakazy mogą być modyfikowane?
Tak, lista zakazanych praktyk może być corocznie aktualizowana przez Komisję Europejską.
Masz pytania? Napisz do nas na office@ipsolega.pl lub bezpośrednio z Błażejem Wągiel.