AI Act wszedł w życie 1 sierpnia 2024 roku, a większość jej przepisów zacznie obowiązywać po dwuletnim okresie wdrażania, tj. od sierpnia 2026 roku. W tym czasie zostaną opublikowane dodatkowe przepisy, standardy oraz wytyczne, które mają ułatwić organizacjom dostosowanie się do wymogów regulacji. Wyjątkiem jest jednak zakaz stosowania określonych systemów AI opisany w Artykule 5, który wchodzi w życie już 2 lutego 2025 roku.
Artykuł 5: Zakaz stosowania wybranych systemów AI
Artykuł 5 wprowadza zakaz dotyczący określonych praktyk związanych z użyciem sztucznej inteligencji, które są uznawane za niosące niedopuszczalne ryzyko dla podstawowych wartości społecznych. Co istotne, przepis ten jest niezależny od roli czy tożsamości operatora – dotyczy więc każdego, kto wprowadza na rynek, oddaje do użytku lub używa takich systemów.
Zakazane praktyki AI
Zakazane systemy AI obejmują między innymi:
- Systemy oceny społecznej
- Zarówno w sektorze publicznym, jak i prywatnym, niezależnie od tego, czy są stosowane przez organy publiczne, czy w ich imieniu.
- Systemy wnioskowania o emocjach
- W szczególności w miejscach pracy i instytucjach edukacyjnych.
- Systemy tworzenia baz danych rozpoznawania twarzy
- Oparte na nieukierunkowanym zbieraniu obrazów twarzy z internetu lub nagrań z monitoringu (CCTV).
- Systemy oceny ryzyka popełnienia przestępstwa
- Bazujące wyłącznie na profilowaniu lub analizie cech osobowościowych.
- Systemy kategoryzacji biometrycznej
- Dedykujące osoby naturalne na podstawie danych biometrycznych w celu wnioskowania m.in. o rasie, poglądach politycznych, przynależności do związków zawodowych, wierze, płci czy orientacji seksualnej.
Manipulacja, eksploatacja i inne praktyki
Dodatkowo zakazane są praktyki:
- Wykorzystujące techniki podprogowe, manipulacyjne lub wprowadzające w błąd.
- Eksploatujące podatności związane z wiekiem, niepełnosprawnością lub sytuacją społeczną i ekonomiczną.
- Użycie systemów do zdalnej, w czasie rzeczywistym, identyfikacji biometrycznej w miejscach publicznie dostępnych w celach egzekwowania prawa, poza szczególnymi przypadkami, gdzie jest to uznane za konieczne dla interesu publicznego.
Kary za naruszenie przepisów
Naruszenie przepisów Artykułu 5 może skutkować grzywną w wysokości do 35 milionów euro lub 7% rocznego globalnego obrotu – w zależności od tego, która kwota jest wyższa.
Wyjątki od zakazu
Niektóre z zakazanych praktyk mają wąskie wyjątki. Na przykład zdalna identyfikacja biometryczna w czasie rzeczywistym może być stosowana przez organy ścigania w sytuacjach, gdy jest to krytyczne dla ochrony znaczącego interesu publicznego.
Wyzwania dla dostawców technologii ogólnego przeznaczenia
Dostawcy platform AI (np. Google Cloud AI AutoML, Microsoft Azure Machine Learning, TensorFlow, Amazon SageMaker) muszą zmierzyć się z wyzwaniem dostosowania swoich technologii do przepisów. Choć większość zastosowań tych technologii nie będzie objęta zakazem, istnieje ryzyko niezgodności w przypadku niewielkiego odsetka klientów.
Proaktywne działania dostawców
- Tworzenie kodeksów postępowania, które ułatwiają zgodność klientów z przepisami.
- Aktualizowanie umów z klientami, aby jasno określić zakaz stosowania zabronionych praktyk AI.
Wytyczne dla organizacji – co dalej?
W listopadzie 2024 roku Biuro ds. AI zaprosiło dostawców i użytkowników systemów AI do wyrażenia opinii na temat zakazanych praktyk. Na podstawie tych odpowiedzi zostaną opracowane wytyczne, które mają pomóc w osiągnięciu zgodności z przepisami.
Termin publikacji wytycznych
Wytyczne mają zostać przyjęte na początku 2025 roku. Oczekuje się, że będą dostępne przed 2 lutego 2025 roku.
Podsumowanie
EU AI Act wprowadza rygorystyczne przepisy dotyczące zakazanych systemów AI, które mają chronić podstawowe wartości społeczne i ograniczyć ryzyka związane z ich stosowaniem. Firmy, które rozwijają lub wdrażają takie technologie, powinny już teraz podejmować kroki w celu dostosowania się do nowych wymagań, aby uniknąć wysokich kar finansowych i reputacyjnych.
FAQ
- Kiedy EU AI Act w pełni zacznie obowiązywać?
Większość przepisów zacznie obowiązywać od sierpnia 2026 roku, ale zakazy opisane w Artykule 5 wejdą w życie już 2 lutego 2025 roku. - Jakie systemy AI są zakazane w Artykule 5?
Obejmuje to m.in. systemy oceny społecznej, wnioskowania o emocjach w miejscach pracy, tworzenia baz danych rozpoznawania twarzy oraz systemy profilowania ryzyka przestępczości. - Czy są wyjątki od zakazów?
Tak, wąskie wyjątki dotyczą m.in. zdalnej identyfikacji biometrycznej w czasie rzeczywistym, jeśli jest to niezbędne dla ochrony interesu publicznego. - Jakie kary grożą za naruszenie przepisów?
Naruszenie przepisów może skutkować grzywną do 35 milionów euro lub 7% rocznego globalnego obrotu. - Kiedy zostaną opublikowane wytyczne dotyczące zgodności z przepisami?
Wytyczne są spodziewane na początku 2025 roku i mają być dostępne przed 2 lutego 2025 roku.