Akt o Sztucznej Inteligencji (AI Act) Unii Europejskiej stanowi istotny krok naprzód w regulacji technologii sztucznej inteligencji (SI), szczególnie w kontekście systemów rozpoznawania emocji.
Te systemy, które wnioskują lub identyfikują emocje na podstawie danych biometrycznych, stwarzają unikalne wyzwania i ryzyka wymagające surowych środków regulacyjnych.
Piaskownice regulacyjne w AI ACT
Regulacyjne piaskownice to ramy ustanowione przez kompetentne władze, które umożliwiają dostawcom lub potencjalnym dostawcom testowanie innowacyjnych systemów SI w warunkach rzeczywistych przez ograniczony czas. Działanie tych piaskownic jest regulowane przez „plan piaskownicy”, który określa cele, warunki, ramy czasowe, metodologię i wymagania dotyczące działań prowadzonych w piaskownicy. Plan ten jest wzajemnie uzgodnionym dokumentem między dostawcą SI a kompetentną władzą, zapewniającym jasne wytyczne i oczekiwania dla fazy testowania.
Wymagania dla państw członkowskich
Akt nakazuje, aby każde państwo członkowskie ustanowiło co najmniej jedną krajową regulacyjną piaskownicę SI w ciągu 24 miesięcy od wejścia w życie regulacji. Piaskownice te mogą być również ustanawiane wspólnie z innymi państwami członkowskimi lub poprzez udział w istniejących piaskownicach, pod warunkiem że oferują one równoważny poziom krajowego zasięgu. Dodatkowo państwa członkowskie mogą tworzyć dodatkowe piaskownice na poziomie regionalnym lub lokalnym lub we współpracy z innymi państwami członkowskimi.
Europejski Inspektor Ochrony Danych może również ustanowić regulacyjną piaskownicę SI specjalnie dla instytucji i organów UE. Aby wspierać efektywne i terminowe działanie tych piaskownic, państwa członkowskie muszą przydzielić wystarczające zasoby i zapewnić współpracę między odpowiednimi władzami.
Zadania kompetentnych władz
Kompetentne władze mają za zadanie zapewnić doradztwo, nadzór i wsparcie w ramach piaskownicy. Obejmuje to identyfikowanie i łagodzenie ryzyk, szczególnie tych związanych z prawami fundamentalnymi, zdrowiem i bezpieczeństwem. Władze wydają również dokumentację i raporty wyjściowe, które szczegółowo opisują działania i wyniki testowania w piaskownicy. Raporty te mogą być używane przez dostawców do wykazania zgodności regulacyjnej.
Komisja i Rada ds. SI mają prawo dostępu do raportów wyjściowych, aby wspomóc swoje zadania regulacyjne. Ustanowienie regulacyjnych piaskownic SI ma na celu poprawę pewności prawnej, wspieranie wymiany najlepszych praktyk, stymulowanie innowacji, ułatwienie uczenia się regulacyjnego i zwiększenie dostępu do rynku dla małych i średnich przedsiębiorstw (MŚP) oraz start-upów. W przypadku, gdy przetwarzane są dane osobowe, w operacje piaskownic muszą być włączone organy ochrony danych.
Nadzór i zawieszenie działalności
Kompetentne władze zachowują uprawnienia nadzorcze i mogą zawiesić działalność piaskownicy, jeśli zidentyfikowane zostaną znaczące ryzyka. Uczestnicy pozostają odpowiedzialni zgodnie z obowiązującym prawem, ale mogą być zwolnieni z kar administracyjnych, jeśli przestrzegają planu piaskownicy i działają w dobrej wierze zgodnie z wytycznymi władz.
Współpraca transgraniczna
Ramowy system ma na celu ułatwienie współpracy transgranicznej między krajowymi władzami i zapewnienie koordynacji w ramach Rady ds. SI. Biuro ds. SI jest odpowiedzialne za utrzymywanie publicznej listy piaskownic w celu zachęcania do interakcji i współpracy.
Sprawozdania roczne
Państwa członkowskie muszą składać roczne raporty na temat postępów, incydentów, najlepszych praktyk i wyników swoich piaskownic do Biura ds. SI i Rady. Raporty te pomagają w kształtowaniu praktyk regulacyjnych i mogą prowadzić do dostosowań ram regulacyjnych.
Ustalanie szczegółowych zasad
Komisja opracuje szczegółowe zasady dotyczące ustanawiania i funkcjonowania piaskownic poprzez akty wykonawcze. Akty te określą kryteria kwalifikacji i wyboru, procedury aplikacji i uczestnictwa oraz warunki dla uczestników. Piaskownice muszą zapewnić sprawiedliwy i przejrzysty dostęp, szczególnie dla MŚP i start-upów, oraz ułatwić zaangażowanie różnych interesariuszy w ekosystemie SI.
Przetwarzanie danych osobowych
Dane osobowe zebrane w innych celach mogą być przetwarzane w ramach piaskownic pod określonymi warunkami, przede wszystkim przy rozwijaniu systemów SI dla znacznego interesu publicznego. Przetwarzanie to musi być zgodne z przepisami o ochronie danych, a dane powinny być przechowywane w oddzielnym, chronionym środowisku z odpowiednimi zabezpieczeniami.
Testowanie systemów wysokiego ryzyka
Dostawcy mogą również testować systemy SI o wysokim ryzyku w warunkach rzeczywistych poza piaskownicami, pod warunkiem spełnienia określonych warunków i uzyskania niezbędnych zatwierdzeń. Testowanie to musi zapewniać świadomą zgodę uczestników, a dostawcy muszą wdrożyć środki ochrony praw i bezpieczeństwa uczestników.
Wsparcie dla MŚP i start-upów
AI ACT priorytetowo traktuje wsparcie dla MŚP i start-upów, zapewniając im priorytetowy dostęp do piaskownic i dostosowane usługi wsparcia. Państwa członkowskie są zachęcane do ustanawiania kanałów komunikacji i udzielania wskazówek MŚP w trakcie ich rozwoju. Komisja wspiera te działania, dostarczając standaryzowane szablony i utrzymując platformę informacyjną dla interesariuszy.
Kluczowe daty
– 12 lipca 2024: Opublikowanie AI ACT Dzienniku Urzędowym.
– 1 sierpnia 2024: AI ACT staje się prawem.
– 2 sierpnia 2026: Państwa członkowskie muszą ustanowić co najmniej jedną krajową piaskownicę regulacyjną SI.
– Sprawozdania roczne: Państwa członkowskie muszą składać roczne raporty do Biura ds. SI i Rady, począwszy od roku po ustanowieniu piaskownic.
Egzekwowanie i kary
Kompetentne władze mają uprawnienia do nadzoru, doradztwa i wsparcia uczestników w piaskownicach. Ich zadaniem jest identyfikowanie i łagodzenie ryzyk, szczególnie tych wpływających na prawa fundamentalne, zdrowie i bezpieczeństwo. W przypadku wykrycia znaczących ryzyk, które nie mogą zostać skutecznie zminimalizowane, władze mogą zawiesić lub zakończyć proces testowania w piaskownicy.
Artykuł 57(12) określa, że dostawcy uczestniczący w piaskownicach pozostają odpowiedzialni za wszelkie szkody wyrządzone osobom trzecim. Jednakże, jeśli przestrzegają planu piaskownicy i działają w dobrej wierze zgodnie z wytycznymi kompetentnych władz, są chronieni przed karami administracyjnymi na mocy AI ACT.
Kroki do zgodności
1. Zrozumienie AI ACT: Zapoznanie się z wymaganiami AI ACT i określonymi obowiązkami dla systemu SI w zależności od jego klasyfikacji ryzyka.
2. Udział w piaskownicach: Zaangażowanie się w narodowe kompetentne władze, aby uczestniczyć w regulacyjnych piaskownicach SI. Obejmuje to przygotowanie planu piaskownicy (Artykuł 3(54)), który określa cele, warunki, ramy czasowe i metodyki działań w piaskownicy.
3. Przestrzeganie wytycznych: Przestrzeganie wytycznych i nadzoru dostarczonych przez kompetentne władze. Obejmuje to wdrażanie środków łagodzących ryzyko i prowadzenie szczegółowej dokumentacji działań testowych i walidacyjnych.
4. Sprawozdawczość roczna: Przestrzeganie obowiązków sprawozdawczych poprzez składanie wymaganej dokumentacji i raportów do kompetentnych władz, Biura ds. SI i Rady.
5. Raport wyjściowy i ocena zgodności: Po pomyślnym zakończeniu działań w piaskownicy, wykorzystanie raportu wyjściowego i pisemnego potwierdzenia dostarczonego przez kompetentne władze w celu usprawnienia procesu oceny zgodności przed wprowadzeniem na rynek.
AI ACT stanowi istotny krok naprzód w regulacji SI w Unii Europejskiej, zapewniając, że innowacje nie odbywają się kosztem bezpieczeństwa i praw fundamentalnych. Piaskownice regulacyjne są kluczowym elementem tego systemu, oferując kontrolowane środowisko do rozwijania i testowania systemów SI. Poprzez zrozumienie wymagań i korzystanie ze wsparcia oferowanego przez piaskownice, dostawcy SI mogą skutecznie poruszać się po krajobrazie regulacyjnym, wspierając innowacje przy jednoczesnym zapewnieniu zgodności. Ustanowienie tych piaskownic, wraz ze ścisłym nadzorem i wytycznymi, ma na celu stworzenie solidnego i innowacyjnego ekosystemu SI w UE.
Jeśli masz pytania lub chcesz dowiedzieć się więcej o obowiązkach dotyczących sztucznej inteligencji, skontaktuj się z nami już teraz na office@ipsolegal.pl lub bezpośrednio z Błażej Wągiel !