Spis treści:
- Wprowadzenie do wytycznych KE dotyczących zakazanych praktyk AI
- Zakres i cel wytycznych
- Zakazane praktyki zgodnie z Artykułem 5 Aktu o Sztucznej Inteligencji
- 3.1. Identyfikacja emocji w miejscu pracy
- 3.2. Manipulacja, techniki podprogowe i wykorzystywanie podatności użytkowników
- Zakaz systemów rozpoznawania emocji w miejscu pracy
- 4.1. Przykłady zakazanych zastosowań
- 4.2. Kiedy systemy nie są uznawane za rozpoznawanie emocji?
- 4.3. Wyjątki dla systemów stosowanych w celach medycznych i bezpieczeństwa
- AI w reklamie – czy może stanowić zakazaną praktykę?
- 5.1. Zakazane techniki manipulacji i wywierania wpływu
- 5.2. Przykłady AI w reklamie, które mogą naruszać Artykuł 5
- 5.3. Kiedy personalizacja reklamy jest dozwolona?
- Jak firmy mogą dostosować się do nowych wytycznych?
- Podsumowanie i kluczowe wnioski
- Najczęściej zadawane pytania (FAQ)
1. Wprowadzenie do wytycznych KE dotyczących zakazanych praktyk AI
4 lutego 2025 r. Komisja Europejska opublikowała projekt wytycznych dotyczących zakazanych praktyk AI zgodnie z Artykułem 5 Aktu o Sztucznej Inteligencji UE (AI Act). Dokument ten, choć jeszcze nie został formalnie przyjęty, stanowi istotny punkt odniesienia dla przedsiębiorstw, które muszą dostosować swoje praktyki do nowych przepisów, zanim 2 sierpnia 2025 r. zaczną obowiązywać kary za ich naruszenie.
Wytyczne te mają na celu ujednolicenie interpretacji przepisów oraz pomoc firmom w ich wdrażaniu. Znajdują się w nich liczne przykłady praktyczne, które pozwalają lepiej zrozumieć, jakie zastosowania AI mogą być uznane za naruszające prawo. Szczególnie istotne są kwestie dotyczące wykorzystania AI w miejscu pracy oraz w reklamie.
2. Zakres i cel wytycznych
Celem wytycznych Komisji Europejskiej jest:
- zapewnienie spójnej interpretacji przepisów Aktu o Sztucznej Inteligencji w całej UE,
- ułatwienie przedsiębiorstwom dostosowania się do wymogów prawnych,
- wyjaśnienie granic pomiędzy legalnym a zakazanym wykorzystaniem AI,
- wskazanie przykładów praktycznych zastosowań AI, które mogą być niezgodne z prawem.
Choć wytyczne nie są prawnie wiążące, mają ogromne znaczenie dla firm stosujących AI w swojej działalności, szczególnie w zakresie zarządzania personelem oraz reklamy.
3. Zakazane praktyki zgodnie z Artykułem 5 Aktu o Sztucznej Inteligencji
Artykuł 5 AI Act wskazuje osiem rodzajów zakazanych praktyk związanych z wykorzystaniem sztucznej inteligencji. Szczególnie istotne dla firm są dwie kategorie:
- Zakaz systemów rozpoznawania emocji w miejscu pracy (Artykuł 5(1)(f))
- Zakaz wykorzystywania AI do manipulacji oraz wywierania wpływu na osoby w sposób nieetyczny (Artykuł 5(1)(a) i 5(1)(b))
3.1. Identyfikacja emocji w miejscu pracy
Zakaz obejmuje systemy AI, które analizują biometryczne dane pracowników w celu określenia ich emocji lub intencji.
3.2. Manipulacja, techniki podprogowe i wykorzystywanie podatności użytkowników
Zakaz dotyczy AI wykorzystujących techniki wpływania na decyzje ludzi w sposób podprogowy lub poprzez celowe wykorzystywanie ich słabości, np. wieku, niepełnosprawności czy trudnej sytuacji finansowej.
4. Zakaz systemów rozpoznawania emocji w miejscu pracy
4.1. Przykłady zakazanych zastosowań
Według Komisji Europejskiej, do zakazanych systemów należą m.in.:
- AI analizujące sposób pisania na klawiaturze w celu określenia stanu emocjonalnego,
- systemy śledzące wyraz twarzy, mowę ciała czy ruchy pracowników w celu monitorowania ich nastroju,
- AI analizujące ton głosu w rozmowach telefonicznych w celu oceniania emocji pracownika,
- monitoring emocji sprzedawców w sklepach za pomocą kamer.
4.2. Kiedy systemy nie są uznawane za rozpoznawanie emocji?
- AI identyfikujące uśmiech na twarzy osoby bez wnioskowania o jej stan emocjonalny,
- analiza nastroju tekstu bez wykorzystywania danych biometrycznych (np. analiza opinii w mediach społecznościowych).
4.3. Wyjątki dla systemów stosowanych w celach medycznych i bezpieczeństwa
Zakaz nie obejmuje AI stosowanych do:
- wykrywania zmęczenia kierowców czy pilotów w celu zapobiegania wypadkom,
- oceny stanu zdrowia (np. wykrywanie objawów chorób na podstawie parametrów biometrycznych).
5. AI w reklamie – czy może stanowić zakazaną praktykę?
5.1. Zakazane techniki manipulacji i wywierania wpływu
Nie każda reklama wykorzystująca AI jest zakazana. Jednak techniki podprogowe i manipulacyjne mogą stanowić naruszenie Artykułu 5 AI Act.
5.2. Przykłady AI w reklamie, które mogą naruszać Artykuł 5
- Podprogowe obrazy i dźwięki – np. szybkie miganie obrazów zachęcających do zakupu, których ludzki umysł świadomie nie rejestruje.
- Eksploatacja podatnych grup społecznych – np. reklamy skierowane do osób starszych oferujące kosztowne i niepotrzebne produkty medyczne.
5.3. Kiedy personalizacja reklamy jest dozwolona?
Jeśli reklama opiera się na transparentnych algorytmach i nie wykorzystuje podstępnych technik wpływania na użytkowników, nie stanowi naruszenia przepisów.
6. Jak firmy mogą dostosować się do nowych wytycznych?
- Przeprowadzenie audytu systemów AI stosowanych w firmie,
- Analiza ryzyka zgodnie z wytycznymi KE,
- Opracowanie polityki etycznego wykorzystania AI w organizacji.
7. Podsumowanie i kluczowe wnioski
Firmy powinny dokładnie przeanalizować swoje praktyki w zakresie AI, szczególnie jeśli wykorzystują systemy do zarządzania pracownikami lub prowadzenia działań marketingowych.
8. Najczęściej zadawane pytania (FAQ)
1. Czy wytyczne KE są prawnie wiążące?
Nie, ale stanowią kluczowy punkt odniesienia dla interpretacji przepisów AI Act.
2. Czy AI w rekrutacji może być zakazane?
Tak, jeśli wpływa na emocje kandydatów lub manipuluje ich decyzjami.
3. Czy wszystkie systemy AI analizujące emocje są zakazane?
Nie, wyjątkiem są systemy stosowane w celach medycznych i bezpieczeństwa.
4. Czy personalizacja reklam jest zgodna z prawem?
Tak, o ile nie wykorzystuje manipulacyjnych technik.
5. Kiedy zaczynają obowiązywać kary?
Od 2 sierpnia 2025 r.