Poznaj AI Act w 10 krokach — Rozpoczęła się Nowa Era Regulacji Sztucznej Inteligencji AI w Unii Europejskiej

Tak więc czy Twoja firma jest gotowa na AI Act ? Teraz jest najlepszy moment, aby zacząć przygotowania !

Dla kogo ?

Podmioty gospodarcze, firmy, małe i średnie przedsiębiorstwa (MŚP), w tym typu start-up, duże przedsiębiorstwa, producenci, dostawcy, importerzy, dystrybutorzy oraz użytkownicy systemów AI

1. AI Act: Wprowadzenie, czyli na jakie pytania warto znać odpowiedzi w przedmiocie stosowania Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji AI:

• co należy wiedzieć o nowym Rozporządzeniu 2024/1689 ?
• co zmienia nowe Rozporządzenie 2024/1689 ?
• co stanowi clue do zrozumienia stosowania przepisów nowego Rozporządzenia 2024/1689 ?
• czym jest sztuczna inteligencja, czyli tzw. systemy AI w świetle przepisów nowego Rozporządzenia 2024/1689 ?
• jakie są kluczowe obowiązki i prawa dla przedsiębiorców i biznesu wynikające z nowego Rozporządzenia 2024/1689 ?
• jak nowe Rozporządzenie 2024/1689 wpłynie na prowadzenie biznesu ?
• jak przygotować się i kompletnie wdrożyć „AI Compliance check” tj. pełną zgodność odpowiednich procedur i mechanizmów kontrolnych z nowym Rozporządzeniem 2024/1689 ?
• jak uniknąć potencjalnych sankcji w postaci kar finansowych przewidzianych Rozporządzeniem 2024/1689 ?
• w jakich przypadkach Rozporządzenie 2024/1689 nie ma zastosowania — wyjątki ?
• jakie jest powiązanie AI Act z innymi regulacjami Unii Europejskiej (GDPR, Digital Services Act, Digital Markets Act) ?

2. AI Act: O jakie Prawo wtórne Unii Europejskiej chodzi ?
W dniu 12 lipca 2024 r. w Dzienniku Urzędowym Unii Europejskiej (Seria L)¹ została opublikowana nowa unijna regulacja dotycząca sztucznej inteligencji (Akt w sprawie sztucznej inteligencji, Artificial Intelligence Act, EU Artificial Intelligence Act, „AI Act”, „AI Act EU”), stanowiąc tym samym formalne powiadomienie o nowym prawie tj. Rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji² . Jest to pierwszy na świecie tak zaawansowany, kompleksowy i horyzontalny akt prawny regulujący stosowanie sztucznej inteligencji AI w państwach członkowskich Unii Europejskiej. AI Act jako przełomowe rozporządzenie ukształtuje przyszłość sztucznej inteligencji w Europie. Nowe przepisy wymagają od podmiotów gospodarczych, firm, przedsiębiorstw, start-upów, instytucji czy organizacji dostosowania się do rygorystycznych wymogów, ale jednocześnie tworzą bezpieczne i innowacyjne środowisko dla rozwoju AI. Dla użytkowników indywidualnych oznacza to większą ochronę i pewność, że AI wykorzystywane w ich codziennym życiu jest bezpieczne i etyczne. AI Act EU zmieni sposób, w jaki firmy projektują i wdrażają systemy sztucznej inteligencji. Będzie to oznaczać większą odpowiedzialność, ale także nowe możliwości — zwłaszcza dla firm, które postawią na zgodność z regulacjami już na wczesnym etapie rozwoju AI.

3. AI Act: Wejście w życie i rozpoczęcie stosowania rozporządzenia 2024/1689 tj. od kiedy będą obowiązywać nowe ramy prawne AI Act ?
Rozporządzenie AI Act jako akt ustawodawczy prawnie wiążący musi być bezpośrednio stosowane w całości na całym obszarze Unii Europejskiej, bez konieczności dodatkowego wprowadzania go do krajowych systemów prawnych, z dniem jego wejścia w życie tj. 1 sierpnia 2024 r., w zakresie zapewnienia nadzoru i otoczenia regulacyjnego nad tym, w jaki sposób sztuczna inteligencja AI jest wykorzystywana (na tym etapie żadne z wymagań ustawy nie ma zastosowania — zaczną one obowiązywać stopniowo z czasem). AI Act ma zacząć obowiązywać po upływie 24 miesięcy od daty jego wejścia w życie, ale od tej ogólnej zasady są jednak pewne wyjątki. Państwa członkowskie odgrywają kluczową rolę w zapewnianiu prawidłowego i terminowego wdrażania prawa Unii Europejskiej. Na dostosowanie się do nowych przepisów podmioty będą miały od 6 do 36 miesięcy, w zależności od działań podejmowanych w związku z AI w ich organizacji. Jednak stopniowe wprowadzanie stosowania poszczególnych przepisów rozporządzenia AI Act w zależności od regulowanej materii zostało określone przez następujące cezury czasowe:

• 2 luty 2025 r. — zaczynają obowiązywać zakazane praktyki dotyczące niektórych systemów AI i wymogi dotyczące znajomości AI (Rozdział I i Rozdział II);
• 2 sierpnia 2025 r. (z wyjątkami) — zaczynają obowiązywać następujące zasady: Jednostki notyfikowane (Rozdział III, Sekcja 4); Modele GPAI (Rozdział V); Zarządzanie (Rozdział VII); Poufność (Artykuł 78), Kary (Artykuły 99 i 100);
• 2 sierpnia 2026 r. — pozostała część rozporządzenia AI Act zaczyna obowiązywać, z wyjątkiem artykułu 6;
• 2 sierpnia 2027 r. — zaczynają obowiązywać przepisy Artykułu 6 ust. 1 oraz odpowiadające mu obowiązki określone w rozporządzeniu AI Act.

4. AI Act: Jaki jest cel i zakres rozporządzenia 2024/1689 ?
Celem rozporządzenia AI Act jest poprawa funkcjonowania rynku wewnętrznego Unii Europejskiej przez ustanowienie jednolitych ram prawnych, w szczególności w zakresie rozwoju, wprowadzania do obrotu, oddawania do użytku i wykorzystywania systemów sztucznej inteligencji AI. Prowadzić ma to do promowania upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji AI przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa, praw podstawowych zapisanych w Karcie praw podstawowych Unii Europejskiej, w tym demokracji, praworządności i ochrony środowiska, ochrony przed szkodliwymi skutkami systemów AI w Unii Europejskiej, a także wspierania innowacji. Ponadto rozporządzenie AI Act zapewnia swobodny transgraniczny przepływ towarów i usług opartych na AI, uniemożliwiając tym samym państwom członkowskim nakładanie ograniczeń na rozwój, wprowadzanie do obrotu i wykorzystywanie systemów AI, chyba że jest to wyraźnie dozwolone w rozporządzeniu AI Act.

5. AI Act: Czego dotyczy przedmiot rozporządzenia 2024/1689 ?
Rozporządzenie AI Act ustanawia zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów AI w Unii Europejskiej, przejrzystości w przypadku niektórych systemów AI oraz wprowadzania do obrotu modeli AI ogólnego przeznaczenia. Ponadto monitorowania wprowadzania do obrotu, nadzoru rynku, zarządzania i egzekwowania. Co więcej określa szczególne wymogi dotyczące systemów AI wysokiego ryzyka oraz obowiązki spoczywające na operatorach takich systemów. Również wprowadza zakazy dotyczące niektórych praktyk w zakresie AI. W końcu proponuje środki wspierające innowacje, ze szczególnym uwzględnieniem MŚP, w tym przedsiębiorstw typu start-up. Z kolei na dostawców i podmioty stosujące systemy AI, rozporządzenie AI Act nakłada obowiązek podejmowania środków w celu zapewnienia, w możliwie największym stopniu, odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane.

6. AI Act: Zakres stosowania — kogo dotyczy rozporządzenie 2024/1689 ?
Rozporządzenie AI Act nakłada obowiązki zarówno na osoby fizyczne, jak i prawne, jego przepisów będą musieli przestrzegać zarówno pracownicy sektora publicznego, jak i obywatele oraz przedsiębiorcy. AI Act dotyczy:

• dostawców wprowadzających do obrotu lub oddających do użytku systemy AI lub wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii Europejskiej, niezależnie od tego, czy dostawcy ci mają siedzibę lub znajdują się w Unii Europejskiej czy w państwie trzecim;
• podmiotów stosujących systemy AI, które to podmioty mają siedzibę lub znajdują się w Unii Europejskiej;
• dostawców systemów AI i podmiotów stosujących systemy AI, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku gdy wyniki wytworzone przez system AI są wykorzystywane w Unii Europejskiej;
• importerów i dystrybutorów systemów AI;
• producentów produktu, którzy pod własną nazwą lub znakiem towarowym oraz wraz ze swoim produktem wprowadzają do obrotu lub oddają do użytku system AI;
• upoważnionych przedstawicieli dostawców niemających siedziby w Unii Europejskiej;
• osób, na które AI ma wpływ i które znajdują się w Unii Europejskiej.

AI Act nie obejmuje natomiast modeli i systemów AI wykorzystywanych dla celów związanych z obronnością, bezpieczeństwem narodowym oraz badaniami i nauką. Wyłączenie tej kategorii oznacza, że przy projektach badawczych nowe przepisy muszą być przestrzegane przez każdą osobę lub podmiot od momentu, gdy system lub model AI zostanie wprowadzony na rynek lub oddany do użytku, bez względu na to, czy jest to realizowane komercyjnie, czy bezpłatnie. Ponadto rozporządzenia AI Act nie stosuje się do obowiązków podmiotów stosujących będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej.

7. AI Act: Jak rozumieć regulacje prawne rozporządzenia 2024/1689 na gruncie terminologicznym, czyli w świetle definicji i pojęć normatywnych ?
Rozporządzenie AI Act zawiera sześćdziesiąt osiem definicji, których znajomość i zrozumienie jest przede wszystkim kluczowe w kontekście stosowania przepisów dotyczących sztucznej inteligencji AI. Wśród szczególnie istotnych definicji należy wymienić:

• „system AI”;
• „system AI ogólnego przeznaczenia”;
• „model AI ogólnego przeznaczenia”;
• „skuteczność działania systemu AI”;
• „kompetencje w zakresie AI”;
• „wprowadzenie do obrotu”;
• „udostępnianie na rynku”;
• „oddanie do użytku”;
• „dostawca, podmiot stosujący, importer, dystrybutor, operator;
• „ocena zgodności”;
• „powszechne naruszenie”;
• „poważny incydent”;
• „dające się racjonalnie przewidzieć niewłaściwe wykorzystanie”;
• „deepfake”;
• „ryzyko systemowe”.

8. AI Act: Jak zarządzać ryzykiem i zapewnić zgodność z prawem — czyli clue do zrozumienia przepisów 2024/1689 oraz zakazane praktyki
AI Act wprowadza klasyfikację systemów sztucznej inteligencji AI z podziałem na kategorie w oparciu o poziom ryzyka, który wynika ze stosowania AI. Rozporządzenie AI Act dzieli systemy AI na cztery kategorie ryzyka:

• o niedopuszczalnym ryzyku — zakazane technologie, np. systemy identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej czy AI manipulujące ludzkim zachowaniem;
• wysokiego ryzyka — podlegają ścisłym regulacjom i audytom, np. AI w medycynie, sektorze finansowym czy zatrudnieniu;
• ograniczonego ryzyka — wymagają spełnienia wymogów przejrzystości, np. chatboty czy systemy generujące treści audio / video;
• minimalnego ryzyka — większość aplikacji AI, np. filtry antyspamowe, mogą być stosowane bez dodatkowych wymogów.

Przypisanie konkretnej AI do odpowiedniej grupy jest kluczowe. W zależności od klasyfikacji, przedsiębiorcy będą musieli spełnić odpowiednie obowiązki, aby móc wprowadzać, rozpowszechniać lub korzystać z systemu. Im wyższy poziom ryzyka, tym więcej przewidziano obowiązków związanych z wprowadzeniem i stosowaniem AI.
Zakazane praktyki w zakresie AI tj. wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje lub wykorzystuje:

• celowe techniki podprogowe będące poza świadomością danej osoby, manipulacyjne lub wprowadzające w błąd, skutkujące modyfikacją zachowań lub zniekształceniem podejmowanych przez daną osobę nieświadomych decyzji w sposób powodujący u niej lub innych osób istotne szkody;
• słabości osoby fizycznej lub grupy osób ze względu na ich wiek, niepełnosprawność lub szczególną sytuację społeczną lub ekonomiczną, skutkujące modyfikacją zachowań lub zniekształceniem podejmowanych przez daną osobę decyzji, w sposób powodujący u niej lub innych osób istotne szkody;
• scoring społeczny do oceny lub klasyfikacji osób fizycznych na podstawie ich zachowań społecznych lub znanych, wywnioskowanych lub przewidywanych cech osobistych lub cech osobowości jeśli prowadzi do krzywdzącego lub niekorzystnego traktowania;
• profilowanie osoby fizycznej lub ocena jej cech osobowości i cech charakterystycznych, którego celem jest ocena ryzyka popełnienia przestępstwa;
• tworzenie lub rozbudowywanie baz danych, służących rozpoznawaniu twarzy służących rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie (untargeted scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej;
• wyciąganie wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych (z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa);
• systemy kategoryzacji biometrycznej które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej;
• systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw.

9. AI Act: Jak zapewnić zgodność wykorzystywanych systemów AI dzięki wdrożeniu AI Compliance check ?
AI Compliance check to kontrola zgodności, która określa zasady pracy ze sztuczną inteligencją AI wewnątrz organizacji. Korzystanie z narzędzi wykorzystujących AI wymaga zapewnienia, że rozwiązania te są wykorzystywane przez pracowników w sposób bezpieczny i odpowiedzialny, a sam system spełnia normy regulacyjne i będzie je spełniać w przyszłości.
Zapewnienie zgodności obejmuje:

• opracowanie wewnętrznych polityk i procedur monitorowania systemów AI w celu zapobiegania niezgodności;
• prowadzenie ewidencji wykorzystywanych systemów AI, a także przeprowadzonych ocen i podjętych środków zgodności;
• przygotowanie listy wykorzystywanych systemów AI w organizacji;
• przyporządkowanie wykorzystywanych systemów AI na podstawie celu, funkcjonalności i rodzaju przetwarzanych danych;
• ocena wykorzystywanych systemów AI i ustalenie, czy którykolwiek system AI należy do zakazanych kategorii (w szczególności w przypadku systemów wykorzystywanych do prowadzenia interakcji z klientem, podejmowania decyzji oraz przetwarzających dane wrażliwe lub biometryczne).

Rozporządzenie AI Act reguluje również kwestie systemów AI oraz modeli AI ogólnego
przeznaczenia już wprowadzonych do obrotu lub oddanych do użytku.

10. AI Act: Administracyjne kary pieniężne — skuteczne, proporcjonalne i odstraszające, w tym ostrzeżenia i środki niepieniężne
Rozporządzenie AI Act przewiduje wysokie administracyjne kary pieniężne za nieprzestrzeganie lub naruszenia przepisów:

• w przypadku nieprzestrzegania zakazanych praktyk w zakresie AI, grozi kara pieniężna w wysokości do:
  • 35 000 000 EUR lub
  • 7% całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego — jeśli naruszenia dopuścił się przedsiębiorca (w zależności od tego, która z tych kwot jest wyższa);
• dla dostawców modeli AI ogólnego przeznaczenia, w przypadku naruszenia lub nie zastosowania się do pozostałych przepisów rozporządzenia AI Act, grozi kara pieniężna w wysokości do:
  • 15 000 000 EUR lub
  • 3% całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego — jeśli naruszenia dopuścił się przedsiębiorca (w zależności od tego, która z tych kwot jest wyższa)
• w przypadku dostarczania nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji jednostkom notyfikowanym lub właściwym organom krajowym w odpowiedzi na ich wniosek, grozi kara pieniężna w wysokości do:
  • 7 500 000 EUR lub
  • 1 % całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego — jeżeli sprawcą naruszenia jest przedsiębiorca (w zależności od tego, która z tych kwot jest wyższa).

Chcesz wiedzieć więcej ? Zapisz się już teraz na szkolenie !

AI Act — prawne i praktyczne aspekty wykorzystywania systemów sztucznej inteligencji w biznesie

Dowiesz się wszystkiego co konieczne i niezbędne w przedmiocie stosowania systemów
sztucznej inteligencji AI w ramach wewnętrznego rynku Unii Europejskiej w oparciu o
jednolite ramy prawne, w szczególności w zakresie rozwoju, wprowadzania do obrotu,
oddawania do użytku i wykorzystywania systemów sztucznej inteligencji AI.