AI Act: Unia Europejska przygotowała listę zakazanych praktyk

4 października 2023 Artykuł sponsorowany

Unia Europejska w wykorzystaniu technologii cyfrowych upatruje szansy dla optymalizacji produkcji, ograniczenia emisji i odpadów, wzmocnienia przewagi konkurencyjnej firm oraz zapewnienia konsumentom nowych usług i produktów. Jednym z istotnych elementów cyfrowego rozwoju pozostaje wykorzystanie sztucznej inteligencji (dalej również jako „SI”).

Rozwój tej grupy technologii może przynieść wiele różnych korzyści społeczno-ekonomicznych we wszystkich branżach i obszarach działalności społecznej. Dlatego też Wspólnota postanowiła jako pierwsza na świecie przyjąć kompleksowe przepisy prawne w tej sprawie. W 2021 r. Komisja Europejska zaproponowała unijne ramy legislacyjne dotyczące SI. We wniosku przedstawiono projekt tak zwanego aktu w sprawie sztucznej inteligencji, to jest rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące SI.

Z kolei nie tak dawno, bo w czerwcu bieżącego roku, Parlament Europejski przyjął poprawki do wniosku sprzed dwóch lat. Prace legislacyjne są zatem nadal w toku, lecz niewątpliwie krystalizuje się końcowa treść „AI act”.

Spis treści

Jaki jest cel Unii Europejskiej?

W uzasadnieniu do projektu rozporządzenia czytamy, że priorytetem pozostaje przede wszystkim zapewnienie, aby systemy sztucznej inteligencji wprowadzane do obrotu w Unii Europejskiej były bezpieczne i zgodne z obowiązującym prawem. Wskazuje się również na zaletę pewności prawa, która ma ułatwić inwestycje i innowacje. Wreszcie, jak wynika z przekazu prasowego, celem AI act jest ustalenie neutralnej technologicznie, jednolitej definicji sztucznej inteligencji, którą można będzie zastosować do przyszłych systemów sztucznej inteligencji.

Gdzie zostanie postawiona granica wspierania swoich codziennych obowiązków sztuczną inteligencją? Przyjrzyjmy się kwestiom związanym z określeniem SI oraz bezpieczeństwem.

Unia Europejska definiuje SI

Na stronie internetowej Parlamentu Europejskiego można przeczytać, że sztuczna inteligencja to zdolność maszyn do wykazywania ludzkich umiejętności, takich jak rozumowanie, uczenie się, planowanie i kreatywność. Trzeba przyznać, że ta krótka definicja w sposób treściwy i zrozumiały przedstawia podstawową charakterystykę omawianego zjawiska.

Z początku unijny ustawodawca podszedł do kwestii zdefiniowania SI w sposób bardziej kompleksowy i wskazał, że „system sztucznej inteligencji” oznacza oprogramowanie opracowane przy użyciu co najmniej jednej spośród technik i podejść wymienionych w załączniku I, które może – dla danego zestawu celów określonych przez człowieka – generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje wpływające na środowiska, z którymi wchodzi w interakcję.

Trudnością w definicji legalnej było odwołanie do enigmatycznego załącznika. W praktyce zatem celem ustalenia, czy określona technologia wpisuje się w definicję SI, trzeba by zapoznać się ze wspomnianym dokumentem, który zawierał listę technik i podejść z zakresu SI. Lista ta obejmowała między innymi:

mechanizmy uczenia maszynowego,
metody oparte na logice i wiedzy,
podejścia statystyczne.

Odwołanie do odrębnego dokumentu było zapowiedzianym i celowym zabiegiem unijnego legislatora. W uzasadnieniu do AI act argumentował on, że definicję systemu sztucznej inteligencji sformułowano w taki sposób, aby w możliwie największym stopniu była neutralna pod względem technologicznym. Miała ona też nie ulegać dezaktualizacji, szczególnie jeśli weźmiemy pod uwagę szybki rozwój technologiczny i dynamikę sytuacji rynkowej w dziedzinie SI. By zapewnić niezbędną pewność prawa, uzupełnieniem definicji miał być załącznik I zawierający szczegółowy wykaz podejść i technik na potrzeby rozwoju SI, które miały być dostosowywane przez Komisję Europejską w świetle postępu technologicznego.

Było skomplikowanie, więc trzeba uprościć

W czerwcu bieżącego roku europosłowie przyjęli stanowisko negocjacyjne, w ramach którego przegłosowano zmianę powyższej definicji legalnej. Uproszczono, przeniesiono część treści z załącznika do definicji i zaproponowano nowe, następujące brzmienie – system sztucznej inteligencji oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii i który może – do wyraźnych lub dorozumianych celów – generować wyniki, takie jak przewidywania, zalecenia lub decyzje wpływające na środowiska fizyczne lub wirtualne.

Jak widać, Unia Europejska zastąpiła początkowe postrzeganie definiowania zjawiska AI oraz listy technologii, która podlegałaby ciągłej aktualizacji. W zamian przyjęła definicję na poziomie ogólnym, bez załącznika, oraz z wykorzystaniem kluczowego pojęcia, jakim jest system maszynowy.

Zakazane praktyki w zakresie sztucznej inteligencji

Projektowane przepisy prawne determinują obowiązki dostawców i użytkowników w zależności od poziomu zagrożenia reprezentowanego przez sztuczną inteligencję. W rozporządzeniu zastosowano podejście oparte na analizie ryzyka, wprowadzając rozróżnienie między zastosowaniami SI, które stwarzają:

niedopuszczalne ryzyko,
wysokie ryzyko,
niskie lub minimalne ryzyko.

W konsekwencji powstała lista zakazanych praktyk z użyciem SI na poziomie niedopuszczalnego ryzyka. Obejmuje przede wszystkim systemy sztucznej inteligencji, których wykorzystywanie uznaje się za niedopuszczalne ze względu na ich sprzeczność z wartościami Unii Europejskiej, na przykład ze względu na fakt, że naruszają one podstawowe prawa człowieka. Zakazy obejmują praktyki, które wykazują znaczny potencjał manipulowania ludźmi, oparte na technikach podprogowych działających na ich podświadomość lub wykorzystujące słabości określonych słabszych grup społecznych.

Zakazuje się również wprowadzania do obrotu, oddawania do użytku lub wykorzystywania systemów sztucznej inteligencji na potrzeby oceny, lub klasyfikacji osób, lub grup osób w ramach scoringu społecznego. Zabrania się zatem klasyfikacji ludzi na podstawie ich zachowań, statusu społeczno-ekonomicznego lub cech osobistych.

Identyfikacja biometryczna “w czasie rzeczywistym” na liście

Istotna zmiana zaszła też w kontekście wykorzystywania systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej. Pierwotną intencją unijnego ustawodawcy było ustanowienie okoliczności-wyjątków, w przypadku których powyższa praktyka byłaby niezbędna do celów egzekwowania prawa, a tym samym dopuszczalna. Były to między innymi działania zorientowane na poszukiwania ofiar przestępstw, zapobieganie zagrożeniu życia lub atakowi terrorystycznemu.

Wskutek poprawek z czerwca odrzucono wszystkie wyjątki. Oznacza to, że całkowicie zakazano wykorzystywania systemów zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w przestrzeni publicznej. Osobną kwestią pozostaje wykorzystywanie systemów SI do analizy nagrań z przestrzeni publicznej za pośrednictwem systemów zdalnej identyfikacji biometrycznej „post factum”, które to może zostać uznane za dozwolone w sytuacji ścigania poważnych przestępstw, za zezwoleniem przedsądowym.

Akt w sprawie sztucznej inteligencji to przedsięwzięcie ambitne. Wola ujęcia SI w ramy prawne zasługuje na uznanie. Poza wyżej wymienionymi niuansami rozporządzenie ma ustanowić szereg innych, ważnych pionierskich zagadnień związanych z SI. Regulacja ma szansę uwiarygodnić zapowiadaną transformację cyfrową. Momentem kluczowym, jak zawsze w przypadku tworzenia nowych regulacji prawnych, będzie zderzenie tekstu prawnego z rzeczywistością. Wówczas będzie nam dane przekonać się, na ile Unia Europejska sprostała zadaniu uregulowania tej wcale nieprostej materii.

Zdjęcie główne artykułu pochodzi z envato.com.

Źródła:

europarl.europa.eu
europarl.europa.eu
oeil.secure.europarl.europa.eu
europarl.europa.eu
europarl.europa.eu
eur-lex.europa.eu