Recenzenci Dr hab. Ksenia Kakareko, prof. UWProf. dr hab. Bronisław Sitek

Projekt okładki i stron tytułowych Przemysław Spiechowski

Zdjęcie na I stronie okładki Sakorn Sukkasemsakorn/iStock

Wydawca Izabela Grabowska

Redakcja Iwona Szopa

Korekta Hanna Trubicka

Redakcja techniczna Maryla Broda

Koordynator produkcji Mariola Grzywacka

Skład i łamanie INK GRAF S.C. Sławomir Ląkocy i Łukasz Ląkocy

Publikacja finansowana ze środków Turcza Kancelaria Radców Prawnych.

Książka, którą nabyłeś, jest dziełem twórcy i wydawcy. Prosimy, abyś przestrzegał praw, jakie im przysługują. Jej zawartość możesz udostępnić nieodpłatnie osobom bliskim lub osobiście znanym. Ale nie publikuj jej w internecie. Jeśli cytujesz jej fragmenty, nie zmieniaj ich treści i koniecznie zaznacz, czyje to dzieło. A kopiując jej część, rób to jedynie na użytek osobisty.

Szanujmy cudzą własność i prawo

Więcej na www.legalnakultura.pl

Polska Izba Książki

Copyright ? by Wydawnictwo Naukowe PWN SA

Warszawa 2025

ISBN 978-83-01-24588-7

DOI https://doi.org/10.53271/2025.140

eBook został przygotowany na podstawie wydania papierowego z 2025 r. (Wydanie I)

Warszawa 2025

Wydawnictwo Naukowe PWN SA

02-460 Warszawa, ul. Gottlieba Daimlera 2

tel. 22 69 54 321; faks 22 69 54 288

infolinia 801 33 33 88

e-mail: pwn@pwn.com.pl

www.pwn.pl

Wykaz najważniejszych skrótów

AI ang. Artificial Intelligence - sztuczna inteligencja.

AI Act ang. Artificial Intelligence Act - Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie sztucznej inteligencji) i zmieniające niektóre akty ustawodawcze Unii (COM/2021/206 final).

AMA ang. Artificial Moral Agents - dziedzina informatyki mająca na celu tworzenie autonomicznych maszyn, które mogą podejmować decyzje moralne, podobnie jak robią to ludzie.

BGH niem. Bundesgerichtshof - Federalny Trybunał Sprawiedliwości (również Trybunał Federalny) - najwyższa instancja sądownictwa karnego i cywilnego w Republice Federalnej Niemiec.

CCTV ang. Closed-Circuit Television - telewizja przemysłowa (telewizja o zamkniętym obiegu).

EDR ang. Endpoint Detection and Response - wykrywanie i reagowanie w punkcie końcowym.

EKES Europejski Komitet Ekonomiczno-Społeczny.

EPS "Europejski Przegląd Sądowy" - czasopismo prawnicze wydawane przez Wolters Kluwer Polska.

P.w.p. Ustawa z 30 czerwca 2000 r. Prawo własności przemysłowej. Dz.U. 2001 nr 49 poz. 508.

ETS Europejski Trybunał Sprawiedliwości - nieformalna nazwa Trybunału Sprawiedliwości Unii Europejskiej (TSUE).

EY Ernst & Young - międzynarodowy koncern świadczący profesjonalne usługi doradcze i audytorskie z główną siedzibą w Londynie.

GPT ang. Generative Pre-trained Transformer - rodzaj sztucznej inteligencji, która jest w stanie generować naturalnie brzmiący tekst.

HLEG ang. High-Level Expert Group on Artificial Intelligence (AI HLEG).

IT ang. Information Technology - technika informacyjna.

k.c. Ustawa z dnia 23.04.1964 r. - Kodeks cywilny. Dz.U. 1964 nr 16 poz. 93.

k.p.c. Ustawa z dnia 17 listopada 1964 r. - Kodeks postępowania cywilnego. Dz.U. 1962 nr 43 poz. 296.

KE Komisja Europejska.

LaMDA ang. Language Model for Dialogue Applications - zaawansowany model językowy, specjalizujący się w generowaniu naturalnie brzmiących, kontekstualnych i znaczących dialogów.

LLM ang. Large Language Model - typ algorytmu sztucznej inteligencji (AI), który wykorzystuje techniki deep learningu.

LLP ang. Linear Logic Programming Language and its Compiler System.

MIT ang. Massachusetts Institute of Technology.

MŚP Małe i średnie przedsiębiorstwa, które zatrudniają mniej niż 250 pracowników i których roczny obrót nie przekracza 50 milionów euro lub całkowity bilans roczny nie przekracza 43 milionów euro. Podstawa prawna: art. 7. Ustawy z dnia 6 marca 2018 r. Prawo przedsiębiorców. Dz.U. 2018 poz. 646.

NASK Naukowa i Akademicka Sieć Komputerowa - Państwowy Instytut Badawczy.

NHTSA ang. National Highway Traffic Safety Administration - amerykański urząd ds. bezpieczeństwa ruchu drogowego, założony przez Kongres Stanów Zjednoczonych 31 grudnia 1970 z siedzibą w Waszyngtonie, USA.

NLP ang. Natural Language Processing.

PE Parlament Europejski.

PKD Polska Klasyfikacja Działalności.

RODO Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE. Dz.Urz. UE L 119 z 27.04.2016, str. 1, z późn. zm.

OCR ang. Optical Character Recognition.

SAE ang. Society of Automotive Engineers.

SI Sztuczna inteligencja.

SN Sąd Najwyższy.

SPAM ang. Stupid Pointless Annoying Messages.

TFUE Traktat o funkcjonowaniu Unii Europejskiej.

TK Trybunał Konstytucyjny.

TRIPS ang. Agreement on Trade-Related Aspects of Intellectual Property Rights.

UNECE ang. United Nations Economic Commission for Europe Europejska Komisja Gospodarcza.

UNESCO ang. United Nations Educational, Scientific and Cultural Organization. Organizacja Narodów Zjednoczonych do spraw Oświaty, Nauki i Kultury.

u.o.z.z.o.z.ch. Ustawa z dnia 21 sierpnia 1997 r. o ochronie zwierząt. Dz.U. 1997 nr 111 poz. 724.

u.p.a.p.p. Ustawa z dnia 4 lutego 1994 r. o prawie autorskim i prawach pokrewnych. Dz.U. 1994 nr 24 poz. 83.

PPH Przegląd Prawa Handlowego.

PUG Przegląd Ustawodawstwa Gospodarczego.

RUE Rada Unii Europejskiej.

WCT ang. WIPO Copyright Treaty - Międzynarodowy traktat o prawie autorskim.

WSA Wojewódzki Sąd Administracyjny.

WTO ang. World Trade Organization - Światowa Organizacja Handlu.

EWG Europejska Wspólnota Gospodarcza.

TSUE Trybunał Sprawiedliwości Unii Europejskiej.

Istotne jest, byśmy uświadomili sobie pierwszeństwo etyki przed techniką, prymat osoby wobec rzeczy, wyższość ducha nad materią. Sprawie człowieka służyć będzie jedynie poznanie zespolone z sumieniem.

Ludzie nauki, jeśli mają naprawdę pomóc ludzkości, muszą zachować świadomość transcendencji człowieka wobec świata i Boga wobec człowieka [1].

Wprowadzenie

Nieunikniony rozwój technologii w ostatnich latach pociąga za sobą wzrost informatyzacji i robotyzacji, które stały się trwałym elementem codzienności wszystkich grup społecznych. Cyberbezpieczeństwo[2] oraz sztuczna inteligencja (SI) - rozumiana jako dziedzina nauki zajmująca się badaniem mechanizmów ludzkiej inteligencji oraz modelowaniem i konstruowaniem systemów, które są w stanie wspomagać lub zastępować inteligentne działania człowieka[3] - stanowią punkt wyjścia w rozważaniach dotyczących definiowania tego, czym dokładnie jest SI oraz czym ma ona być w przyszłości, a także odpowiedzi na pytania, jaki jest jej status i cel istnienia.

W obszarze prawa sztuczna inteligencja (ang. Artificial Intelligence - AI) jest bez wątpienia dużym wyzwaniem dla społeczności międzynarodowej. Obecnie na gruncie ustawodawstwa Unii Europejskiej mamy do czynienia z ujęciem SI w pewne ramy legislacyjne, niemniej w polskim porządku prawnym nie istnieją jeszcze precyzyjne uregulowania skupiające się na kwestiach takich jak status sztucznej inteligencji, co jest kluczowe dla dociekań w zakresie odpowiedzialności za przejawy i działanie szeroko pojętej SI.

W konsekwencji braku uregulowań nieustanne dążenie do poszerzania wiedzy na temat faktycznego statusu SI i świadomości prawnej w tym zakresie idzie w parze z badaniami i pracami nad zabezpieczeniami teleinformatycznymi oraz rozwiązaniami legislacyjnymi, które będą miały na celu nie tylko ochronę przed cyberprzestępczością, ale również odpowiedzą na pytania dotyczące szeregu innych zagadnień powiązanych z podmiotowością robotów, prawem autorskim, bezpieczeństwem systemów informatycznych czy w końcu - etyką takich rozwiązań.

W przestrzeni medialnej można spotkać się także z tezami specjalistów zajmujących się SI, wedle których jej dalszy rozwój może prowadzić do końca istnienia gatunku ludzkiego. Cytując Stephena Hawkinga: "Technologia, która w procesie ciągłego ulepszania nabędzie zdolność uczenia się, nabędzie w końcu samoświadomość[4]". Już sama możliwość powstania w przyszłości niezależnej od człowieka superinteligencji skłania do refleksji nad tym, czym właściwie jest SI i czy przy założeniu, że potencjalnie osiągnie ona samoświadomość, należałoby nadać jej jakiś odrębny status. Moment "powstania" w pełni autonomicznej, samoświadomej istoty będzie stanowić punkt zwrotny w nowej rewolucji technologicznej[5], która już stała się faktem.

Przykładami, które potwierdzają konieczność prowadzenia równoległych badań w kierunku rozwoju regulacji prawnych w zakresie SI, są roboty Alice i Bob, opracowane przez naukowców pracujących dla firmy Meta, które musiały zostać wyłączone ze względu na to, że utracono nad nimi kontrolę[6]. Alice i Bob podczas konwersacji używały języka angielskiego, jednak z czasem stworzyły nowy kod komunikacji, który był zrozumiały tylko dla nich[7].

Na stronie internetowej "Future of Life"[8] można przeczytać opublikowany w marcu 2023 r. list otwarty o bardzo wymownej treści, stworzony przez naukowców i specjalistów od SI, a skierowany do wszystkich laboratoriów zajmujących się sztuczną inteligencją:

Wzywamy wszystkie laboratoria AI do natychmiastowego wstrzymania na co najmniej 6 miesięcy szkolenia systemów AI potężniejszych niż GPT-4. Przesłanie takiego listu jest proste - widzimy obecnie wyścig zbrojeń na to, kto stworzy potężniejszą sztuczną inteligencję, a jednocześnie nikt nie jest w stanie przewidzieć konsekwencji takich działań. Rozwój takich programów zdecydowanie wpłynie na życie ludzi, ale nie wiemy jeszcze, czy będzie to pozytywny wpływ i jakie ryzyka się z tym wiążą. Dlatego osoby, które podpisały się pod listem, wnioskują o wstrzymanie prac nad nowymi AI, a zamiast tego: skupienie się na tym, by obecne systemy były bardziej transparentne i godne zaufania, a także - by dać czas na umieszczenie AI w systemie prawnym. Dziś bowiem nie wiemy wielu rzeczy odnośnie do legalności użycia AI, szczególnie w takich sferach jak szkolnictwo czy sztuka[9].

Wydźwięk tego listu może budzić wątpliwości czytelnika ze względu na niejasny charakter motywacji autorów, gdyż użyty środek w postaci "prośby" nie ma mocy, która w sposób realny doprowadziłaby do osiągnięcia celu w postaci zahamowania postępu prac. List stanowi raczej swoisty test tego, na ile ten komunikat będzie skuteczny i czy wywoła on określone reakcje w środowisku naukowym.

Postępujące zmiany technologiczne są nieuniknione, a same międzynarodowe przepisy prawne zredagowane na gruncie unijnym nie będą wystarczającą ochroną dla obywateli, jeśli krajowe prawo cywilne będzie pomijać ważne aspekty życia codziennego społeczeństw, które mogą nie być przygotowane na nadchodzące zmiany. Powyższa publikacja, jak i jej podobne, dowodzą jedynie, że znajdujemy się w dziejowym punkcie zwrotnym, a przyszłości SI i jej wpływu na świat nie sposób w pełni przewidzieć. W związku z tym dotychczasowe krajowe prawo cywilne wymaga pewnej rewizji i pochylenia się nad fundamentalnymi funkcjami instytucjonalnymi i pojęciami, które dotychczas nie obejmowały swoim zakresem sztucznej inteligencji. Należy zatem podjąć próbę odpowiedzi na następujące pytania: do czego należy się odnieść na gruncie cywilistycznym, żeby ten status osadzić w pewnych ramach? na ile obecność SI w życiu każdego człowieka może stwarzać problemy i wpływać na ryzyka, których współcześni prawodawcy krajowi zdają się nie dostrzegać?

Wraz z technologią zmienia się rzeczywistość, a co za tym idzie, powstaje konieczność uporządkowania nowych zjawisk w sferze prawnej, ponieważ to właśnie prawo stanowi dla człowieka istotne narzędzie sprawowania kontroli nad rzeczywistością. Prawo już od samego początku oddziaływania sztucznej inteligencji na społeczeństwo winno zapewnić obywatelom optymalny poziom ochrony na gruncie m.in. stosunków cywilnych, gospodarczych, jak również w sferze ochrony danych. Aktualne polskie rozwiązania cywilnoprawne nie są w pełni dostosowane do tak szybkiego rozwoju technologii, niemniej można zaobserwować pewną aktywność struktur unijnych w tym zakresie, co docelowo będzie stopniowo przekładać się na regulacje wewnętrzne i może stanowić swego rodzaju inspirację i punkt wyjścia dla dalszych rozważań w tym zakresie na gruncie polskiego prawa cywilnego.

Aby podjąć próbę odpowiedzi na pytanie o docelowy kształt i treść unormowań krajowego prawodawstwa cywilnego odnoszącego się do działania sztucznej inteligencji, tematyka niniejszej rozprawy skupi się na poszczególnych tendencjach w zakresie definicji i rozumieniu statusu SI na gruncie rozwiązań prawnych - tych już funkcjonujących oraz takich, które stanowią novum. Postaram się również przedstawić ich krytykę w kontekście praktyki prawnej w tym obszarze i pojawiających się na tym gruncie tendencji i problemów. Odpowiedź na pytanie, czym jest SI i jak należy ją traktować w kontekście krajowych regulacji prawnych, będzie decydująca dla dalszych rozważań dotyczących zagrożeń z nią związanych w obszarze polskiego prawa cywilnego. Węzłowym zagadnieniem prawnym na tym gruncie jest problematyka nadawania podmiotowości sztucznej inteligencji[10]. Następnie podjęty zostanie temat przejawów i zastosowania SI w obrocie gospodarczym, gdzie już obecnie mamy do czynienia z kontraktowaniem w relacji z jego wszystkimi uczestnikami, w tym w szczególności z konsumentami. Istnieje zatem potrzeba wypracowania właściwego podejścia do nowej technologii i jej przejawów, gdyż będą one miały coraz większy wpływ na życie społeczeństw. Takie zdefiniowane oraz jednoznaczne stanowisko w sprawie podmiotowości prawnej SI jest konieczne i powinno być dyskutowane przez specjalistów z dziedziny nauk prawnych, gdyż nawet jeśli aktualnie temat wydaje się rozstrzygnięty na forum Unii Europejskiej (o czym szerzej piszę w dalszej części niniejszej rozprawy), wypracowane rozwiązania niekonieczne będą wciąż słuszne i adekwatne w niedalekiej przyszłości.

Zdefiniowanie sztucznej inteligencji, próba uchwycenia jej charakterystyki oraz przejawów i obszarów prawa, na których gruncie taki opis jest uzasadniony, wydaje się zadaniem trudnym, a być może niemożliwym. Niemniej jestem zdania, że jest to jedno z największych wyzwań prawnych XXI w. - brak norm, nieadekwatne lub niewystarczające regulacje bądź zbyt szybka dezaktualizacja przepisów spowodują zaburzenie stabilności ładu prawnego i będą sprzyjać nadużyciom. Nowoczesne prawo z jednej strony powinno iść z duchem czasu i odzwierciedlać zmiany, które zachodzą w społeczeństwie i gospodarce, z drugiej zaś w kluczowych kwestiach powinno ono być jednoznaczne i stanowić gwarancję stabilności podstawowych praw człowieka. Nie godzi się bowiem prowadzić eksperymentów na żywym społecznym organizmie.

Sztuczna inteligencja ma również niebagatelny wpływ na bezpieczeństwo, w tym bezpieczeństwo międzynarodowe, a przez wzgląd na jej gwałtowny postęp nie można stracić z pola widzenia związanych z tym zagrożeń dotyczących obszarów takich jak ochrona danych (w tym danych osobowych) lub zagrożenia związane z cyberprzestępczością, gdzie duże znaczenie mają z kolei etyczne aspekty stosowania SI. Nowoczesne i efektywne narzędzia, jakich dostarcza sztuczna inteligencja, obecne w wielu dziedzinach naukowych oraz w życiu codziennym i wspierające dla funkcjonowania społeczeństwa, mogą być jednocześnie źródłem manipulacji, zagrożeniem dla bezpieczeństwa, prywatności, praw osobistych i majątkowych.

W przestrzeni gospodarczej - wśród przedsiębiorców, praktyków i konsumentów - pomimo dynamicznej informatyzacji procesów technologicznych i stosowania wysoko zaawansowanych metod kontraktowania oraz wspomagania przedsiębiorstw nadal występują problemy z identyfikacją statusu prawnego SI, a co za tym idzie - przypisaniem do niej odpowiedzialności i autorstwa dzieł przez nią wytworzonych lub współtworzonych. Należy w takim razie odpowiedzieć sobie na pytanie, jak traktować status SI w obliczu jej postępującego rozwoju, oraz rozważyć kwestię wyznaczania granic i ram w zakresie jej udziału w obrocie gospodarczym oraz roli, jaką sztuczna inteligencja ma docelowo odegrać. Stąd dalsze dociekania będą skupiać się na następujących kwestiach:

1. Problematyka podmiotowości prawnej i co za tym idzie - osobowości prawnej sztucznej inteligencji. Obecnie brak szczegółowych i jednoznacznych regulacji w tym zakresie, tak w prawie unijnym, jak i w prawie krajowym. Istnieje potrzeba dookreślenia statusu SI i wypracowania w przyszłości skutecznych i szybkich procedur oceny i kwalifikacji tegoż statusu, który następnie będzie determinował pozycję prawną SI. Co więcej, owa problematyka wymaga również przyjrzenia się aktualnym tendencjom w obszarach unijnych i krajowych uregulowań prawa cywilnego w zakresie oceny statusu i miejsca SI w polskim porządku prawnym. Obecny stan prac w tym przedmiocie na gruncie prawa unijnego nie gwarantuje uczestnikom obrotu - zwłaszcza konsumentom - wystarczającej ochrony. Szczególne obowiązki producentów i dystrybutorów przypisane są wyłącznie do kategorii SI "wysokiego ryzyka", której definicja nie jest wystarczająco doprecyzowana, czego dowodzi katalog owej kategorii - wciąż o ruchomych i otwartych granicach.

2. Status, jaki należałoby przypisać sztucznej inteligencji. Konieczne jest określenie charakteru koncepcji odnoszących się do podmiotowości prawnej SI, które dotąd były prezentowane w doktrynie prawa. W konsekwencji należy ustalić, czy SI można uznać za byt równorzędny człowiekowi. Jeśli nie, to czy sztucznej inteligencji można przypisać status przedmiotu prawa - narzędzia w rękach człowieka, które nie posiada cech podmiotowych, a co za tym idzie również praw i obowiązków.

3. SI jako przedmiot prawa, który należy ująć w ramy prawne na gruncie prawa cywilnego - rzeczowego, handlowego, autorskiego oraz prawa zobowiązań. Podejmę próbę zrozumienia roli i ewolucji pojęcia SI - jego desygnaty ulegają dynamicznym modyfikacjom, dostosowując się do aktualnego stanu wiedzy i poziomu rozwoju technologicznego. Sztuczna inteligencja i jej przejawy są obecnie wykorzystywane w różnorodnych dziedzinach życia społeczeństw i stanowią ważny element strategii ekonomicznych wielu państw. Zagadnienie to wiąże się z inwestycjami i różnymi oczekiwaniami - chociażby w zakresie poprawy jakości życia ludzi - ale również z zagrożeniami, takimi jak inwigilacja obywateli, naruszanie cyberbezpieczeństwa, nadużycia w obrocie konsumenckim, oraz kwestią granic etycznych w wykorzystywaniu robotów.

4. Status i standardy działania SI w stosunkach cywilnoprawnych. Z punktu widzenia nauki prawa - niezależnie od filozoficznych rozważań nad bytem SI i jej charakterem - istnieją kwestie związane z występowaniem przejawów SI w obrotach prawnym, gospodarczym i społecznym. Skoro tak się dzieje, należy postawić pytania, których odpowiedzi trzeba poszukiwać w dotychczasowym dorobku znawców przedmiotu, biorąc pod uwagę aktualne zjawiska społeczno-ekonomiczne ściśle związane z rozwojem nowych technologii. Jednym z istotniejszych obszarów działalności człowieka, w których występuje problematyka SI, są umowy - stąd ustalenie statusu SI w stosunkach cywilnoprawnych determinuje rodzaj i formę umów powiązanych z tematyką SI, zwłaszcza umów gwarantujących godne zaufania narzędzia sztucznej inteligencji i wyznaczających standardy, które powinny stać się obowiązujące w obrocie prawnym.

5. Kwestia edukacji i propagowania wiedzy oraz zwiększania świadomości na temat nowoczesnych rozwiązań, w które wpisuje się sztuczna inteligencja. Z tym tematem wiążą się regulacje w zakresie ochrony danych osobowych, tajemnicy przedsiębiorstwa i ochrony prywatności, czego potwierdzeniem są dynamicznie rozwijające się nowe branże, jak na przykład obszar transportu autonomicznego.

6. Próba odpowiedzi na pytania etyczne związane z możliwą szkodliwością wykorzystania sztucznej inteligencji. Jest ona stosowana w rozmaitych sektorach gospodarki, co przekłada się m.in. na zautomatyzowanie procesu decyzyjnego, nadawanie numerów identyfikacyjnych, federowane uczenie maszynowe czy wreszcie konstruowanie homocentrycznej SI. Ów dynamiczny rozwój skłania do szukania odpowiedzi na pytania, gdzie kończy się użyteczna technologia, a gdzie mamy do czynienia już z nadużyciem oraz czy SI można ująć w jakiekolwiek ramy etyczne. Jest to niewątpliwie i kwestia niezwykle istotna nie tylko w kontekście samych regulacji prawnych, ale również w celu normowania ludzkiego postępowania oraz poszukiwania ideałów moralnego korzystania z dobrodziejstw technologicznych[11].

ROZDZIAŁ 1Terminologia

1.1. Zakres pojęciowy i geneza definicji

W celu zdefiniowania sztucznej inteligencji należy wyjść od podstawowego pojęcia, jakim jest inteligencja, niemniej problem ten - ze względu na swoją obszerność - zostanie w tej pracy poruszony w ujęciu syntetycznym.

Termin "inteligencja" pochodzi od łacińskiego intelligentia, czyli rozum lub zdolność pojmowania. Ogólnie rzecz ujmując, oznacza on zdolność rozumienia i wiązania ze sobą elementów[12]. Edward Nęcka z Uniwersytetu Jagiellońskiego zwraca uwagę, że inteligencja to jedno z najbardziej wieloznacznych pojęć w psychologii i odnosi się do sprawności w zakresie czynności poznawczych. W języku potocznym przez inteligencję rozumie się najczęściej zdolność rozwiązywania problemów praktycznych, zdolności językowe lub kompetencje społeczne. Teoria inteligencji wielorakich (ang. multiple intelligences) zaproponowana w 1983 roku przez amerykańskiego psychologa Howarda Gardnera, specjalistę z zakresu psychologii kognitywnej i profesora na Uniwersytecie Harvarda, uwzględnia istnienie ośmiu różnych form inteligencji, które charakteryzują człowieka[13]. Gardner uważał, że powszechnie stosowane testy inteligencji mierzą tylko ograniczony zakres ludzkich zdolności umysłowych, skupiając się głównie na inteligencji logiczno-matematycznej oraz inteligencji wizualno-przestrzennej[14]. Teoria Gardnera zakłada natomiast, że człowiek posiada przynajmniej osiem różnych pól zdolności, które badacz nazwał inteligencjami wielorakimi[15]. Do owych zdolności zalicza się inteligencje: logiczno-matematyczną, językową, przyrodniczą, muzyczną, przestrzenną, ruchową, interpersonalną oraz intrapersonalną. Są one powszechne, niemniej jednak poszczególne jej formy ludzie rozwijają w różnym stopniu. Pola zdolności tworzące inteligencję uzupełniają się wzajemnie i można pracować nad ich rozwojem, kładąc nacisk na konkretne umiejętności.

Inteligencja nie jest zatem łatwa do zmierzenia ani do zdefiniowania, ponieważ obejmuje zbyt wiele obszarów. Ponadto niektóre jej rodzaje są często niedoceniane lub wręcz ignorowane, a zdolności ludzkiego umysłu i jego plastyczność potrafią zaskoczyć. Mimo całej tej złożoności umysłu nadal nie jest on w stanie dorównać oprogramowaniu - ani pod względem trwałości, ani szybkości procesowania informacji - przez co można dojść do stwierdzenia, że w kontekście człowieka to jego mózg może stanowić fizyczną granicę poznania[16].

Termin "sztuczna inteligencja" został po raz pierwszy sformułowany przez Johna McCarthy'ego już w 1955 roku podczas konferencji w Dartmouth poświęconej właśnie tej tematyce[17]. Sztuczna inteligencja stała się od tego momentu przedmiotem nieustającej debaty. W roku 1956 pierwszy raz w publicznej dyskusji poruszono tematykę inteligentnych maszyn na konferencji uniwersyteckiej w New Hampshire (USA)[18]. Niemniej, jeśli sięgnąć choćby do literatury epoki renesansu, można się dowiedzieć, że już Kartezjusz (1596-1650) przeciwstawiał sobie dwie kategorie: res extensa (rzecz zmechanizowaną) i res cogitans (rzecz myślącą). Określenie res extensa zostało przez Kartezjusza zdefiniowane w kategoriach świata fizycznego, a res cogitans odniósł do opisu bytów samoświadomych. Filozof reprezentował pogląd, że rzeczywistość składa się z dwóch, zasadniczo różnych składowych (materialnej i niematerialnej - myślącej). Świat materialny działa na zasadach mechanicznych, natomiast świat duchowy jest obszarem wolności. Oba typy substancji spotykają się w ludziach[19].

Derek Partridge, profesor informatyki z Wielkiej Brytanii, zauważa, że "samoucząca się" SI stanowi początek nowego, odrębnego podmiotu prawa i stwierdza: ""Sztuczna inteligencja" jest to straszna nazwa dla jakiegokolwiek podmiotu, który potem będzie musiał z nią żyć"[20]. Choć warto zwrócić uwagę, że w literaturze przedmiotu można spotkać się z próbami zastąpienia pojęcia "sztuczna inteligencja" takimi terminami jak: Synthetic Psychology, Computational Intelligence czy Machine Intelligence[21]. Ludzie mają tendencje do przypisywania SI cech właściwych człowiekowi, w tym intencjonalności i samoświadomości[22], jednak informatyk i biocybernetyk Ryszard Tadeusiewicz nie zgadza się z tezą, wedle której maszyna może być rozpatrywana jako samoświadomy byt. Stwierdza on, że: "Maszyny nie mają własnego celu, nie mają własnych dążeń, bo nie mają świadomości swojego istnienia. Samochody też niekiedy potrącają ludzi, ale nie dlatego, że taki jest ich cel, tylko dlatego, że ludzie siedzący za kierownicą popełniają błędy"[23].

Jeśli przyjmiemy, że SI to zbiór technologii, które pozwalają zwiększyć ludzkie możliwości, wykorzystując do tego celu wykrywanie obrazów, dźwięków, mowy, tekstu i danych, a także rozumienie, działanie i uczenie się, to SI może być autonomiczna i kreatywna, czego przejawem jest istnienie algorytmów zdolnych do tworzenia muzyki, obrazu czy nawet powieści. Sztuczna inteligencja pojawia się obecnie w wielu obszarach życia człowieka, a jej rozwój sprzyja angażowaniu oprogramowania w każdą sferę jego działalności. Nie sposób wskazać jednoznacznie, od kiedy SI towarzyszy człowiekowi w codziennych czynnościach, jednak wzmożony jej rozwój można zaobserwować po roku 2000[24], kiedy zaczęły być popularne inteligentne telefony komórkowe, tj. smartfony. Według danych publikowanych przez Gartner Inc. (niezależne przedsiębiorstwo analityczno-badawcze założone w 1979 roku w USA, specjalizujące się w zagadnieniach strategicznego wykorzystywania technologii oraz zarządzania technologiami) w najbliższej przyszłości SI ma zacząć doskonale wyczuwać emocje człowieka, z czego skorzysta branża reklamowa. Jest to jedna z najważniejszych cech technologii, które rozwiną się w kolejnych latach. Jednak rozpoznawanie emocji nie jest równoznaczne z ich odczuwaniem.

AEI (ang. Artificial Emotional Intelligence), czyli "sztuczna inteligencja emocji" będzie obszarem, w którym dopiero nastąpią najintensywniejsze prace[25]. Rozważania w przedmiocie relacji między człowiekiem a robotem oraz poczucia "krzywdy", którego może doznać maszyna, nie są jednak nowością. Już w 1942 roku amerykański pisarz Isaac Asimov jako pierwszy przedstawił trzy prawa robotyki. Brzmiały one następująco:

- prawo pierwsze - robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy;

- prawo drugie - robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z pierwszym prawem;

- prawo trzecie - robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z prawami pierwszym lub drugim[26].

Jednak wszystkie zdolności, które można przypisać maszynie, nie są uważane za część sztucznej inteligencji. Zatem komputer, który potrafi rozwiązywać złożone równania w bardzo krótkim czasie (znacznie szybciej niż człowiek), nie jest uważany za inteligentny[27]. Podobnie jak w przypadku ludzi lub zwierząt istnieją testy określające, czy dany system SI można uznać za inteligentny. W literaturze przedmiotu najczęściej opisywany jest test Turinga (stworzony w 1950 roku przez Alana Turinga), który polega na komunikowaniu się testera między dwoma ekranami - za jednym z tych ekranów pisze inny człowiek, a za drugim uruchamia się testowany program. Po fazie, w której tester dyskutuje z dwoma systemami, zostaje on poproszony o ustalenie, który z nich był człowiekiem. Jeśli nie będzie w stanie odróżnić maszyny od człowieka, test zakończy się dla maszyny sukcesem[28].

Test Turinga ma ograniczony zakres weryfikacji, a co za tym idzie - nie obejmuje on wszystkich form oprogramowania, lecz jedynie te, których pierwotnym zadaniem jest komunikowanie się z człowiekiem. Te ograniczenia mają swoje odzwierciedlenie w rzeczywistości - program, który jedynie powiela komunikaty człowieka, może pozytywnie przejść test, jak stało się to chociażby w przypadku programu ELIZA[29] napisanego w 1966 roku. Od nazwy tego oprogramowania w literaturze przedmiotu ukuto pojęcie tzw. efektu Elizy[30], który polega na nadawaniu przez człowieka sensu komunikatom nieposiadającym wcale znaczenia, które człowiek im przypisuje. Nie różni się to znacznie od przewidywania przyszłości na podstawie kręgów na wodzie lub chmur na niebie. Takie postrzeganie może prowadzić nieświadomego uczestnika badania do wniosku, że SI rzeczywiście przeprowadza skomplikowane procesy myślowe, pomimo że komunikowane przez maszynę zdania mają charakter losowy i pochodzą z przygotowanych przez człowieka baz danych. Podobny efekt nie pojawia się natomiast, jeśli uczestnik jest świadomy, że jego "partnerem" w interakcji jest program komputerowy[31]. Sztuczna inteligencja nie nabyła dotychczas umiejętności swoistych dla człowieka, takich jak samoświadomość, zdolność do odczuwania, posiadania marzeń i emocji. Zaryzykuję stwierdzenie, że zależne od człowieka oprogramowanie - nawet najbardziej zaawansowane - nigdy nie nabędzie zdolności właściwych wyłącznie dla bytów ożywionych. Oznacza to, że zakres działania SI jest ograniczony do analizy danych udostępnionych jej przez człowieka. Co istotne, superinteligentna, nieomylna sztuczna inteligencja odpowiadająca perfekcyjnie na każde pytanie zostałaby szybko zidentyfikowana jako maszyna, gdyż jedną z cech istoty ludzkiej jest popełnianie błędów. Stąd też w literaturze przedmiotu pojawiają się próby definiowania SI jako technologii, która pozornie jest inteligentna, kiedy radzi sobie z zadaniem opracowanym przez człowieka, powielając jedynie znane jej ludzkie działania lub projektując rozwiązania w sposób bardziej zaawansowany w porównaniu z podstawowym programowaniem i adaptując się jednocześnie do sytuacji, w której postawił ją człowiek[32]. Powyższa interpretacja definicji SI jest jednak zbyt wąska i nie ma odniesienia do jej funkcjonalności[33].

Tego typu pojęcia w kontekście SI są rozważane na gruncie poziomu zaawansowania technologii sieci neuronowych lub systemów wieloagentowych[34]. Według etnografki Michaliny Jąkały[35] agent stanowi jednostkę funkcjonującą w określonym środowisku, komunikującą się, obserwującą otoczenie oraz zdolną do autonomii w procesie decyzyjnym, w zakresie określonym na etapie projektowania zadań. Jąkała wyróżniła dwa rodzaje agentów:

- sztucznych agentów (ang. artificial agents);

- użytkowników agentów (ang. human agents)[36].

Piotr Renkiel jako przykład inteligentnych systemów wieloagentowych wskazuje organizacje ludzkie. Na podstawie obserwacji funkcjonowania takich organizacji za pomocą komunikatów można ustalić modele rozproszonego decydowania, hierarchicznej kontroli, kooperacji i zarządzania. To podstawowe ludzkie cechy, które powinny posiadać sprawne grupy i organizacje agentów. Autor podkreśla, że projektowanie systemów opartych na agentach jest przydatne w dziedzinach naukowych, które wymagają rozwiązywania złożonych problemów i realizacji zadań o charakterze rozproszonym lub złożonym obliczeniowo[37].

Z kolei Alfred Skorupka twierdził, że SI trudno zdefiniować, gdyż na pojęcie to składa się przymiotnik "sztuczna", oznaczający coś niewystępującego naturalnie, oraz rzeczownik "inteligencja", który odnosi się do sprawności w zakresie zdobywania i stosowania wiedzy oraz umiejętności[38]. Zdaniem Piotra Artiemjewa desygnatem sztucznej inteligencji jest dziedzina wiedzy, której domeną są techniki komunikacyjne służące do rozwiązywania problemów poprzez opracowywanie powtarzalnych algorytmów, czego człowiek indywidualnie nie jest w stanie jednoznacznie określić i stosować w praktyce[39].

Sposób konstruowania proponowanych definicji SI zwraca uwagę na zagadnienia istotne z punktu widzenia zmian społeczno-gospodarczych, jak na przykład zastępowanie ludzi w pracy oraz wpływ technologii na życie codzienne, co stanowi niewątpliwe wyzwanie dla ustawodawcy. Stąd dalsze rozważania będą skupione na poszukiwaniach istoty SI oraz tego, w jaki sposób była ona i jest obecnie definiowana.

1.1.1. Pojęcie i definicja SI w regulacjach prawnych Unii Europejskiej

Komisja Europejska[40] - publikując w 2018 roku dokument pt. Sztuczna inteligencja dla Europy [41] - zaprezentowała pierwszą, choć jeszcze nieostateczną, definicję SI. Wedle KE:

[...] termin sztuczna inteligencja odnosi się do systemów, które wykazują inteligentne zachowanie dzięki analizie otoczenia i podejmowaniu działań - do pewnego stopnia autonomicznie - w celu osiągnięcia konkretnych celów. Systemy SI mogą być oparte na oprogramowaniu, działając w świecie wirtualnym (np. asystenci głosowi, oprogramowanie do analizy obszaru, wyszukiwarki, systemy rozpoznawania mowy i twarzy), lub mogą być wbudowane w urządzenia (np. zaawansowane roboty, samochody, drony lub aplikacje Internetu rzeczy[42]).

Wobec politycznych zaleceń dla KE na lata 2019-2024, sformułowanych pod tytułem Unia, która mierzy wyżej[43], KE miała opracować wytyczne w sprawie skoordynowanego europejskiego podejścia do społecznych i etycznych konsekwencji funkcjonowania sztucznej inteligencji. W dniu 19 lutego 2020 roku Komisja opublikowała tzw. Białą księgę w sprawie sztucznej inteligencji - Europejskie podejście do doskonałości i zaufania[44]. W dokumencie tym wskazano na strategię dotyczącą sposobów osiągnięcia podwójnego celu, jakim jest promowanie stosowania sztucznej inteligencji i zajęcie stanowiska w sprawie jej definicji[45].

W treści Białej Księgi przyjęto zdecydowanie bardziej zwięzły opis SI, stwierdzając, że "sztuczna inteligencja to zbiór technologii łączących dane, algorytmy i moc obliczeniową"[46].

W cytowanym dokumencie Komisja Europejska wskazała na dwa typy SI: słabszą (zwaną inaczej "wąską") oraz silniejszą (zwaną inaczej "ogólną"). Europejski Komitet Ekonomiczno-Społeczny w swojej opinii pod tytułem Wpływ sztucznej inteligencji na jednolity rynek (cyfrowy), produkcję, konsumpcję, zatrudnienie i społeczeństwo podkreślał, że: "co do zasady można mówić o wąskiej SI (ang. narrow AI) i ogólnej SI (ang. general AI). SI "wąska" jest rozumiana jako typ wykorzystywany do wykonywania skonkretyzowanych zadań, zaprojektowany na potrzeby określonych, zdefiniowanych procesów, takich jak obliczenia czy segregacja danych. Z kolei ogólna SI jest projektowana do wykonywania złożonych operacji w sposób zbliżony do działania ludzkiego umysłu[47]. Powyższe definicje - choć pozwalają na stworzenie pewnego rodzaju dystynkcji - nie są w moim przekonaniu wystarczająco praktyczne dla uczestników obrotu prawnego, którzy wymagają bardziej precyzyjnych opisów, mających niebagatelne znaczenie choćby w kontekście cywilnych regulacji chroniących prawa konsumenckie. W krajowej literaturze przedmiotu Aleksander Chłopecki zwracał uwagę, że "słaba" SI:

[...] w interakcjach w obrocie gospodarczym działa w sposób samodzielny w tym rozumieniu, że posiada wbudowane algorytmy samouczące się, powodujące, że jej faktyczna pozycja i działanie stają się autonomiczne i nie podlegają lub podlegają ograniczonej (i z reguły następczej) kontroli osób fizycznych. Silna SI to taka [...], która przejawia zdolności samopoznawcze[48].

Marcin Uliasz poszedł znacznie dalej, stwierdzając, że ""słaba" SI jest autonomiczna, a jej działania mogą być niezależne od człowieka, natomiast ""silna" posiada tzw. samoświadomość" [49].

Z kolei Ireneusz Matusiak powoływał się na cztery kategorie sztucznej inteligencji: reactive machines, limited memory, theory of mind oraz poziom self-awareness[50]. Pierwszy z nich odnosi się do prostych maszyn, działających zawsze w podobny, zaprogramowany przez człowieka sposób, niemających zdolności do korygowania swoich błędów. Jako przykład uczony przytaczał superkomputer Deep Blue z lat 90. XX wieku, który zdołał pokonać arcymistrza szachowego Garriego Kasparowa. Kolejny z poziomów - limited memory - dotyczy maszyn, którym można przypisać zdolność zbierania i analizowania doświadczeń. Przykładem mogą być tutaj nowoczesne drony, pojazdy i inne maszyny autonomiczne mające zdolność autonaprawy poprzednio popełnionych błędów. Z kolei maszyny typu theory of mind mają zdolność dostosowywania się do danej sytuacji i użytkownika, uwzględniając jego indywidualne preferencje. W końcu dochodzimy do typu self-awareness - na najwyższym poziomie zaawansowania - który jest praktycznie nie do odróżnienia od człowieka przez zewnętrznego obserwatora pod względem samoświadomości istnienia[51]. Ostatni typ, odpowiadający wspomnianej silnej SI, ma posiadać cechy ludzkiego mózgu w zakresie budowy neuronowej oraz działania i przetwarzania informacji[52].

Marlena Janowska wyjaśniała, że "silna" SI jest oparta na systemach samouczących się, mających zdolność nie tylko do "składowania informacji", ale również do przetwarzania ich w formie "nieustrukturyzowanej" [53]. Trzeba jednak przyjąć, że nawet ostatnia z przytoczonych definicji SI podlega nieustannym ulepszeniom i modyfikacjom, co pozwala na przypuszczenie, że sztuczna inteligencja w pewnym momencie będzie "podejmować" systemowo samodzielne decyzje, bazujące na danych, które zostaną jej udostępnione, a co za tym idzie - może potencjalnie wymknąć się spod kontroli człowieka[54]. Paweł Księżak zwracał uwagę, że już w 2017 roku istniał system zdolny do automodyfikacji własnego kodu i tworzenia nowego, który nie podlegał weryfikacji człowieka[55].

Z interpretacji przedstawionej przez cytowanych wyżej badaczy tematu można wywnioskować, że zasadniczo elementem odróżniającym SI wąską od ogólnej jest jej poziom niezależności, a w konsekwencji - zakres kontroli człowieka niezbędny do jej działania[56]. W moim przekonaniu dla zachowania bezpieczeństwa i równowagi obrotu konieczne jest ustalenie, że każdy typ autonomicznej SI wymaga kontroli człowieka, bez względu na jej poziom samodzielności. Co więcej, owa kontrola powinna być możliwa do jednoznacznego stwierdzenia i monitorowania w każdym typie sztucznej inteligencji i w każdym obszarze jej działalności. Jeszcze inne podejście zaprezentowała grupa niezależnych ekspertów pracujących dla Komisji Europejskiej w ramach tworzenia Przewodnika etycznego dla sztucznej inteligencji godnej zaufania w UE z 2018 roku. Według tej publikacji:

[...] sztuczna inteligencja (AI) odnosi się do systemów zaprojektowanych przez ludzi, które ze względu na złożony cel działają w świecie fizycznym lub cyfrowym poprzez postrzeganie swojego środowiska, interpretację zebranych ustrukturyzowanych lub nieustrukturyzowanych danych, wyciągając wnioski z wiedzy uzyskanej z tych danych i dokonując wyboru najlepszych działań do podjęcia (zgodnie z wcześniejszymi parametrami) dla osiągnięcia wyznaczonego celu. Systemy sztucznej inteligencji można również zaprojektować w taki sposób, aby uczyły się dostosowywać swoje zachowanie poprzez analizę wpływu poprzednich działań na otoczenie[57].

Z kolei opublikowany w roku 2021 projekt Rozporządzenia Parlamentu Europejskiego i Rady, ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie SI lub AI Act)[58], którego podstawę prawną stanowi przede wszystkim art. 114 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE)[59], zakładał zapewnianie bezpieczeństwa rynku wewnętrznego, na co niebagatelny wpływ ma definicja SI. Projekt, o którym mowa, miał za zadanie realizować ów drugi, wspomniany cel, tj. stworzenie ram prawnych dotyczących godnej zaufania sztucznej inteligencji. Podstawowym postulatem wybijającym się na pierwszy plan w kontekście AI Act jest to, aby SI pracowała na rzecz i pod kontrolą ludzi, a ostatecznym celem wszelkich jej działań ma być dobrobyt społeczny. Przepisy dotyczące sztucznej inteligencji powinny zatem być ukierunkowane na dobro i potrzeby człowieka, aby ludzie mogli mieć pewność, że technologię tę wykorzystuje się w sposób bezpieczny i zgodny z prawem, w tym z poszanowaniem praw podstawowych. Niemniej na etapie projektowania prawa stanowczo zaznaczano, aby Komisja nie powielała przepisów ani nie ustanawiała obowiązków, które wzajemnie by się wykluczały. W wielu uwagach podkreślono znaczenie proporcjonalnych ram regulacyjnych, które byłyby uniwersalne pod względem technologicznym dla wszystkich państw członkowskich w rozumieniu obecnego stanu rozwoju nauki[60].

W wyniku przeprowadzonych badań i sondaży, poprzedzających opracowanie projektu, ustalono, że zainteresowane strony w większości domagały się wąskiej, jasnej i precyzyjnej definicji sztucznej inteligencji. Według badanych, poza koniecznością wyjaśnienia terminu "sztuczna inteligencja", ważne jest doprecyzowanie pojęć "ryzyka", "wysokiego ryzyka", "niskiego ryzyka", "zdalnej identyfikacji biometrycznej" oraz "szkody"[61].

Ostatecznie uznano, że zastosowanie ram opartych na analizie ryzyka jest lepszym rozwiązaniem niż ogólne uregulowanie wszystkich systemów sztucznej inteligencji. Kalkulacja ryzyka powinna pozostawać w korelacji z wpływem SI na bezpieczeństwo. W celu zapewnienia, aby definicja systemu sztucznej inteligencji zawierała wystarczająco jasne kryteria rozróżniania SI od prostszych systemów oprogramowania, tekst Rady zawęził ją do systemów opracowanych przy wykorzystaniu mechanizmów uczenia się maszyn oraz podejść opartych na logice i wiedzy[62].

Warto w tym miejscu wspomnieć, że w październiku 2020 roku Parlament Europejski przyjął szereg rezolucji związanych ze sztuczną inteligencją, w tym dotyczących aspektów etycznych[63], odpowiedzialności i praw autorskich[64]. W roku 2021 przyjęto kolejne rezolucje: w sprawie sztucznej inteligencji w sprawach karnych[65], w sektor edukacji i kultury oraz w sektorze audiowizualnym[66] .

Podmiotowy zakres Rozporządzenia w sprawie SI dotyczy zarówno sektora publicznego, jak i sektora prywatnego w Unii Europejskiej oraz wykracza poza nią. Jeśli określony pozaunijny system sztucznej inteligencji ma być wprowadzony do obrotu na obszarze wspólnoty unijnej[67] lub jego stosowanie mogłoby mieć wpływ na obywateli Unii Europejskiej, regulacje AI Act rozciągają się na stany faktyczne z elementem pozawspólnotowym[68]. W konsekwencji oddziaływanie prawa unijnego od 2024 roku obejmuje producentów SI z państw trzecich, którzy są zobowiązani do wyznaczania swoich przedstawicieli na terenie Unii Europejskiej, co skądinąd stwarza okazję do zachowań korupcjogennych przy braku stosownej, niezależnej kontroli nad tą procedurą. Pierwotny tekst AI Act Komisja Europejska przedstawiła w roku 2021. Ówczesny projekt, datowany na 22 kwietnia 2021 rok[69], nie zawierał wzmianek na temat tzw. generatywnych i podstawowych systemów sztucznej inteligencji, które w kolejnych latach bardzo zyskały na znaczeniu z uwagi na rozwój takich produktów jak Bard firmy Google, obecnie funkcjonujący pod nazwą Gemini AI, czy ChatGPT opracowany przez firmę Open AI. Chatboty oparte na modelu GPT (ang. Generative Pre-trained Transformer[70]) służą do generowania odpowiedzi na pytania wprowadzane przez użytkownika. Model ten został opracowany na podstawie dużych zbiorów danych, tak aby mógł prowadzić rozmowę i angażować się w różne tematy - od rozmów ogólnych po określone, specjalistyczne obszary wiedzy.

Zarówno wcześniejsza, jak i aktualna treść AI Act wprowadza obowiązek sporządzania przez producentów, dystrybutorów oraz użytkowników[71] analizy ryzyka i określa, które systemy sztucznej inteligencji należą do grup, w których ryzyko jest zwiększone. Systemy "wysokiego ryzyka" to technologie, które mogą w znaczący sposób ingerować w życie człowieka, są to na przykład systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym, systemy stosowane do rekrutacji lub do oceny scoringu kredytowego, a także medyczne zastosowania SI[72]. Wszelkie systemy SI wysokiego ryzyka - w odniesieniu do sposobów użytkowania, przeznaczenia i wykorzystywania danych osobowych - muszą być przejrzyste i udostępniać informacje ich użytkownikom, a także osiągać odpowiedni poziom dokładności, solidności cyberbezpieczeństwa, gwarantujący odporność na błędy i niespójności oraz bezpieczeństwo przed niewłaściwym wykorzystaniem systemu oraz efektów jego działania. Dostawcy będą mieli obowiązek wdrożenia systemów zarządzania jakością, monitorowania i testowania systemów SI w trakcie ich projektowania, użytkowania oraz po zakończeniu tego procesu, a ponadto obowiązek wdrożenia procedur zarządzania danymi, systemów zarządzania ryzykiem oraz zgłaszania wszelkich nieprawidłowości właściwym organom[73]. Rozporządzenie w sprawie SI, podobnie do RODO[74], nakłada obowiązki, których niedopełnienie skutkuje sankcjami. Co istotne, RODO i Rozporządzenie w sprawie SI stanowią niezależnie, wzajemnie uzupełniające się akty prawne, które współistniejąc, mają gwarantować bezpieczeństwo[75]. Rozporządzenie w wersji zaproponowanej przez KE zakładało pierwotnie, że ze względu na brak funkcjonowania ogólnie przyjmowanej i jasnej definicji sztucznej inteligencji warto podjąć kolejną próbę jej redakcji. W myśl założeń ustawodawcy unijnego SI oznacza oprogramowanie opracowane poprzez:

- mechanizmy uczenia maszynowego, w tym uczenie nadzorowane, uczenie się maszyn bez nadzoru i uczenie przez wzmacnianie z wykorzystaniem szerokiej gamy metod, w tym uczenia głębokiego;

- metody oparte na logice i wiedzy, w tym reprezentacja wiedzy, indukcyjne (logiczne) programowanie, bazy wiedzy, silniki inferencyjne i dedukcyjne, rozumowanie (symboliczne) i systemy ekspertowe;

- podejścia statystyczne, estymację bayesowską[76], metody wyszukiwania i optymalizacji[77].

Tak sformułowana definicja powstała jako odpowiedź na brak precyzji poprzednich, które nie rozróżniały typów inteligentnego oprogramowania, takich jak np. tzw. deepfake AI[78]. Jednocześnie, by zapobiec dezaktualizacji owej definicji, rozporządzenie zobowiązuje Komisję Europejską do bieżącej rewizji wykazu technik opracowywania SI[79]. Jednak takie uregulowanie powinno być poddane krytyce, gdyż powodować może niepewność po stronie uczestników obrotu, a zwłaszcza po stronie twórców systemów opartych na SI, którzy nie będą w stanie przewidzieć, czy projektowany przez nich system będzie regulowany przez unijne przepisy, a co za tym idzie, czy będzie on legalny.

Europejski Komitet Ekonomiczno-Społeczny (EKES) wypowiedział się pozytywnie w przedmiocie proponowanych regulacji prawnych, w tym co do celu i zakresu AI Act. EKES podkreślił, że najistotniejsze obszary ochrony to zdrowie, bezpieczeństwo oraz prawa podstawowe. Niemniej w odniesieniu do definicji, zawartej w art. 3 ust. 1 w powiązaniu z załącznikiem I do aktu w sprawie sztucznej inteligencji, w obrębie doktryny prawa wywiązała się dyskusja.

Zdaniem specjalistów przykłady SI podane w pierwotnej treści załącznika nr I do AI Act nie spełniały przesłanek SI i jednocześnie wiele systemów wysokiego ryzyka pominięto, w związku z czym EKES skrytykował podejście prezentowane w pierwotnej wersji załącznika nr I, zalecając jego całkowite usunięcie z AI Act. Co więcej, na forum EKES pojawiły się wątpliwości co do brzmienia proponowanej przez AI Act definicji SI (art. 3n punkt 1), w myśl której: "system sztucznej inteligencji oznacza oprogramowanie, które może, w sposób zautomatyzowany - dla danego zestawu celów określonych przez człowieka - generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje, wpływając na środowisko, z którym wchodzi w interakcję". Co więcej, EKES słusznie stwierdził, że proponowana hierarchia ryzyka (od niskiego, przez średnie i wysokie ryzyko, po ryzyko niedopuszczalne) niekoniecznie sprzyja bezpieczeństwu, gdyż sugeruje, że istnieje z zasady bezpieczna SI, co zdaniem EKES jest nietrafne i sprzyja naruszeniom. EKES zwracał również uwagę, że celem sztucznej inteligencji nie jest zastąpienie człowieka, a jedynie wspomaganie go w pracy i procesach decyzyjnych, co winno być aspektem priorytetowym i głównym założeniem obowiązujących norm prawnych. Zdaniem EKES treść pierwotnej wersji AI Act opierała się na założeniu, że po spełnieniu wymogów dotyczących sztucznej inteligencji średniego i wysokiego ryzyka "SI może w znacznym stopniu zastąpić ludzki proces decyzyjny"[80].

Te i inne wątpliwości z pewnością miały wpływ na zaprezentowanie 14 czerwca 2023 roku przez Parlament Europejski nowego stanowiska w kwestii definiowania SI[81]. Znowelizowana definicja ustanawiała, że jest to "systemem maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii i który może - do wyraźnych lub dorozumianych celów - generować wyniki, takie jak przewidywania, zalecenia lub decyzje wpływające na środowiska fizyczne lub wirtualne"[82]. Opis ten był mniej precyzyjny w porównaniu z pierwotnym[83], który odnosił się do każdej metody, za pomocą której SI jest opracowywana. Ta pierwsza definicja podkreślała również rolę poziomu autonomii, co prowadzi do wniosku, że ów poziom miał wówczas decydujący wpływ na ocenę ryzyka i w konsekwencji - odpowiedzialności za SI[84]. Ujęcie to pojęciowo było zbliżone do koncepcji przyjętej w 2019 roku przez OECD[85], jak również do definicji uznanej w prawie Stanów Zjednoczonych[86].

Warto wspomnieć, że w 2023 roku aktualizacji uległ opis sztucznej inteligencji. Parlament Europejski uznał, że SI to system, który "może być wykorzystywany i dostosowany do szerokiego zakresu zastosowań, do których nie został celowo i specjalnie zaprojektowany"[87]. PE zaznaczał, że powinno się rozszerzyć listę niedozwolonych praktyk systemów o niedopuszczalnym ryzyku, których wprowadzanie do obrotu, oddawanie do użytku oraz wykorzystywanie powinno być zakazane. W konsekwencji lista została uzupełniona o następujące zakazane systemy:

- systemy kategoryzacji biometrycznej, które kategoryzują osoby fizyczne według wrażliwych albo chronionych atrybutów lub cech lub na podstawie wywnioskowania tych atrybutów lub cech;

- systemy tworzące lub rozszerzające bazy danych do rozpoznawania twarzy poprzez nieukierunkowane pobieranie (ang. scraping) wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej;

- systemy wnioskujące o emocjach osoby fizycznej w dziedzinie egzekwowania prawa, zarządzania granicami, w miejscu pracy i w instytucjach edukacyjnych;

- systemy analizujące nagrania z przestrzeni publicznej za pośrednictwem zdalnej identyfikacji biometrycznej post factum, chyba że funkcje te podlegają zezwoleniu przedsądowemu zgodnie z prawem Unii i są ściśle niezbędne do ukierunkowanego wyszukiwania związanego z konkretnym poważnym przestępstwem, które już miało miejsce[88].

Jednocześnie do dotychczasowego katalogu włączono systemy predykcyjne oparte na profilowaniu, lokalizacji lub wcześniejszych zachowaniach przestępczych, które dotychczas były klasyfikowane jako systemy o niższym od niedopuszczalnego - tj. wysokim - poziomie ryzyka. Dodatkowo Parlament uznał, że wprowadzenie do obrotu danego systemu winno być uwarunkowane oceną pod kątem skutków jego działania na podstawowe prawa człowieka (ang. fundamental rights impact assessment)[89].

Istotną zmianą było wprowadzenie dodatkowej przesłanki kwalifikacji SI jako systemu wysokiego ryzyka. Otóż aby zakwalifikować system do wspomnianej kategorii, winien on stwarzać znaczące ryzyko powstania szkody dla zdrowia, bezpieczeństwa, praw generatywnych lub środowiska[90]. Zmianom uległa również lista systemów wysokiego ryzyka[91] i kategorii wskazanych w załączniku nr III AI Act[92]. Włączono do niej m.in. SI przeznaczone do:

- wnioskowania o cechach osobowych osób fizycznych na podstawie danych biometrycznych lub danych opartych na biometrii (w tym systemy rozpoznawania emocji);

- stosowania jako związanych z bezpieczeństwem elementów procesów zarządzania i zaopatrzenia w wodę, gaz, ciepło, energię elektryczną i krytycznej infrastruktury cyfrowej;

- wykorzystania w celu wywierania wpływu na wynik wyborów lub referendum lub na zachowanie osób fizycznych podczas głosowania w wyborach lub referendach;

- wykorzystania przez platformy mediów społecznościowych, które zostały określone jako bardzo duże platformy internetowe w rozumieniu Aktu o usługach cyfrowych, w ich systemach rekomendacji w celu zalecania odbiorcy treści stworzonych przez użytkownika usługi dostępnych na platformie[93].

Parlament Europejski zaproponował nowe pojęcie tzw. modeli generatywnych (ang. foundation models) niewskazywanych wcześniej przez Komisję Europejską. Według PE modelem generatywnym byłby "model systemu SI, który jest trenowany na szerokiej skali danych, jest zaprojektowany z myślą o ogólnym charakterze wyników i może być dostosowany do szerokiego zakresu odrębnych zadań"[94].

Poza szeregiem zmian w zakresie ram terminologicznych systemów SI, w porównaniu z pierwszą wersją AI Act, Parlament wprowadził modyfikacje również w innych obszarach, jak na przykład zwiększenie wysokości kar za niedopełnienie obowiązków wynikających z AI Act, zmianę terminu rozpoczęcia stosowania AI Act, tj. dwa lata od wejścia w życie (uprzedni projekt Rady wskazywał trzy lata), postulat oparcia, tworzenia oraz stosowania wszystkich systemów oraz modeli generatywnych na zasadach godnej zaufania SI (ang. trustworthy AI[95]), także zagwarantowanie prawa do żądania jasnego i rzeczowego wyjaśnienia roli danego systemu SI w procedurze decyzyjnej.

Według Niezależnej Grupy Ekspertów Wysokiego Szczebla do spraw SI powołanej przez KE w czerwcu 2018 r. godna zaufania sztuczna inteligencja posiada trzy cechy, które muszą charakteryzować wyposażony w nią system przez cały jego cykl życia:

- powinna być zgodna z prawem, tj. podlegać wszystkim obowiązującym przepisom ustawowym i wykonawczym;

- powinna być etyczna, zapewniając zgodność z zasadami i wartościami etycznymi;

- powinna być solidna zarówno z technicznego, jak i ze społecznego punktu widzenia, ponieważ systemy SI mogą wywoływać niezamierzone szkody nawet wówczas, gdy korzysta się z nich w dobrej wierze.

Każda z tych cech postrzegana z osobna jest konieczna, lecz niewystarczająca do osiągnięcia godnej zaufania sztucznej inteligencji[96].

Pomimo wielu zmian i uzupełnień AI Act nadal budził kontrowersje. Na dalszym etapie dyskusji, w toku wielogodzinnych negocjacji, które odbyły się w dniach od 6 do 8 grudnia 2023 roku, porozumiano się w kwestii budzących największe wątpliwości. Niestety porównywanie kolejnych wersji dokumentu utrudnia brak konsolidacji tekstu Aktu o AI na dzień opracowywania niniejszej analizy[97]. Stąd w tym miejscu będę posiłkować się dostępnymi źródłami oraz informacjami pochodzącymi bezpośrednio od uczestników tzw. trilogu[98]. Jedną z najważniejszych kwestii, nad którą debatowano w grudniu 2023 roku, była definicja systemu sztucznej inteligencji. W tamtym czasie przychylono się do rozbudowanej propozycji OECD, wedle której system sztucznej inteligencji:

[...] to system oparty na maszynie (ang. machine-based system), który dla celów jawnych lub niejawnych wnioskuje na podstawie otrzymanych danych wejściowych, w jaki sposób generować dane wyjściowe, takie jak prognozy, treści, zalecenia lub decyzje, które [mogą] wpływać na środowisko fizyczne lub wirtualne. Różne systemy sztucznej inteligencji różnią się poziomem autonomii i zdolności adaptacyjnych po wdrożeniu[99].

Ostatecznie, zgodnie z art. 3 AI Act, przyjęto następującą treść definicji:

System sztucznej inteligencji oznacza oprogramowanie opracowane przy użyciu co najmniej jednej spośród technik i podejść wymienionych w załączniku I, które może - dla danego zestawu celów określonych przez człowieka - generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje wpływające na środowiska, z którymi wchodzi w interakcję[100].

Konsekwentnie AI Act kategoryzuje SI pod kątem poziomu jej autonomii i uzależnia od niego określone obowiązki związane z wprowadzaniem jej do obrotu, rejestracją i zastosowaniem. Jednocześnie - jak w uprzednich wersjach dokumentu - Akt eliminuje z legalnego obrotu tzw. nieakceptowalne systemy oparte na SI.

Kategoria wysokiego ryzyka wedle Rozporządzenia podlega ścisłej kontroli. Systemy ograniczonego ryzyka wymagają spełnienia dodatkowych wymogów, zwłaszcza analizy ryzyka[101]. Natomiast ostatnia kategoria - tak zwanego minimalnego ryzyka - jest obwarowana obowiązkiem informowania odbiorcy o charakterze przekazu[102]. Kwestią, która na początku 2024 roku nadal budziła dyskusje, były systemy SI służące identyfikacji biometrycznej, np. rozpoznawanie fizjonomii twarzy zarówno w czasie rzeczywistym, jak i z wykorzystaniem nagrań. Skłaniam się ku poglądowi i praktyce, która istnieje już na gruncie przepisów odnoszących się do ochrony danych, o konieczności ograniczenia tego dostępu do danych osobowych, z wyjątkiem sytuacji, w których o tego rodzaju dane zwrócą się konkretne służby lub organy w związku z trwającym procesem lub podejrzeniem popełnienia przestępstwa[103].

Zgodnie z publikacjami serwisu "Euractiv"[104] wersja Rozporządzenia z dnia 21 stycznia 2024 roku zwracała się w kierunku projektu z 2021 roku, czyli idei mniej restrykcyjnych, sprzed uwag naniesionych przez Parlament Europejski, które to uwagi miały na celu zwiększenie kontroli ograniczeń dotyczących systemów SI. Zdalna identyfikacja biometryczna ex post przy użyciu SI nie została zliberalizowana, stąd na jej zastosowanie nie jest już wymagana zgoda sądu, pod warunkiem, że posłuży ona właściwym organom do identyfikacji potencjalnego podejrzanego. W niektórych przypadkach taka identyfikacja będzie musiała być poprzedzona zgodą - jednak nie sądu, ale właściwego organu administracyjnego. W tym miejscu warto nadmienić, że zgodnie z uwagami cytowanego publikatora Parlament Europejski w styczniu 2024 roku był jednomyślny w kwestii wprowadzenia zdecydowanie surowszych regulacji dotyczących wszystkich systemów SI i jednoznacznie sprzeciwiał się wyłączeniu jakiejkolwiek kategorii SI spod obowiązywania AI Act[105].

W toku negocjacji przyjęto ogólne zasady przejrzystości co do wszystkich typów SI oraz dodatkowe obowiązki wiążące się z systemami szczególnego ryzyka. W dniu 2 lutego 2024 roku tekst Rozporządzenia został zaakceptowany przez Komitet Stałych Przedstawicieli 27 krajów członkowskich przy Radzie UE (COREPER). Rozporządzenie zostało odczytane na forum Komisji Rynku Wewnętrznego i Ochrony Konsumentów (IMCO) oraz Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych (LIBE), by ostatecznie AI Act mógł zostać przyjęty na posiedzeniu plenarnym w dniach 10-11 kwietnia 2024 roku.

W celu lepszego zobrazowania kierunku zmian przepisów projektu Aktu o AI w procesie legislacyjnym warto przedstawić je w formie tabelarycznej:

Projekt AI Act z dnia 21.04.2021 roku w toku procedury legislacyjnej w latach 2021-2024[106]

I. Stanowisko RE w dniu 6 grudnia 2022 roku. Rada wypracowała porozumienie w sprawie podejścia ogólnego (mandat negocjacyjny) do AI Act

Proponowana definicja SI:

"System sztucznej inteligencji oznacza oprogramowanie, które może w sposób zautomatyzowany - dla danego zestawu celów określonych przez człowieka - generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje, wpływając na środowisko, z którym wchodzi w interakcję".

1. Przyjęto podejście oparte na analizie ryzyka i ustanowiono jednolite, horyzontalne ramy prawne dotyczące sztucznej inteligencji, które mają zagwarantować pewność prawa. Akt ma wspierać inwestycje i innowacje w dziedzinie sztucznej inteligencji, poprawić zarządzanie oraz skuteczne egzekwowanie obowiązujących przepisów o prawach podstawowych i bezpieczeństwie, a także ułatwić rozwój jednolitego rynku dla zastosowań sztucznej inteligencji. Idzie w parze z innymi inicjatywami, w tym skoordynowanym planem w sprawie sztucznej inteligencji, który ma przyspieszyć inwestycjew sztuczną inteligencję w Europie.

2. Dnia 6 grudnia 2022 r. Rada wypracowała porozumienie w sprawie podejścia ogólnego (mandat negocjacyjny) do tego Aktu, a w połowie czerwca 2023 r. rozpoczęła rozmowy z Parlamentem Europejskim.

II. Stanowisko PE w dniu 14 czerwca 2023 roku, nowe stanowisko w kwestii definiowania SI[107]

Proponowana definicja SI:

"System maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii i który może - do wyraźnych lub dorozumianych celów - generować wyniki, takie jak przewidywania, zalecenia lub decyzje wpływające na środowiska fizyczne lub wirtualne".

1. Dodano pojęcie tzw. modeli generatywnych (ang. foundation models), niewskazywanych wcześniej przez KE. To "model systemu AI, który jest trenowany na szerokiej skali danych, jest zaprojektowany z myślą o ogólnym charakterze wyników i może być dostosowany do szerokiego zakresu odrębnych zadań".

2. Zmianom uległa również lista systemów i kategorii wskazanych w załączniku III AI Act.

3. PE wprowadził modyfikacje również w innych obszarach, jak np. zwiększenie wysokości kar za niedopełnienie obowiązków wynikających z AI Act, zmiana terminu rozpoczęcia stosowania AI Act, tj. dwa lata od wejścia w życie (uprzedni projekt Rady wskazywał trzy lata), postulat oparcia tworzenia i stosowania wszystkim systemów SI oraz modeli generatywnych na zasadach godnej zaufania SI (ang. trustworthy AI), zagwarantowanie prawa do żądania jasnego i rzeczowego wyjaśnienia roli systemu SI w procedurze decyzyjnej[108].

III. Porozumienie "kompromisowe" z dnia 8.12.2023 roku w sprawie najistotniejszych kwestii, w tym w zakresie definicji systemów sztucznej inteligencji, wypracowane w następstwie tzw. trilogów, czyli niejawnych negocjacji pomiędzy członkami Komisji Europejskiej, Rady Unii Europejskiej oraz Parlamentu Europejskiego

Proponowana definicja SI:

"System sztucznej inteligencji to system oparty na maszynie (ang. machine-based system), który dla celów jawnych lub niejawnych wnioskuje na podstawie otrzymanych danych wejściowych, w jaki

sposób generować dane wyjściowe, takie jak prognozy, treści, zalecenia lub decyzje, które (mogą) wpływać na środowisko fizyczne lub wirtualne. Różne systemy sztucznej inteligencji różnią się poziomem autonomii i zdolności adaptacyjnych po wdrożeniu".

1. Dodano pojęcie "SI ogólnego przeznaczenia", której systemy mogą być wykorzystywane do wielu różnych celów oraz takich, gdzie SI ogólnego przeznaczenia stanowi element innego systemu wysokiego ryzyka.

2. Nastąpiło ustalenie sposobu szacowania kar finansowych za naruszenie prawa, które stanowią odsetek rocznego światowego obrotu firmy dokonującej naruszenia z poprzedniego roku obrotowego lub jako konkretna kwota - w zależności od tego, która z tych wartości jest wyższa. Dla przykładu 35 mln EUR lub 7% za naruszenie zakazanych zastosowań sztucznej inteligencji, 15 mln EUR lub 3% za naruszenie obowiązków wynikających z rozporządzenia oraz 7,5 mln EUR lub 1,5% za składanie fałszywych oświadczeń, udzielanie nieprawdziwych informacji. W ramach kompromisu ustalono proporcjonalne pułapy administracyjnych kar pieniężnych dla MŚP i start-upów.

3. W odróżnieniu od projektu KE ustalono, że użytkownicy SI będący podmiotami publicznymi będą objęci obowiązkiem rejestracji w unijnej bazie systemów SI.

4. Podkreślono, że użytkownicy systemów rozpoznawania emocji mają obowiązek informować osoby fizyczne o stosowaniu tego typu SI.

5. Dodano również regulacje pozwalające na testowanie SI w warunkach rzeczywistych.

6. Wstępne porozumienie przewiduje, że akt o sztucznej inteligencji powinien zacząć obowiązywać 24 miesiące po wejściu w życie, z nielicznymi wyjątkami[109].

IV. Głosowanie w PE w sprawie pierwszego na świecie prawa Sztucznej Inteligencji. Środa, 13 marca 2024 roku, godz. 12:00, głosowanie plenarne

"System sztucznej inteligencji oznacza oprogramowanie opracowane przy użyciu co najmniej jednej spośród technik i podejść wymienionych w załączniku I, które może - dla danego zestawu celów określonych przez człowieka - generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje wpływające na środowiska, z którymi wchodzi w interakcję".

1. SI ogólnego przeznaczenia będzie objęta obowiązkiem zachowania wymogów przejrzystości, zgodności z unijnym prawem autorskim oraz obowiązkiem wskazywana wszystkich materiałów wykorzystanych w trakcie trenowania.

2. Modele SI ogólnego przeznaczenia, stwarzające potencjalne ryzyko systemowe, będą objęte dodatkowymi wymaganiami. Operatorzy SI będą zobowiązani dokonywać oceny modeli, oceniać i ograniczać ryzyko systemowe oraz zgłaszać incydenty.

3. Każdy przejaw SI, który będzie nieautentyczny lub zmanipulowany, jak np.: obrazy, treści audio lub wideo (ang. deepfakes).

4. Prawo krajowe zapewni tzw. piaskownice regulacyjne, tj. bezpieczne środowisko opracowywania i testowania SI przed jej wprowadzeniem do obrotu oraz testowanie w warunkach rzeczywistych.

5. Rozporządzenie w pełni obowiązywać będzie 24 miesiące po jego wejściu w życie, z wyjątkiem:

- zakazów niedozwolonych praktyk (sześć miesięcy po wejściu Rozporządzenia w życie);

- kodeksów postępowania (dziewięć miesięcy po wejściu w życie);

- przepisów o sztucznej inteligencji ogólnego przeznaczenia, w tym dotyczące zarządzania (12 miesięcy po wejściu w życie);

- obowiązków dotyczących systemów wysokiego ryzyka (36 miesięcy po wejściu w życie)[110].

V. Ostatecznie tekst proponowany przez Komisję w marcu 2024 r. został jednak istotnie zmieniony, a pierwotne zdanie - "System sztucznej inteligencji oznacza oprogramowanie opracowane przy użyciu co najmniej jednej spośród technik i podejść wymienionych w załączniku I, które może - dla danego zestawu celów określonych przez człowieka - generować wyniki, takie jak treści, przewidywania, zalecenia lub decyzje wpływające na środowiska, z którymi wchodzi w interakcję" - zostało usunięte.

"System AI oznacza system maszynowy, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu oraz, który może wykazywać zdolność adaptacji po jego wdrożeniu, a także który - na potrzeby wyraźnych lub dorozumianych celów - wnioskuje, jak generować na podstawie otrzymanych danych wyjściowych wyniki, takie jak predykcje, treści, zalecenia lub decyzje, które mogą wpływać na środowisko fizyczne lub wirtualne"[111].

Rozporządzenie nie obejmuje swym zakresem wszystkich systemów. Wyłączone jest np. stosowanie Aktu o AI dla celów wojskowych lub obronnych, badawczo-innowacyjnych oraz wobec podmiotów stosujących sztuczną inteligencję z powodów pozazawodowych.

Tekst AI Act ustalony w toku trilogowych negocjacji zwraca uwagę na zagrożenia, zakazując produkcji i stosowania SI zdolnej do:

- identyfikacji biometrycznej z wykorzystaniem danych wrażliwych, np. poglądy polityczne, religijne, orientacja seksualna, rasa, grupa krwi;

- manipulacji ludzkim postępowaniem, identyfikowania emocji w miejscu pracy i instytucjach edukacyjnych;

- pozyskiwania przedstawień twarzy z internetu bądź nagrań CCTV[112] w celu budowy baz danych.

- scoringu[113] społecznego;

- działania w oparciu o wykorzystanie ludzkiej słabości związanej na przykład z wiekiem, niepełnosprawnością, sytuacją społeczną lub ekonomiczną[114].

Wskazane powyżej zastosowania sztucznej inteligencji w pewnym stopniu pokrywają się z pierwotnymi założeniami projektu Komisji Europejskiej, niemniej można zaobserwować tendencję ustawodawcy unijnego do rewidowania pewnych kluczowych pojęć - jak definicja SI oraz katalogi systemów uszeregowanych - ze względu na kategorię ryzyka, a także działań, które należy uznać za niedopuszczalne. Te nieustanne zmiany odzwierciedlają tempo i dynamikę postępu technologicznego, ale jednocześnie wskazują na niezdecydowanie i kontrowersje związane z tą regulacją prawną. Z jednej strony rozszerzanie katalogów i precyzowanie pojęć mogą być pomocne przy interpretacji stanów faktycznych, z drugiej zaś stwarza to ryzyko niestabilności i chaosu prawnego. Rozporządzenie wchodzące w życie w terminie trzech lat od momentu ogłoszenia może być już wówczas nieaktualne. Dlatego data wejścia w życie może zostać ponownie przesunięta przez wzgląd na pojawiające się nowe systemy ryzykownej SI oraz niedające się przewidzieć na dzień dzisiejszy zjawiska wymagające regulacji.

Część krytyków wskazuje również na stawianie zbyt wysokich i trudnych do spełnienia wymagań, w tym tych związanych z procesem poprzedzającym wprowadzenie systemu na rynek, a następnie z jego dystrybucją i użytkowaniem. Poziom skomplikowania procedur oraz ich koszty mogą stanowić barierę nie do pokonania dla wielu przedsiębiorstw i mogą przyczynić się do spowolnienia rozwoju innowacyjności[115]. Niemniej regulacja ta jest potrzebna i jako jeden z pierwszych tego typu aktów prawnych na świecie[116] stanowi wzorzec dla kolejnych. Wiele wskazuje na to, że to ona nada kierunek europejskiej polityce w zakresie systemów SI. Niezwykle istotny natomiast jest fakt, że AI Act obowiązywać będzie nie tylko w odniesieniu do podmiotów posiadających siedzibę w UE, ale również podmiotów, których SI bądź wyniki działań tworzonych przez SI będą wykorzystywane na terenie UE. Pozwoli to na zwiększenie kontroli i zoptymalizowanie ryzyka związanego z systemami, które już dziś istnieją i są testowane chociażby w Stanach Zjednoczonych[117].

Regulacje unijne obejmą tylko te systemy sztucznej inteligencji, które wiążą się z ograniczonym, wysokim bądź niedopuszczalnym ryzykiem. Systemy związane z niskim oraz minimalnym ryzykiem nie będą podlegać obowiązkom zawartym w nowej regulacji. W projekcie pojawia się pojęcie systemu związanego z niedopuszczalnym ryzykiem, który co do zasady nie może być przedmiotem legalnego obrotu[118]. Przykładem może być SI zdolna do manipulacji ludźmi poprzez wykorzystywanie technik podprogowych lub wykorzystująca wiek ludzi, ich niepełnosprawność ruchową lub zaburzenia psychiczne[119]. Ustawodawca unijny zauważa, że niedopuszczalne są również działania z wykorzystaniem SI realizowane przez organy publiczne lub w ich imieniu na potrzeby klasyfikacji wiarygodności lub oceny osób fizycznych na podstawie ich zachowania, cech osobistych lub osobowości (ang. social credit)[120]. Ostatecznie nieakceptowalne jest również wykorzystywanie systemów zdalnej identyfikacji biometrycznej "w czasie rzeczywistym" w przestrzeni publicznej w celu egzekwowania prawa, z wyjątkiem absolutnie koniecznych wyjątków dotyczących ukierunkowanego poszukiwania konkretnych, potencjalnych ofiar przestępstw, zapobiegania bezpośredniemu i poważnemu zagrożeniu życia, bezpieczeństwa osób fizycznych lub zapobiegania atakowi terrorystycznemu bądź poszukiwania sprawców najpoważniejszych przestępstw[121].

Pozostałe systemy SI - stanowiące obecnie większość SI stosowanych na terenie Unii Europejskiej - nie podlegają szczególnym wymaganiom oraz ograniczeniom (są to na przykład filtry SPAM[122] w skrzynkach mailowych). Unijna baza danych, dla celów rejestracyjnych, będzie zawierać dane osobowe poszczególnych grup podmiotów powiązanych z SI.Art. 51 Rozporządzenia zakłada, że przed wprowadzeniem do obrotu systemu sztucznej inteligencji wysokiego ryzyka lub przed oddaniem go do użytku dostawca - lub w stosownych przypadkach jego upoważniony przedstawiciel - musi zarejestrować ten system w unijnej bazie danych[123].

Chociaż niektóre z elementów opisanych w definicji powyżej są wspólne, jednoznaczne zamknięcie sztucznej inteligencji w ramy pojęciowe jest trudne, a być może nawet niemożliwe, ponieważ jest ona zjawiskiem złożonym i zmieniającym się w zależności od zastosowania, kontekstu oraz samego momentu jej definiowania. Warto zauważyć, że w przestrzeni unijnej nadal dużą wagę przywiązuje się do poziomu autonomiczności danego oprogramowania oraz ryzyka z nią związanego. Okazuje się, że systemy SI różnią się stopniem samodzielności, gdzie niski stopień odnosi się do konstrukcji algorytmów, wysoki zaś oznacza możliwość samodzielnego podejmowania decyzji[124]. Ważnym aspektem jest również wyraźne wyłączenie możliwości używania lub wprowadzania do obrotu SI w pełni autonomicznej[125]. Stopień i definicja autonomiczności sztucznej inteligencji zmieniają się w czasie, co z kolei będzie wymagało bieżącej redefinicji SI[126]. Finalna wersja Aktu o AI nie odnosi się jednak do działania SI "dla celów określonych przez człowieka, co w moim przekonaniu nie stanowi zmiany na lepsze i sugeruje pośrednio, że rola człowieka traci w tym procesie na znaczeniu, i co należy ocenić negatywnie". Z jednej strony zgadzam się z autorami publikacji pt. Sztuczna Inteligencja w wymiarze sprawiedliwości, że zmiany zasługują na aprobatę przez wzgląd na rezygnację z kazuistyki na rzecz definicji bardziej ogólnej[127], która wpisuje się w dynamikę zmian technologicznych, niemniej rezygnacja z czynnika ludzkiego w samej definicji wzbudza moje wątpliwości i skłania do stawiania kolejnych pytań o kierunek polityki unijnej w zakresie kontroli SI oraz jej roli zarówno w systemie prawnym, jak i w praktyce, gdzie to właśnie człowiek powinien wyznaczać cele SI i ją kontrolować.

Przypisy

[1] John Paul II, Ex corde Ecclesiae, Konstytuacja Apostolska, sygnatura obiektu: N/1/2/842, Watykan 15.08.1990.

[2] Cyberbezpieczeństwo (ang. Cybersecurity) - ogół technik, procesów i praktyk stosowanych w celu ochrony sieci informatycznych, urządzeń, programów i danych przed atakami, uszkodzeniami lub nieautoryzowanym dostępem. Cyberbezpieczeństwo bywa także określane jako "bezpieczeństwo technologii informatycznych", za: K. Górnicz, Czym jest cyberbezpieczeństwo?, SafeBIT [online], 7 stycznia 2019. Dostępne w internecie: <https://web.archive.org/web/20200408234425/https:/safebit.pl/czym-jest-cyberbezpieczenstwo/>; hasło "cyberbezpieczeństowo", Wikipedia, wolna encyklopedia [online, dostęp: 29 lipca 2023]. Dostępne w internecie: <https://pl.wikipedia.org/wiki/Cyberbezpiecze%C5%84stwo>.

[3] Hasło "sztuczna inteligencja", Encyklopedia PWN [online, 29 lipca 2023]. Dostępne w internecie: <https://encyklopedia.pwn.pl/szukaj/sztuczna%20inteligencja.html>.

[4] A. Hern, Stephen Hawking: AI will be "either best or worst thing" for humanity, "The Guardian" [online], 19 października 2016 [dostęp: 11 stycznia 2020]. Dostępne w internecie: <https://www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-best-or-worst-thing-for-humanity-cambridge>; R. Cellan-Jones, Stephen Hawking warns artificial intelligence could end mankind, "BBC News" [online, dostęp: 11 stycznia 2020]. Dostępne w internecie: <http://www.bbc.com/news/technology-30290540>.

[5] T. Kuhn, Par la notion de "révolution" nous entendons, au sens de, une véritable "transformation dans la vision du monde" de cette science - certes sociale - qu'est le droit. Por. T.S. KUHN, La structure des révolutions scientifiques, Paryż, 1983, s. 157.

[6] K. Kunat, Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo... stworzyła ona swój własny język, "Tabletowo" [online], 31 lipca 2017 [dostęp: 12 marca 2021]. Dostępne w internecie: <https://www.tabletowo.pl/bunt-maszyn-skynet-facebook-boty/>.

[7] R.S. Romaniuk, Quantum Alice and Bob, "Elektronika - konstrukcje, technologie, zastosowania" 2022 [online, dostęp: 12 kwietnia 2023]. Dostępne w internecie: <https://www.researchgate.net/publication/357585265>.

[8] Pause Giant AI Experiments: An Open Letter, "Future of life" [online], 22 marca 2023 [dostęp: 12 kwietnia 2023]. Dostępne w internecie: <https://futureoflife.org/open-letter/pause-giant-ai-experiments/>.

[9] R. Skibińska, Odpowiedzialność za sztuczną inteligencję będzie uregulowana, "Prawo.pl" [online], 15 października 2022 [dostęp: 12 kwietnia 2023]. Dostępne w internecie: <https://www.prawo.pl/biznes/odpowiedzialnosc-za-sztuczna-inteligencje-beda-przepisy,517822.html>.

[10] Pochodzący z Hong Kongu podmiot o nazwie Deep Knowledge Ventures ogłosił w 2014 r., że nowym członkiem rady nadzorczej może zostać komputer. Algorytm o nazwie Vital (Validating Investment Tool for Advancing Life Sciences) posiadał takie same prawa jak człowiek i miał podejmować decyzje dotyczące przyszłych inwestycji w radzie dyrektorów (zarządzie) funduszu, za: P. Grabiec, Algorytm VITAL w zarządzie spółki Deep Knowledge Venture, "Computerworld" [online], 16 maja 2014 [dostęp: 6 czerwca 2021]. Dostępne w internecie: <https://www.computerworld.pl/news/Algorytm-VITAL-w-zarzadzie-spolki-Deep-KnowledgeVenturs,396643.html>. Polski kodeks spółek handlowych nie przewiduje jednak, przynajmniej na razie, możliwości wejścia do zarządu spółek algorytmów, ale być może kwestię tę trzeba będzie rozważyć już w niedalekiej przyszłości na gruncie legislacyjnym. Z zagadnieniem podmiotowości prawnej SI wiąże się szereg zagadnień dotyczących autorstwa dzieł wytworzonych przez roboty lub algorytmy oraz odpowiedzialności za te wytwory, jak i samą SI.

[11] B. Alaire, A. Niblett, H. Yoon, How Artificial Intelligence Will Affect the Practice of Law, "University of Toronto Law Journal" 2018, 68 (suplement 1), s. 106-124.

[12] E. Nęcka, Inteligencja i procesy poznawcze, "Impuls", Kraków 1994.

[13] K. Wojtaś, Typy (rodzaje) inteligencji - teoria inteligencji wielorakiej, "Wylecz to" [online], 30 kwietnia 2021 [dostęp: 20 września 2023]. Dostępne w internecie: <https://wylecz.to/psychologia-i-psychiatria/typyrodzaje-inteligencji/>; Typy inteligencji. 8 inteligencji według prof. Gardnera, "NATULI dzieci są ważne" [online, dostęp: 20 września 2023]. Dostępne w internecie: <https://dziecisawazne.pl/8-inteligencji-wedlugprof-h-gardnera/>.

[14] R.J. Gerrig, P.G. Zimbardo, Psychologia i życie, WN PWN, Warszawa 2008, s. 292-294.

[15] Tamże.

[16] D. Fox, Granice inteligencji, "Świat Nauki" 2011, 8(240), s. 26-31.

[17] J. McCarthy, P.J. Heyes, Some Philosophical Problems from the Standpoint of Artificial Intelligence, w: Readings in Artificial Intelligence, red. B.L. Webber, N.J. Nilsson, 1981, s. 431-450.

[18] Konferencja ta odbyła się w 1956 roku w Dartmouth College w New Hempshire, w USA. Wzięło w niej udział wielu wybitnych znawców tej dziedziny, w tym M. Minsky, N. Rochester, C. Shannon, A. Newell czy H. Simon. Niniejsze wydarzenie jest uznawane za początek dyskusji nad sztuczną inteligencją, za: Będą unijne przepisy dotyczące sztucznej inteligencji, "Forbes" [online], 10 lutego 2017 [dostęp: 20 lipca 2020]. Dostępne w internecie: <https://www.forbes.pl/technologie/przepisy-ue-dotyczace-sztucznej-inteligencji/rdbb9vt>.

[19] R. Ariew i in., Historical Dictionary of Descartes and Cartesian Philosophy, Maryland - Toronto - Oxford 2003.

[20] W oryginale: "Artificial Intelligence (AI) is a terrible name for any subject to have to live with". D. Partridge, A New Guide to Artificial Intelligence, New Jersey 1991, s. 1.

[21] J. Winzenbaum opisuje AI w sposób negatywny jako: Alien Intelligence.

[22] Brian Gabriel, rzecznik firmy Google, zdementował wypowiedź opublikowaną przez inżyniera oprogramowania Blake'a Lemoine w "Wall Street Journal", w której inżynier przekonuje, że Language Model for Dialogue Applications, czyli LaMDA, jest świadomą istotą, która ma prawa i może mieć duszę. Rzecznik potwierdził jednocześnie, że długoterminowo naukowcy rozważają możliwość stworzenia czującej SI, ale nie ma sensu robić tego poprzez antropomorfizowanie narzędzi konwersacyjnych, które nie są czujące.

[23] T. Rożek, R. Tadeusiewicz, "Ja" - co to takiego?, w: Nauka. Po prostu. Wywiady z wybitnymi, red. T. Rożek, Demart, Warszawa 2011.

[24] Pierwszy smartfon powstał w 1992 roku - było to prototypowe urządzenie o nazwie Simon, które IBM pokazał na targach COMDEX i wprowadził na rynek w roku 1993. Oprócz funkcji telefonu komórkowego oferowało ono kalendarz, książkę adresową, kalkulator, notatnik, pocztę elektroniczną i gry.

[25] Gartner przewiduje zmiany w technologii w latach 2020-2024, "PC World. Wiadomości komputerowe" [online, dostęp: 15 stycznia 2020]. Dostępne w internecie: <https://www.pcworld.pl/news/Gartner-przewiduje-zmiany-w-technologii-w-latach-2020-2024,416175.html>.

[26] I. Asimov, Robots and Empire, New York 1985. Robots and Empire to powieść science fiction, jest częścią serii Asimov's Robot, na którą składa się wiele opowiadań (zebranych w: I, Robot, The Rest of the Robots, The Complete Robot, Robot Dreams, Robot Visions of Gold) oraz pięć powieści (w tym: The Positronic Man, The Caves of Steel, The Naked Sun oraz The Robots of Dawn).

[27] Taką definicję podał na przykład w 1963 roku Jean Piaget (z wykształcenia biolog i psycholog), za: Paweł Stacewicz, Fragment pracy dotyczącej teorii rozwoju poznawczego i uczenia się autorstwa J. Piageta [online, dostęp: 17 marca 2024]. Dostępne w internecie: <https://stac.calculemus.org/pdf/SI-2018/Piaget-o-inteligencj-i-uczeniu-sie.pdf>.

[28] Tamże.

[29] ELIZA - program symulujący, napisany w 1966 roku przez Josepha Weizenbauma, zob. R.S. Wallace, From Eliza to Alice, w: Promoting the adoption and development of Alicebot and AIML free software, A.L.I.C.E. Artificial Intelligence Foundation [online, dostęp: 1 lipca 2016]. Dostępne w internecie: <https://www.researchgate.net/publication/2898463_A_Comparison_Between_Alice_and_Elizabeth_Chatbot_Systems>.

[30] M. Rouse, ELIZA Effect, "Technopedia" [online], 28 czerwca 2022 [dostęp: 20 lipca 2023]. Dostępne w internecie: <https://www.techopedia.com/definition/19121/eliza-effect>.

[31] Tamże.

[32] M. Jąkała, M. Michno, Budowa systemów wieloagentowych, w: Techniki wnioskowania z użyciem rozproszonej inteligencji, Kraków 2004.

[33] R. Canvat, De l'intelligence artificielle dans la pratique du droit: réception en droit européen, incidence sur la profession d'avocat et éthique. Faculté de droit et de criminologie, Université catholique de Louvain [online], 2020 [dostęp: 12 lipca 2023]. Dostępne w internecie: <http://hdl.handle.net/2078.1/thesis:24422>.

[34] System wieloagentowy (ang. Multi-Agent System) - system złożony z komunikujących się i współpracujących ze sobą agentów, realizujących wspólne cele. Systemy multi-agent są jednym z obszarów badania rozproszonej sztucznej inteligencji (ang. Distributed Artificial Inteligence - DAI).

[35] Dr Michalina Jąkała jest etnografką z doświadczeniem w badaniach nad kwestią pokoju. Uzyskała stopień doktora w dziedzinie studiów nad pokojem (2011) na Uniwersytecie w Bradford w Wielkiej Brytanii (badania doktoranckie na temat budowania pokoju, sprawiedliwości okresu przejściowego i zadośćuczynień wśród ocalałych z przemocy w czasie wojny w Bośni i Hercegowinie) oraz tytuł magistra studiów nad Europą Środkowo-Wschodnią (2004) na Uniwersytecie Jagiellońskim.

[36] M. Jąkała, Budowa systemów..., dz. cyt. Każdy program agentowy składa się z poszczególnych modułów przetwarzających sukcesywnie informacje z wejścia, kierując je do innych modułów, w których dochodzi do analizy możliwych planów, a następnie ich wykonywania. Do bardziej skomplikowanych rodzajów agentów zalicza się agenta socjalnego, który różni się od innych agentów przede wszystkim większą złożonością wynikającą ze zdolności do liczenia się z intencjami innych programów.

[37] P. Renkiel, Przegląd możliwości zastosowania systemu wieloagentowego w transporcie, "Transport miejski i regionalny" [online], luty 2014 [dostęp: 9 maja 2025]. Dostępne w internecie: <chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://yadda.icm.edu.pl/baztech/element/bwmeta1.element.baztech-e49b0a13-3737-4c5d-a4e8-9bfc64932e56/c/TMiR_2_2014_Renkiel.pdf>.

[38] A. Skorupka, Ogólna sztuczna inteligencja z filozoficznego punktu widzenia, "Transformacje" 2022, 1(112), s. 130-142.

[39] P. Artiemjew, Wybrane paradygmaty sztucznej inteligencji, Warszawa 2013, s. 3-10.

[40] Komisja Europejska ("KE") - organ wykonawczy Unii Europejskiej, odpowiedzialny za bieżącą politykę Unii, nadzorujący prace wszystkich jej agencji i zarządzający jej funduszami.

[41] COM(2018) 237 final.

[42] Internet rzeczy, internet przedmiotów (ang. Internet of Things, IoT) - koncepcja, wedle której jednoznacznie identyfikowalne przedmioty mogą pośrednio albo bezpośrednio gromadzić, przetwarzać lub wymieniać dane za pośrednictwem instalacji elektrycznej inteligentnej KNX lub sieci komputerowej. Koncepcja znajduje zastosowanie w przemyśle przetwórczym, zarządzaniu miastami, świadczeniu usług zdrowotnych, urządzeniach gospodarstwa domowego, mobilności oraz urządzeniach nadających się do noszenia (ang. wearables), za: A. Gabbai, Kevin Ashton Describes "the Internet of Things". The innovator weighs in on what human life will be like a century from now [online], styczeń 2015 [dostęp: 9 maja 2025]. Dostępne w internecie: <https://www.smithsonianmag.com/innovation/kevin-ashton-describes-the-internet-of-things-180953749/>.

[43] U. von der Leyen, A Union that strives for more. My agenda for Europe [online, dostęp: 20 maja 2022]. Dostępne w internecie: <https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_en.pdf>.

[44] Komisja Europejska, Biała księga w sprawie sztucznej inteligencji. Europejskie podejście do doskonałości i zaufania, COM(2020) 65 final, 19.02.2020 r.

[45] Tamże.

[46] Tamże.

[47] Opinia Europejskiego Komitetu Ekonomiczno-Społecznego pt. Sztuczna inteligencja: wpływ sztucznej inteligencji na jednolity rynek (cyfrowy), produkcję, konsumpcję, zatrudnienie i społeczeństwo [online], 31 maja i 1 czerwca 2017 [dostęp: 21 października 2021]. Dostępne w internecie: <https://eur-lex.europa.eu/legal-content/PL/ALL/?uri=CELEX:52016IE5369>.

[48] A. Chłopecki, Sztuczna inteligencja - szkice prawnicze i futurologiczne, Warszawa 2018, s. 5.

[49] M. Uliasz, Sztuczna inteligencja jako sztuczna osoba prawna, w: Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe: zagadnienia wybrane, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, Warszawa 2019, s. 23-38. Por. inne ujęcia silnej i słabszej SI: P. Juściński, Prawo autorskie w obliczu rozwoju sztucznej inteligencji, "Zeszyty Naukowe Uniwersytetu Jagiellońskiego. Prace z Prawa Własności Intelektualnej" 2019, 1(143), s. 6-8.

[50] Maszyny reaktywne, ograniczona pamięć, teoria umysłu oraz poziom samoświadomości (ang.).

[51] I. Matusiak, D. Flisak, Ab homine Auctore Ad Robotum Auctorum, w: Opus auctorem laudat. Księga jubileuszowa dedykowana Profesor Monice Czajkowskiej-Dąbrowskiej, red. I. Matusiak, K. Szczepanowska-Kozłowska, Ł. Żelechowski, Warszawa 2019.

[52] A. Bieliński, Potencjalne obszary zastosowania sztucznej inteligencji w postepowaniu cywilnym - czy obecnie ma to rację bytu i czy jesteśmy na takie rozwiązanie gotowi?, w: Sztuczna inteligencja, blockchain, cyberbezpieczeństwo oraz dane osobowe, red. K. Flaga-Gieruszyńska, J. Gołaczyński, D. Szostek, Warszawa 2019, s. 60; J. Janowski, dz. cyt., s. 43; A. Kasperska, Problemy zastosowania sztucznych sieci neuronalnych w praktyce prawniczej, "Przegląd Prawa Publicznego" 2017, nr 11, s. 27; M. Rojszczak, Prawne aspekty systemów sztucznej inteligencji, w: Sztuczna inteligencja..., dz. cyt., s. 3.

[53] M. Jankowska, Podmiotowość prawna sztucznej inteligencji, w: O czym mówią prawnicy, mówiąc o podmiotowości, red. A. Bielska-Brodziak, Katowice 2015, s. 176.

[54] Ingerencja człowieka zasadniczo kończy się na etapie projektowania; por. A. Kasperska, Problemy zastosowania..., dz. cyt., s. 27.

[55] P. Księżak, Zdolność prawna sztucznej inteligencji, w: Czynić postęp w prawie. Księga jubileuszowa poświęcona Profesor Birucie Lewaszkiewicz-Petrykowskiej, red. W. Robaczyński, Łódź 2017, s. 65.

[56] Jak zauważa Jan Byrski, wyposażenie programów komputerowych składających się na systemy SI w umiejętności uczenia się i samokreacji przyczyniło się do powstania nowego typu narzędzia do pracy koncepcyjnej i projektowej (J. Byrski, Oprogramowanie zawierające elementy sztucznej inteligencji. Wybrane zagadnienia prawne, w: Experientia docet. Księga jubileuszowa ofiarowana Pani Profesor Elżbiecie Traple, red. P. Kostański, P. Podrecki, T. Targosz, Warszawa 2017, s. 1334). Por. I. Olesiuk, Założenia aksjologiczne autorskoprawnej ochrony twórczości w świetle rozwoju sztucznej inteligencji, "Acta Iuris Stetinensis" 2017, 2(18), s. 249.

[57] Definicja z 2018 roku, za: The European Commission's, High-Level Expert Group on Artificial Intelligence, A definition of AI: Main Capabilities and Scientific Disciplines. Definition developed for the purpose of the deliverables of the High-Level Expert Group on AI, Bruksela 2018, tłum. T. Zalewski, s. 8.

[58] Projekt Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące Sztucznej inteligencji (Akt w sprawie Sztucznej Inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206.

[59] Tamże.

[60] Projekt sprawozdania Parlamentu Europejskiego w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym (2020/2017(INI)). W tym kontekście Komisja przyjęła Plan działania w dziedzinie edukacji cyfrowej na lata 2021-2027. Nowe podejście do kształcenia i szkolenia w epoce cyfrowej, w którym przewidziano opracowanie wytycznych dotyczących kwestii etycznych sztucznej inteligencji i wykorzystania danych w kształceniu - komunikat Komisji, COM(2020) 624 final.

[61] Tamże.

[62] Tamże.

[63] Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. w sprawie ram aspektów etycznych sztucznej inteligencji, robotyki i powiązanych z nimi technologii (2020/2012(INL)).

[64] Rezolucja Parlamentu Europejskiego z dnia 20 października 2020 r. w sprawie praw własności intelektualnej w dziedzinie rozwoju technologii sztucznej inteligencji (2020/2015(INI)).

[65] Projekt sprawozdania Parlamentu Europejskiego na temat sztucznej inteligencji w prawie karnym i jej stosowania przez policję i organy wymiaru sprawiedliwości w sprawach karnych (2020/2016(INI)).

[66] Projekt sprawozdania Parlamentu Europejskiego w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym (2020/2017(INI)). W tym kontekście Komisja przyjęła Plan działania w dziedzinie edukacji cyfrowej na lata 2021-2027. Nowe podejście do kształcenia i szkolenia w epoce cyfrowej, w którym przewidziano opracowanie wytycznych dotyczących kwestii etycznych sztucznej inteligencji i wykorzystania danych w kształceniu - komunikat Komisji, COM(2020) 624 final.

[67] Tamże.

[68] Tamże.

[69] "EUR-lex. Access to European Union law" [online, dostęp: 22 września 2022]. Dostępne w internecie: <https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=celex%3A52021PC0206>.

[70] Generative - generatywna sztuczna inteligencja to technologia zdolna do tworzenia treści, takich jak tekst i obrazy; Pre-trained - wstępnie przeszkolone modele to zapisane sieci, które zostały już "nauczone", jak rozwiązać problem lub wykonać określone zadanie przy użyciu dużego zestawu danych; Transformer - algorytm ma architekturę głębokiego "uczenia się", która pozwala na przekształcanie treści.

[71] AI Act, art. 28.

[72] J. Wilczyńska-Baraniak, Sztuczna inteligencja tak, ale z zakazem biometrii w przestrzeni publicznej, "Prawo.pl" [online], 24 lipca 2021 [dostęp: 30 sierpnia 2022]. Dostępne w internecie: <https://www.prawo.pl/prawo/sztuczna-inteligencja-ale-z-zakazem-biometrii-w-przestrzeni,509351.html>.

[73] K. Turcza, Tendencje i postulaty w kwestii opracowywania, wprowadzania do obrotu i wykorzystywania systemów sztucznej inteligencji (Artificial Intelligence, AI) na obszarze UE, referat wygłoszony podczas II Międzynarodowej Konferencji Naukowej pt. Społeczeństwo cyfrowe a koncepcje zarządzania organizacją, 25 maja 2022 rok.

[74] "RODO" (ang. General Data Protection Regulation, GDPR) - Rozporządzenie Parlamentu Europejskiego i Rady UE 2016/679 z 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE. RODO obowiązuje od 25 maja 2018 roku.

[75] Opinia Komisji Kultury i Edukacji dla Komisji Rynku Wewnętrznego i Ochrony Konsumentów oraz Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych w sprawie wniosku dotyczącego Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii (COM(2021)0206 - C9-0146/2021 - 2021/0106(COD)). Sprawozdawca komisji opiniodawczej: Marcel Kolaja, zaangażowana komisja - art. 57 Regulaminu PE719.637v02-00 2/47 2021/0106(COD).

[76] Estymacja Bayesowska jest procedurą naukową, wedle której zadaje się pytania odnośnie do badanej grupy docelowej, na przykład: czy obie grupy różnią się między sobą, na czym ta różnica polega, czy można mieć wystarczając pewność, że różnica jest niezerowa itp., za: "Statystyka od A do Z" [online, dostęp: 20 maja 2022]. Dostępne w internecie: <https://www.statystyka.eu/szukaj.php?query=estymacja+bayesowska>.

[77] Opinia Europejskiego Komitetu Ekonomiczno-Społecznego: wniosek dotyczący Rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, (COM(2021) 206 final - 2021/106 (COD)), (2021/C 517/09) (Dz.U. UE C z dnia 22 grudnia 2021 r.), (Dz.U. UE. C. z 2021 r. nr 517, str. 61).

[78] Deepfake (ang.) - metoda manipulacyjna, która polega na tworzeniu nieprawdziwych treści wizualnych i dźwiękowych poprzez wykorzystanie sztucznej inteligencji. Powstają w wyniku łączenia i nakładania na materiał źródłowy (zdjęcie lub film) obrazów twarzy określonej osoby oraz generowaniu fałszywego dźwięku, za: D. Johnson, A. Johnson, Czym jest deepfake? Jak fejkowe media tworzone przy pomocy AI mogą wypaczyć nasze postrzeganie rzeczywistości, "Business Insider" [online], 10 kwietnia 2023 [dostęp: 20 września 2023]. Dostępne w internecie: <https://businessinsider.com.pl/technologie/czym-jest-deepfake-jak-fejkowe-media-wypaczaja-nasze-postrzeganie-rzeczywistosci/hmc2rph>.

[79] Artykuł 84 AI Act; Ocena i przegląd: Komisja ocenia potrzebę wprowadzenia zmian w wykazie zawartym w załączniku III raz w roku po wejściu w życie niniejszego rozporządzenia. W projekcie pierwotnie wskazywano na rewizję co 24 miesiące. (Projekt) Rozporządzenie Parlamentu Europejskiego i Rady, COM(2021) 206, dz. cyt.

[80] Opinia Europejskiego Komitetu Ekonomiczno-Społecznego: wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji..., COM(2021) 206., dz. cyt.

[81] Artificial Intelligence Act 2021/0106(COD) - 14/06/2023 - Text adopted by Parliament, partial vote at first reading/single reading P8_TC1-COD (2018)0231 (Dz.U. UE C z 2020 r. nr 449, str. 248).

[82] Tamże.

[83] A. Wachowska, P. Konieczny, Nowy projekt Aktu w sprawie sztucznej inteligencji przedstawiony przez Parlament Europejski. Zmieniono definicje i rodzaje klasyfikacji systemów AI, "Traple" [online], 14 czerwca 2023 [dostęp: 7 września 2023]. Dostępne w internecie: <https://www.traple.pl/nowy-projekt-aktu-w-sprawie-sztucznej-inteligencji-przedstawiony-przez-parlament-europejski-zmieniono-definicje-i-rodzaje-klasyfikacji-systemow-ai/>.

[84] Zmianom uległy również szczegółowe obowiązki nakładane na systemy SI wysokiego ryzyka związane z systemami zarządzania ryzykiem, danymi, dokumentacją techniczną oraz rejestrowaniem zdarzeń.

[85] Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449. Przyjęto dnia: 22 maja 2019. Zmieniono dnia: 8 listopada [online, dostęp: 23 października 2023]. Dostępne w internecie: <https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449#mainText>.

[86] H.R.6216 - National Artificial Intelligence Initiative Act of 2020, 16th Congress (2019-2020) [online, dostęp: 23 października 2023]. Dostępne w internecie: <https://www.congress.gov/bill/116th-congress/house-bill/6216/text#toc-H41B3DA72782B491EA6B81C74BB00E5C0>.

[87] Tamże.

[88] Parlament rozszerzył oraz doprecyzował zakres znajdujących się tu już wcześniej systemów - tj. systemów stosujących techniki podprogowe, systemów wykorzystujących słabości określonych grup osób, a także systemów punktowej oceny społecznej (ang. social scoring). Znacząco zmodyfikowano także regulację odnoszącą się do wykorzystywania systemów zdalnej identyfikacji biometrycznej "w czasie rzeczywistym" w przestrzeni publicznej do celów egzekwowania prawa, zob.: Opinia Europejskiego Komitetu Ekonomiczno-Społecznego: Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji..., dz. cyt.; Artificial Intelligence Act 2021/0106(COD) - 14/06/2023 - Text adopted by Parliament, partial vote at 1st reading/single reading P8_TC1-COD (2018)0231 (Dz.U. UE C z 2020 r. nr 449, str. 248).

[89] Tamże.

[90] W celu dopracowania tych kwestii Komisja była zobowiązana do wydania odpowiednich rekomendacji.

[91] Systemy SI wysokiego ryzyka muszą być również przejrzyste i udostępniać informacje ich użytkownikom, a także osiągać odpowiedni poziom dokładności, solidności cyberbezpieczeństwa, gwarantujący odporność na błędy i niespójności oraz bezpieczeństwo przed niewłaściwym wykorzystaniem systemu oraz efektów jego działania. Dostawcy takich systemów będą mieli obowiązek wdrożenia systemów zarządzania jakością, monitorowania i testowania systemów SI w trakcie ich projektowania, użytkowania oraz po zakończeniu tego procesu, procedur zarządzania danymi, systemów zarządzania ryzykiem oraz zgłaszania wszelkich nieprawidłowości właściwym organom. Z kolei za systemy ograniczonego ryzyka uznaje się systemy: a) wchodzące w interakcję z ludźmi (np. chatboty), w wypadku których ma istnieć obowiązek informowania osób fizycznych o fakcie wejścia w interakcję z systemem SI, o ile nie będzie to wprost wynikać z okoliczności i kontekstu interakcji; b) wykorzystywane do wykrywania emocji lub określenia przynależności do grup społecznych na podstawie danych biometrycznych - obowiązek informowania osób fizycznych; c) o stosowaniu względem nich takowych systemów d) generujące treści łudząco przypominające istniejące osoby, miejsca, przedmioty lub wydarzenia, mogące manipulować wrażeniem odbiorcy co do obcowania z treściami prawdziwymi (tzw. deepfake). Wniosek Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji ({SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}, Bruksela, dnia 21.04.2021 r., COM(2021) 206 final 2021/0106 (COD), s. 18 [online, dostęp: 23 października 2023].

[92] W grupie wysokiego ryzyka znajdowały się pierwotnie m.in. systemy SI przeznaczone do wykorzystywania jako związane z bezpieczeństwem produktu objętego unijnym prawodawstwem oraz systemy związane z: a) identyfikacją i kategoryzacją biometryczną osób fizycznych; b) zarządzaniem infrastrukturą i jej eksploatacją; c) kształceniem i szkoleniem zawodowym; d) zatrudnieniem, zarządzaniem pracownikami; d) dostępem do podstawowych usług prywatnych oraz usług i świadczeń publicznych; e) ściganiem przestępstw; f) migracją, azylem i kontrolami granicznymi; g) wymiarem sprawiedliwości i procesami demokratycznymi. Wniosek Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji ({SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final} Bruksela, dnia 21.04.2021 r., COM(2021) 206 final 2021/0106 (COD), s. 33, 75 [online, dostęp: 23 października 2023].

[93] Por. Załącznik nr III. Załączniki do wniosku dotyczącego Rozporządzenia Parlamentu Europejskiego i Rady Ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (AI ACT) i zmieniającego niektóre akty ustawodawcze UE. {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final} [online, dostęp: 7 listopada 2023]. Dostępne w internecie: <https://eur-lex.europa.eu/legal-content/PL/TXT/HTML/?uri=CELEX:52021PC0206>.

[94] Stanowisko Parlamentu Europejskiego przyjęte w pierwszym czytaniu w dn. 12 lutego 2019 r. [online, dostęp: 7 września 2023]. Dostępne w internecie: <https://sip.lex.pl/#/act/69394360/2869584/stanowisko-parlamentu-europejskiego-przyjete-w-pierwszym-czytaniu-w-dniu-12-lutego-2019-r-w>.

[95] Parlament Europejski, Ethic guidelines for AI [online, dostęp: 10 października 2023]. Dostępne w internecie: <https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/JURI/DV/2019/11-06/Ethics-guidelines-AI_PL.pdf>.

[96] Tamże.

[97] "EUR-Lex. Acess to European Union law" [online, dostęp: 10 października 2023]. Dostępne w internecie: <https://eur-lex.europa.eu/legal content/EN/HIS/?uri=celex:52021PC0206#2022-12-06_DIS_byCONSIL>.

[98] "EUR-Lex. Acess to European Union law" [online, dostęp: 10 października 2023]. Dostępne w internecie: <https://eur-lex.europa.eu/legal-content/EN/HIS/?uri=celex:52021PC0206#2022-12-06_DIS_byCONSIL>.

[99] J. Pawłowski, Wymogi dotyczące danych w systemach AI, "LexDigital" [online], 16 lutego 2024 [dostęp: 10 października 2023]. Dostępne w internecie: <https://lexdigital.pl/wymogi-dotyczace-danych-w-systemach-ai>.

[100] "EUR-Lex. Acess to European Union law" [online, dostęp: 16 marca 2024]. Dostępne w internecie: <https://eur-lex.europa.eu/legal-content/PL/TXT/DOC/?uri=CELEX:52021PC0206>.

[101] Tytuł II, art. 8 AI Act, s. 55.

[102] Tytuł IV. Obowiązki w zakresie przejrzystości w odniesieniu do określonych systemów sztucznej inteligencji, art. 52 ust. 3 AI Act, s. 81.

[103] Por. art. 248 § 1 ust. z dnia 17.11.1964 r. (Dz.U. 2023 pozycje 1550, 1429, 1606, 1615, 1667, 1860, 2760) Kodeksu postępowania cywilnego, stanowiący podstawę prawną udostępnienia danych osobowych sądowi w celu przeprowadzenia postępowania dowodowego i rozstrzygnięcia sprawy. Wedle art. 15 ust. 2 i 3 Ustawy z dnia 6 czerwca 1997 r. - Kodeks postępowania karnego (Dz.U. 2024 poz. 37) - prokuratura i policja są uprawnione do żądania udostępnienia danych osobowych. Ustawa z dnia 29.08.1997 r. (Dz.U. 2023 poz. 2383). Ordynacja podatkowa w art. 155 § 1 stanowi, że urząd skarbowy może żądać przekazania danych osobowych, jeżeli wymaga tego ustalenie stanu faktycznego lub rozstrzygnięcie sprawy.

[104] Temat AI Act, "Euractiv" [online, dostęp: 16 marca 2024]. Dostępne w internecie: <https://www.euractiv.com/topics/ai-act/>.

[105] Zajęcie stanowiska przez PE otwiera drogę do rozpoczęcia trilogów pomiędzy Komisją, Radą i Parlamentem. Pierwsze takie spotkanie miało miejsce w dniu 14 czerwca 2023 roku.

[106] Rozporządzenie Parlamentu Europejskiego i Rady ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji (Akt w sprawie sztucznej inteligencji) i zmieniające niektóre akty ustawodawcze Unii {SEC(2021) 167 final} - {SWD(2021) 84 final} - {SWD(2021) 85 final}, "EUR-Lex. Acess to European Union law" [online, dostęp: 16 marca 2024]. Dostępne w internecie: <https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0012.02/DOC_1&format=PDF>.

[107] P8_TC1-COD (2018)0231 (Dz.U. UE C z 2020 r. nr 449, str. 248).

[108] Na tym etapie ustalenia i stanowisko PE budziły liczne kontrowersje na forum UE.

[109] Sztuczna inteligencja: Rada porozumiała się z Parlamentem w sprawie pierwszych w świecie przepisów, komunikat prasowy Rady Unii Europejskiej [online], 9 grudnia 2021 [dostęp: 16 marca 2024]. Dostępne w internecie: <https://www.consilium.europa.eu/pl/press/press-releases/2023/12/09/artificial-intelligenceact-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/>.

[110] Przełomowe przepisy dotyczące sztucznej inteligencji - Parlament Europejski przyjął rozporządzenie, Komunikat Ministerstwa Cyfryzacji [online], 13 marca 2024 [dostęp: 16 marca 2024]. Dostępne w internecie: <https://www.gov.pl/web/cyfryzacja/przelomowe-przepisy-dotyczace-sztucznej-inteligencji--parlamenteuropejski-przyjal-rozporzadzenie>.

[111] P. Dolniak, T. Kuźma, A. Ludwiński, K. Wasik, Sztuczna inteligencja w wymiarze sprawiedliwości, Wolters Kluwer, 2024. s. 138.

[112] CCTV, Closed-Circuit TeleVision (ang.) - w dosłownym tłumaczeniu oznacza telewizję o obwodzie zamkniętym, częściej tłumaczone jako telewizja przemysłowa, a obecnie powoli wypierane przez określenie "telewizyjne systemy dozorowe".

[113] Social scoring (ang.) - to system monitorowania i oceniania zachowań obywateli pod kątem zgodności z prawem i zasadami współżycia społecznego. Stosowany w Chinach na szeroką skalę.

[114] Akt o sztucznej inteligencji: Parlament przyjmie przełomowe prawo, Aktualności. Parlament Europejski [online], 7 marca 2024 [dostęp: 16 marca 2024]. Dostępne w internecie: <https://www.europarl.europa.eu/news/pl/agenda/briefing/2024-03-11/0/akt-o-sztucznej-inteligencji-parlament-przyjmie-przelomowe-prawo>.

[115] Osiągnięto porozumienie w sprawie AI Act, "GDPR.pl. Ochrona danych 2.0" [online, dostęp: 17 marca 2024]. Dostępne w internecie: <https://gdpr.pl/osiagnieto-porozumienie-w-sprawie-ai-act>.

[116] Chiny jako pierwsze na świecie zatwierdziły ustawę o regulacji sztucznej inteligencji, "Wirtualne Media" [online], 17 lipca 2023 [dostęp: 15 września 2023]. Dostępne w internecie: <https://www.wirtualnemedia.pl/artykul/chiny-pierwsze-na-swiecie-zatwierdzily-ustawe-o-regulacji-sztucznej-inteligencji>.

[117] Dekret Prezydenta USA Joe'a Bidena z dnia 30.10.2023 r. w sprawie "bezpiecznej i godnej zaufania sztucznej inteligencji" (Order on Safe, Secure, and Trustworthy Artificial Intelligence). Dekret odnosi się m.in. do obowiązku, aby twórcy AI dzielili się wynikami testów bezpieczeństwa i innymi krytycznymi informacjami z rządem USA [online, dostęp: 17 marca 2024]. Dostępne w internecie: <https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/>. Czwarty poziom autonomii. W projekcie z zakresu obowiązywania wyłączone są obecnie systemy SI opracowane wyłączenie w celach badań naukowych i rozwoju, a także osoby korzystające z systemów SI w ramach osobistej działalności pozazawodowej, jak również te z obszaru wojskowości.

[118] Tamże.

[119] Tamże.

[120] Używany w mediach zachodnich skrót SCS pochodzi od angielskich słów Social Credit System. W języku polskim określenie to tłumaczy się jako system zaufania społecznego lub system wiarygodności społecznej. Słowo credit jest tłumaczeniem chińskiego terminu xinyong (chiń. ??), które pierwotnie oznaczało bycie godnym zaufania i uczciwym człowiekiem. System zaufania społecznego jest krytykowany za zbytnią ingerencję w prywatne życie obywateli i ograniczanie ich wolności. Wielokrotnie był tematem debat publicznych. Zob. B. Marr, Chinese Social Credit Score: Utopian Big Data Bliss Or Black Mirror On Steroids?, "Forbes" [online], 21 stycznia 2019 [dostęp: 25 stycznia 2020]. Dostępne w internecie: <https://www.forbes.com/sites/bernardmarr/2019/01/21/chinese-social-credit-score-utopian-big-data-bliss-or-black-mirror-on-steroids/>.

[121] Rozporządzenie Parlamentu Europejskiego i Rady..., dz. cyt. COM(2021) 206.

[122] SPAM - Shoulder Pork and Ham lub też Stupid Pointless Annoying Messages (ang.), spam "mielonka" - to niechciane lub niepotrzebne wiadomości elektroniczne. Zazwyczaj spam jest rozpowszechniony za pośrednictwem poczty elektronicznej oraz w Usenecie. Część użytkowników ma z nim do czynienia w komunikatorach (np. ICQ czy Gadu-Gadu lub Messengerze), a także w SMS-ach. Zwykle (choć nie zawsze) jest wysyłany masowo; [online, dostęp: 21 września 2023]. Dostępne w internecie: <https://pl.wikipedia.org/wiki/Spam>.

[123] Rozporządzenie Parlamentu Europejskiego i Rady..., dz. cyt. COM(2021) 206. art. 51.

[124] Por. G. Wagner, Liability for Artificial Intelligence: A Proposal of the European Parliament, "SSRN" [online, dostęp: 12 maja 2022]. Dostępne w internecie: <https://ssrn.com/abstract=3886294>; P. Staszczyk, Czy unijna regulacja odpowiedzialności cywilnej za sztuczną inteligencję jest potrzebna?, "EPS" 2022, 6, s. 24-30.

[125] W USA od kilku lat testowana jest w pełni autonomiczna SI, np. w sektorze wojskowym w fazie badań są bezzałogowe drony bojowo-zwiadowcze. Bezzałogowiec XQ-58A Valkyrie leciał przez trzy godziny pilotowany przez AI. Zob. M. Duszczyk, Bezzałogowiec sterowany przez sztuczną inteligencję. Ma wspierać myśliwce USA, "Rzeczpospolita" [online], 6 sierpnia 2023 [dostęp: 13 marca 2024]. Dostępne w internecie: <https://cyfrowa.rp.pl/technologie/art38907731-bezzalogowiec-sterowany-przez-sztuczna-inteligencje-ma-wspierac-mysliwce-usa>.

[126] P. Staszczyk, Czy unijna regulacja odpowiedzialności cywilnej za sztuczną inteligencję jest potrzebna?, "Europejski Przegląd Sądowy" 2022, s. 24-30.

[127] P. Dolniak, T. Kuźma, A. Ludwiński, K. Wasik, Sztuczna inteligencja..., dz. cyt., s. 139.