Sztuczna inteligencja – wyzwania dla radcy prawnego

Rozwiązania bazujące na sztucznej inteligencji (ang. artificial intelligence, AI) znajdują coraz szersze zastosowanie w niemal każdej dziedzinie życia i gospodarki. Systemy te wspierają produkcję przemysłową, diagnostykę medyczną, rewolucjonizują transport, stanowią serce tzw. smart city czy tworzą filmy reklamowe. Trudno wyobrazić sobie aktualnie dziedzinę gospodarki, w której nie spotkalibyśmy rozwiązań AI. Z jakimi wyzwaniami zmierzą się prawnicy?

Dynamiczny rozwój systemów sztucznej inteligencji generuje zapotrzebowanie na kompleksowe wsparcie prawne projektów dotyczących tworzenia i wdrażania rozwiązań w tym zakresie. Chodzi przy tym zarówno o wsparcie prawne dostawców AI ? projektujących, tworzących i oferujących swoje rozwiązania na rynku ? jak również podmiotów zamierzających ?nabyć? i wdrożyć takie rozwiązania w swojej organizacji. 

Jaką wiedzę i kompetencje powinien mieć radca prawny zamierzający specjalizować się w obsłudze tego rodzaju projektów? W ramach niniejszego artykułu chciałbym wskazać jedynie na kilka wybranych zagadnień i wyzwań, z którymi zapewne przyjdzie się nam zmierzyć.

Ochrona praw człowieka 

Niewątpliwie rozwój i wykorzystanie mechanizmów AI stwarzają nowe wyzwania w zakresie ochrony praw człowieka. Szczególnie widoczne są zagrożenia związane z naruszeniem prywatności czy możliwością dyskryminacji. Ryzyko nierównego traktowania wynika przede wszystkim z nieodpowiedniego doboru historycznych danych wykorzystywanych w procesie uczenia (tzw. trenowania) algorytmów AI oraz niekiedy braku pełnej wiedzy o schemacie podejmowania decyzji przez algorytm (tj. braku pełnej wiedzy, w jaki sposób działa algorytm, dlaczego algorytm podjął określoną decyzję ? tzw. problem czarnej skrzynki). Znany jest przypadek opracowania przez Amazon systemu AI mającego wspierać proces rekrutacji pracowników ? spółka zrezygnowała z jego wykorzystywania, kiedy okazało się, że algorytm bazujący na historycznych danych dyskryminował kobiety. 

Zarówno na poziomie europejskim, jak również krajowym wskazuje się na konieczność rozwoju ?wiarygodnej? i ?nakierowanej na człowieka? sztucznej inteligencji, której zastosowanie respektuje zasady etyki i prawa człowieka. Konieczne jest przy tym zapewnienie zgodności rozwiązań AI z zasadami etyki i prawami człowieka na wszystkich etapach realizacji projektu (tj. od projektowania przez tworzenie po eksploatację rozwiązań AI). 

W konsekwencji zupełnie nowego wymiaru nabiera specjalizacja w zakresie ochrony praw człowieka, w tym praw mniejszości. Dotychczas prawnicy specjalizujący się w tych dziedzinach realizowali swoje pasje przede wszystkim w sferze akademickiej oraz w sektorze publicznym, doradzając na rzecz NGO, czy reprezentując indywidualnych klientów w sporach sądowych. W mojej ocenie powszechne, słuszne i niekwestionowane przekonanie o konieczności rozwoju AI przy poszanowaniu zasad etycznych i praw człowieka spowoduje istotny wzrost zapotrzebowania na tego rodzaju specjalistów w tzw. biznesie. Gruntowna wiedza z zakresu ochrony praw człowieka, w tym przeciwdziałania dyskryminacji i ochrony prywatności, będzie konieczna w celu rzetelnego świadczenia pomocy prawnej w procesie projektowania, tworzenia oraz późniejszej eksploracji rozwiązań AI. 

Prawne aspekty dostępu i wykorzystania danych 

Powszechnie przyjmuje się, że dane stanowią ?paliwo? współczesnej gospodarki, a także siłę napędową rozwoju sztucznej inteligencji. Tworzenie i ?trenowanie? algorytmów AI wymaga dostępu do dużej ilości danych. Chodzi przy tym nie tylko o dane osobowe, lecz także nieosobowe (np. dane maszynowe), zarówno dane ustrukturyzowane (np. zgromadzone w zbiorach danych), jak i nieustrukturyzowane (np. dane zawarte w książkach czy zdjęciach), dane tworzone przez człowieka, a także przez maszyny (np. IoT). 

W konsekwencji obsługa projektów AI wymaga gruntownej znajomości regulacji prawnych dotyczących pozyskiwania, przetwarzania i wykorzystywania danych. Oczywiście w zakresie ochrony danych osobowych kluczową rolę odgrywa znajomość Ogólnego rozporządzenia o ochronie danych (RODO). Konieczne jest zapewnienie ochrony prywatności i zgodności z regulacjami dotyczącymi ochrony danych osobowych na każdym etapie ?życia? systemu AI, od fazy projektowania, poprzez jego tworzenie, wdrożenie i eksploatację. W kontekście mechanizmów AI spotkamy się między innymi z takimi wyzwaniami jak zapewnienie realizacji ogólnych zasad przetwarzania danych (art. 5 RODO), zasady privacy by design czy prowadzenie oceny skutków dla ochrony danych (DPIA). Szczególne wyzwania związane są z realizacją zasad zautomatyzowanego podejmowania decyzji oraz realizacją obowiązków informacyjnych.

Zbiory danych wykorzystywane do nauki algorytmów AI mogą potencjalnie podlegać ochronie jako ?bazy danych? ? na podstawie tzw. prawa sui generis do baz danych czy nawet prawa autorskiego. W konsekwencji istotna jest również znajomość regulacji dotyczących ochrony i wykorzystania baz danych. 

Należy również zwrócić uwagę, że na potrzeby rozwoju AI wykorzystywane mogą być zasoby tzw. danych publicznych. Jak wprost wskazuje się w preambule nowej dyrektywy Re-use: ?Informacje sektora publicznego stanowią wyjątkowe źródło danych (?). Inteligentne korzystanie z danych, w tym ich przetwarzanie w ramach zastosowań sztucznej inteligencji, może mieć rewolucyjne skutki dla wszystkich sektorów gospodarki?^[1]. Szczególnie istotna jest zatem znajomość europejskich i krajowych przepisów dotyczących dostępu i wtórnego wykorzystywania informacji sektora publicznego. 

Prawo własności intelektualnej 

Radca prawny zamierzający zajmować się problematyką AI natrafi również na wiele nowych wyzwań w zakresie praw własności intelektualnej. Po pierwsze, obsługując projekty dotyczące AI, spotkamy się z problemem ewentualnej ochrony samych programów komputerowych implementujących algorytmy AI. Konieczna będzie zatem znajomość zasad ochrony i obrotu programami komputerowymi. Po drugie w części przypadków na potrzeby uczenia AI wykorzystywane są tzw. dane znajdujące się w różnego rodzaju materiałach, tekstach, zdjęciach czy filmach ? chronionych prawem autorskim. Powstaje zatem konieczność oceny możliwości i zasad wykorzystania ich w ten sposób. Po trzecie coraz częściej mechanizmy AI wykorzystywane są do tworzenia wytworów tradycyjnie chronionych w ramach prawa autorskiego. Przykładowo Grupa ING przy współpracy z Microsoft oraz Muzeum Rembrandta w Hadze zrealizowała projekt ?Kolejny Rembrandt?, w ramach którego specjalnie stworzony algorytm AI przeanalizował 350 dzieł Rembrandta i na podstawie pozyskanych danych stworzył ?nowy? obraz w stylu Rembrandta (więcej o projekcie The Next Rembrandt na https://www.nextrembrandt.com). Powstają zatem zasadnicze pytania, czy tego rodzaju ?wytwór? podlega ochronie autorskoprawnej? Czy w konkretnym przypadku można przypisać działania twórcze człowiekowi? 

Kompetentna obsługa prawna projektów dotyczących tworzenia, wdrażania i wykorzystywania rozwiązań sztucznej inteligencji wymaga nie tylko znajomości zagadnień prawnych, lecz także choćby podstawowej wiedzy z zakresu technicznych i biznesowych aspektów funkcjonowania i wykorzystania AI. Oczywiście nikt nie będzie oczekiwał od radcy prawnego budowania modeli AI, projektowania sieci neuronowych czy programowania w Pythonie. Niemniej jednak w mojej ocenie radca prawny chcący obsługiwać tego rodzaju projekty powinien mieć podstawową wiedzę dotyczącą między innymi ?zasad działania? AI (uczenia maszynowego, sieci neuronowych, roli danych itp.), zastosowań i ograniczeń AI, metodyk zarządzania projektami IT czy transformacji cyfrowej. W zdobyciu tego rodzaju wiedzy niewątpliwie pomocne są różnego rodzaje nieodpłatne kursy e-learningowe oraz coraz szerzej dostępna literatura (zobacz ramka).?

---

[1]    Motyw 9 preambuły dyrektywy Parlamentu Europejskiego i Rady (UE), dyrektywa 2019/1024 z 20 czerwca 2019 r. w sprawie otwartych danych i ponownego wykorzystywania informacji sektora publicznego (wersja przekształcona).