Kiedy należy informować ludzi o tym, iż wchodzą w interakcję z systemem AI?

Kiedy należy informować ludzi o tym, iż wchodzą w interakcję z systemem AI?

Zgodnie z art. 50 ust. 1 AI Act: „Dostawcy zapewniają, aby systemy AI przeznaczone do wchodzenia w bezpośrednią interakcję z osobami fizycznymi projektowano i rozwijano w taki sposób, aby zainteresowane osoby fizyczne były informowane o tym, że prowadzą interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania. Obowiązek ten nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców, z zastrzeżeniem odpowiednich zabezpieczeń w zakresie praw i wolności osób trzecich, chyba że systemy te udostępnia się ogółowi społeczeństwa na potrzeby składania zawiadomień o popełnieniu przestępstwa.”.

Dlaczego obowiązek informowania o prowadzeniu interakcji z systemem AI jest taki ważny?

Należy wskazać, iż przedstawiona w sposób czytelny informacja o prowadzeniu interakcji z systemami AI ma z założenia pozwolić danej osobie na świadomą decyzję w kwestii tego, czy jest ona zainteresowana kontynuowaniem interakcji z systemem AI. Sam fakt interakcji z AI może całkowicie zniechęcić osobę fizyczną do korzystania z danego systemu.

Co więcej, w przypadku, w którym dana osoba zdecyduje się na skorzystanie z systemu, informacja o interakcji z systemem AI ma na celu umożliwienie tej osobie dokonania oceny odebranych danych przez pryzmat pozyskania ich z omawianego źródła (i np. świadomie podjąć decyzję w kwestii dodatkowej weryfikacji otrzymanych treści).

Warto dodać, iż Komisja Europejska wyodrębniła cztery przesłanki, które muszą być spełnione łącznie, aby ziścił się obowiązek informowania ludzi o tym, iż wchodzą w interakcję z systemem AI:

1/ po pierwsze, system, który jest przedmiotem analizy, musi być systemem AI w rozumieniu definicji zawartej w AI Act;

2/ po drugie, analizowany system musi być z założenia zaprojektowany w sposób, który zakłada dwustronną interakcję z ludźmi (w przeciwieństwie do systemów nastawionych raczej na zbieranie danych lub udzielenie automatycznych odpowiedzi);

3/ po trzecie, interakcja z AI musi być bezpośrednia; oznacza to, iż system komunikuje się z ludźmi bez udziału innych ludzi;

4/ po czwarte, interakcja musi odbywać się z ludźmi (bez znaczenia, czy mamy do czynienia z konsumentami, osobami fizycznymi prowadzącymi działalność gospodarczą itp.). Wobec powyższego system operujący z pominięciem interakcji z ludźmi jest wyłączony z podlegania pod omawiany obowiązek. 

Informacja o interakcji z systemem AI  musi być przedstawiona już na wstępie kontaktu z systemem.

AI Act przewiduje, iż omawiany obowiązek informacyjny nie ma zastosowania, gdy fakt interakcji z systemem AI jest oczywisty z punktu widzenia osoby fizycznej, która jest dostatecznie poinformowana, uważna i ostrożna, z uwzględnieniem okoliczności i kontekstu wykorzystywania, a także nie ma zastosowania do systemów AI, których wykorzystywanie jest dozwolone na mocy prawa do celów wykrywania przestępstw, przeciwdziałania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców.

Ilustracja źródło: https://pixabay.com/images/search/sztuczna%20inteligencja/

#PrawoSztucznejInteligencji

#SztucznaInteligencja

#AIwPrawie

#PrawoIT

#NoweTechnologie

#PrawoTechnologiczne

#Technologie

#Cyfryzacja

#RegulacjeAI

#Regulacje

#OdpowiedzialnośćAI

#AIwBiznesie

#PrawnikAI

#LegalTech

#prawoAI