Regulacje dotyczące implementacji AI Act w Polsce. Ich wpływ na rynek finansowy

00:00:00:

00:00:02: ZPF Talks to cykl podkastów realizowanych przez Wiązg Przedsiębiorstw Finansowych w Polsce.

00:00:07: Ja nazywam się Rafał Tomkowicz i serdecznie zapraszam do rozmów z moimi gośćmi!

00:00:12: Dziś Marcin Czugan, prezes związku przedsiębiorstw finansowy w Polsce...Dzień dobry cześć Marcin!

00:00:17: Dzień Dobry Państwu!

00:00:19: Cześć Rafom!

00:00:20: Mam nadzieję że dobrze mnie słyszysz.

00:00:22: Tak jest, głośna i wyrazi.

00:00:23: No ja ciebie również.

00:00:25: tak się właśnie łączy Wrocław z Gdańskiem.

00:00:27: Marcin.

00:00:28: ale wróćmy do naszego meritum dzisiejszego odcinka AI Act.

00:00:34: od drugiego sierpnia bieżącego roku zaczął obowiązywać.

00:00:37: te rozporządzenie nakłada na firmy nowe obowiązki związane z przejrzystością wykorzystania sztucznej inteligencji.

00:00:45: co dokładnie oznacza to dla polskich przedsiębiorców instytucji te nowe wytyczne?

00:00:50: Tak, rzeczywiście od drugiego sierpnia obowiązują przepisy EE Act.

00:00:55: Wydaje się że powinniśmy wejść od principiów.

00:00:58: czymże jest ten nowy akt prawny w polskim systemie prawa i czego dotyczy?

00:01:05: no i jakie nowe obowiąZki nakłada?

00:01:08: przede wszystkim to jest rozporządzenie unijne w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji.

00:01:16: Po angielsku Sztuczna Inteligencja, czyli Artificial Intelligence.

00:01:20: stąd ten skrót EE Act.

00:01:22: on się utrwalił i wszedł już do dyskursu publicznego natomiast musimy pamiętać że to jest Rozporządzenie Unijna.

00:01:28: jak każde rozporadzenie unije stosowane jest wprost.

00:01:31: od drugiego sierpnia rzeczywiście zaczęły obowiązywać te przepisy które wprowadziły szereg wymogów związanych z wykorzystywaniem systemu w sztucznej inteligencji.

00:01:42: Czego w ogóle dotyczy ten akt prawny?

00:01:45: Otóż on ma takie trzy zasadnicze cele, po pierwsze jest to poprawa funkcjonowania rynku wewnętrznego i promowanie zorientowanej na człowieka i godnej załowania Sztuczne Inteligencje.

00:01:59: Drugie to jest drugim celem rozporządzenia oczywiście zapewnienie wysokiej ochrony praw konsumentów, użytkowników czy osób na które system sztucznej inteligencji oddziaływują.

00:02:16: i trzeci zasadniczy cel rozporządzenia to wspieranie innowacji.

00:02:20: Bardzo ważnym przy rozmowie o rozporąceniu akcie jest to kogo on dotyczy a w zakresie jego obowiązowania będzie cały spektrum podmiotów.

00:02:32: mają styczność w szuczną inteligencję.

00:02:35: No bo rozporządzenie będzie przestrzegane przez dostawców, którzy wprowadzają do obrotu system AI podmiotów, które stosują systemy AI na przykład w swojej codziennej działalności importerów dystrybutorów systemów AI producentów produktów, którzy gdzieś zaszywają system EI w samym produkcie.

00:02:57: Wreszcie rozporadzenie będzie dotyczył osób na które AI-akt czy w ogóle z AI ma wpływ i które znajdują się w Unii Europejskiej czyli osoby, na które systemy Sztucznej Inteligencji oddziałują.

00:03:12: Żeby w ogóle rozpocząć analizę rozporządzenia żeby zorientować się kogo ono dotyczy jak i zakres obowiązków pierwszej koliności powinniśmy ustalić czy mamy w ogóle do czynienia z systemem sztuczna inteligencja.

00:03:26: jeżeli możemy zakwalifikować system do definicji systemu szczucznej inteligencji.

00:03:31: Oczywiście ta definicja również jest pomieszczona w rozporządzeniu, no to stosujemy rozporządenie.

00:03:38: To nie jest oczywiście prosty proces bo sama definicją systemu AI.

00:03:43: ona zawiera wiele elementów które najpierw musimy zderzyć właśnie z naszym systemem ponieważ samo rozporązenie wprowadza tą definicję i definiuje system AI jako system maszynowy taki, który został zaprojektowany do działania z różnym poziomem autonomii po jego wdrożeniu i który może wykazywać zdolności adaptacyjne po wdrożeniu a także który wnioskuje jak generować na podstawie pewnych danych wejściowych które do niego wprowadzamy.

00:04:13: Jak no i wnioskuje.

00:04:15: te te wnioski mogą przybierać postać predykcji treści zalecen decyzji a następnie oczywiście owepredykcje, zalecenia decyzji wpływają na środowisko fizyczne i wirtualne.

00:04:27: Jak Państwo słyszycie ta definicja nie jest proste.

00:04:30: W zawiera pewne takie obligatoryjne elementy po których spełnieniu możemy mówić o systemie AI.

00:04:39: Jeżeli mamy do czynienia już z systemem sztucznej inteligencji no to musimy dokonać jego klasyfikację.

00:04:46: I właśnie rozporządzenie AI Act chyba w największej mierze dotyczy pewnej klasyfikacji systemów, ponieważ od klasyifikacji systemu wsłucznej inteligencji zależy zakres obowiązków, które są nałożone na te podmioty, które sobie wymieniliśmy.

00:05:06: Które będą przestrzegać właściwie.

00:05:07: od drugie średnie już przestrzegają zapisów tego aktu prawnego.

00:05:13: a więc z punktu widzenia rozporządzenia Systemy możemy zaklasyfikować takie cztery zasadnicze poziomy, albo takie które generują ograniczone ryzyko minimalne rysiko albo ograniczone ryzykowe wysokie ryzyki bądź nieakceptowalne.

00:05:30: Czyli mam takie czterde poziomy gdzie klasyfikujemy sobie nasz system.

00:05:36: i teraz jeżeli dokonamy tej klasyifikacji to z punktu widzenia rozporządzenia najistotniejsze są dwie te górne klasyfikacje, a więc ryzyko wysokie oraz nieakceptowalne.

00:05:47: No bo dopiero wtedy jeżeli mamy do czynienia z takim systemem sztucznej inteligencji który to rysyko może generować wysoki albo nieakcepctowalny no to wówczas mamy szereg obowiązkowy aby zmitygować tę ryzykę.

00:05:59: i teraz czym takie są zakazane?

00:06:01: na przykład system sztuknej intelgencji?

00:06:04: Otóż zakazanym systemem Sztuczniej Inteligencji to takie które np.

00:06:07: wykorzystują techniki podprogowe które są poza świadomością danej osoby lub np.

00:06:12: celowo wykorzystują techniki manipulacyjne, czyli manipulują naszą świadomością można powiedzieć.

00:06:18: Zakazane są np.

00:06:19: takie systemy, które wykorzystywają słabość osoby fizycznej na przykład ze względu na pewną kategorię zdrowia np.

00:06:28: wiek szczególną sytuację społeczną i ekonomiczną czyli takie, które nas kategoryzują ze względem na pewnią cechę można powiedzieć cechę wrażliwości, no to takie systemy również są zakazane.

00:06:40: Takie które dochodują klasyfikacji nas jako społeczeństwa na podstawie tak zwanego skorringu społecznego gdzie przyznawany są np.

00:06:47: dodatnie punkty dodatni punktu ujemne w zależności od naszego zachowania w sprawie że społeczny.

00:06:55: Zakazane np.

00:06:56: są systemy do przeprowadzenia oceny ryzyka i w odniesieniu do osób fizycznych bo ocenić bądź przewidzieć ryzyjko popełnienia przestępstwa przez osoby fizyczną, kłynie się raport, mniejszość.

00:07:08: Albo takie systemy AI, które na przykład dokonują z dalnej identyfikacji biometrycznej np.

00:07:16: do celów egzekowowania prawa wszystkie te systemy, które gdzieś mają zaszyty ten komponent który doprowadza takich działań.

00:07:25: one są zakazane.

00:07:26: zakazane od drugiego sierpnia nawet wcześniej, bo od drugego lutego roku.

00:07:32: Ponieważ to rozporządzenie wchodziło partiami a największa część tego rozpoczęcia rzeczywiście wchodził od drugie sierpień.

00:07:38: ale te systemy są zakazani.

00:07:40: Zabawa zaczyna się wtedy kiedy mamy do czynienia z systemami wysokiego ryzyka czyli są to takie systemy które Wspierają pewne na przykład decyzje, ale z punktu widzenia rozporządzenia mogą generować ryzyko, które jest klasyfikowane jako większe niż ograniczone.

00:08:00: Czyli na przykład systemy, które dokonują zdalnej identyfikacji biometrycznej czy system przeznaczony do wykorzystowania rozpoznawania emocji?

00:08:11: Na przykład system AI, który jest przeznaczony do wykorzystywania docelów rekrutacji lub na przykład wyboru osób fizycznych, czy na przykład analizowanie, filtrowanie sywi i ocena kandydatu.

00:08:23: Systemy AI przeznaczone do wykorzystywania dla celów oceny zdolności kredytowej, czy ktoś posiada zdolność do spłaty zacilniętego zobowiązania.

00:08:33: Systeme AI wykorzytywane przez organ sprawiedliwości, organ wymiaru sprawiedlibości np.

00:08:39: w badaniu interpretacji stanowfaktycznego czy przepisów prawa.

00:08:43: czyli to są przykłady Systemów, które z punktu widzenia treści i rozpoznawania zostały zaklasyfikowane jako te, które generują wysokie ryzyko.

00:08:51: Jeżeli mamy do czynienia z takim systemem to mamy szereg obowiązków związanych z ich zarządzaniem stosowania tych systemów.

00:09:02: Między innymi musimy wdrożyć dokumentować, obsługiwać system zarządzania ryzykiem na przykład takim systemom.

00:09:09: Musimy testować ciągle ten system tak w miarę regularnie, z tego testowania sporządzać dokumentację techniczną.

00:09:16: Rejestrować zdarzenia.

00:09:17: jeżeli dochodzi do jakichś problemów ze stosowaniem tego systemu to te incydenty powinny być rejestrowane regularnie.

00:09:28: przede wszystkim powinni wprowadzić nadzór człowieka czyli człowiek nadzoruje ten system i wtedy potrzeba no to ingeruje w niego.

00:09:37: No i cały set informacji związanych z tzw.

00:09:41: transparentnością, czyli osoba która jest poddawana działaniu tego systemu powinna transparentnie wiedzieć na czym to działanie może polegać.

00:09:53: Czyli z perspektywy samego rozporządzenia bardzo istotne są po pierwsze weryfikacja czy mamy do czynienia z systemem sztucznej inteligencji a następnie odpowiednie jego zaklasyfikowanie, bo od tego zależą te obowiązki o którym państwu powiedziałem.

00:10:09: Zapytałeś o elementy przejrzystości, bo rzeczywiście taki największe skupienie opinii publicznej po tym drugim sierpniu nastąpiło na kwestie związane z przejżystością systemu sztucznej inteligencji.

00:10:27: to nic innego jak pewien obowiązek oznaczania treści które są albo zmodyfikowane, albo wygenerowane przez sztuczną inteligencję.

00:10:35: A więc jeżeli mam do czynienia na przykład z podmiotem stosującym system AI ale te obowiązki są np.

00:10:42: również analogicznie nałożone na dostawców systemu AI i więc podmioty który generuje treści obrazy wideo np.

00:10:51: które stanowią deepfake tak zwane bądź dochodzi do manipulacji pewnimi obrazami mają obowiązek oznaczania tych treści że uf treść została albo wygenerowana, albo zmodyfikowana przez sztuczną inteligencję.

00:11:06: Oczywiście sama klasyfikacja danej treści nie jest też prosta.

00:11:12: Jeżeli sami tworzymy pewne treści, które mają charakter wygenerowanych przez Sztuczną Inteligencję to bardzo łatwe.

00:11:22: Wygenerowane czyli w całości stworzone przez Szczucznę Inteligencje no to takie treści powinniśmy oznaczyć jako wygenerowane przez AI.

00:11:32: Tu jest akurat angielski skrót ze względu na to, że te wytyczne Komisje Europejskie dotyczą no to są w języku angielskim generate i generated czyli wygenerowana przez AI czyli np.

00:11:43: zdjęcie jeżeli mamy do czynienia z zdjęciem które jest w całości stworzone przy sztuczną inteligencję.

00:11:51: no to oznaczamy jako a generator.

00:11:54: natomiast jeżeli mamy np.

00:11:56: zdjęcie oryginalne powiedziałbym prawdziwe, które zmodyfikowaliśmy za poświęczeniem sztucznej inteligencji, a to oznaczamy AI Modified czyli zmodyifikowana przez sztużną inteligencję.

00:12:09: Dotyczy to zdjęć, dotyczy to wideo, dotyczące również na przykład wykorzystywania chatbotów.

00:12:17: To znaczy chatboty np.

00:12:19: wykorzytywane na stronach internetowych w aplikacjach social mediach przy pierwszym kontakcie przez przy komunikacie na początku rozmowy powinny również wskazywać, że no są to chatboty wykorzystywające szczół w tą inteligencję żeby ten z którym interakcji do którym te interakcja następuje.

00:12:39: No miało tą informację i pewność czyli od drugiego sierpnia ponieważ weszło także życie całe jak oczywiście nie tylko te obowiązki ale bardzo często mówimy o pewnych obowiązkach związanych właśnie z przejrzystością, czyli konieczność nazywania, pokazywania że treści konkretne zostały wygenerowane bądź zmodyfikowane przez sztuczną inteligencję.

00:13:06: Oczywiście to nie jest prosty też proces bo przecież możemy otrzymać już jakieś zdjęcie i to zdjęcie już oryginalnie może być jakoś wygenerowana albo zmodyifikowane przed sztuką inteligencją.

00:13:18: my tego możemy nie wiedzieć.

00:13:20: Więc to nie jest prosty proces, no ale proces którego będziemy musieli się nauczyć.

00:13:26: No bo takie obowiązki nakłada na nas tutaj jak dla tego bardzo ważne jest od samego początku jeżeli te treści są wygenerowane czy właśnie zmodyfikowane przy szczucznym tylgencie żeby w tym całym łańcuchu tworzenia tych treści już od samego początku wskazywać na ich modyfikacje bądź wygenerowanie przez sztuczną inteligencję.

00:13:47: Ok,

00:13:47: dziękuję Marcin.

00:13:48: faktycznie wyszedłem na chwilę bo tak się rozgadałeś ale słyszałem o czym mówiłeś.

00:13:53: natomiast skoro mówimy o implementacji tego aktu w polskim systemie prawnym to kto obecnie zarządza tym procesem w Polsce?

00:14:01: Kto będzie odpowiedzialny za przestrzeganie jego stosowania w przepisach prawa polskiego?

00:14:05: Tak pomimo że powiedziałem na samym początku że rozporządzenie EI obowiązuje wprost bo tak jest to zawsze.

00:14:13: jest tak, że do pełnego stosowania danego aktu prawnego na danym terytorium państwa członkowskiego potrzebne są tzw.

00:14:21: ustawy sektorowe, ustawy które wspierają stosowanie takiego rozporządzenia w Polsce.

00:14:27: taką ustawą wspierającą stosowanie rozporadzenia EI-aktu jest ustawa o systemach sztucznej inteligencji która ma pewne elementy, która stworzyła pewne elementy które są niezbędne do prawidłowego właśnie stosowania tego unijnego aktu prawnego.

00:14:47: Takie to ta nasza krajowa ustawa przede wszystkim określa sposób sprawowania nadzoru nad rynkiem systemów sztucznej inteligencji modelami Sztuczne Inteligencji.

00:15:01: Nasza ustawa określi również postępowanie spraw i naruszenia rozporządzenia i ustawy.

00:15:07: Działania wspierające rozwój z systemu sztucznej inteligencji, no i oczywiście też jak to jest są pewne obowiązki.

00:15:14: Jest też system kar a więc zasady nakładania administracyjny kar za naruszenie rozporządzenia i samej ustawy.

00:15:21: nadzur nad można powiedzieć systemami sztucznej inteligencji czy nad rynkiem systemu Sztuczna Inteligencja, modelami srtuczne inteligencje w Polsce będzie sprawowała Komisja Rozwoju Bezpieczeństwa Sztukowej Inteligencji.

00:15:36: Ta ustawa była właśnie potrzebna po to żeby stworzyć podstawy funkcjonowania komisji rozwoju bezpieczeństw sztucej inteligencji.

00:15:43: Celem czy zadaniami takiej komisii?

00:15:45: no to tak jak powiedziałem kontrola przez strzyganie rozporządzenia EIA-aktum działania służące prawidłowym funkcjonowaniu rynku wewnętrznego, podejmowanie działań które mają na celu monitorowania np.

00:16:00: rozwoju innowacyjności czy konkurencyjności w obszarze stosowania systemów przódnych i inteligencji.

00:16:05: no oczywiście cały set postępowania w sprawie ewentualnego naruszenia tych przepisów.

00:16:11: to jest też oczywiste.

00:16:12: Bardzo ważne, że taka komisja dopiero ta ustawa będzie obowiązywać, która została podpisana niedawno przez prezydenta więc wejdzie, będzie obwiązywać na terytorium Polski i ona dopiero stworzy nam podstawy prawne dostworzenia.

00:16:27: w komisji jeszcze jej nie ma.

00:16:30: Natomiast taka Komisja będzie miała uprawnienie do wstrzymania kontroli z urzędu bądź nawniosek.

00:16:40: Tutaj ten katalog takich uprawnionych do złożenia wniosku jest naprawdę szeroki.

00:16:45: To, co jest ważnego o karach się nie powinno dyskutować ale to zawsze interesuje słuchaczy.

00:16:53: mianowicie taka komisja będzie miała uprawnienia do nakładania kar wynikających z treści rozporządzenia.

00:16:59: To jest komisję będzie mogła nakładać na dostawców modeli AI kary pieniężnie nie przekraczające trzy procent całkowitego i chrocznego światowego obrotu w poprzednim roku obrotowym o piętnastu milionów euro.

00:17:12: Więc to są bardzo poważne kary za naryszenie przepisów rozporządzenia.

00:17:16: jest to już model, który jest znany na przykład z rozporądzania RODO więc tutaj nie ma jakiegoś odstępstwa.

00:17:21: a więc teraz takim Z jednej strony mamy rozporządzenie AI i z drugim dopełnieniem tego rozporądzenia AI jest ustawa o systemach sztucznej inteligencji, która została uchwalona.

00:17:31: No i czekamy na jej wyjście w życie.

00:17:33: to stworzy podstawy do stworzenia z kolei Komisji Rozwoju Bezpieczeństwa Sztuczne Inteligencje, którą pamiętajmy będzie nadzorowała i sprawowała taką pieczę nad wykorzystywaniem systemów sztucem telegencji w Polsce.

00:17:47: Dziękuję bardzo, więcej o sztucznej inteligencji, o realnym jej wykorzystywaniu i obowiązkach z tym związanych będzie można dowiedzieć się przy okazji zbliżającego się pierwszego kongresu polskiego kongressu AI, dwudziesty ósme dwudziesty dziewiąty października Włodzi.

00:18:04: Zapraszam po więcej szczegółów na stronę polskikongres.ai.

00:18:10: Bardzo dużo wiedzy z zakresu finansów i administracji Marcin, z tobą będzie tam możliwość również osobistego spotkania?

00:18:18: Tak.

00:18:18: Będzie możliwość.

00:18:19: porozmawiamy nie tylko jejakcie, nie tylko o obowiązkach związanych z wdrożeniem jejaktu ale porozmywam tej całej sferze praktycznego stosowania systemu sztucznej inteligencji no też obowiązkach związanych.

00:18:36: Przede wszystkim przejrzymy się systemom sztucznej inteligencji z perspektywy wykorzystania i praktycznego przez biznes, bo to wykorzystanie jest naprawdę nieograniczone.

00:18:44: I tutaj mamy już sporo do omówienia i do pokwalenia się.

00:18:48: jako polska

00:18:49: Dokładnie tak potwierdzam również Jeżeli spodobał Ci się ten podcast.

00:18:53: będziemy wdzięczni za wszelkie suby oraz polubienia.

00:18:56: Wszystkie łapki w górę Do usłyszenia!