← Wszystkie artykuły

AI governance w firmie: czym różni się od compliance

AI governance w firmie: czym różni się od compliance

AI governance w firmie: czym różni się od compliance

Ten tekst jest dla właścicieli firm, członków zarządu i osób, które odpowiadają za rozwój i wdrażanie sztucznej inteligencji w organizacji. AI governance to wewnętrzny ład firmy wokół sztucznej inteligencji: ustalenie, kto decyduje o narzędziach AI, według jakich zasad i kto sprawdza, czy te zasady działają. Compliance, po polsku zgodność, to spełnianie wymagań, które przychodzą z zewnątrz, czyli z przepisów i umów, razem z umiejętnością pokazania, że firma je spełnia. Oba słowa często padają jednym tchem, a opisują dwie różne rzeczy. Firma może mieć komplet wymaganych dokumentów i nadal nie panować nad tym, jak pracownicy używają AI. Może też mieć rozsądne zasady i nie umieć wykazać zgodności z konkretnym przepisem.

Rozdzielam te pojęcia na przykładzie firmy zatrudniającej 30 osób, która kupiła gotowego asystenta AI do obsługi klienta, a potem pokazuję, co się zmienia w firmie zatrudniającej ponad 200 osób. Oba przykłady są robocze. Nie opisuję w nich żadnego klienta. Pokazuję na nim, co taka firma musi zrobić już dziś, bo wymagają tego przepisy, co warto ustalić mimo braku przepisu i co zacznie obowiązywać dopiero od grudnia 2027 r. Na końcu jest lista kontrolna z pytaniami, na które warto odpowiedzieć przed wdrożeniem AI. Piszę jako praktyk wdrożeń. To moja analiza wdrożeniowa i nie zastępuje informacji prawnej. Stan przepisów na 4 października 2026 r.

Spis treści

  1. AI governance: co to jest po polsku i czym nie jest
  2. Compliance a governance: dwa pytania, dwie odpowiedzialności
  3. Kto w firmie odpowiada za AI: właściciel, nadzór człowieka, rola IT
  4. Polityka AI w firmie i rejestr używanych narzędzi
  5. Bezpieczeństwo AI w firmie i dyrektywa NIS 2
  6. Firma ponad 200 osób: co się zmienia
  7. ISO 42001: kiedy norma ma sens, a kiedy wystarczy prosty ład
  8. Lista kontrolna: pytania przed wdrożeniem AI w firmie
  9. Słowniczek: pojęcia, które spotkasz obok

AI governance: co to jest po polsku i czym nie jest

Słowo „governance” pochodzi z ładu korporacyjnego. Najczęściej cytowany opis tego ładu przygotowała OECD, czyli Organizacja Współpracy Gospodarczej i Rozwoju. To międzynarodowa organizacja państw, do której należy też Polska. Opracowuje wspólne zalecenia dla gospodarki, a jej zasady ładu korporacyjnego poparła także grupa G20, czyli forum największych gospodarek świata. Zasady ładu korporacyjnego G20/OECD z 2023 r. opisują go jako strukturę i systemy, przez które spółka jest kierowana, wyznacza cele i sprawdza, czy je osiąga. Ten sam dokument zastrzega, że jego zasady nie są wiążące. Governance po polsku to ład, czyli układ decyzji i odpowiedzialności wewnątrz organizacji.

AI governance zawęża ten pomysł do sztucznej inteligencji. W źródłach, które sprawdziłem do tego tekstu, nie ma jednej definicji tego hasła. Pierwszym z nich jest NIST, czyli National Institute of Standards and Technology, amerykańska agencja rządowa zajmująca się normami i pomiarami. Jej wytyczne nie są prawem, ale wiele firm traktuje je jako punkt odniesienia. W ramach zarządzania ryzykiem AI ze stycznia 2023 r. NIST nazywa tę część pracy funkcją GOVERN. Obejmuje ona kulturę zarządzania ryzykiem, procesy, dokumenty i podział odpowiedzialności, a jej zadaniem jest przenikać trzy pozostałe funkcje ram: rozpoznawanie ryzyk, ich mierzenie i zarządzanie nimi. Drugim źródłem jest ISO, Międzynarodowa Organizacja Normalizacyjna. Wydaje normy, czyli uzgodnione opisy tego, jak coś robić dobrze, a firmy stosują je dobrowolnie albo dlatego, że wymaga tego klient. Jej norma ISO/IEC 42001, wydana wspólnie z Międzynarodową Komisją Elektrotechniczną (IEC), mówi o systemie zarządzania AI. Trzecim jest zalecenie OECD w sprawie sztucznej inteligencji, które mówi o rozliczalności: kto bierze udział w cyklu życia systemu AI, odpowiada za jego właściwe działanie stosownie do swojej roli. Definicja z pierwszego akapitu jest więc moim uporządkowaniem zbudowanym na tych źródłach. Żadne z nich nie podaje jej w tym brzmieniu.

Dwa sąsiednie pojęcia łatwo z nim pomylić. Ład korporacyjny dotyczy relacji między zarządem, radą i wspólnikami całej spółki. Data governance, czyli ład danych, dotyczy zasad obchodzenia się z danymi. AI governance zajmuje się czymś węższym: narzędziami AI, decyzjami o ich użyciu i odpowiedzialnością za skutki.

Ład może istnieć bez żadnego przepisu. Ramy NIST są z założenia dobrowolne, norma ISO też. W przykładzie z tego tekstu żaden przepis AI Act, czyli unijnego rozporządzenia o sztucznej inteligencji, nie każe firmie wyznaczać osoby, która decyduje o narzędziach AI. Zgodność działa odwrotnie, bo zawsze odwołuje się do konkretnego wymogu.

Compliance a governance: dwa pytania, dwie odpowiedzialności

Samego słowa „compliance” też nie definiuje żaden z dokumentów, do których sięgnąłem. Najbliżej jest opis normy ISO 37301 z 2021 r., która dotyczy systemów zarządzania zgodnością i ma pomagać organizacjom w przestrzeganiu prawa, regulacji i standardów etycznych. Norma opisuje system, samego słowa nie definiuje, dlatego rozróżnienie poniżej jest moje. Compliance pyta, czy firma spełnia wymagania, które przyszły z zewnątrz albo które sama przyjęła w umowach, i czy umie to pokazać. Governance pyta, kto w firmie decyduje o AI, na jakich zasadach i kto sprawdza, czy to działa. Do pierwszego pytania potrzebny jest ktoś, kto zna wymagania i trzyma dowody. Do drugiego ktoś, kto ma prawo powiedzieć „tego narzędzia używamy, a tego nie”. W branży oba słowa spina skrót GRC (governance, risk, compliance, czyli ład, ryzyko i zgodność), o którym piszę w słowniczku.

Weźmy firmę z przykładu. Kupuje gotowego asystenta jako usługę i udostępnia go klientom w czacie na stronie oraz w obsłudze mailowej. Nie trenuje własnego modelu. Asystent odpowiada na pytania o zamówienia i godziny pracy. Nie decyduje o kredycie, zatrudnieniu ani ocenie osób. W języku AI Act taka firma jest podmiotem stosującym, czyli tym, kto używa systemu w swojej działalności. Dostawcą jest firma, która narzędzie zbudowała i sprzedaje je pod własną nazwą. Kto jest kim w tym łańcuchu, opisałem w tekście AI Act dla firm.

Po stronie wymagań z zewnątrz zostaje w tym przykładzie krótka lista.

WymaganiePodstawaOd kiedy
Środki wspierające rozwój kompetencji w zakresie AI u osób, które używają asystentaart. 4 AI Act w brzmieniu nadanym przez rozporządzenie (UE) 2026/1744od 2 lutego 2025 r., w nowym brzmieniu od 27 lipca 2026 r.
Sprawdzenie, czy dostawca zapewnia informację, że klient rozmawia z systemem AI, i czy widać ją w czacie firmyart. 50 ust. 1 i 5 AI Actod 2 sierpnia 2026 r.
Zakazane praktyki, na przykład techniki manipulacyjneart. 5 AI Actod 2 lutego 2025 r.
Ocena skutków dla ochrony danych (DPIA), jeśli przetwarzanie danych klientów spełnia przesłankiart. 35 RODOwarunkowo, przed rozpoczęciem przetwarzania

Każda z tych pozycji ma swoje zastrzeżenie. Artykuł 4 po zmianie z lipca 2026 r. wymaga środków, które wspierają rozwój kompetencji personelu, i wprost zaznacza, że nie chodzi o zapewnienie określonego poziomu u poszczególnych osób. Krótkie szkolenie i instrukcja, co wolno wpisać do asystenta, mieszczą się w tym brzmieniu. Obowiązek z art. 50 ust. 1 jest zapisany po stronie dostawcy: to on ma zaprojektować system tak, żeby człowiek wiedział, że rozmawia z AI, chyba że jest to oczywiste. Firma z przykładu powinna sprawdzić, czy dostawca to zapewnia i czy komunikat widać w jej własnym czacie. Nie rozstrzygam tu, jak rozkłada się ten obowiązek, gdy firma wystawia asystenta pod własną marką. Tego nie analizowałem. Zakaz z art. 5 obejmuje także samo wykorzystywanie systemu, więc dotyczy również kupującego. Ostatni wiersz tabeli pochodzi z RODO, unijnego rozporządzenia o ochronie danych osobowych. Wymagana przez nie ocena skutków zależy od tego, jakie dane klientów trafiają do asystenta, i to jest rozmowa z osobą, która w firmie odpowiada za ochronę danych. Pozostałych obowiązków z RODO w tym tekście nie omawiam.

W tabeli nie ma tego, co w rozmowach o AI Act zajmuje najwięcej miejsca: systemu zarządzania ryzykiem (art. 9), nadzoru człowieka (art. 14), systemu zarządzania jakością (art. 17), obowiązków podmiotów stosujących (art. 26) i oceny skutków dla praw podstawowych (art. 27). Wszystkie te przepisy dotyczą systemów wysokiego ryzyka. Rozporządzenie (UE) 2026/1744 z 8 lipca 2026 r. przesunęło początek ich stosowania na 2 grudnia 2027 r. dla systemów z załącznika III i na 2 sierpnia 2028 r. dla systemów z załącznika I. Załączniki to dwie listy: trzeci wymienia zastosowania uznane za wysokie ryzyko, pierwszy przepisy o produktach, w których AI może być elementem bezpieczeństwa. Przyjmuję, że asystent odpowiadający na pytania o zamówienia nie jest systemem wysokiego ryzyka. To założenie przykładu. Przy prawdziwym wdrożeniu trzeba przeczytać załącznik III i porównać go z tym, do czego narzędzie faktycznie służy. Jedna uwaga praktyczna: strona EUR-Lex, czyli oficjalna baza prawa Unii, z pierwotnym tekstem AI Act nadal pokazuje wersję z 2024 r. ze starymi datami, więc terminy trzeba czytać razem z rozporządzeniem zmieniającym.

W Polsce organem nadzoru rynku systemów AI jest Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, utworzona ustawą z 3 lipca 2026 r. o systemach sztucznej inteligencji (Dz.U. 2026 poz. 1003). Ustawa przewiduje, że Komisja może wydawać opinie indywidualne (art. 8). Przepisy o tych opiniach wchodzą w życie po upływie trzech miesięcy od ogłoszenia ustawy, a ogłoszono ją 27 lipca 2026 r. Z mojego wyliczenia wynika 28 października 2026 r., więc w dniu, na który opisuję stan przepisów, jeszcze nie działały. Później będzie to droga do stanowiska urzędu, którego mój tekst nie zastąpi. Mapę wszystkich czterech aktów, które dotykają AI w firmie, znajdziesz w tekście Prawo AI w firmie 2026.

Żaden z czterech wierszy tabeli nie mówi, kto w firmie wybrał asystenta, kto pilnuje, co pracownicy do niego wpisują, ani kto zauważy, że zaczął odpowiadać klientom nieprawdę. Tym zajmuje się ład wewnętrzny.

Kto w firmie odpowiada za AI: właściciel, nadzór człowieka, rola IT

Pierwsza decyzja ładu wewnętrznego to wskazanie jednej osoby, która rozstrzyga, jakie narzędzia AI wolno wdrażać i do czego. W firmie 30 osób będzie to zwykle właściciel albo ktoś, komu właściciel wyraźnie to powierzy. Przepis tego nie wymaga. To praktyka, która wynika z prostego powodu: gdy o narzędziach decydują wszyscy po trochu, nikt nie odpowiada za skutki. Zalecenie OECD ujmuje to jako rozliczalność uczestników cyklu życia systemu AI i jest tylko zaleceniem.

Nadzór człowieka ma w AI Act ścisłe znaczenie. Artykuł 14 każe projektować systemy wysokiego ryzyka tak, żeby człowiek mógł je skutecznie nadzorować, a art. 26 ust. 2 każe podmiotom stosującym powierzyć ten nadzór osobom z odpowiednimi kompetencjami, przeszkoleniem i uprawnieniami (tekst rozporządzenia). Środki nadzoru mają być współmierne do ryzyka, poziomu autonomii i kontekstu użycia. Przepis nie żąda, żeby człowiek zatwierdzał każdą odpowiedź. Firmy z przykładu te artykuły nie obejmują, bo jej asystent nie jest systemem wysokiego ryzyka. Samą zasadę można jednak przyjąć dobrowolnie i z góry ustalić, w jakich sprawach rozmowę przejmuje pracownik: reklamacja, pytanie o dane osobowe, klient, który trzeci raz pyta o to samo. Dokładam do tego zasadę, że klient zawsze może poprosić o człowieka. To mój pomysł na dobrą obsługę, bo art. 50 mówi o informowaniu, a o przekazaniu rozmowy milczy.

Dział IT albo zewnętrzny informatyk odpowiada w tym układzie za stronę techniczną: konta, dostępy, sposób podłączenia asystenta do poczty i sklepu. Decyzja, do czego firma używa AI i czego nie wolno jej powierzyć, dotyczy klientów i procesu sprzedaży, dlatego w mojej ocenie powinna zostać u właściciela albo u osoby odpowiedzialnej za sprzedaż i obsługę klienta. O tym, dlaczego te dwie role tak często się rozmijają, pisałem w tekście o wdrożeniach AI i działach IT.

Polityka AI w firmie i rejestr używanych narzędzi

Osoba decydująca potrzebuje dwóch prostych dokumentów. Żadnego z nich AI Act od firmy z przykładu nie wymaga. Opisuję je jako praktykę.

Rejestr to lista narzędzi AI, których firma faktycznie używa. W firmie 30 osób zmieści się w jednym arkuszu, a każdy wiersz odpowiada na cztery pytania:

  • jakie to narzędzie i kto je dostarcza,
  • do czego służy,
  • kto w firmie za nie odpowiada,
  • jakie dane do niego trafiają.

Spisanie rejestru bywa pierwszym momentem, w którym wychodzi na jaw, że poza kupionym asystentem ludzie korzystają z kilku innych narzędzi na prywatnych kontach. To zjawisko ma branżową nazwę shadow AI i opisałem je w tekście o zagrożeniach AI w firmie. Rejestr jako sposób przygotowania się do rozmowy z urzędem opisuję w tekście o ustawie o systemach sztucznej inteligencji.

Polityka AI w firmie tej wielkości może mieć jedną stronę. Powinna powiedzieć, czego nie wpisujemy do asystenta (danych osobowych ponad to, co konieczne, i tajemnic firmy) oraz kiedy rozmowę przejmuje człowiek. Dłuższy dokument, którego nikt nie przeczyta, nie spełni swojej roli.

Trzeci element to przegląd raz na kwartał. Osoba odpowiedzialna czyta próbkę rozmów, sprawdza skargi i patrzy, co zmienił dostawca. Asystent kupiony jako usługa zmienia się bez udziału firmy, więc bez takiego przeglądu firma dowiaduje się o problemie od klienta.

Artykuł 4 nie wymaga wprost dokumentowania szkoleń. Notatka o tym, kto i kiedy przeszedł krótkie wprowadzenie, pomaga jednak pokazać, że firma podjęła środki, o których ten artykuł mówi. Ład wewnętrzny dostarcza wtedy dowodów dla zgodności.

Bezpieczeństwo AI w firmie i dyrektywa NIS 2

Asystent z przykładu jest podłączony do poczty i sklepu. Z punktu widzenia bezpieczeństwa to kolejny system, przez który mogą wypłynąć dane klientów, i kolejne konto, do którego ktoś może uzyskać dostęp. AI Act stawia wymagania dotyczące cyberbezpieczeństwa systemom wysokiego ryzyka (art. 15). Asystent z przykładu takim systemem nie jest, więc te wymagania go nie dotyczą. Zostaje praktyka, którą dopisałbym do rejestru narzędzi: kto ma dostęp do konta administratora asystenta, do jakich systemów firmy jest on podłączony i co dostawca robi z danymi z rozmów. Na dwa pierwsze pytania odpowie dział IT albo zewnętrzny informatyk, odpowiedź na trzecie jest w umowie z dostawcą.

Osobnym tematem jest dyrektywa (UE) 2022/2555, czyli NIS 2. Dotyczy cyberbezpieczeństwa i w jej artykułach sztuczna inteligencja się nie pojawia. Obejmuje co do zasady podmioty z rodzajów wymienionych w jej załącznikach, które są co najmniej średnimi przedsiębiorstwami (art. 2). Niektóre rodzaje podmiotów obejmuje bez względu na wielkość. Dyrektywa jest skierowana do państw członkowskich, więc obowiązki firm wynikają z przepisów krajowych, które ją wdrażają. W Polsce wdraża ją ustawa z 23 stycznia 2026 r. o zmianie ustawy o krajowym systemie cyberbezpieczeństwa (Dz.U. 2026 poz. 252), która weszła w życie 3 kwietnia 2026 r. Samej polskiej ustawy w tym tekście nie analizuję. Niżej opisuję, co dyrektywa każe zapewnić przepisom krajowym, a to, kogo dokładnie i w jakim zakresie obejmuje polska ustawa, trzeba sprawdzić w niej samej.

Dwa przepisy dyrektywy łączą się z tematem tego tekstu. Według art. 21 podmioty objęte dyrektywą, nazywane w niej kluczowymi i ważnymi, mają wprowadzić odpowiednie i proporcjonalne środki zarządzania ryzykiem dla sieci i systemów informatycznych, których używają w swojej działalności. Na liście minimum są między innymi bezpieczeństwo łańcucha dostaw, czyli sprawy bezpieczeństwa w relacjach z bezpośrednimi dostawcami i usługodawcami (na przykład z dostawcą chmury albo narzędzia AI), polityka kontroli dostępu oraz szkolenia z cyberbezpieczeństwa. Jeśli firma jest objęta przepisami wdrażającymi NIS 2 i używa narzędzia AI kupionego jako usługa, to w mojej ocenie takie narzędzie jest jednym z tych systemów, a jego bezpośredni dostawca jednym z tych usługodawców. Dyrektywa nie mówi tego wprost. Według art. 20 organ zarządzający takiego podmiotu zatwierdza te środki, nadzoruje ich wdrażanie i może zostać pociągnięty do odpowiedzialności za naruszenie art. 21, a jego członkowie mają się regularnie szkolić. W firmie objętej przepisami wdrażającymi NIS 2 część praktyk, które wyżej opisałem jako dobrowolny ład, może więc wchodzić w zakres środków, za które odpowiada zarząd.

Dla firmy 30 osób z przykładu przyjmuję, że nie jest objęta przepisami wdrażającymi NIS 2: zakładam, że jest małym przedsiębiorstwem i nie prowadzi działalności, którą dyrektywa obejmuje bez względu na wielkość. Może jednak spotkać NIS 2 pośrednio. Klient, którego te przepisy obejmują, ma uwzględniać bezpieczeństwo w relacjach ze swoimi bezpośrednimi dostawcami (art. 21), więc może poprosić o informacje o bezpieczeństwie, także o to, jakich narzędzi AI firma używa przy jego danych. Dyrektywa nie przesądza, o co klient zapyta. To moje przewidywanie. Rejestr narzędzi z poprzedniej sekcji pozwala wtedy odpowiedzieć od ręki.

Firma ponad 200 osób: co się zmienia

Weźmy teraz drugi przykład roboczy: firmę zatrudniającą ponad 200 osób, z działem kadr, działem IT i kilkoma działami, z których każdy chce używać AI po swojemu. Pojęcia zostają te same. Zmienia się skala, a razem z nią oba porządki.

Po stronie przepisów rośnie szansa, że któreś z narzędzi będzie systemem wysokiego ryzyka. Asystent do obsługi klienta nim nie był, ale załącznik III AI Act wymienia w punkcie 4 zatrudnienie i zarządzanie pracownikami: systemy do rekrutacji i oceny kandydatów oraz do decyzji o awansie, przydziale zadań i ocenie wydajności. Takie narzędzie może być systemem wysokiego ryzyka. Nie każde nim będzie, bo art. 6 ust. 3 wyłącza systemy, które nie stwarzają znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych, a przydział zadań jest na liście tylko wtedy, gdy opiera się na indywidualnym zachowaniu lub cechach osób. Jeśli jednak narzędzie zostanie tak zakwalifikowane, firma jako podmiot stosujący wchodzi w obowiązki z art. 26, stosowane od 2 grudnia 2027 r. Należą do nich między innymi powierzenie nadzoru nad systemem osobom, które mają niezbędne kompetencje, przeszkolenie, uprawnienia i wsparcie, przechowywanie rejestrów zdarzeń przez co najmniej sześć miesięcy oraz poinformowanie przedstawicieli pracowników i samych pracowników, których to dotyczy, zanim system zostanie użyty w miejscu pracy. W tym zakresie część ładu wewnętrznego staje się obowiązkiem. Reszta, czyli zespół i procedura opisane niżej, pozostaje praktyką.

Druga zmiana dotyczy NIS 2. Dla małej firmy z pierwszego przykładu przyjąłem, że przepisy wdrażające dyrektywę jej nie obejmują. Przy firmie tej wielkości trzeba to sprawdzić. Liczba 200 osób nie jest progiem z dyrektywy, to tylko cecha mojego przykładu. Sprawdzenie ma dwie części: czy firma jest co najmniej średnim przedsiębiorstwem w rozumieniu zalecenia, do którego odsyła art. 2 dyrektywy, i czy jej rodzaj działalności jest w załącznikach. Progów z tego zalecenia nie podaję, bo nie sprawdzałem ich u źródła. Jeśli odpowiedź na oba pytania brzmi „tak”, bezpieczeństwo systemów, także narzędzi AI, staje się sprawą zarządu w sensie opisanym w poprzedniej sekcji.

Po stronie ładu wewnętrznego jedna osoba decydująca przestaje wystarczać. Moja propozycja dla firmy tej wielkości wygląda tak. Zostaje jedna osoba odpowiedzialna za AI w całej firmie, ale decyzje o nowych narzędziach podejmuje z małym zespołem: kimś z IT, osobą od ochrony danych, kimś z kadr i przedstawicielem działu, który o narzędzie prosi. Do rejestru narzędzi dochodzi prosta procedura zgłoszenia: dział, który chce nowego narzędzia, opisuje, do czego ma służyć i jakie dane do niego trafią, a zespół odpowiada w ustalonym terminie. Bez takiej ścieżki działy kupują narzędzia same i firma dowiaduje się o nich po fakcie. Przegląd kwartalny obejmuje wtedy także pytanie, czy któreś narzędzie nie zmieniło zastosowania w stronę listy z załącznika III. To praktyka, której w tej postaci nie nakazuje żaden z omawianych przepisów.

ISO 42001: kiedy norma ma sens, a kiedy wystarczy prosty ład

ISO/IEC 42001 to międzynarodowa norma opublikowana w grudniu 2023 r. Według opisu ISO określa wymagania dotyczące ustanowienia, wdrożenia, utrzymania i ciągłego doskonalenia systemu zarządzania AI w organizacji. Opieram się tu na opisie ze strony ISO, bo tekst normy jest płatny i go nie czytałem.

Norma jest dobrowolna. AI Act nie wymienia jej z nazwy i mówi ogólnie o normach zharmonizowanych. Wdrożenie ISO 42001 nie jest więc tym samym co spełnienie wymagań rozporządzenia.

Norma ma sens w dużej organizacji, która rozwija albo stosuje wiele systemów AI i potrzebuje jednego, opisanego sposobu zarządzania nimi. Ma też sens, gdy klienci w przetargach pytają o nią wprost. Przy 30 osobach i jednym asystencie do obsługi klienta jest w mojej ocenie zwykle zbyt ciężka. To moja opinia i nie opieram jej na żadnym źródle. Takiej firmie wystarczą cztery elementy z poprzednich sekcji: osoba decydująca, rejestr, krótka polityka i kwartalny przegląd. Z normy i z ram NIST można wziąć sam sposób myślenia bez budowania całego systemu.

Lista kontrolna: pytania przed wdrożeniem AI w firmie

Lista zbiera to, co wyżej, w pytania, na które da się odpowiedzieć „tak”, „nie” albo „nie wiem”. Każde „nie wiem” wskazuje, od czego zacząć. Ułożyłem ją dla firmy podobnej do tej z przykładu. Przy narzędziu, które ocenia ludzi, decyduje o zatrudnieniu albo o kredycie, pytań po stronie przepisów będzie więcej.

Pytania o zgodność, czyli o wymagania z przepisów:

  1. Czy wiemy, w jakiej roli występujemy wobec tego narzędzia: dostawcy czy podmiotu stosującego?
  2. Czy porównaliśmy to, do czego narzędzie faktycznie służy, z listą zastosowań wysokiego ryzyka z załącznika III AI Act?
  3. Czy upewniliśmy się, że narzędzie nie robi niczego, co art. 5 AI Act zalicza do praktyk zakazanych?
  4. Czy osoby, które będą go używać, dostały krótkie wprowadzenie i instrukcję (art. 4 AI Act)?
  5. Czy sprawdziliśmy, że dostawca zapewnia informację dla klienta, że rozmawia z systemem AI, i że widać ją w naszym czacie najpóźniej na początku rozmowy (art. 50 AI Act)?
  6. Czy osoba odpowiedzialna za ochronę danych oceniła, czy potrzebna jest ocena skutków dla ochrony danych (art. 35 RODO)?
  7. Czy sprawdziliśmy, czy firma podlega przepisom wdrażającym NIS 2?

Pytania o ład wewnętrzny, czyli o praktykę, której przepisy od firmy z przykładu nie wymagają (w firmie objętej przepisami wdrażającymi NIS 2 część z nich, zwłaszcza kontrola dostępu z pytania 10, może być wymogiem):

  1. Czy jest jedna osoba, która decyduje, jakich narzędzi AI firma używa i do czego?
  2. Czy mamy spis tych narzędzi: co to jest, do czego służy, kto za nie odpowiada i jakie dane do nich trafiają?
  3. Czy wiemy, kto ma dostęp do konta administratora narzędzia, do jakich systemów jest ono podłączone i co dostawca robi z danymi, i czy umiemy to pokazać klientowi, który o to zapyta?
  4. Czy pracownicy wiedzą, czego nie wpisywać do narzędzia i w jakich sprawach rozmowę przejmuje człowiek?
  5. Czy w kalendarzu jest termin pierwszego przeglądu: próbka rozmów, skargi, zmiany u dostawcy?
  6. Czy umiemy pokazać, kto i kiedy przeszedł wprowadzenie?

Dodatkowe pytania dla firmy zatrudniającej ponad 200 osób:

  1. Czy któreś z narzędzi służy do rekrutacji i oceny kandydatów, do decyzji o warunkach pracy, awansie lub rozwiązaniu umowy, do przydziału zadań na podstawie indywidualnego zachowania lub cech albo do oceny wydajności i zachowania pracowników (załącznik III pkt 4 AI Act)?
  2. Czy dział, który chce nowego narzędzia AI, wie, komu i w jakiej formie to zgłosić, zanim je kupi?
  3. Czy zarząd ustalił, czy firma jest objęta przepisami wdrażającymi NIS 2, a jeśli tak, czy zatwierdził środki zarządzania ryzykiem w cyberbezpieczeństwie? (Obowiązek zależy od tego ustalenia, nie od liczby zatrudnionych.)

Na pierwszy tydzień wystarczą trzy z nich: pytanie o osobę decydującą, o spis narzędzi i o komunikat w czacie. Osoba decydująca i spis narzędzi porządkują resztę, a komunikat w czacie klient widzi od pierwszego dnia.

Jeśli chcesz przejść przez tę listę w swojej firmie razem ze mną, napisz do mnie.

Słowniczek: pojęcia, które spotkasz obok

  • AI literacy (kompetencje w zakresie AI). Według art. 3 AI Act to umiejętności, wiedza i zrozumienie, które pozwalają w przemyślany sposób wdrażać systemy AI i mieć świadomość ich możliwości oraz ryzyk. Więcej w sekcji o obowiązku kompetencji w tekście AI Act dla firm.
  • Nadzór człowieka (human oversight). Wymóg z art. 14 i art. 26 ust. 2 AI Act dotyczący systemów wysokiego ryzyka. Ma być skuteczny i współmierny do ryzyka.
  • Dostawca a podmiot stosujący. Dostawca rozwija system AI albo zleca jego rozwój i pod własną nazwą wprowadza go do obrotu lub oddaje do użytku. Podmiot stosujący wykorzystuje system, nad którym sprawuje kontrolę. Role opisuję w tekście AI Act dla firm.
  • DPIA. Ocena skutków dla ochrony danych z art. 35 RODO. Robi ją administrator danych przed rozpoczęciem przetwarzania, które z dużym prawdopodobieństwem może powodować wysokie ryzyko dla osób. Szczegóły w tekście RODO a AI w firmie.
  • FRIA. Ocena skutków dla praw podstawowych z art. 27 AI Act. Dotyczy wąskiej grupy: podmiotów prawa publicznego, prywatnych firm świadczących usługi publiczne i zastosowań z załącznika III pkt 5 lit. b i c. Po zmianie z lipca 2026 r. można w niej odwołać się do odpowiednich części DPIA.
  • GRC. Skrót od governance, risk, compliance. Stowarzyszenie OCEG podaje, że wprowadziło to pojęcie w 2002 r. W przepisach tego terminu nie ma.
  • NIS 2. Dyrektywa (UE) 2022/2555 o cyberbezpieczeństwie. Obejmuje co do zasady co najmniej średnie przedsiębiorstwa z rodzajów działalności wymienionych w jej załącznikach. W Polsce wdrożona nowelizacją ustawy o krajowym systemie cyberbezpieczeństwa.
  • Shadow AI. Używanie narzędzi AI przez pracowników poza wiedzą firmy i jej zasadami. Pojęcie branżowe bez definicji w przepisach. Więcej w tekście o zagrożeniach AI w firmie.
  • Odpowiedzialna AI (responsible AI). Termin opisowy. NIST łączy go z podejściem skupionym na człowieku, odpowiedzialnością społeczną i zrównoważonym rozwojem.
  • Explainable AI (wyjaśnialność). Przejrzystość i wyjaśnialność to jedna z pięciu zasad zalecenia OECD w sprawie sztucznej inteligencji.

Źródła

Ten tekst to moja analiza wdrożeniowa, nie informacja prawna. Nie rozstrzyga o konkretnym wdrożeniu. Stan przepisów na 4 października 2026 r.