Sztuczna inteligencja: zagrożenia i etyka AI w firmie — co realnie grozi i jak się chronić

Czy sztuczna inteligencja to szansa, czy zagrożenie?

Jedno i drugie, często w tej samej firmie i w tym samym tygodniu. Ten sam czat, który w godzinę przygotowuje szkic raportu, może przy okazji przyjąć wklejoną umowę z klientem albo wstawić do raportu nieistniejące badanie. Pytanie, czy sztuczna inteligencja jest niebezpieczna, ma więc praktyczną odpowiedź. Niebezpieczne jest używanie jej bez zasad.

Debata o zagrożeniach sztucznej inteligencji dla ludzkości, czyli o utracie kontroli nad bardzo zaawansowanymi systemami, toczy się wśród naukowców i regulatorów i jest poważna. Zarząd średniej firmy ma jednak na głowie ryzyka, które mogą się zmaterializować w przyszły poniedziałek, i na nich skupia się ten tekst. Szerszą mapę tematu, od wyboru narzędzi po plan wdrożenia, rysuje nasz przewodnik po sztucznej inteligencji dla biznesu.

Etyka AI to z kolei zasady uczciwego używania AI wobec ludzi, których ono dotyka: klientów, pracowników, odbiorców treści. Przejrzyście, bez dyskryminacji, z odpowiedzialnym człowiekiem na końcu procesu. W firmie etyka nie jest filozofią. To lista decyzji o tym, co wolno, czego nie wolno i kto za co odpowiada.

Siedem zagrożeń AI, które naprawdę dotyczą firm

Oto ryzyka, na które trafiamy najczęściej. Skąd bierze się niebezpieczeństwo? AI działa szybko i brzmi pewnie, ale za skutki swoich odpowiedzi nie odpowiada, więc cała odpowiedzialność zostaje po stronie firmy, która z niej korzysta.

Wyciek danych i AI „na własną rękę”

Z badania Microsoftu i LinkedIn z maja 2024 roku wynika, że 78% osób korzystających z AI w pracy przynosi własne narzędzia, zamiast używać tych zapewnionych przez firmę. Zjawisko ma nawet swoją nazwę: BYOAI (bring your own AI, czyli „przynieś własną AI”). Firma nie wie wtedy, jakie dane wychodzą na zewnątrz. Nie wie też, na jakich warunkach dostawca je przechowuje.

Tu leżą najczęstsze zagrożenia związane z ChatGPT i podobnymi narzędziami w wersjach bezpłatnych, bo dane wklejone do prywatnego konta mogą, zależnie od ustawień i regulaminu, służyć do dalszego trenowania modeli, a firma nie ma nad nimi żadnej kontroli. Wersje biznesowe zwykle dają lepsze gwarancje. Pod jednym warunkiem: pracownicy muszą z nich faktycznie korzystać.

Bezpieczne narzędzie działa wtedy, gdy korzystanie z niego jest wygodniejsze niż z prywatnego konta. W systemie Commwork®AI zespół pracuje z modelami przez jedną firmową bramę: klucze dostępu zostają po stronie serwera i nigdy nie trafiają do przeglądarki, każdy ma swoje uprawnienia, a każde zapytanie zapisuje się w dzienniku.

Deepfake, ataki na systemy AI i cyberbezpieczeństwo

W 2024 roku firma inżynieryjna Arup potwierdziła, że jej pracownik w Hongkongu przelał oszustom około 25 mln dolarów po wideorozmowie, w której dyrektor finansowy i inni „koledzy” byli wygenerowani przez AI. To najbardziej znany przykład tego, że AI w cyberbezpieczeństwie gra po obu stronach. Pomaga bronić sieci. Obniża też koszt podszywania się pod ludzi. Jak rozpoznać fałszywe nagranie i co robić, gdy dotyczy Twojej firmy, opisaliśmy w artykule o deepfake’ach.

Drugi obszar to bezpieczeństwo systemów AI, które firma uruchamia sama: czatu na stronie, asystenta na dokumentach, agentów wykonujących zadania. Typowy atak to wstrzyknięcie poleceń (prompt injection), czyli ukrycie w treści strony, maila lub dokumentu instrukcji, które przejmują kontrolę nad zachowaniem modelu i każą mu na przykład ujawnić dane albo wysłać wiadomość. Bezpieczeństwo modeli AI to więc nie tylko sprawa dostawcy. Liczy się też to, do jakich danych i działań firma daje im dostęp.

Sztuczna inteligencja a cyberbezpieczeństwo to w średniej firmie przede wszystkim pytanie o uprawnienia: asystent, który czyta cudze treści, nie powinien sam wysyłać maili ani publikować. Jak ukryte polecenia wyglądają w praktyce marketingu, pokazujemy w poradniku o promptach dla marketingu.

Sztuczna inteligencja a prawo autorskie

Polska ustawa o prawie autorskim chroni utwór jako „przejaw działalności twórczej o indywidualnym charakterze” (art. 1 ust. 1). W dominującym poglądzie polskich prawników twórcą może być tylko człowiek, więc materiał wygenerowany w całości przez AI, bez istotnego twórczego wkładu człowieka, może nie być utworem i nie mieć ochrony. Co to znaczy w praktyce? Konkurencja może skopiować grafikę kampanii wygenerowaną jednym poleceniem, a Ty możesz nie mieć jak się bronić.

W USA rozstrzygnięto podobnie. Sąd apelacyjny w sprawie Thaler przeciwko Perlmutter w marcu 2025 roku potwierdził, że do ochrony potrzebny jest ludzki autor, a 2 marca 2026 roku Sąd Najwyższy USA odmówił rozpatrzenia sprawy. Drugi wątek, czyli pytanie, czy modele mogły być trenowane na cudzych utworach, wciąż jest przedmiotem sporów sądowych na świecie.

Wniosek dla firmy jest praktyczny. Przy materiałach, które mają budować markę latami (logo, key visual, hasło), twórczy wkład człowieka musi być wyraźny i udokumentowany, na przykład w postaci szkiców, kolejnych wersji i decyzji projektanta. W umowach z agencjami i freelancerami zapisz, czy i jak używają AI oraz kto odpowiada za prawa. Gdzie kończy się rola generatora, a zaczyna branding, pokazujemy w tekście o grafice i logo z AI.

Temat AI a prawo autorskie wraca też przy tekstach. Artykuł eksperta napisany z pomocą czatu, ale przepisany i uzupełniony przez człowieka, ma większą szansę na ochronę niż tekst wklejony bez zmian.

Etyka AI w pracy, czyli zasady na miarę średniej firmy

Etyka AI w pracy sprowadza się do kilku pytań, które zadajesz przy każdym nowym zastosowaniu. Czy odbiorca wie, że rozmawia z AI? Czy algorytm może kogoś niesprawiedliwie pominąć (kandydata, klienta, dostawcę)? Kto odpowiada, gdy system się pomyli? Czy potrafimy wyjaśnić decyzję człowiekowi, którego ona dotyczy? Te pytania nie są nowe, bo komunikacja od dawna ma swój kodeks, o czym piszemy w tekście czy współcześnie istnieje etyka w public relations. AI tylko dokłada do niego kilka punktów.

• Przejrzystość. Mówimy klientom i kandydatom, gdzie działa AI, i oznaczamy deepfake’i oraz treści, które tego wymagają. Co dokładnie trzeba oznaczać od sierpnia 2026 roku, wyjaśniamy w materiale o oznaczaniu treści AI.
• Sprawiedliwość. Narzędzia do oceny ludzi testujemy pod kątem uprzedzeń, zanim podejmą pierwszą decyzję.
• Odpowiedzialność. Każdy proces z AI ma właściciela z imienia i nazwiska, a decyzje o ludziach i pieniądzach podejmuje człowiek.
• Prywatność. Do narzędzi AI trafiają tylko dane, na które mamy podstawę prawną i zgodę polityki firmy.
• Prawda. Faktów z AI nie publikujemy bez sprawdzenia źródła.

Kto w firmie odpowiada za etykę AI

W dużych organizacjach pojawia się rola etyka AI (AI ethicist) albo komitet ds. AI, w którym zasiadają prawnik, ludzie z IT i HR oraz ktoś z komunikacji. W średniej firmie wystarczy jedna osoba odpowiedzialna za politykę AI i krótka ścieżka zgłaszania wątpliwości, na przykład adres mailowy, na który ktoś naprawdę odpowiada. Kto chce się w tym specjalizować, może wybrać studia podyplomowe z etyki i prawa AI; przegląd kierunków zebraliśmy w artykule o studiach podyplomowych z AI.

Osobny etyk AI na etacie to w średniej firmie rzadkość i zwykle nie ma takiej potrzeby. Ważniejsze, żeby osoba odpowiedzialna miała czas i prawo zatrzymać wdrożenie, a nie tylko podpisywać dokumenty. Po stronie państwa tę rolę przejmie organ nazywany w skrócie Komisją Rozwoju i Bezpieczeństwa AI, o którym piszemy niżej.

Po stronie państwa od listopada 2026 roku ma działać Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). To polski organ nadzoru nad rynkiem AI, który będzie przyjmować zgłoszenia nieprawidłowości i wydawać firmom indywidualne opinie. Obowiązki z AI Act, łącznie z listą zakazanych praktyk, omawiamy w tekście AI Act w Polsce. Szczególnie wrażliwym obszarem jest rekrutacja, której poświęciliśmy osobny materiał: AI w HR i rekrutacji.

Jak ograniczyć zagrożenia AI w firmie krok po kroku

Plan poniżej wdrożysz w kilka tygodni bez dużego budżetu. Kolejność nie jest przypadkowa. Najpierw wiedza o tym, co się naprawdę dzieje, potem zasady, a na końcu narzędzia i procedury, bo polityka pisana w ciemno zwykle reguluje nie to, co trzeba, i zostaje w szufladzie.

1. KROK 01Spis użyć AI

   Krótka ankieta albo rozmowy w działach: kto, do czego, w jakich narzędziach, jakie dane tam trafiają. Bez oceniania, bo chodzi o uczciwy obraz sytuacji.

2. KROK 02Bezpieczne narzędzie dla zespołu

   Licencja biznesowa zamiast prywatnych kont. Koniecznie z jasnymi warunkami przetwarzania danych.

3. KROK 03Polityka AI na jednej lub dwóch stronach

   Dane zakazane, akceptacja przez człowieka, oznaczanie, odpowiedzialność. Do każdego punktu dopisz przykład. Najlepiej z pracy konkretnego działu, bo ogólnik nikogo niczego nie nauczy.

4. KROK 04Procedury bezpieczeństwa

   Potwierdzanie dyspozycji finansowych innym kanałem, ograniczony dostęp asystentów AI do danych i działań, testy czatu przed startem.

5. KROK 05Szkolenie i ćwiczenie

   Krótkie szkolenie z ryzyk i jedno ćwiczenie, na przykład symulowana próba oszustwa z deepfakiem. Lista uczestników posłuży jako dowód działań z art. 4 AI Act.

6. KROK 06Przegląd co kwartał

   Nowe narzędzia, incydenty, pytania zespołu. Polityka, której nikt nie aktualizuje, po roku opisuje firmę, której już nie ma.

Ile kosztuje bezpieczne korzystanie z AI

Budżet zależy głównie od jednego: czy firma tylko korzysta z gotowych narzędzi, czy buduje własne rozwiązania, takie jak czat dla klientów, agenci albo asystent na dokumentach. W tym drugim przypadku dochodzą testy bezpieczeństwa i stały nadzór, a to już osobna pozycja w planie na cały rok.

Dlaczego sztuczna inteligencja jest niebezpieczna głównie dla firm, które oszczędzają na pierwszym wierszu tej tabeli? Bo prywatne konta są darmowe tylko do pierwszego wycieku. Jeśli chcesz zacząć od uczciwego obrazu tego, jak zespół używa AI, agencja AI Commplace przeprowadzi spis użyć i ocenę ryzyk bez oceniania ludzi.

Bezpieczne AI w 90 dni na przykładzie, z listą kontrolną

Scenariusz poglądowy, nie relacja z wdrożenia. Firma produkcyjna zatrudniająca 200 osób odkrywa w ankiecie, że czatów AI używa ponad połowa biura, w większości na prywatnych kontach. W pierwszym miesiącu zespół robi spis użyć, wybiera jedno narzędzie z licencją biznesową i spisuje pięć rodzajów danych, których nie wolno wklejać nigdzie. W drugim miesiącu powstaje dwustronicowa polityka AI z przykładami z działów, a księgowość dostaje procedurę oddzwaniania przy nietypowych przelewach. W trzecim wszyscy przechodzą krótkie szkolenie, a zarząd ćwiczy scenariusz z fałszywym nagraniem. Po 90 dniach firma zna swoje ryzyka z nazwy i ma dowody działań, które pokaże klientowi w przetargu.

Przed pierwszym przeglądem odhacz sześć punktów. Każdy „nie” to zadanie z właścicielem i terminem.

Kupujesz narzędzie AI albo usługę wdrożenia? Zadaj dostawcy pytania na piśmie: gdzie są przetwarzane dane i czy trafiają do trenowania modelu, kto w firmie widzi historię rozmów, jakie uprawnienia dostają asystenci, jak narzędzie loguje zapytania i co dzieje się z danymi po rozwiązaniu umowy. Porównanie planów firmowych pod tym kątem znajdziesz w tekście ChatGPT, Gemini czy Copilot dla firmy. Granica jest wyraźna: jeśli firma nie potrafi odpowiedzieć na trzy z sześciu punktów listy, zacznij od spisu i szkolenia, zanim kupisz cokolwiek nowego. Program takiego przeszkolenia opisuje poradnik o szkoleniach AI dla firm, a o tym, jak zasady przekazać ludziom, żeby nie zostały na papierze, piszemy przy temacie komunikacji wewnętrznej. Zasadę, że decyzje o ludziach i pieniądzach zostają przy człowieku, rozpisaliśmy na stronie człowiek w pętli.

• spis narzędzi AI i osób, które z nich korzystają,
• licencja biznesowa dla zespołu zamiast prywatnych kont,
• lista danych, których nie wolno wklejać do żadnego narzędzia,
• procedura potwierdzania dyspozycji finansowych drugim kanałem,
• polityka AI z przykładami i osobą odpowiedzialną,
• lista uczestników szkolenia jako dowód działań z art. 4 AI Act.

Sygnały, że czas zająć się zagrożeniami AI

Nie czekaj na incydent, jeśli widzisz choć jeden z tych sygnałów: pracownicy mówią o „swoim” czacie AI, dział HR testuje narzędzie do selekcji CV, planujesz czat dla klientów, klienci pytają w przetargach o politykę AI albo w branży pojawiły się próby oszustw z podszywaniem się pod zarząd. Mniej pilnie jest tam, gdzie AI służy wyłącznie do wewnętrznych szkiców. Pod warunkiem że wszystko, co wychodzi na zewnątrz, sprawdza i podpisuje człowiek.

Incydent z AI to często kryzys wizerunkowy, bo zmyślona informacja w publikacji albo fałszywe nagranie z prezesem rozchodzą się szybciej niż sprostowanie. Co robić, zanim minie pierwsza godzina, opisuje tekst AI a komunikacja kryzysowa. Skąd modele biorą zmyślenia i jak je wyłapywać, wyjaśnia tekst o halucynacjach AI. Jak przygotować firmę, zanim cokolwiek się wydarzy, opisujemy w poradniku o tym, jak zabezpieczyć się przed kryzysem. Klasyczne zasady przypomina proces zarządzania kryzysowego w pigułce, a przygotowanie firmy na takie sytuacje prowadzimy w ramach usługi zarządzanie kryzysowe.

Gdzie firmy same otwierają drzwi ryzykom AI

Czytaj dalej