Czy używanie AI w firmie jest bezpieczne? Jak chronić dane i uniknąć błędów
Sztuczna inteligencja pomaga przygotować tekst, streścić dokument, uporządkować dane czy znaleźć pomysł na rozwiązanie problemu. W firmie może oszczędzać czas, ale korzystanie z niej wiąże się też z ryzykiem. Do narzędzia AI mogą trafić dane klientów, informacje o pracownikach lub poufne dokumenty, a wygenerowana odpowiedź może brzmieć przekonująco mimo błędów. Czy używanie AI w firmie jest bezpieczne? Może być, jeśli firma wybiera sprawdzone narzędzia, określa zasady pracy z danymi i weryfikuje odpowiedzi przed ich wykorzystaniem. Samo wykupienie płatnej wersji albo wydanie zakazu korzystania z AI nie rozwiązuje wszystkich problemów.
Czy korzystanie z AI w firmie jest bezpieczne?
Nie ma jednej odpowiedzi dla każdego narzędzia i zastosowania. Bezpieczeństwo zależy między innymi od tego, jakie informacje pracownik przekazuje do systemu, jak dostawca je przetwarza, kto może uzyskać do nich dostęp i czy AI ma połączenie z firmowymi plikami lub aplikacjami.
W przypadku narzędzi online treść promptu, załącznik lub dane pobrane z podłączonej aplikacji są przetwarzane przez usługę. Zasady przechowywania, usuwania i wykorzystania tych informacji mogą się różnić zależnie od dostawcy, produktu, planu i ustawień konta. Przed użyciem warto więc sprawdzić konkretne warunki usługi, zamiast zakładać, że wszystkie narzędzia działają tak samo.
Bezpieczne korzystanie z AI w firmie nie musi oznaczać rezygnacji z tej technologii. Chodzi o to, aby pracownicy wiedzieli, do jakich zadań mogą używać zatwierdzonego narzędzia i jakich danych nie powinni do niego wprowadzać.
Jakich danych nie wklejać do narzędzia AI?
Do publicznego lub niezatwierdzonego narzędzia nie należy wklejać informacji, których ujawnienie mogłoby zaszkodzić klientowi, pracownikowi albo firmie. Szczególnej ostrożności wymagają:
- dane klientów, takie jak imię i nazwisko, adres e-mail, numer telefonu czy dane identyfikacyjne;
- dane pracowników, w tym wynagrodzenia, CV, informacje o zdrowiu i oceny pracy;
- umowy, faktury, oferty, dane finansowe, cenniki i niepubliczne plany firmy;
- hasła, klucze API, tokeny, dane logowania i inne poświadczenia dostępu.
Dane osobowe i tajemnice firmy to dwie różne kategorie. Informacja może być poufna dla przedsiębiorstwa, nawet jeśli nie jest daną osobową w rozumieniu RODO. Dlatego firma powinna chronić zarówno prywatność osób, jak i swoje informacje handlowe.
Jeśli do wykonania zadania wystarczy przykład, lepiej zastąpić prawdziwe dane fikcyjnymi. Zamiast przesyłać całą umowę, można poprosić AI o przygotowanie listy ogólnych kwestii do sprawdzenia. Im mniej danych otrzymuje narzędzie, tym mniejsze ryzyko ich niepotrzebnego ujawnienia.
Najczęstsze zagrożenia związane z AI w firmie
Nieautoryzowane narzędzia i Shadow AI
Shadow AI to korzystanie przez pracowników z narzędzi AI, których firma nie zatwierdziła ani nie sprawdziła. Może do tego dojść, gdy pracownik chce szybko streścić dokument lub napisać wiadomość, ale nie wie, z jakiej usługi wolno mu skorzystać.
Firma może wtedy nie wiedzieć, jakie dane są przesyłane, na jakich warunkach są przetwarzane i kto ma do nich dostęp. Zamiast ograniczać się do ogólnego zakazu, warto wskazać pracownikom zatwierdzone narzędzia, dozwolone zastosowania i przykłady informacji, których nie wolno wprowadzać.
Błędne odpowiedzi przedstawione jako fakty
AI może wygenerować nieprawdziwe informacje, pomylić liczby, wymyślić źródło albo przedstawić błędny wniosek w pewnym tonie. NIST opisuje takie zjawisko jako konfabulację: system generuje błędną lub fałszywą treść, która może wyglądać wiarygodnie. Ryzyko rośnie, gdy użytkownik traktuje wynik jako gotową poradę lub podstawę decyzji. NIST, Generative Artificial Intelligence Profile
Dlatego odpowiedzi AI warto traktować jako materiał do dalszej pracy, a nie jako potwierdzone źródło wiedzy. Przed wykorzystaniem sprawdź liczby, daty, przepisy, cytaty i wskazane źródła. Jeśli odpowiedź dotyczy podatków, finansów, prawa, umowy lub ważnej decyzji dotyczącej klienta, powinna zostać zweryfikowana przez osobę z odpowiednią wiedzą.
Ukryte instrukcje i nadmierny dostęp do firmowych systemów
Ryzyko dotyczy nie tylko tego, co pracownik wpisuje do czatu. Jeśli AI czyta strony internetowe, dokumenty lub e-maile, może napotkać w nich instrukcje, które próbują zmienić jej działanie. OWASP opisuje takie ataki jako prompt injection. W systemach połączonych z firmowymi danymi mogą one prowadzić między innymi do ujawnienia informacji albo niezamierzonego użycia dostępnych funkcji. OWASP, Prompt Injection
Dlatego AI powinna mieć dostęp wyłącznie do danych i funkcji potrzebnych do konkretnego zadania. Warto ograniczać uprawnienia, zaczynać od dostępu tylko do odczytu i wymagać zatwierdzenia przez człowieka przed wysłaniem wiadomości, zmianą danych lub innym istotnym działaniem.
Stronnicze wyniki i decyzje dotyczące ludzi
AI może powielać błędy lub uprzedzenia obecne w danych, na których się opiera. Szczególnej uwagi wymagają zastosowania dotyczące rekrutacji, oceny pracowników, dostępu do usług lub innych decyzji wpływających na sytuację człowieka. AI Act stosuje podejście oparte na poziomie ryzyka: niektóre praktyki są zakazane, a wybrane zastosowania wymagają dodatkowych obowiązków. Przykładem zakazanej praktyki jest rozpoznawanie emocji w miejscu pracy, z określonymi wyjątkami. Komisja Europejska, AI Act
Jak chronić dane firmy podczas korzystania z AI?
1. Wybierz zatwierdzone narzędzie i sprawdź warunki usługi
Przed wdrożeniem sprawdź, czy dostawca wykorzystuje prompty i pliki do trenowania lub ulepszania usług, jak długo przechowuje dane i jak można je usunąć. Ustal również, gdzie dane są przetwarzane, kto może mieć do nich dostęp i jakie zabezpieczenia oferuje usługa.
Jeśli narzędzie przetwarza dane osobowe w imieniu firmy, trzeba ustalić role stron i sprawdzić, czy potrzebna jest umowa powierzenia przetwarzania. RODO wymaga także stosowania odpowiednich środków technicznych i organizacyjnych. Płatny plan sam w sobie nie potwierdza, że wszystkie warunki są odpowiednie dla danego zastosowania.
2. Ustal, jakie informacje można przekazywać AI
Przygotuj krótką, zrozumiałą dla pracowników listę: jakie dane można wprowadzać, jakie wymagają zgody lub zatwierdzenia, a jakich nie wolno wpisywać do AI. Zasady powinny obejmować również załączniki, wtyczki, integracje i narzędzia używane na prywatnych kontach.
Warto określić oddzielnie zasady dla danych osobowych, informacji poufnych oraz sekretów dostępu. Hasła i klucze API powinny pozostać poza promptami niezależnie od tego, czy narzędzie zostało zatwierdzone.
3. Ograniczaj ilość danych
Nie przesyłaj całych dokumentów, jeśli do zadania wystarczy ich fragment lub ogólny opis. Usuwaj nazwiska, numery, dane kontaktowe i inne szczegóły, które nie są potrzebne do odpowiedzi. Przy pracy na prawdziwych danych sprawdź, czy istnieje uzasadniony cel i czy używane narzędzie oraz jego zabezpieczenia są do tego odpowiednie.
4. Sprawdzaj odpowiedzi przed użyciem
Pracownik powinien sprawdzić wynik AI przed wysłaniem go klientowi, publikacją, wykorzystaniem w rozliczeniu lub podjęciem decyzji. Szczególnie dokładnie należy weryfikować:
- wyliczenia, kwoty, procenty i podsumowania finansowe;
- informacje prawne, podatkowe i dotyczące terminów;
- cytaty, źródła i dane, których nie można łatwo poprawić po publikacji;
- rekomendacje wpływające na klienta, pracownika lub inną osobę.
W przypadku źródeł podanych przez AI otwórz wskazany dokument lub stronę i sprawdź, czy rzeczywiście potwierdzają odpowiedź. Sam link ani przypis wygenerowany przez system nie są dowodem poprawności.
5. Ogranicz uprawnienia i ustal procedurę zgłaszania incydentów
Jeśli AI jest podłączona do poczty, dysku, CRM-u lub innego systemu, nie przyznawaj jej szerszego dostępu, niż wymaga zadanie. Włącz uwierzytelnianie wieloskładnikowe, używaj osobnych kont firmowych i zatwierdzaj działania, które mogą wysłać dane na zewnątrz albo zmienić firmowe zasoby.
Pracownicy powinni wiedzieć, komu zgłosić pomyłkę — na przykład przypadkowe wklejenie danych klienta do niezatwierdzonej usługi. Firma może wtedy sprawdzić, jakie informacje trafiły do narzędzia, jakie działania umożliwia dostawca i czy trzeba uruchomić procedurę dotyczącą naruszenia ochrony danych.
AI w firmie a RODO i AI Act
RODO obowiązuje także wtedy, gdy firma używa narzędzia AI. Jeśli do promptu trafiają dane osobowe, przedsiębiorca powinien ocenić cel i podstawę ich przetwarzania, ograniczyć zakres informacji oraz zadbać o odpowiednie zabezpieczenia. Gdy dostawca działa jako podmiot przetwarzający dane w imieniu firmy, należy sprawdzić wymagania dotyczące takiej współpracy, w tym art. 28 RODO. Pełny tekst RODO w EUR-Lex
Przed wyborem narzędzia przydatne są również pytania inicjalne UODO dotyczące AI i ochrony danych. Urząd przygotował osobną wersję dla małych i średnich firm korzystających z gotowych systemów. Zaznacza przy tym, że listy są punktem wyjścia i nie zastępują analizy ryzyka ani oceny skutków dla ochrony danych.
AI Act zależy od roli firmy i sposobu użycia systemu. Jednym z obowiązków jest podejmowanie działań wspierających kompetencje AI pracowników i innych osób używających systemów w imieniu organizacji. Obowiązek wynikający z art. 4 stosuje się od 2 lutego 2025 r., a nadzór i egzekwowanie tych zasad rozpoczęły się 2 sierpnia 2026 r. Komisja wskazuje, że nie ma jednego wymaganego poziomu kompetencji — działania należy dopasować do wiedzy personelu i kontekstu użycia. Komisja Europejska, AI literacy
Co zrobić, jeśli pracownik wkleił poufne dane do AI?
Najpierw ustal, jakie informacje zostały przekazane, kiedy i do jakiego narzędzia. Zgłoś sytuację osobie odpowiedzialnej za bezpieczeństwo, ochronę danych lub zarządzanie firmą. Jeśli usługa pozwala usunąć rozmowę albo plik, skorzystaj z tej opcji, ale sprawdź też warunki przechowywania danych u dostawcy.
Nie zakładaj z góry, że każda pomyłka jest naruszeniem RODO ani że nie stanowi problemu. Trzeba ocenić rodzaj danych, odbiorców i możliwe skutki, a następnie zastosować firmową procedurę. Przy danych osobowych ocenę powinien przeprowadzić administrator lub inspektor ochrony danych, jeśli firma go wyznaczyła.
FAQ – bezpieczne korzystanie z AI w firmie
Czy można wpisywać dane klientów do AI?
Może to być dopuszczalne tylko po sprawdzeniu celu, podstawy przetwarzania, ustawień narzędzia, warunków dostawcy i zabezpieczeń. Nie należy wklejać danych klientów do niezatwierdzonego, publicznego czatu bez wcześniejszej oceny.
Czy płatna wersja AI gwarantuje bezpieczeństwo danych?
Nie. Zasady różnią się między dostawcami, produktami i planami. Przed użyciem należy sprawdzić warunki przetwarzania, retencję, wykorzystanie danych do ulepszania usług, kontrolę dostępu i możliwość ich usunięcia.
Co oznacza Shadow AI?
To korzystanie z narzędzi AI w pracy bez wiedzy lub zgody firmy. Może utrudniać kontrolę nad tym, jakie informacje są przekazywane i jak przetwarza je dostawca.
Czy odpowiedzi AI trzeba sprawdzać?
Tak, szczególnie gdy mają trafić do klienta, publikacji, dokumentu finansowego albo wpłynąć na decyzję dotyczącą człowieka. AI może podawać błędne informacje i nieprawdziwe źródła.
Czy firma musi szkolić pracowników z AI?
AI Act wymaga podejmowania działań wspierających kompetencje AI osób pracujących z systemami w imieniu dostawcy lub podmiotu wdrażającego. Zakres działań powinien odpowiadać używanym narzędziom, zadaniom i wiedzy pracowników.
Absolwentka Public Relations, copywriterka z pasją do tworzenia treści, które są nie tylko ciekawe, ale i użyteczne dla czytelnika. Na co dzień zajmuje się content marketingiem i SEO, dbając o to, by słowa miały realny wpływ. W wolnym czasie planuje kolejne podróże i odkrywa nowe miejsca.