Bezpieczeństwo danych przy wdrażaniu AI w firmie

Zespół chce korzystać z AI, a zarząd pyta, gdzie trafiają dane firmy. Słusznie pyta. Bezpieczeństwo danych przy wdrażaniu AI nie wymaga rezygnacji z wygody, tylko kilku świadomych decyzji na starcie: wyboru narzędzi i uprawnień oraz spisania prostych zasad dla pracowników.

Skąd biorą się ryzyka przy korzystaniu z AI

Większość incydentów nie wynika z wyrafinowanych ataków, tylko z codziennych nawyków. Handlowiec wkleja do darmowego czatu listę klientów z obrotami, żeby szybciej przygotować ofertę. Księgowa wrzuca skan umowy, żeby dostać streszczenie. Nikt nie ma złych intencji, a dane i tak opuszczają firmę bez kontroli.

Drugim źródłem ryzyka są integracje. Asystent AI połączony z ERP, skrzynką pocztową czy dyskiem firmowym ma dostęp do dużej ilości informacji naraz. Przy źle ustawionych uprawnieniach jedno pytanie może ujawnić dane, których pytający nie powinien widzieć.

Gdzie przetwarzane są dane?

Darmowe wersje popularnych czatów mogą wykorzystywać rozmowy do trenowania modeli. Wersje biznesowe i dostęp przez API zwykle domyślnie tego nie robią, a dane mogą być przetwarzane w regionie europejskim. Zawsze sprawdzaj jednak aktualne warunki dostawcy i ustawienia konta. Przy szczególnie wrażliwych danych rozważ model uruchomiony na własnym serwerze.

Przed wyborem narzędzia sprawdź w warunkach umowy i dokumentacji dostawcy:

• czy dane wejściowe i odpowiedzi są wykorzystywane do trenowania modeli i czy można to wyłączyć,
• w jakim regionie dane są przetwarzane i przechowywane,
• jak długo dostawca przechowuje zapytania i logi,
• czy dostawca zawiera umowę powierzenia przetwarzania danych osobowych,
• jakie certyfikaty i zabezpieczenia deklaruje (szyfrowanie, kontrola dostępu, audyty).

Masz do wyboru usługę chmurową w wersji biznesowej, dostęp przez API z własną aplikacją albo model uruchomiony lokalnie. Usługa chmurowa uruchamia się najszybciej i wystarcza w większości zastosowań, a przy tym daje dostęp do najmocniejszych modeli. Własna aplikacja na API pozwala kontrolować, jakie dane trafiają do modelu. Model lokalny zatrzymuje dane w Twojej infrastrukturze, ale kosztuje więcej w sprzęcie i utrzymaniu i bywa mniej wydajny. Podobne dylematy opisujemy przy wyborze między enova365 w chmurze a własnym serwerem.

Asystent widzi tyle, ile użytkownik

Asystent AI połączony z ERP powinien mieć takie same uprawnienia jak użytkownik, który z niego korzysta. Handlowiec nie może przez AI zobaczyć list płac, do których nie ma dostępu w systemie.

Najczęstszy błąd techniczny to podłączenie asystenta do bazy jednym kontem serwisowym z pełnymi uprawnieniami. AI „widzi” wtedy wszystko, a filtrowanie odpowiedzi opiera się wyłącznie na instrukcjach dla modelu. Te da się obejść odpowiednio sformułowanym pytaniem. Bezpieczniej, gdy każde zapytanie wykonuje się w kontekście zalogowanego użytkownika i jego ról w ERP.

Przy integracji AI z systemami firmowymi stosuj kilka zasad:

• asystent dostaje dostęp tylko do modułów potrzebnych w danym scenariuszu,
• na początek tylko odczytuje dane, a zapis i zmiany pojawiają się dopiero po sprawdzeniu działania i z akceptacją człowieka,
• log zapytań pokazuje, kto o co pytał i jakie dane zostały zwrócone,
• PESEL, numery kont czy wynagrodzenia są maskowane lub pomijane, jeśli scenariusz ich nie wymaga.

Szczegółowo omawiamy ten temat w artykule jak działa asystent AI z dostępem do danych ERP.

RODO i AI Act

Jeśli narzędzie AI przetwarza dane osobowe klientów lub pracowników, obowiązują Cię te same zasady RODO co przy każdym innym systemie: podstawa prawna, minimalizacja danych, umowa powierzenia z dostawcą i odpowiednie zabezpieczenia. Przy nowych technologiach przetwarzających dużo danych osobowych oceń też, czy potrzebna jest ocena skutków dla ochrony danych.

Unijny akt w sprawie sztucznej inteligencji (AI Act) wchodzi w życie etapami. Zakazy niektórych praktyk stosuje się od lutego 2025 r., a terminy dla systemów wysokiego ryzyka zostały w 2026 r. przesunięte w ramach pakietu upraszczającego. Aktualny harmonogram publikuje Komisja Europejska na stronie Navigating the AI Act. Większość zastosowań AI w MŚP, takich jak asystent do raportów czy odczyt faktur, nie należy do kategorii wysokiego ryzyka, choć szczegóły zależą od konkretnego zastosowania. Więcej piszemy w tekście co AI Act oznacza przy wyborze ERP.

Jedna strona zasad dla zespołu

Spisz krótką politykę: z jakich narzędzi AI można korzystać, jakich danych nie wolno do nich wklejać i kto zatwierdza nowe integracje. Jedna strona zasad chroni lepiej niż zakaz, który i tak będzie omijany.

Polityka powinna odpowiadać na pytania:

• Które narzędzia są zatwierdzone i na jakich kontach (firmowych, nie prywatnych)?
• Jakich danych nie wolno wprowadzać: dane osobowe, dane płacowe, tajemnice handlowe, hasła i klucze dostępowe?
• Kto odpowiada za weryfikację odpowiedzi AI przed wysłaniem ich klientowi?
• Do kogo zgłosić nowe narzędzie lub pomysł na integrację?
• Co zrobić, gdy ktoś przez pomyłkę wkleił dane, których nie powinien?

Zasady działają tylko wtedy, gdy pracownicy mają wygodną alternatywę. Firma, która zakaże darmowych czatów, ale nie da narzędzia biznesowego, szybko zobaczy zespół z powrotem na prywatnych kontach. Pomaga też krótkie szkolenie. Kwadrans z przykładami z codziennej pracy daje więcej niż długi regulamin.

Sześć kroków do bezpiecznego wdrożenia AI

1. Zrób inwentaryzację: z jakich narzędzi AI zespół już korzysta, także nieoficjalnie.
2. Wybierz zatwierdzone narzędzia w wersji biznesowej i sprawdź warunki przetwarzania danych.
3. Zawrzyj umowę powierzenia z dostawcą, jeśli w grę wchodzą dane osobowe.
4. Przy integracji z ERP ustaw uprawnienia na poziomie użytkownika i włącz logowanie zapytań.
5. Spisz jednostronicową politykę i przeszkol zespół.
6. Co kilka miesięcy przeglądaj listę narzędzi, uprawnień i incydentów.

Projektujemy integracje AI z enova365, Streamsoft Prestiż i systemami dedykowanymi tak, by asystent respektował uprawnienia użytkowników. Zobacz, jak podchodzimy do automatyzacji i rozwiązań z AI. Bezpieczny scenariusz dla Twojej firmy ustalimy, gdy opowiesz nam o swoim procesie.

Pytania zarządu o AI i dane

Czy korzystanie z AI w firmie jest zgodne z RODO?

Może być, jeśli spełnisz te same warunki co przy innych systemach: masz podstawę prawną, ograniczasz zakres danych, zawierasz umowę powierzenia z dostawcą i stosujesz odpowiednie zabezpieczenia. Najprostsza zasada: nie przekazuj do AI danych osobowych, które nie są potrzebne do zadania.

Jak sprawić, by asystent AI w ERP nie ujawniał poufnych danych?

Asystent powinien działać na uprawnieniach zalogowanego użytkownika, a nie na jednym koncie z pełnym dostępem. Do tego ogranicz zakres modułów, maskuj dane wrażliwe i rejestruj wszystkie zapytania.