Co tak naprawdę wklejasz do chmury, gdy używasz ChatGPT lub Claude?
Gdy wklejasz do czatu umowę albo listę klientów, te informacje trafiają na serwery dostawcy narzędzia. To, co dla ciebie jest szybką konsultacją, dla systemu staje się częścią konwersacji, która może być analizowana. Problem w tym, że tradycyjne zabezpieczenia serwera nie wystarczą, bo zagrożenia dotyczą też samego modelu i sposobu, w jaki interpretuje on polecenia.
Ataki na sztuczną inteligencję wyglądają inaczej niż te na zwykły komputer. Jedna z technik, prompt injection, polega na tym, że ukryta instrukcja w dokumencie, który wklejasz, nakazuje modelowi zignorować twoje polecenie. Inny scenariusz to data poisoning, czyli podrzucenie fałszywych danych, na których model się uczy, przez co model zaczyna błędnie odpowiadać. Są też ataki, które pozwalają odtworzyć część danych osobowych na podstawie odpowiedzi modelu.
Dlatego ochrona danych w AI to nie tylko kwestia hasła i szyfrowania. Chodzi o to, żebyś wiedział, co dokładnie wklejasz i kto ma do tego dostęp. Najprostsza zasada: im bardziej zautomatyzowana decyzja i im większy wpływ na klienta, tym mocniejsza kontrola danych i uprawnień. Zanim wkleisz cokolwiek wrażliwego, sprawdź, czy w twojej firmie obowiązuje jasna klasyfikacja, która w pięć sekund podpowiada, co jest dozwolone.
Przepisy też idą w tym kierunku. Od sierpnia 2025 roku obowiązują kolejne wymogi unijnego rozporządzenia AI Act. Dostawcy modeli muszą między innymi oceniać wpływ na prawa podstawowe i publikować streszczenia danych treningowych. To oznacza, że odpowiedzialność za bezpieczeństwo nie spoczywa już tylko na tobie, ale wymaga też twojej świadomości, zanim klikniesz "wyślij".
Dlaczego „nie wklejaj danych osobowych” to za mało, żeby ochronić firmę?
Wielu właścicieli firm myśli, że ochrona danych w AI sprowadza się do zakazu wklejania danych osobowych do czatu. To ważne, ale to dopiero początek. Specjaliści z Microsoftu zwracają uwagę, że bezpieczeństwo w AI obejmuje zarówno dane do trenowania modeli, jak i same modele, a tradycyjne zabezpieczenia nie wystarczą na nowe zagrożenia, takie jak podrzucenie fałszywych danych czy kradzież samego modelu.
Nowe zagrożenia to nie tylko hakerzy. W systemach AI pojawia się dodatkowy obszar ryzyka: sama logika modelu i sposób, w jaki interpretuje on instrukcje. Nie wystarczy więc zabezpieczyć serwera, trzeba też kontrolować, jak system radzi sobie z poleceniami i skąd czerpie wiedzę. Większość problemów nie wynika jednak z ataku z zewnątrz, ale z braku prostych zasad w firmie.
Najpraktyczniejszy krok to klasyfikacja danych, która pozwala pracownikowi podjąć decyzję w pięć sekund. Jeśli wiesz, które informacje są wrażliwe, wiesz też, czego nie wolno wkleić do narzędzia AI. Im bardziej zautomatyzowana decyzja i im większy wpływ na klienta, tym mocniejszą kontrolę danych i uprawnień musisz zastosować.
Do tego dochodzi zgodność z przepisami. Od sierpnia 2025 roku obowiązują kolejne przepisy unijnego AI Act, które nakładają na producentów modeli obowiązek oceny wpływu na prawa podstawowe i publikowania streszczeń danych treningowych. To sygnał, że odpowiedzialne wdrażanie AI wymaga patrzenia na cały cykl życia modelu, a nie tylko na pojedyncze wklejki do czatu.
Które dane są na tyle wrażliwe, że nigdy nie powinny trafić do zewnętrznego narzędzia?
Zacznij od prostej zasady: jeśli dane dotyczą konkretnej osoby, a ty nie chcesz, żeby trafiły na pierwsze strony gazet, nie wklejaj ich do zewnętrznego narzędzia. Mowa o numerach PESEL, adresach, stanach zdrowia, numerach kont, a także o tajemnicy przedsiębiorstwa, czyli cennikach, ofertach dla kluczowych klientów czy wynikach negocjacji. U podstaw większości problemów z bezpieczeństwem nie stoi atak hakera, tylko brak prostych zasad: co wolno wkleić, a co jest absolutnie zakazane.
Najczęstszy błąd to myślenie, że skoro narzędzie jest popularne, to samo zadba o ochronę. Tymczasem model udostępniany w chmurze może nieświadomie ujawnić informacje o danych, na których się uczył. Atakujący potrafi nawet sprawdzić, czy konkretny rekord, na przykład dane twojego klienta, znalazł się w materiale do nauki. Dlatego zanim wkleisz cokolwiek wrażliwego, zadaj sobie pytanie, czy chcesz, żeby ten fragment stał się częścią cudzego systemu.
Z pomocą przychodzi klasyfikacja danych, czyli proste oznaczenie, co jest publiczne, co wewnętrzne, a co poufne. Nie musi być korporacyjna, ma pozwolić ci podjąć decyzję w pięć sekund. Do zewnętrznego czatu możesz wrzucić ogólne pytanie o przepisy, ale już nie kopię umowy z klientem. Jeśli decyzja jest zautomatyzowana i ma wpływ na klienta, kontrola danych musi być jeszcze mocniejsza, bo odpowiedzialność i tak spada na ciebie.
Jak ocenić, czy dostawca AI nie wykorzysta twoich danych do trenowania modeli?
Najpierw sprawdź, co dostawca napisał wprost w regulaminie i polityce prywatności. Szukaj sformułowań o tym, czy twoje wpisy mogą zostać użyte do dalszego szkolenia modelu. Większość dużych usług chmurowych oferuje teraz tryb, w którym twoje dane nie są wykorzystywane do trenowania, ale ustawienia domyślne bywają różne.
Zwróć też uwagę na to, jak dostawca opisuje swoje zabezpieczenia. Jeśli chwali się szyfrowaniem i kontrolą dostępu, to dobry znak, ale to wciąż za mało, żeby uznać dane za w pełni bezpieczne. Tradycyjne środki ochrony nie wystarczą bowiem, by odpowiedzieć na zagrożenia specyficzne dla sztucznej inteligencji, takie jak podrzucenie fałszywych danych czy kradzież samego modelu.
Najlepszym testem jest proste pytanie: co dokładnie dzieje się z twoim plikiem po tym, jak wkleisz go do czatu? Jeśli odpowiedź nie jest jednoznaczna, potraktuj to jako sygnał ostrzegawczy. W naszych wdrożeniach sprawdzamy też, czy dostawca deklaruje zgodność z unijnym rozporządzeniem AI Act, które nakłada na producentów modeli obowiązek publikowania streszczeń danych treningowych i oceny wpływu na prawa podstawowe.
Pamiętaj, że największe ryzyko zwykle nie leży po stronie dostawcy, ale w twojej firmie. Większość problemów z bezpieczeństwem AI nie bierze się z ataku hakera, tylko z braku prostych zasad: co wolno wkleić do narzędzia, kto ma dostęp do jakich źródeł i jakie dane są absolutnie zakazane. Dlatego zanim zaczniesz korzystać z jakiegokolwiek modelu, ustal wewnętrzną klasyfikację danych, która pozwoli twoim pracownikom podejmować właściwe decyzje w kilka sekund.
Co musi się znaleźć w firmowej instrukcji korzystania z narzędzi AI?
Podstawą jest prosta klasyfikacja danych, bo bez niej reszta instrukcji wisi w powietrzu. Ustal, co wolno wkleić do narzędzia AI, co wymaga zgody przełożonego, a czego nie wolno nigdy, na przykład danych osobowych klientów objętych RODO. Nie musi to być korporacyjny system, wystarczy praktyczna zasada, która pozwoli pracownikowi podjąć decyzję w pięć sekund, zamiast zgadywać.
Dalej opisz, jak system ma reagować na zagrożenia. Chodzi o to, że ochrona danych w AI nie kończy się na zabezpieczeniu serwera, musisz też kontrolować, jak model interpretuje instrukcje i skąd czerpie wiedzę. Warto więc zapisać w instrukcji, że obowiązują kontrola dostępu do źródeł, ciągłe monitorowanie i szyfrowanie, a także jasne zasady reagowania na incydenty bezpieczeństwa.
Pamiętaj, że tradycyjne zabezpieczenia nie wystarczą, bo ataki na AI działają inaczej niż te na zwykłe systemy. Atakujący może na przykład podmienić dane, na których model się uczy, albo tak sformułować polecenie, żeby model ujawnił wrażliwe informacje. W instrukcji zapisz więc, że każdy nietypowy przypadek, dziwna odpowiedź albo podejrzane zachowanie narzędzia trzeba od razu zgłaszać, zamiast próbować rozwiązywać problem na własną rękę.
Na koniec odnieś się do przepisów, bo od sierpnia 2025 roku obowiązują kolejne wymogi unijnego rozporządzenia o sztucznej inteligencji, czyli AI Act. Instrukcja powinna więc zawierać zapis, że narzędzia AI wdrażasz zgodnie z tymi regulacjami, a odpowiedzialność za nadzór nad ich używaniem spoczywa na konkretnych osobach w firmie. Dzięki temu pracownicy będą wiedzieć, że bezpieczeństwo danych to nie opcja, tylko wymóg, którego należy przestrzegać.
Od czego zacząć porządkowanie bezpieczeństwa danych w AI, zanim kupisz kolejne licencje?
Zanim zaczniesz przeglądać cenniki kolejnych narzędzi, zrób porządek w tym, co już masz. Największe ryzyko nie wiąże się z hakerem, tylko z brakiem prostych zasad: co wolno wkleić do narzędzia, kto ma dostęp do jakich źródeł i jakie dane są absolutnie zakazane. Większość problemów z bezpieczeństwem AI da się rozwiązać bez wydawania złotówki.
Pierwszy krok to klasyfikacja danych, czyli prosta etykieta, która pozwoli twoim ludziom podejmować właściwe decyzje w pięć sekund. Nie musi być korporacyjna i rozbudowana. Wystarczą trzy poziomy: dane publiczne, dane wewnętrzne i dane wrażliwe. Każdy pracownik ma od razu wiedzieć, co może wkleić do czatu AI, a czego nigdy.
- Przygotuj listę danych wrażliwych: dane osobowe klientów, numery PESEL, NIP, dane kontraktowe, wyniki negocjacji. To materiały, które nigdy nie trafiają do publicznych narzędzi AI.
- Ustal, kto w firmie ma dostęp do których źródeł wiedzy. Im bardziej zautomatyzowana decyzja i im większy wpływ na klienta, tym mocniejsza kontrola danych i uprawnień.
- Wpisz zasadę, że dane wrażliwe przed wklejeniem podlegają anonimizacji, czyli usunięciu albo zastąpieniu losowymi identyfikatorami. To utrudnia powiązanie danych z konkretnymi osobami.
- Sprawdź, czy twoje narzędzia mają włączone monitorowanie i logowanie dostępu, żebyś wiedział, kto i kiedy korzystał z systemu.
- Przeprowadź krótkie szkolenie dla zespołu, na którym pokażesz te zasady na przykładach z waszej codziennej pracy.
- Zweryfikuj, czy dostawca narzędzia przestrzega RODO i czy ma udokumentowane procedury reagowania na incydenty bezpieczeństwa.
Dopiero gdy masz te zasady, możesz myśleć o licencjach. Pamiętaj, że tradycyjne zabezpieczenia, takie jak szyfrowanie czy kontrola dostępu, nie wystarczą, bo w systemach AI dochodzi nowy obszar ryzyka: sama logika modelu i to, jak interpretuje on instrukcje. Musisz wiedzieć, co dokładnie kupujesz, zanim otworzysz firmowe dane dla kolejnego narzędzia.
