Sztuczna inteligencja rozgościła się w polskim biznesie na dobre i zrobiła to w ekspresowym tempie. Szybciej niż powstawały regulacje, szybciej niż firmy zdążyły przygotować procedury, a czasem nawet szybciej, niż zdrowy rozsądek podpowiadał, co wolno wkleić do okienka czatu. Dziś AI pomaga pisać, analizować i przyspieszać pracę, ale razem z wygodą pojawiło się nowe pytanie: co właściwie dzieje się z danymi, które powierzamy algorytmom?
O luce między tempem wdrażania AI a bezpieczeństwem, zaufaniu do dostawców technologii i o tym, dlaczego zanim dokument trafi do modelu, warto najpierw „oczyścić” go z tego, czego model wcale wiedzieć nie musi, rozmawiam z Wojciechem Chmielem i Jakubem Dolatą, twórcami Anonimizera – polskiego startupu technologicznego.
Beata Anna Święcicka, „Wprost”: AI weszło do firm szybciej niż procedury bezpieczeństwa. Gdzie dziś jest największa luka: w technologii, regulacjach czy świadomości pracowników?
Wojciech Chmiel, Anonimizer: Największa luka jest dziś między tym, jak szybko pracownicy zaczęli korzystać z AI, a tym, jak firmy przygotowały się do tej zmiany. W wielu organizacjach AI jest już codziennym narzędziem pracy, podczas gdy zasady bezpieczeństwa nadal opierają się głównie na instrukcjach i zakazach.
Jeśli organizacja nie zapewnia pracownikom narzędzi, które pozwalają korzystać z AI w bezpieczny sposób, część osób sięga po ogólnodostępne, konsumenckie rozwiązania. Wtedy do zewnętrznych modeli mogą trafiać dane klientów, fragmenty umów, korespondencja czy inne informacje, które nie powinny opuszczać organizacji.
Dlatego sam zakaz korzystania z takich narzędzi nie rozwiązuje problemu. Firma powinna dać pracownikowi bezpieczną alternatywę. W naszym podejściu chodzi o to, żeby jeszcze przed użyciem zewnętrznego modelu ograniczyć zakres przekazywanych informacji i zabezpieczyć dane, których AI nie potrzebuje do wykonania zadania.
Jakub Dolata, Anonimizer: Od strony technologicznej ważne jest też to, żeby nie wymagać od pracownika ciągłego podejmowania decyzji o bezpieczeństwie. Użytkownik powinien mieć narzędzie, które pomaga mu przygotować dokument przed skorzystaniem z AI. W Anonimizerze ten etap odbywa się lokalnie, na urządzeniu użytkownika. Dokument źródłowy nie opuszcza jego komputera.
Firmy każą pracownikom podpisywać oświadczenia dotyczące bezpiecznego korzystania z AI, a chwilę później ktoś z tych pracowników wkleja do ChatGPT umowę czy dane klienta, żeby szybciej wykonać swoją pracę. Co dziś stanowi większe zagrożenie dla bezpieczeństwa danych firm: cyberatak z zewnątrz czy nieostrożne korzystanie z AI przez pracowników?
Wojciech Chmiel: Nie próbowałbym tworzyć rankingu tych zagrożeń. Cyberataki pozostają bardzo poważnym ryzykiem, ale firmy od lat wiedzą, że muszą się przed nimi chronić, i istnieje wielu ekspertów wyspecjalizowanych w tym obszarze. Przepływ danych do narzędzi AI jest dla wielu organizacji nowszym problemem.
Pracownik może wkleić do modelu fragment umowy albo dane klienta i nie mieć poczucia, że właśnie stworzył ryzyko. Z jego perspektywy po prostu korzysta z narzędzia, które pozwala mu szybciej wykonać zadanie.
Proste zasady, edukacja i wygodne narzędzia mogą znacząco ograniczyć to ryzyko. Pracownik zwykle nie chce naruszyć bezpieczeństwa, tylko szybko wykonać swoje zadanie. Dlatego firma powinna tak zaprojektować proces korzystania z AI, żeby ochrona danych nie zależała wyłącznie od tego, czy użytkownik za każdym razem pamięta o wszystkich zasadach.
AI Act ma zwiększyć bezpieczeństwo, ale czy nie grozi nam sytuacja, w której firmy będą miały więcej procedur niż realnej kontroli nad tym, co dzieje się z danymi?
Wojciech Chmiel: Można dyskutować o ryzyku przeregulowania, bo nadmiar formalnych obowiązków nie zawsze przekłada się na większe bezpieczeństwo. W przypadku AI Act widzę jednak dużo pozytywów, szczególnie wzrost świadomości użytkowników i organizacji w zakresie odpowiedzialnego korzystania z AI. Kluczowe będzie to, czy nowe obowiązki przełożą się na realne procesy i narzędzia, a nie tylko kolejne dokumenty.
Regulacje mają wartość wtedy, kiedy pomagają uporządkować odpowiedzialność i prowadzą do realnej zmiany sposobu pracy. Jeśli organizacja przyjmuje zasadę, że określone informacje nie powinny trafiać do modeli AI, musi potrafić tę zasadę egzekwować w praktyce i wiedzieć, gdzie rzeczywiście przepływają dane.
Dla mnie właśnie tutaj przebiega granica między formalnym compliance a rzeczywistą kontrolą. Procedura wyznacza zasadę, technologia pozwala ją stosować w codziennej pracy.
Czy dane są bezpieczne tylko dlatego, że dostawca AI deklaruje, że nie wykorzystuje ich do trenowania modelu? Co firma powinna sprawdzić, zanim prześle poufny dokument do zewnętrznych narzędzi AI?
Jakub Dolata: Nie. To jest polityka, a polityki się zmieniają. Wiosną tego roku Microsoft ogłosił, że dane z GitHuba będą domyślnie wykorzystywane do trenowania modeli, również na planach płatnych. Zmiana ominęła tylko umowy biznesowe. Reszta użytkowników musiała sama wejść w ustawienia i to wyłączyć, mimo że warunki akceptowali rok wcześniej.
Trenowanie to zresztą tylko jedno z ryzyk. Dostawca może przechowywać historię rozmów, a wysłane dokumenty również stają się częścią tego środowiska. OpenAI potwierdziło błąd, przez który część użytkowników zobaczyła tytuły i fragmenty rozmów innych osób. Nie miało to nic wspólnego z trenowaniem. To była awaria, a takie zdarzają się każdemu, komu powierzamy dane i dokumenty, nie tylko dostawcom AI.
Można podpisać umowę zakazującą wykorzystania danych, tylko że takie warunki nie zawsze są dostępne w podstawowych planach i nie usuwają całego ryzyka.
Właściwe pytanie jest inne: które informacje z tego dokumentu są modelowi w ogóle potrzebne? Przy analizie umowy rzadko potrzebne jest prawdziwe nazwisko klienta albo nazwa projektu. To można zabezpieczyć wcześniej, u siebie.
Wojciech Chmiel: Z punktu widzenia firmy to ważna zmiana myślenia o bezpieczeństwie. Zamiast opierać ochronę wyłącznie na warunkach konkretnego dostawcy AI, organizacja może wcześniej minimalizować zakres informacji, które w ogóle opuszczą jej środowisko.
Zdecydowaliście się na lokalne przetwarzanie danych. Czy w świecie AI opartym na chmurze zasada „dane nie opuszczają urządzenia” może stać się nowym standardem bezpieczeństwa?
Jakub Dolata: Nie sądzę, żeby stało się to uniwersalnym standardem, i nie powinno. Najlepsze modele zostaną w chmurze, bo tam jest moc obliczeniowa. Ale sama anonimizacja powinna być lokalna. Robiąc ją w chmurze, udostępniamy dostawcy cały dokument w oryginale, a anonimizujemy przecież po to, żeby go nie udostępniać. Standardem staje się podział pracy. Przygotowanie dokumentu, czyli znalezienie danych i podmiana ich, może odbywać się u użytkownika. Właściwe zadanie wykonuje potem model zewnętrzny, ale już na treści pozbawionej tego, czego do zadania nie potrzebuje.
Sensownie da się to zrobić dopiero teraz. Kilka lat temu taki produkt wymagałby serwera, bo sprzęt biurowy był za słaby. Dziś na biurowym komputerze możemy automatycznie oczyścić dokument w sekundy.
Ale lokalność ma jeszcze jedną cechę, o której rzadko się mówi. Da się ją sprawdzić. Obietnicy dostawcy chmurowego można tylko zaufać, bo nie zobaczymy, co dzieje się z plikiem po wysłaniu. Tutaj wystarczy odłączyć komputer od internetu i sprawdzić, czy program dalej działa.
Wojciech Chmiel: Z biznesowego punktu widzenia właśnie o to chodzi: firmy chcą korzystać z coraz lepszych modeli AI, a jednocześnie zachować kontrolę nad poufnymi informacjami. Rozwiązania, które pozwalają połączyć te dwie potrzeby, będą coraz ważniejszą częścią firmowej infrastruktury AI.
Jak przy obecnej dynamice rozwoju AI może wyglądać bezpieczeństwo danych za 4–5 lat? Czy firmy będą jeszcze bardziej chronić dane przed AI, czy raczej bezpieczeństwo zostanie wbudowane w same narzędzia, z których będziemy w niedalekiej przyszłości korzystać?
Wojciech Chmiel: Spodziewam się, że bezpieczeństwo będzie coraz mocniej wpisane w sam sposób korzystania z AI. Przy rosnącej skali tych narzędzi trudno będzie opierać ochronę danych na setkach indywidualnych decyzji pracowników. Firmy będą potrzebowały rozwiązań, które stosują ich zasady bezpieczeństwa bezpośrednio w momencie pracy z informacją.
Jakub Dolata: Firmy powinny chronić dane przed AI, ale nie tylko przed nim. Nawet jeśli dostawcy zagwarantują, że ich systemy mają wbudowane zabezpieczenia, niewiele to zmienia, bo dokładnie takie gwarancje dostajemy już dziś. Zawsze, gdy udostępniamy dokumenty jakiejś usłudze chmurowej, to ona je przechowuje. Jej pracownicy popełniają błędy, a systemy miewają awarie. Rozwój technologii tego nie zmieni.
Za kilka lat dokumenty coraz częściej będzie wysyłał nie człowiek, a agent działający w jego imieniu i bez pytania o zgodę. Przy tej skali uwaga na to, co i komu udostępniamy, będzie ważniejsza niż kiedykolwiek. Pamiętajmy, że jeśli danych gdzieś nie ma, to nie mogą stamtąd wyciec.
Dziękuję za rozmowę.
