Pytanie zadawane jest zwykle w tej samej formie: „czy mogę przekazać dane klienta do ChatGPT?” Odpowiedź, której nikt nie lubi, brzmi: to zależy od tego, co opuszcza organizację, i od tego, czy potrafisz to udowodnić.
Zaraz po nim pada stwierdzenie, które słyszałem zarówno w sali konferencyjnej, jak i przy kuchennym stole: „uruchomimy to lokalnie i nie będzie problemu z ochroną danych”. Jest ono prawdziwe tylko w połowie, a to najdroższy rodzaj prawdy.
Offline to łańcuch dostaw, nie ustawienie
Odcięcie od sieci to zmiana zależności, nie zapora
Odcięcie od sieci nie sprowadza się do konfiguracji zapory. W chwili, w której przerywasz połączenie, przejmujesz odpowiedzialność za każdą zależność, którą system dotąd pobierał samodzielnie i bez Twojej wiedzy. Należą do nich wagi modeli, rejestry pakietów i kontenerów, certyfikaty i licencje, wiarygodne źródło czasu (bez niego dziennik audytowy przestaje być dowodem) oraz aktualizacje, które z jednego kliknięcia zamieniają się w projekt wymagający okna serwisowego.
Żadne z tych zadań nie jest trudne, ale wszystkie wymagają pracy, i to pracy ciągłej.
Moja zasada, do zastosowania od jutra, to test śluzy: każdą zależność trzeba móc wnieść ręcznie, w tempie, które kontrolujesz. Jeśli zależność nie przechodzi przez śluzę, nie jest elementem architektury. Jest założeniem, że ktoś zrobi dla Ciebie wyjątek.
Co realnie tracisz
Dostęp do czołówki modeli i tylko ten model, który zmieścisz
Przede wszystkim dostęp do czołówki modeli – i to jest najczęstszy realny koszt, o którym w tej dyskusji mówi się najmniej. Lokalnie uruchomisz tylko ten model, który zmieści się na Twoim sprzęcie; które modele mieszczą się na maszynie tej klasy, rozpisałem w tekście jaki model AI uruchomić lokalnie.
Pomiary wykonałem na jednej z moich maszyn ze zintegrowaną grafiką Radeon 890M i 32 GB pamięci współdzielonej z procesorem. Gęsty model 9B, uruchomiony w całości na iGPU, osiąga 27,7–28,1 tokena na sekundę (pomiar z września 2026), a Qwen3.8-27B osiąga 7,6 tokena na sekundę. Powyżej 10 tokenów na sekundę tekst czyta się już naturalnie.
To w pełni użyteczny asystent. Nie jest jednak najlepszym modelem na świecie i za miesiąc również nie będzie, ponieważ najlepsze modele udostępnia się wyłącznie jako API.
Granicę tego sufitu oraz sytuacje, w których nadal korzystam z chmury, opisałem osobno: czego lokalne AI nie zrobi.
Tracisz też aktualność. System połączony z siecią poprawia się, gdy śpisz, a system lokalny pozostaje w stanie z dnia wdrożenia. Część funkcji tracisz wprost: rozpoznawanie mowy, tłumaczenie maszynowe i OCR trudnych dokumentów to realne ograniczenia, które trzeba nazwać otwarcie, zanim ktokolwiek podejmie wiążącą decyzję.
Co zyskujesz
AI a RODO: dokumenty, których nikt nie wyśle do chmury
W praktyce AI a RODO rozstrzyga się na jednym pytaniu: co właściwie wychodzi z budynku. Zyskujesz możliwość pracy na dokumentach, których nikt nigdy nie przekaże do chmury: umowach, aktach osobowych, cenach od dostawców, rysunkach i raportach z incydentów. Zbiór o największej wartości podlega zwykle najsurowszym regułom, a lokalna warstwa wyszukiwania jest jedyną architekturą, która może go objąć.
Zyskujesz kompletny ślad audytowy, ponieważ nie istnieje ruch wychodzący, który trzeba by wyjaśniać. Na pytanie „dokąd trafiają te dane?” odpowiedź brzmi: nigdzie, a oto log.
Zyskujesz także przewidywalny koszt: 3–8 W w stanie jałowym i około 130 W przy pełnym obciążeniu, bez zmian cennika i bez limitu zapytań w najgorszym momencie miesiąca.
Czego offline nie rozwiązuje
Uwierzytelnianie, konta współdzielone, kopie zapasowe
Szczelna sieć zatrzymuje wyciek przez połączenie sieciowe. To wymaganie art. 32 RODO mówi wprost o środkach technicznych, a nie o wyborze modelu. Nie zastąpi jednak dobrze zaprojektowanego uwierzytelniania i nie rozwiąże problemu współdzielonego konta serwisowego ani danych osobowych zapisanych jawnym tekstem na wspólnym dysku. Jeśli odetniesz od sieci system o słabej kontroli tożsamości, zbudujesz bardzo bezpieczne pomieszczenie wokół niezamkniętej szafy z aktami.
Na początku projektu warto zadać jedno pytanie, bo zadane zbyt późno zakończyło więcej wdrożeń niż jakiekolwiek ograniczenie sprzętowe: co dokładnie nie może opuścić organizacji: dokument, embedding czy zrzut pamięci po awarii? Obowiązki wynikające z RODO opisuje UODO, a nie dokumentacja modelu.
