Lokalny model AI w firmie: Gemma 4, sprzęt i koszty

Biuro rachunkowe nie chce wklejać faktur klientów do ChatGPT. Kancelaria woli nie wysyłać umów do chmury, a sklep chciałby pisać setki opisów produktów bez płacenia za każde zapytanie. W każdej z tych sytuacji warto rozważyć lokalny model AI w firmie, czyli sztuczną inteligencję, która działa na Twoim komputerze albo serwerze i nie wysyła treści do dostawcy.

Pokazuję, co potrafi Gemma 4 od Google, jaki sprzęt wystarczy i ile to kosztuje w porównaniu z chmurą. Opisuję stan na początek listopada 2026 r.

Czym jest lokalny model AI i co potrafi Gemma 4

ChatGPT czy Gemini działają na serwerach dostawców. Lokalny model pobierasz raz, a potem wszystko liczy Twój komputer. Treść maila, umowy czy faktury nie opuszcza firmy, a za zapytania nie płacisz.

Wystarczą bezpłatne programy. Najprostszy to Ollama (Windows, macOS, Linux): instalujesz go, wpisujesz jedno polecenie i rozmawiasz z modelem. Dla zespołu dokłada się czat w przeglądarce, np. Open WebUI, który działa bez internetu i obsługuje konta wielu osób oraz bazy wiedzy z dokumentów.

Gemma 4 to rodzina otwartych modeli Google, wydana na początku kwietnia 2026 r. To pierwsza Gemma na licencji Apache 2.0, która pozwala używać modelu w firmie bez opłat licencyjnych. Jest pięć rozmiarów:

• E2B i E4B: małe modele na laptopy i telefony („E” oznacza efektywne 2 i 4 mld parametrów),
• 12B: średni model na komputer z kartą graficzną,
• 26B A4B: model typu MoE, który przy każdym słowie używa około 4 mld parametrów, więc zwykle odpowiada szybciej niż 31B, ale w pamięci trzyma całość,
• 31B: największy model, w którym pracują wszystkie parametry.

Według dokumentacji Google wszystkie rozmiary rozumieją tekst i obraz, a E2B, E4B i 12B także dźwięk. Małe modele czytają naraz do 128 tys. tokenów, większe do 256 tys., więc mieszczą długie umowy. Modele potrafią korzystać z podłączonych narzędzi i mają tryb myślenia na trudniejsze zadania. Karta modelu podaje, że Gemmę 4 trenowano na ponad 140 językach, a „od ręki” obsługuje ponad 35. Polszczyznę modelu sprawdź więc na własnych tekstach.

Polska alternatywa: Bielik

Bielik to polski model rozwijany przez Fundację SpeakLeash i ACK Cyfronet AGH. Najnowsza linia to wersja 3, np. Bielik 11B v3.0 i mniejszy Minitron 7B v3.0. Ma licencję Apache 2.0 i jest nastawiony na polski, ale pracuje na tekście, więc do zdjęć i dźwięku lepsza będzie Gemma. Szczegóły: bielik.ai. Warto przetestować oba modele na tych samych zadaniach.

Do czego lokalne AI przyda się w firmie i sklepie

Lokalny model najlepiej sprawdza się w powtarzalnej pracy z tekstem, gdy dane nie powinny wychodzić na zewnątrz:

• Czat dla zespołu: szkice pism, tłumaczenia i poprawa tekstów, tylko na Twoim sprzęcie.
• Odpowiedzi z dokumentów firmy: model szuka w regulaminach, procedurach i cennikach.
• Opisy produktów: setki opisów z danych producenta bez opłat za zapytanie.
• Szkice maili i odpowiedzi na reklamacje: model pisze wersję roboczą, człowiek ją sprawdza.
• Streszczenia umów i notatek: terminy, kwoty i obowiązki w kilku punktach.
• Odczyt faktur i zdjęć: dane z faktury do tabeli, opis zdjęcia produktu.

Polecenie do testu:

Przygotuj szkic odpowiedzi na poniższą reklamację. Ton uprzejmy i rzeczowy, maksymalnie 120 słów. Nie obiecuj zwrotu pieniędzy przed rozpatrzeniem reklamacji. Na końcu wypisz, co musimy jeszcze sprawdzić. [treść reklamacji]

Gdy model ma sam działać, np. sprawdzać stan magazynu albo zakładać zadania w CRM, to już automatyzacja procesów.

Lokalne AI na straży bezpieczeństwa: czyta logi i ostrzega

Serwer, strona, poczta i zapora sieciowa zapisują w logach każde logowanie i podejrzane zapytanie. W małej firmie nikt nie czyta tych plików codziennie. Lokalny model może to robić: co godzinę albo raz na dobę dostaje świeży fragment logów i prostym językiem pisze, co wygląda podejrzanie, na przykład serię nieudanych logowań na jedno konto albo skanowanie setek adresów strony w kilka minut. Ostrzeżenie trafia na e-mail albo do komunikatora, a logi z adresami IP i loginami nie wychodzą do chmury.

Przykładowe polecenie:

Poniżej są logi logowania do serwera z ostatniej doby. Wypisz prostym językiem podejrzane zdarzenia: serie nieudanych logowań, logowania o nietypowej porze, skanowanie wielu adresów. Przy każdym podaj godzinę, adres IP i ryzyko: niskie, średnie albo wysokie. Nie dopisuj zdarzeń, których nie ma w logach.

Uczciwie o granicach: to dodatkowa para oczu, a nie system bezpieczeństwa. Model nie zastąpi specjalisty, aktualizacji, kopii zapasowych ani narzędzi, które same blokują ataki (np. fail2ban). Może przeoczyć atak albo podnieść fałszywy alarm, a duże logi trzeba najpierw przefiltrować skryptem. W logach jest też tekst wpisany przez atakującego, dlatego model tylko raportuje i nie dostaje uprawnień do zmian na serwerze. Zabezpieczenie serwera, monitoring i plan na awarię robię w usłudze Cyberbezpieczeństwo projektu.

Jaki sprzęt: trzy progi

Najważniejsza jest pamięć: karty graficznej (VRAM) albo wspólna pamięć w komputerach Mac i mini PC z procesorami AMD Ryzen AI. Google podaje w dokumentacji Gemmy, ile pamięci potrzebują same wagi modelu, z 20% zapasu:

Tabela nie obejmuje kontekstu, czyli tekstu, który model czyta. Im dłuższy dokument i im więcej osób pyta naraz, tym więcej pamięci ponad te liczby. Stąd trzy progi:

1. Na próbę: komputer, który już masz. Laptop z 16 GB pamięci uruchomi E2B i E4B nawet bez karty graficznej, tylko wolniej. Wystarczy do testów i pracy jednej osoby.
2. Dla małego zespołu: karta z 16 GB VRAM. Model 12B mieści się z zapasem na dłuższe dokumenty, więc obsłuży czat dla kilku osób i opisy produktów.
3. Mocny serwer firmowy: 32 GB VRAM albo dużo wspólnej pamięci. Karta RTX 5090 (32 GB) albo mini PC z AMD Ryzen AI Max+ 395 i 128 GB pamięci uruchomi 26B A4B i 31B z długim kontekstem.

Szybkość odpowiedzi zależy od sprzętu, wersji modelu i ustawień, więc sprawdź ją na własnym zadaniu przed zakupem.

Ile to kosztuje i kiedy chmura wychodzi taniej

W 2026 r. ceny kart i pamięci mocno wzrosły i często się zmieniają, więc traktuj te kwoty orientacyjnie (ceny sklepowe):

• RTX 5060 Ti 16 GB: około 3 000 zł według ppe.pl z sierpnia 2026 r.,
• RTX 5090 32 GB: około 30 tys. zł w polskich sklepach według benchmark.pl z 20.09.2026, przy cenie sugerowanej NVIDII 9 100 zł,
• mini PC z Ryzen AI Max+ 395 i 128 GB: około 3 900 € w UE w lutym 2026 r.

Usługa Lokalny model AI w firmie kosztuje u mnie od 2 990 zł netto plus sprzęt: dobieram sprzęt, instaluję model i testuję go na Twoich zadaniach. Opieka kosztuje od 199 zł netto miesięcznie.

W poradzie ChatGPT czy Gemini dla firmy liczyłem około 100 zł za osobę miesięcznie za plan firmowy w chmurze, bez VAT. Przykład dla 5 osób, gdy karta trafia do komputera, który już masz. Wszystkie kwoty są netto: firma z VAT odlicza podatek od karty, więc 3 000 zł w sklepie to około 2 440 zł netto.

Po pierwszym roku lokalny model wychodzi taniej, a kolejne osoby nie podnoszą kosztu, dopóki starcza sprzętu.

Lokalny model nie ma sensu, gdy:

• zadania są najtrudniejsze: przy złożonych analizach najmocniejsze modele w chmurze są zwykle lepsze,
• używasz AI rzadko: przy kilku pytaniach w tygodniu tańszy będzie plan w chmurze,
• nikt się nim nie zajmie: aktualizacje, kopie i awaria komputera to Twoja sprawa.

Często najlepsze jest połączenie: lokalny model do danych wrażliwych, chmura do reszty. Taki podział ustalam w usłudze Wdrożenie AI w firmie.

RODO i AI Act: dane zostają w firmie, obowiązki też

Przy lokalnym modelu treść nie trafia do dostawcy, więc odpada pytanie o trenowanie na Twoich danych i przekazywanie ich poza UE. RODO nadal jednak obowiązuje:

• ustal, kto ma dostęp do czatu i bazy dokumentów (osobne konta, nie jedno hasło),
• zdecyduj, jak długo przechowujesz historię rozmów,
• zabezpiecz komputer z modelem: szyfrowanie dysku, kopie, aktualizacje,
• jeśli firma zewnętrzna ma dostęp do serwera, na przykład w ramach opieki, podpisz umowę powierzenia przetwarzania danych.

Uważaj na pułapkę: modele Ollamy z dopiskiem cloud (np. gemma4:cloud) działają na serwerach Ollamy, więc treść wychodzi z firmy. Funkcje chmurowe wyłącz w ustawieniach. Osobny, zaszyfrowany serwer na dane klientów w Polsce lub UE stawiam w usłudze Dane klientów w UE.

Gdy model rozmawia z klientami, na przykład jako chatbot AI na stronie, od 2 sierpnia 2026 r. art. 50 AI Act wymaga, żeby klient wiedział, że rozmawia z AI. Czat dostosuję w ramach Pakietu AI Act. To ogólna informacja, a nie porada prawna.

Wdrożenie krok po kroku: najpierw test, potem zakup

1. Wybierz 5–10 prawdziwych zadań: mail z reklamacją, umowę do streszczenia, produkty do opisania, skan faktury.
2. Uruchom mały model na komputerze, który już masz. Zainstaluj Ollamę i wpisz w terminalu:

ollama run gemma4:e4b

Pierwsze uruchomienie pobierze model (kilka GB). Na mocniejszym komputerze sprawdź też gemma4:12b. Instrukcję ma Google w dokumentacji Gemmy.

3. Porównaj z chmurą. Te same zadania, bez danych osobowych, daj modelowi w chmurze. Oceń polszczyznę, błędy i czas oczekiwania.
4. Dobierz sprzęt do modelu, który zdał test, a nie odwrotnie. Jeśli E4B wystarcza, nie kupuj drogiej karty.
5. Ustaw czat dla zespołu: konta, baza wiedzy z dokumentów, kopie zapasowe.
6. Spisz zasady. Model się myli, więc liczby, terminy i odpowiedzi do klientów zawsze sprawdza człowiek.

Podsumowanie

Lokalny model AI w firmie ma sens, gdy pracujesz na danych, które nie powinny trafiać do chmury, albo gdy zespół dużo pisze i nie chcesz płacić za każde zapytanie. Gemma 4 i Bielik są bezpłatne także do użytku komercyjnego, a test na własnym komputerze nic nie kosztuje. Sprzęt kupuj dopiero wtedy, gdy model zda test na Twoich zadaniach.

Jeśli chcesz, żebym dobrał sprzęt, zainstalował model i ustawił czytanie logów, zobacz usługę Lokalny model AI w firmie albo napisz do mnie. Odpowiadam w 24 godziny.