Rozmowa o modelu uruchamianym lokalnie zwykle zaczyna się od zdania „nie chcemy wysyłać
danych na zewnątrz”. To dobry powód. Problem w tym, że pod tym zdaniem kryją się co najmniej
trzy różne sytuacje, a tylko jedna z nich rzeczywiście wymaga własnego sprzętu.
Trzy powody, które brzmią tak samo
Powód pierwszy: wymóg formalny. Umowa z klientem, przepis branżowy albo
tajemnica zawodowa wprost zakazują przekazywania danych podmiotom trzecim. Tutaj model
lokalny nie jest wyborem, tylko jedyną konfiguracją, która spełnia wymóg. Koszt sprzętu jest
kosztem wejścia w ogóle.
Powód drugi: brak zaufania do dostawcy. Nie ma zakazu, ale zarząd nie chce
opierać się na cudzych deklaracjach. To jest uzasadnione stanowisko i model lokalny je
realizuje – z tym że wtedy trzeba policzyć, ile kosztuje niezależność, i świadomie ją kupić.
Powód trzeci: niesprecyzowany niepokój. Nikt nie potrafi wskazać ani
przepisu, ani konkretnego ryzyka, ale „lepiej u siebie”. To najczęstszy przypadek i zarazem
jedyny, w którym model lokalny zwykle jest błędem. Kończy się serwerem za kilkanaście tysięcy
złotych, z którego po trzech miesiącach korzystają dwie osoby, bo jakość odpowiedzi rozczarowała.
Co realnie dostajesz, a co tracisz
| Model lokalny | Model komercyjny w chmurze | |
|---|---|---|
| Dane opuszczają firmę | nie | tak |
| Jakość odpowiedzi | niższa przy porównywalnym budżecie | wyższa |
| Koszt | jednorazowy sprzęt plus utrzymanie | abonament lub rozliczenie za użycie |
| Kto odpowiada za dostępność | Ty | dostawca |
| Aktualizacje modelu | ręcznie, świadomie | automatycznie, bez pytania |
Ostatni wiersz bywa niedoceniany, a w niektórych zastosowaniach jest najważniejszy.
Model w chmurze może zmienić zachowanie z dnia na dzień, bo dostawca wypuścił nową wersję.
Jeśli zbudowałeś na nim proces, który musi działać przewidywalnie, to jest realne ryzyko
operacyjne – niezależne od kwestii prywatności.
Sprzęt: skąd się biorą wymagania
Kluczowy parametr to ilość pamięci karty graficznej. Model musi się w niej zmieścić,
inaczej liczy się na procesorze i zamiast sekund czeka się minuty. Zapotrzebowanie zależy
od dwóch rzeczy: liczby parametrów modelu i precyzji, w jakiej go uruchamiasz.
Kwantyzacja, czyli uruchomienie modelu w obniżonej precyzji, potrafi zmniejszyć
zapotrzebowanie kilkukrotnie kosztem niewielkiego spadku jakości. Dla większości zastosowań
biurowych to opłacalna wymiana i to od niej warto zacząć, zanim zamówi się mocniejszą kartę.
Nie podaję tu konkretnych wymagań w gigabajtach dla nazwanych modeli, bo modele i ich
warianty zmieniają się co kilka tygodni, a taka liczba przepisana z artykułu sprzed roku
myli bardziej niż pomaga. Producenci modeli publikują te wymagania przy każdym wydaniu –
tam należy je sprawdzić w dniu zakupu sprzętu, nie wcześniej.
Koszt, o którym się zapomina
Sprzęt to pozycja, którą wszyscy liczą. Pomijane są trzy inne: czas osoby, która to
uruchomi i będzie utrzymywać, prąd i chłodzenie przy pracy ciągłej, oraz koszt aktualizacji
– bo model sprzed roku po roku jest po prostu gorszy, a wymiana wymaga ponownej pracy.
W małej firmie bez własnego administratora ten trzeci koszt zwykle przesądza. Serwer stoi,
model jest stary, nikt nie ma czasu go podmienić, a ludzie i tak wracają do czatu
w przeglądarce – tyle że teraz robią to poza wiedzą firmy, co jest gorsze niż punkt wyjścia.
jakość konkretnego modelu lokalnego wystarczy do Twojego zastosowania. To trzeba sprawdzić
na własnych zadaniach, na własnych dokumentach, zanim kupisz sprzęt. Każdy, kto twierdzi
inaczej, sprzedaje Ci sprzęt.
Decyzja do podjęcia
Zanim cokolwiek zamówisz, zrób test na wypożyczonej maszynie w chmurze – wynajem karty
graficznej na godziny kosztuje ułamek zakupu. Weź dziesięć realnych zadań ze swojej firmy,
puść je przez model lokalny i przez model komercyjny, porównaj wyniki obok siebie.
Jeżeli różnica jakości jest do zaakceptowania, a masz powód pierwszy albo drugi z początku
tekstu – kupuj sprzęt. Jeżeli masz powód trzeci, wróć najpierw do pytania, przed czym
konkretnie się zabezpieczasz.