Stačí firmě ChatGPT, nebo se vyplatí vlastní model?
Cloudové AI je skvělé na rychlý start. Jakmile jde o firemní data a každodenní použití, mění se rovnice. Krátké srovnání bez ideologie.
- 01ChatGPT stačí na rychlý start, občasné texty a práci bez citlivých dat.
- 02Vlastní lokální model se vyplatí, jakmile pracujete s daty, co nesmí ven, nebo AI používáte denně a ve velkém.
- 03Cloud má skryté náklady: platíte za každého uživatele měsíčně a vaše vstupy odcházejí na cizí server.
- 04Nejčastější volba je hybrid: kreativní práce v cloudu, citlivá data na lokálním modelu.
Pro jednoho člověka je to jasné. Zaplatíte pár stovek měsíčně a máte špičkový model bez starostí. U firmy do toho ale vstupují dvě věci, co u sebe doma neřešíte: kam tečou vaše data a co se stane, až to budete chtít používat denně a ve velkém.
01Kdy stačí cloud
Když chcete rychle začít, nepracujete s citlivými daty a nemáte velký objem. Na občasné psaní textů, brainstorming nebo překlady je ChatGPT těžko překonatelný a nemá smysl kvůli tomu cokoli stavět. Pár lidí, pár stovek korun měsíčně, žádná starost o provoz. Pro tenhle scénář je cloud správná volba a doporučím ho i já.
Hranice se posune ve chvíli, kdy AI přestane být hračka na okraji a začne sahat na to, na čem firma stojí. Tedy na zákaznická data, ceníky, smlouvy a know how.
02Kdy se vyplatí vlastní model
- Pracujete s daty, co nesmí ven. Zákazníci, ceny, interní postupy, dokumentace.
- Chcete AI napojenou na vlastní data, aby odpovídala z vašeho katalogu, ne obecně z internetu.
- Vadí vám záviset na cizí ceně a podmínkách, co se můžou kdykoli změnit.
- Plánujete to používat denně a víc lidmi, ne jednou za čas.
03Co cloud skrývá v ceně
Cloudové AI vypadá levně, dokud ho má pár lidí. Účet ale roste s každým uživatelem a každý měsíc běží dál. U dvaceti lidí na placeném plánu kolem 500 korun měsíčně jste na 120 tisících za rok, a to platíte pořád dokola. Vlastní stroj koupíte jednou a další uživatel nestojí nic navíc.
- Platba za hlavu: každý nový člověk zvedá měsíční účet, lokální stroj utáhne celý tým za stejnou cenu.
- Závislost na ceníku: poskytovatel může ceny zvednout nebo plán zrušit, vy se nemáte kam odvolat.
- Data jako vstup do cizího modelu: u běžných plánů nemáte jistotu, kde vaše vstupy končí.
04Nejčastější řešení je hybrid
Nemusí to být ani buď, anebo. Spousta firem nechá kreativní a nerizikové věci na cloudu, protože je to pohodlné, a citlivou práci nad vlastními daty pustí jen na lokální model uvnitř sítě. Tím dostanete to nejlepší z obojího: špičkový cloud na běžné texty a plnou kontrolu tam, kde na ní záleží.
Čím citlivější data a čím častější použití, tím dřív se vlastní lokální model vyplatí. A většinou rozhoduje kontrola nad daty, cena až potom.
Když řešíte, kudy u vás ta hranice mezi cloudem a vlastním modelem vede, ozvěte se. Rád to s vámi proberu na vašem konkrétním provozu.
FAQČasté otázky
- ?Je ChatGPT pro firmu bezpečný?
- Na práci bez citlivých dat ano. Problém nastává, jakmile do něj vložíte zákaznická data, ceníky nebo smlouvy, protože ty odejdou na cizí server. Pro citlivou práci je bezpečnější lokální model, který data z firmy nepustí.
- ?Vyplatí se malé firmě vlastní AI model?
- Pokud pracuje s citlivými daty nebo AI používá denně více lidí, klidně ano. U pěti lidí na denní práci dohánějí měsíční předplatná za cloud cenu vlastního stroje poměrně rychle. U občasného použití bez citlivých dat stačí cloud.
- ?Je lokální model stejně chytrý jako ChatGPT?
- Na obecné úlohy je špičkový cloud zatím napřed. Na konkrétní firemní práci nad vašimi daty ale rozdíl mizí, protože tam rozhoduje kvalita vašich dat a napojení přes RAG, ne posledních pár procent obecné inteligence modelu.
- ?Můžu používat cloud i vlastní model zároveň?
- Ano, a je to nejčastější řešení. Kreativní a nerizikové věci běží v cloudu, citlivá data zpracuje lokální model uvnitř sítě. Hranici nastavíme podle toho, která data u vás nesmí ven.
Stavím firmám AI systémy na míru. Od návrhu po nasazení, sám. Když řešíte něco podobného, ozvěte se na tadeas@raska.eu.
