Lokálna AI pre firmy: ako funguje a kedy sa oplatí
Lokálna AI je umelá inteligencia, ktorá beží na zariadení priamo vo Vašej firme. Jazykový model, vyhľadávanie v dokumentoch aj čítanie skenov sú vo Vašej sieti, takže texty, ktoré do nej zamestnanci vložia, firmu neopustia.
Opýtať sa konzultantaAko lokálna AI funguje
Jazykový model na zariadení
Model, ktorý píše odpovede, je súbor uložený na zariadení vo Vašej firme. Nemá prístup na internet a nič neodosiela.
Dokumenty sa indexujú, model sa netrénuje
Systém si firemné dokumenty prečíta a zaindexuje, aby ich pri otázke našiel. Model sa na nich nemení.
Prihlásenie a prístup podľa skupín
Zamestnanci sa prihlasujú firemným účtom. Kto vidí ktoré dokumenty, určujú skupiny a overuje sa to pri každej otázke.
Odpoveď s podkladom
Pri otázkach nad firemnými dátami AI odpovedá z toho, čo našla, a uvedie súbor, predpis alebo rozhodnutie. Keď nič nenájde, povie to.
Lokálna AI a AI v cloude
| AI v cloude | Lokálna AI | |
|---|---|---|
| Kde beží model | u poskytovateľa | na zariadení vo Vašej firme |
| Kam idú texty a dokumenty | k poskytovateľovi cez internet | nikam, ostávajú vo Vašej sieti |
| Internet | nutný | nie je potrebný |
| Vyhľadávanie na internete | áno | na požiadanie |
| Najnovší verejný model hneď po vydaní | áno | nie |
| Platba | mesačne za používateľa | jednorazovo za zariadenie |
Kedy sa lokálna AI oplatí a kedy nie
Oplatí sa
Pracujete so zmluvami, spismi, osobnými údajmi alebo obchodným tajomstvom.
Máte povinnosť mlčanlivosti alebo interné pravidlá, ktoré nedovoľujú dávať dáta tretím stranám.
AI má používať veľa ľudí a predplatné na každého by rástlo každý rok.
Systém má fungovať aj bez internetu.
Neoplatí sa
AI použije pár ľudí občas a dáta nie sú citlivé. Vtedy stačí predplatné.
Chcete vždy najnovší verejný model hneď po jeho vydaní.
Čo potrebuje Vaše IT
- Miesto
- miesto a napájanie pre zariadenie, v serverovni alebo v kancelárii
- Sieť
- pripojenie s pevnou adresou a DNS záznamom
- Dokumenty
- prístup na čítanie k úložisku, ak má AI prehľadávať firemné súbory
- Prihlásenie
- Active Directory alebo lokálne účty v systéme
- Internet
- voliteľný: vzdialená správa a aktualizácie; na požiadanie bez akéhokoľvek prístupu zvonku
Hotové zariadenie alebo vývoj na mieru
Lokálnu AI si firma môže poskladať sama: kúpi server, nainštaluje voľne dostupný model a k nemu dopíše vyhľadávanie, prihlásenie, prístupové práva a správu. Je to projekt na mesiace a o prevádzku sa potom stará vlastný tím.
Arminius AI dodáme ako hotové zariadenie: so softvérom, prihlásením firemným účtom, prístupom podľa skupín, správou a monitoringom. Nainštalujeme ho u Vás do 2 týždňov a staráme sa oň aj potom.
Otázky k lokálnej AI
Aký hardvér potrebujeme na lokálnu AI?
Pri Arminius AI žiadny vlastný. Hardvér je súčasťou dodávky a pripravíme ho podľa počtu používateľov a modulov; detaily sú v ponuke.
Je lokálny model zadarmo?
Niektoré jazykové modely sa dajú použiť bez licenčného poplatku. Na prevádzku vo firme však potrebujete aj výkonný hardvér, vyhľadávanie v dokumentoch, prihlásenie, správu a podporu. Pri Arminius AI je to všetko v jednej dodávke.
Môže lokálna AI nahradiť ChatGPT?
Pri práci s textom, dokumentmi a otázkami nad firemnými dátami áno. Vyhľadávanie na internete je v základnom nastavení vypnuté; na Vašu požiadavku ho zapneme. Vtedy na internet odchádza vyhľadávací dopyt.
Musí všetko bežať bez internetu?
Nie. Internet je voliteľný a umožňuje vzdialenú správu a aktualizácie. Riešenie funguje aj bez neho; bez internetu sa len do modulu Legal nesťahujú nové predpisy a rozhodnutia.
Napíšte, s čím pracujete. Navrhneme, čo dáva zmysel.
AI konzultant sa opýta na pár vecí a navrhne zostavu modulov pre Vašu firmu. Ponuku potom dostanete na e-mail.
Odpovede AI konzultanta sú informatívne a nie sú záväznou ponukou.