Implementace AI do firmy

U každé úlohy porovnáme kvalitu, latenci a cenu na vašich vlastních datech, ne podle toho, co je zrovna v módě. Model pak jde vyměnit, aniž by se přepisovala aplikace.

Dá se to udělat bez AI?

Někdy ano – a pak je to levnější i spolehlivější. Když úlohu vyřeší pravidla nebo dobré vyhledávání, řekneme vám to.

Data se neposílají do cizí služby a nepoužívají se na trénink. U osobních údajů a smluv to bývá jediná průchodná varianta.

Poteče nám někam firemní know-how?

Ne, pokud to nechcete. Buď použijeme režim bez trénování na vašich datech, nebo model běží lokálně a data vaši síť neopustí.

Musíme mít vlastní hardware?

Ne, je to jen jedna z možností. Model může běžet na vlastním serveru s GPU, nebo v privátní instanci u poskytovatele, kde žádný hardware mít nemusíte. Připravíme vám analýzu možností s ohledem na citlivost dat a rozpočet.

U každé odpovědi je vidět, z čeho vychází, takže ji jde ověřit – ne jen věřit. Kvalita odpovědí stojí na datech a vyhledávání pod modelem.

Pomůže to novým lidem, kteří ještě nevědí, na co se ptát?

Právě tam je přínos největší. Nový kolega nezná interní názvy ani to, kde co leží – zeptá se vlastními slovy a asistent podle významu dohledá dokumenty, odpoví s odkazem na zdroj, a když dotaz nestačí, doptá se. Najde ale jen to, co je někde zapsané; nepopsané know-how nenahradí.

Model dostane přístup k datům, ale jen v mezích oprávnění, která platí pro uživatele. O věcech, které se nedají vrátit, nerozhoduje sám: tam akci potvrzuje člověk.

Cachování, dávkování, menší modely na jednodušší kroky a strop na spotřebu. Účet za API vám neuteče ani ve chvíli, kdy se služba začne používat víc, než se čekalo.

Ukládáme, co model dostal a co vrátil. Po výměně modelu nebo změně promptu poznáte zhoršení hned, ne z reklamací.

Co když model odpoví špatně?

Proto k tomu patří testovací sada, omezení akcí, odkaz na zdroj a potvrzení člověkem. AI nemá rozhodovat o věcech, které se nedají vrátit.

1. 1
   Úloha a data Co má AI dělat, na jakých datech a jak poznáme, že to dělá dobře. Bez třetího bodu nemá smysl začínat.
2. 2
   Pilot a porovnání modelů Nad vzorkem vašich dat zkusíme víc variant a ukážeme rozdíl v kvalitě, latenci i ceně.
3. 3
   Nasazení a provoz Napojení do systému, limity spotřeby, monitoring a průběžné doladění podle skutečného provozu.

Nejvíc ji ovlivňují data pod úlohou: jestli stačí napojit API, nebo je potřeba data nejdřív sjednotit a postavit nad nimi vyhledávání. Pilot na vzorku vašich dat ukáže i cenu jednoho dotazu v provozu.

Účty, prompty i nastavení vedeme na vás a s dokumentací. Provoz se SLA můžeme držet my, nebo ho předáme vašemu týmu.