Velkou část včerejšího Souhrnu AI novinek #1 (srpen 2023) jsem věnoval věnovaná modelům různých firem a problémům s ochranou dat, kterou zejména velké společnosti vnímají jako blocker proti používání cloudových LLM. A jako by mě v OpenAI četli, přišli dnes se službou, která právě na takové společnosti míří a která je chce zbavit obav (a přidává i něco navíc).
Co je ChatGPT Enterprise?
Podtitul představení ChatGPT Enterprise zní „Získejte zabezpečení a soukromí na podnikové úrovni a dosud nejvýkonnější verzi ChatGPT“ a myslím, že oprávněně. Vyberu a okomentuji pro vás nejzajímavější pasáže.
AI školení – nové termíny a místa (Praha, Brno…)
Chcete dostávat tyto články na e-mail, aby vám nic neuteklo?
Šifrování a ochrana dat
- Pro trénování modelů se nepoužívají podněty nebo data zákazníků.
- Šifrování dat na straně aplikace (AES-256) a při přenosu (TLS 1.2+).
- Splňuje požadavky SOC 2
„V aplikaci ChatGPT Enterprise vlastníte a máte pod kontrolou svá podniková data. Nepoužíváme vaše obchodní data ani konverzace při tréninku a naše modely se neučí z vašeho používání. ChatGPT Enterprise je také v souladu se standardem SOC 2 a všechny konverzace jsou šifrovány při přenosu i lokálně u na straně uživatele.“
Můj komentář – klíčové vlastnosti, uvidíme, nakolik to uklidní velké společnosti, které dnes kvůli rizikům často zaměstnancům používání ChatGPT zakazují. Stále se ale nejedná o end-to-end šifrování a z principu ani nemůže, model musí pracovat s rozšifrovanými daty a pracovníci OpenAI tak vždy budou mít k datům přístup.
Škálovatelné nástroje pro nasazení
- Vyhrazená konzola správce a snadná hromadná správa členů
- SSO a ověřování domény
- Analytický panel pro pochopení využití
„Naše nová konzole pro správce umožňuje snadnou správu členů týmu a nabízí ověření domény, SSO a přehled o používání, což umožňuje rozsáhlé nasazení v podniku.“
Můj komentář: hodně důležitá a hodně opomíjená funkce právě pro firemní zákazníky.
Rychlost, neomezené GPT4, 4 větší kontext
- Neomezený až 2× rychlejší přístup ke GPT-4 a pokročilé analýze dat
- Kontextová okna pro 32 tisíc tokenů – 4x delší zadání a paměť
- Firemní Sdílené šablony chatu pro snazší spolupráci ve vaší společnosti
„ChatGPT Enterprise odstraňuje všechny limity využití a pracuje až dvakrát rychleji. Do verze Enterprise zahrnujeme 32K kontext, což uživatelům umožňuje zpracovávat čtyřikrát delší vstupy nebo soubory. ChatGPT Enterprise také poskytuje neomezený přístup k pokročilé analýze dat, dříve známé jako Code Interpreter. Tato funkce umožňuje technickým i netechnickým týmům analyzovat informace během několika sekund, ať už jde o finanční výzkumníky, kteří zpracovávají tržní data, marketéry analyzující výsledky průzkumů nebo datové vědce ladící skript ETL.“.
Můj komentář: Rychlost resp. pomalost GPT-4 je velkou bolestí tohoto modelu a malé kontextové okno hodně omazovalo možnosti práce s vlastními podklady. Ale Anthropic Claude 2 zvládá 100 tisíc tokenů.
Code interpreter v ChatGPT Plus jsem ukazoval na příkladu v článku OpenAI ChatGPT-4 Code Interpreter – (nejen) analýzy dat snadno a rychle, jsem zvědav, jestli i tam se přejmenuje na „advanced data analysis“. Na animaci ukazují snadnou vizualizaci dat ze 2 zdrojových souborů v různých datových formátech (Excel a CSV). Jo, tohle šetří práci.
Aktualizace: Tak Code Interpreter už je nově Advanced Data Analysis i v ChatGPT Plus.
ChatGPT Enterprise také (zatím?) nepodporuje pluginy – je to logické – jsou to externí společnosti bez kontroly, data by se tak opět dostala ven a celá logika zabezpečení ChatGPT Enterprise by šla do háje. Předpokládám, že časem ale přibude nějaká možnost je jednotlivě povolovat ze strany administrátora a hlavně vytvářet a zpřístupňovat zaměstnancům vlastní.
Jak ChatGPT Enterprise získat a kolik stojí?
Cena není zveřejněná, kontaktoval jsem obchodní oddělení přes uvedený registrační formulář s žádostí o nabídku, ale těch našich pár licencí je asi nevytrhne, očekávám, že hlavní cílovka budou firmy s tisíci uživatelů.
Uvidíme, jak rychle to budou zpřístupňovat (českým, malým…) firmám. Už fakt, že to nemá standardní ceník a objednávkový proces naznačuje, že to asi nebude na jedno kliknutí a zadání kreditky.
Součástí nabídky pak budou také nějaké bezplatné kredity pro využívání API. Je ovšem otázkou, nakolik firmy co budou umět napsat aplikace v GPT API budou vůbec chtít platit za ChatGPT, navíc se obávám, že API bude postrádat právě ty klíčové funkce jako je šifrování.
Alternativní a konkurenční možnosti
Těžko se hodnotí alternativy ChatGPT Enterprise, když není známá cena, předpokládám ale, že nebude nižší než současný ChatGPT Plus, tedy že půjde řádově o 20 dolarů na uživatele a měsíc.
Jedinou cloudovou alternativou, která nabízí podobné možnosti ochrany dat bude nejspíš vlastní řešení postavené nad Azure OpenAI services, které nicméně bude stát asi podobné peníze, bude potřebovat vlastní vývojáře a zejména funkce pokročilých analýz dat (neboli Code Interpreter) nebude asi triviální. Z tohoto pohledu tak bude nabídka ChatGPT Enterprise dosti unikátní a zajímavá. Azure OpenAI services nicméně mohou běžet na evropských serverech, tedy neopustí unijní jurisdikci a tak mnohé firmy ani ChatGPT Enterprise nepřesvědčí.
Pakliže potřebujete mít data opravdu zabezpečená na vlastních serverech a mít nějakou kontrolu třeba i nad tím, jaká data uživatelé posílají ven a třeba pro ně i připravit nějakou integraci do firemních aplikací, fine tuning na firemních datech atp., pak bude řešením spíše custom vývoj využívající buď LLAMA 2 od META, nebo některý z modelů od Stability (nejspíše Beluga 2) – při vyšších stovkách či tisících uživatelích to bude i výhodnější (kdyby vás takové řešení zajímalo, neváhejte se mi ozvat). U obou těchto modelů ale pozor na nekomerční licenci.
Dejte mi vědět co na ChatGPT Enterprise říkáte a samozřejmě jako vždy, nezapomeňte sdílet, sdílecí tlačítka jsou tady dole ⬇️⬇️⬇️. Taky se registrujte a sledujte mě na sociálních sítích, ať vám žádná novinka neunikne.