OpenAI představila ChatGPT Enterprise – rychlejší a bezpečnější AI chat pro firmy

Mnoho velkých společností zamezuje zaměstnancům využívat ChatGPT a podobné služby z obavy před únikem interních dat. OpenAI přichází se službou právě pro takové firmy.

Uveřejněno

Rubrika

Autor

Velkou část včerejšího Souhrnu AI novinek #1 (srpen 2023) jsem věnoval věnovaná modelům různých firem a problémům s ochranou dat, kterou zejména velké společnosti vnímají jako blocker proti používání cloudových LLM. A jako by mě v OpenAI četli, přišli dnes se službou, která právě na takové společnosti míří a která je chce zbavit obav (a přidává i něco navíc).

Co je ChatGPT Enterprise?

Podtitul představení ChatGPT Enterprise zní „Získejte zabezpečení a soukromí na podnikové úrovni a dosud nejvýkonnější verzi ChatGPT“ a myslím, že oprávněně. Vyberu a okomentuji pro vás nejzajímavější pasáže.

AI školení – nové termíny a místa (Praha, Brno, České Budějovice)

Chcete dostávat tyto články na e-mail, aby vám nic neuteklo?

Šifrování a ochrana dat

  • Pro trénování modelů se nepoužívají podněty nebo data zákazníků.
  • Šifrování dat na straně aplikace (AES-256) a při přenosu (TLS 1.2+).
  • Splňuje požadavky SOC 2

„V aplikaci ChatGPT Enterprise vlastníte a máte pod kontrolou svá podniková data. Nepoužíváme vaše obchodní data ani konverzace při tréninku a naše modely se neučí z vašeho používání. ChatGPT Enterprise je také v souladu se standardem SOC 2 a všechny konverzace jsou šifrovány při přenosu i lokálně u na straně uživatele.“

Můj komentář – klíčové vlastnosti, uvidíme, nakolik to uklidní velké společnosti, které dnes kvůli rizikům často zaměstnancům používání ChatGPT zakazují. Stále se ale nejedná o end-to-end šifrování a z principu ani nemůže, model musí pracovat s rozšifrovanými daty a pracovníci OpenAI tak vždy budou mít k datům přístup.

Škálovatelné nástroje pro nasazení

  • Vyhrazená konzola správce a snadná hromadná správa členů
  • SSO a ověřování domény
  • Analytický panel pro pochopení využití

„Naše nová konzole pro správce umožňuje snadnou správu členů týmu a nabízí ověření domény, SSO a přehled o používání, což umožňuje rozsáhlé nasazení v podniku.“

Můj komentář: hodně důležitá a hodně opomíjená funkce právě pro firemní zákazníky.

Rychlost, neomezené GPT4, 4 větší kontext

  • Neomezený až 2× rychlejší přístup ke GPT-4 a pokročilé analýze dat
  • Kontextová okna pro 32 tisíc tokenů – 4x delší zadání a paměť
  • Firemní Sdílené šablony chatu pro snazší spolupráci ve vaší společnosti

„ChatGPT Enterprise odstraňuje všechny limity využití a pracuje až dvakrát rychleji. Do verze Enterprise zahrnujeme 32K kontext, což uživatelům umožňuje zpracovávat čtyřikrát delší vstupy nebo soubory. ChatGPT Enterprise také poskytuje neomezený přístup k pokročilé analýze dat, dříve známé jako Code Interpreter. Tato funkce umožňuje technickým i netechnickým týmům analyzovat informace během několika sekund, ať už jde o finanční výzkumníky, kteří zpracovávají tržní data, marketéry analyzující výsledky průzkumů nebo datové vědce ladící skript ETL.“.

Můj komentář: Rychlost resp. pomalost GPT-4 je velkou bolestí tohoto modelu a malé kontextové okno hodně omazovalo možnosti práce s vlastními podklady. Ale Anthropic Claude 2 zvládá 100 tisíc tokenů.

Code interpreter v ChatGPT Plus jsem ukazoval na příkladu v článku OpenAI ChatGPT-4 Code Interpreter – (nejen) analýzy dat snadno a rychle, jsem zvědav, jestli i tam se přejmenuje na „advanced data analysis“. Na animaci ukazují snadnou vizualizaci dat ze 2 zdrojových souborů v různých datových formátech (Excel a CSV). Jo, tohle šetří práci.

Aktualizace: Tak Code Interpreter už je nově Advanced Data Analysis i v ChatGPT Plus.

ChatGPT Enterprise také (zatím?) nepodporuje pluginy – je to logické – jsou to externí společnosti bez kontroly, data by se tak opět dostala ven a celá logika zabezpečení ChatGPT Enterprise by šla do háje. Předpokládám, že časem ale přibude nějaká možnost je jednotlivě povolovat ze strany administrátora a hlavně vytvářet a zpřístupňovat zaměstnancům vlastní.

Jak ChatGPT Enterprise získat a kolik stojí?

Cena není zveřejněná, kontaktoval jsem obchodní oddělení přes uvedený registrační formulář s žádostí o nabídku, ale těch našich pár licencí je asi nevytrhne, očekávám, že hlavní cílovka budou firmy s tisíci uživatelů.

Uvidíme, jak rychle to budou zpřístupňovat (českým, malým…) firmám. Už fakt, že to nemá standardní ceník a objednávkový proces naznačuje, že to asi nebude na jedno kliknutí a zadání kreditky.

Součástí nabídky pak budou také nějaké bezplatné kredity pro využívání API. Je ovšem otázkou, nakolik firmy co budou umět napsat aplikace v GPT API budou vůbec chtít platit za ChatGPT, navíc se obávám, že API bude postrádat právě ty klíčové funkce jako je šifrování.

Alternativní a konkurenční možnosti

Těžko se hodnotí alternativy ChatGPT Enterprise, když není známá cena, předpokládám ale, že nebude nižší než současný ChatGPT Plus, tedy že půjde řádově o 20 dolarů na uživatele a měsíc.

Jedinou cloudovou alternativou, která nabízí podobné možnosti ochrany dat bude nejspíš vlastní řešení postavené nad Azure OpenAI services, které nicméně bude stát asi podobné peníze, bude potřebovat vlastní vývojáře a zejména funkce pokročilých analýz dat (neboli Code Interpreter) nebude asi triviální. Z tohoto pohledu tak bude nabídka ChatGPT Enterprise dosti unikátní a zajímavá. Azure OpenAI services nicméně mohou běžet na evropských serverech, tedy neopustí unijní jurisdikci a tak mnohé firmy ani ChatGPT Enterprise nepřesvědčí.

Pakliže potřebujete mít data opravdu zabezpečená na vlastních serverech a mít nějakou kontrolu třeba i nad tím, jaká data uživatelé posílají ven a třeba pro ně i připravit nějakou integraci do firemních aplikací, fine tuning na firemních datech atp., pak bude řešením spíše custom vývoj využívající buď LLAMA 2 od META, nebo některý z modelů od Stability (nejspíše Beluga 2) – při vyšších stovkách či tisících uživatelích to bude i výhodnější (kdyby vás takové řešení zajímalo, neváhejte se mi ozvat). U obou těchto modelů ale pozor na nekomerční licenci.

Dejte mi vědět co na ChatGPT Enterprise říkáte a samozřejmě jako vždy, nezapomeňte sdílet, sdílecí tlačítka jsou tady dole ⬇️⬇️⬇️. Taky se registrujte a sledujte mě na sociálních sítích, ať vám žádná novinka neunikne.

Nové články sem přidávám porůznu, tak jestli nechcete, aby vám něco uniklo, přidejte si můj feed do RSS čtečky, sledujte můj Twitter, Facebook a LinkedIn, případně si nechte nové příspěvky posílat mailem (žádný spam!)