Reuters: OpenAI plánuje významné aktualizace, aby nalákala vývojáře na nižší náklady

Zpravodajská agentura Reuters vydala včera exkluzivní článek o OpenAI, který bude zajímat i hodně firem v Česku. Ve stručnosti

• OpenAI chce lákat vývojáře levnějšími a rychlejšími aktualizacemi pro umělou inteligenci.
• Aktualizace zahrnují paměťové úložiště pro snížení nákladů a vidění pro analýzu obrázků.
• Nové funkce budou ukázány na první konferenci OpenAI 6. listopadu.
• Cílem je vytvořit samostatné chatboty a agenty s umělou inteligencí.

Podle uvedených informací by právě zpřístupnění paměti, kterou by mohly využívat aplikace postavené nad GPT API, mohly snížit náklady 20×.

V uplynulých týdnech jsem měl několik rozhovorů právě s vývojáři aplikací (chystám o nich články) a tohle by mohl být opravdový dealbreaker – dnes mají totiž problém, že jedna jejich konverzace vyjde v průměru okolo 20 korun. U pokročilých aplikací totiž musí často nahrát nějaký větší kontext a opakovat jej spolu s celou předchozí konverzací při každém dotazu. Kontextová paměť by jim tak mohla řádově snížit náklad a tedy i cenu pro zákazníky (a tedy zvýšit ochotu zákazníků si takovou službu koupit).

Ohromnou příležitostí pro spoustu vývojářů pak bude zpřístupnění GPT-4V (Vision), tedy rozpoznávání obrazů, pomocí API. Opět z mých diskusí s některými vývojáři se už nemohou dočkat, protože to co Vision nabízí jim umožní představit uživatelům funkce, které dosud nebyl možné .

A ještě doplním jednu novinku – v posledních hodinách byla i lidem v ČR zpřístupněna GPT-4V (Vision) v ChatGPT 4 Plus. Pro zpřístupnění této funkce musíte mít zapnutý mód GPT-4 Default nebo Advanced Data Analysis (tj. nefunguje s Dall-e, Browse with Bing nebo Pluginy). O této funkci jsem tu nedávno psal, jestli máte placený ChatGPT, rozhodně ji vyzkoušejte.

A nyní kompletní překlad původního článku pro ty z vás, kteří máte raději češtinu:

Exkluzivně: OpenAI plánuje významné aktualizace, aby nalákala vývojáře na nižší náklady

(Reuters) – Jak agentuře Reuters sdělily informované zdroje, společnost OpenAI plánuje příští měsíc představit významné aktualizace pro vývojáře. Ty mají zlevnit a zrychlit vytváření softwarových aplikací založených na jejích modelech umělé inteligence. Výrobce ChatGPT se tak snaží získat více společností, které by využívaly jeho technologii,

Aktualizace zahrnují přidání paměťového úložiště do jejích vývojářských nástrojů pro používání modelů umělé inteligence. To by teoreticky mohlo snížit náklady tvůrců aplikací až dvacetinásobně, čímž by se vyřešila hlavní obava partnerů, jejichž náklady na používání výkonných modelů OpenAI by rychle rostou, protože se snaží vybudovat udržitelný byznys vývojem a prodejem AI software.

Společnost také plánuje představit nové nástroje, jako jsou schopnosti vidění, které umožní vývojářům vytvářet aplikace se schopností analyzovat obrázky a popisovat je, s potenciálními případy využití v mnoha oblastech od zábavy po medicínu.

Nové funkce značí ambice společnosti rozšířit se mimo spotřebitelskou senzaci na společnost nabízející platformu pro vývojáře, jak si to představoval její šéf Sam Altman. Společnost živořila v relativní neznámosti mimo technologický průmysl jako nezisková organizace, kterou v roce 2015 spoluzaložili Elon Musk a Altman. Musk v současnosti ve společnosti nevlastní žádný podíl (rozhodující podíl ve společnosti nyní vlastní Microsoft, poznámka TK).

Jak zdroje uvedly, nové funkce by měly být představeny na vůbec první vývojářské konferenci OpenAI, která se uskuteční 6. listopadu v San Francisku. Cílem je povzbudit společnosti, aby využívaly technologii OpenAI k vytváření chatbotů a autonomních agentů s umělou inteligencí, kteří mohou vykonávat úkoly bez lidského zásahu, uvedly zdroje, které si nepřály být jmenovány, protože hovořily o soukromých plánech společnosti.

Společnost OpenAI se k tomu odmítla vyjádřit.

Společnost vtrhla na scénu loni v listopadu, když spustila ChatGPT a nalákala stovky milionů lidí, aby vyzkoušeli chatbota, který reagoval na otázky a příkazy podobně jako člověk, a stala se z něj jedna z nejrychleji rostoucích spotřebitelských aplikací na světě.

Společnost OpenAI si od růstu tržeb hodně slibuje. Jak poprvé informovala agentura Reuters v prosinci loňského roku, vedení společnosti OpenAI očekává, že letošní rok uzavře s tržbami 200 milionů dolarů a do roku 2024 dosáhne 1 miliardy dolarů.

V poslední době se společnost potýká s určitými problémy při získávání business partnerů využívajících její technologie. Učinit OpenAI nepostradatelnou pro další společnosti vytvářející aplikace patří teď mezi nejdůležitější strategické cíle Altmana.

Setkal se s vývojáři a vyjádřil přání vybudovat nový ekosystém založený na modelech OpenAI, které jsou nyní součástí nesčetných aplikací, od DoorDash (něco jako naše Foodora, poznámka TK) po Jasper – asistenta pro psaní.

Plánované uvolnění takzvaného stavového rozhraní API (Application Program Interface) zlevní firmám tvorbu aplikací tím, že si bude pamatovat historii konverzací dotazů. To by mohlo dramaticky snížit množství využití, za které musí vývojáři platit. V současné době by zpracování jednostránkového dokumentu pomocí GPT-4 mohlo stát 10 centů v závislosti na délce a složitosti vstupu a výstupu, jak vyplývá z ceníku na webových stránkách OpenAI. (V češtině vychází konverzace na zhruba dvojnásobek, kvůli způsobu počítání tokenů, viz můj článek – poznámka TK.)

Další aktualizace, rozhraní API pro vidění, by umožnila lidem vytvářet software, který dokáže analyzovat obrázky, několik týdnů poté, co se tato funkce stala dostupnou pro uživatele ChatGPT. Poskytnutí tohoto nástroje vývojářům je také důležitým krokem OpenAI v zavádění takzvaných multimodálních funkcí, které kromě textu zpracovávají a generují různé typy médií, jako jsou obrázky, zvuk a video.

Aby byli vývojáři spokojeni

Cílem těchto vydání je přilákat více vývojářů, aby si zaplatili přístup k modelu OpenAI a mohli tak vytvářet svůj vlastní software s umělou inteligencí pro nejrůznější použití, jako jsou například asistenti pro psaní nebo boti pro obsluhu zákazníků.

Podle údajů společnosti PitchBook investoři letos vložili do startupů zabývajících se umělou inteligencí více než 20 miliard dolarů, z nichž mnohé se opírají o technologii OpenAI nebo jiného modelu nadace společnosti.

Investoři se však obávají závislosti těchto startupů na společnostech, jako je OpenAI nebo Google, protože by je to mohlo učinit zranitelnými vůči replikaci ze strany konkurentů nebo samotných větších společností prostřednictvím aktualizací produktů.

Mezitím se startupy také snaží diverzifikovat typy modelů, které používají, a experimentují s konkurenty OpenAI a open-source možnostmi, jako je Llama společnosti Meta. Proto je pro OpenAI důležité, aby se odlišil od rivalů s naditými kapsami, jako je Google.

Zdroje agentuře Reuters sdělily, že pro OpenAI je hlavním cílem udržet spokojené vývojáře. Zatímco ChatGPT byl mezi spotřebiteli velmi úspěšný, ambice OpenAI získat další společnosti byly naplněny méně.

Začátkem tohoto roku společnost přispěchala s vydáním pluginů ChatGPT, rozšíření, které umožňují vývojářům vytvářet aplikace v rámci ChatGPT. Společnost OpenAI doufala, že zásuvné moduly budou její obdobou obchodu s aplikacemi pro iOS od společnosti Apple a získají tak výhodu nad konkurenčními chatboty, jako je Bard od společnosti Google.

Vývojáři, jejichž zásuvné moduly patří do kategorie přibližně 30 „nejoblíbenějších“, popsali počáteční nával nadšení, po němž následoval prudký pokles zájmu. Populární plugin Scholar AI měl koncem srpna asi 7 000 uživatelů denně, odhadl jeho vývojář Lakshya Bakshi. ChatGPT přitahuje asi 180 milionů aktivních uživatelů měsíčně.

Altman veřejně přiznal, že je před ním ještě hodně práce. Již dříve Altman přiznal skupině vývojářů v Londýně, že pluginy se na trhu zatím dostatečně neprosadily.

Co na to říkáte?

Vyvíjíte aplikace nad GPT API a máte také problém s cenou konverzací? Nebo také čekáte na možnost využívání GPT-4V(ision)? Co na očekávané novinky říkáte? Nasdílejte článek a dejte mi vědět na sociálních sítích.

Každopádně půjde o tvrdý boj. Podle mých zdrojů by nový konkurenční model Gemini, který chce Google představit koncem roku, měl dokonce nebýt účtován po tokenech, jako je tomu doposavad jak u jejich existujících modelů, tak u modelů od OpenAI. Každopádně jestli jste vývojář a ještě nepracujete s jazykovými modely, tak máte nejvyšší čas.