ChatGPT má vlastní kompresní jazyk umožňující obejít limit počtu slov
13.4.2023, Milan Šurkala, aktualita
Systém ChatGPT má limit počtu slov, kolik může v rámci jedné konverzace vygenerovat. Přišlo se však na to, jak tento limit obejít a konverzaci si zkomprimovat a uložit. GPT je totiž možné přinutit si konverzaci převést do vlastního kompresního jazyka.
Pokud chcete s ChatGPT vést dlouhé konverzace, můžete se setkat s nepříjemným limitem počtu slov, který může nastat právě v okamžiku, kdy už jste skoro v cíli a máte téměř hotov obsah, který jste s jeho pomocí chtěli vytvořit. Tento limit by měl být nyní okolo 8 tisíc slov a lidé už přišli na to, jak ho do jisté míry obejít. GPT-4 totiž může být vyzván k tomu, aby celou konverzaci zkomprimoval a příště zase načetl a importoval. Nemusíte tak začínat celý chat znova.
Uživatel gfodor na Twitteru nazval tento komprimační jazyk Shogtongue a pracoval s ním i ilustrátor a spisovatel Jeremy Nguyen. Ten systému ChatGPT řekl, až vytvoří "kompresi, která je bezeztrátová s minimálním počtem tokenů, a vytvoří výsledek, který může být předhozen LLM systému, jakým je on sám, a vyprodukuje stejný výstup". Dalším zkoumáním se zjistilo, že GPT-3.5 tomuto jazyku nerozumí a totéž se týká GPT-4 při přístupu přes API, který s ním má problémy.
