Skip to content

Model a jeho přizpůsobení

Aktuálně CODEXIS AI využívá GPT-5.4 a nabízíme i možnosti přizpůsobení modelu.

Nastavit můžete, jak stručně má chat odpovídat, jak moc má při odpovědi přemýšlet, jakou třídu zpracování použít a také velikost kontextu.

Nové výchozí nastavení je: nízká podrobnost, střední uvažování, standard třída a standardní kontext.

Co je možné nastavit

Nová konfigurace dává uživateli větší kontrolu nad tím, jakým způsobem chat odpovídá a kolik výkonu i ceny chce do odpovědi investovat.

  • Podrobnost určuje, kolik toho má chat vypsat a jak stručná nebo rozvedená odpověď bude.
  • Úsilí při uvažování určuje, kolik času a energie model věnuje přemýšlení nad odpovědí. Čím vyšší úroveň, tím víc se snaží hledat souvislosti a skládat odpověď.
  • Třída ovlivňuje cenu a rychlost. Od pomalejší odpovědi za polovinu ceny, přes běžné zpracování, jak ho znáte doposud, až po nejvyšší prioritní zpracování za dvojnásobek ceny.
  • Velikost kontextového okna určuje maximální počet tokenů, které může model zpracovat najednou (systémové instrukce, vstup uživatele, historie konverzace i odpověď modelu): 272 tisíc tokenů anebo 1,05 milionu tokenů. Extra velký kontext je dostupný pouze ve třídě Standard a používá vyšší sazby než standardní kontext.

Přehled jednotlivých voleb

  1. Podrobnost: nízká, střední, vysoká
  2. Úsilí při uvažování: nízká, střední, vysoká, extra vysoká
  3. Třída: Flex, Standard, Priority
  4. Velikost kontextu: standardní, extra velký (jen pro Standard)

Nastavení modelu GPT-5.4

Podrobnost

U modelu GPT-5.4 jde u podrobnosti v praxi hlavně o "stručnost" odpovědi. Ovlivňuje, kolik textu AI vypíše, zda doplní více příkladů a jak moc odpověď rozvede. Stejný efekt lze často vyvolat i prostou instrukcí v promptu, například vypiš mi to detailně nebo buď velmi stručný.

Možnosti jsou nízká, střední a vysoká. Výchozí nastavení je nízká.

Úsilí při uvažování

Pokud přesně víte, co chcete, obvykle stačí nízké uvažování. Hodí se například pro úkoly typu: z konkrétního paragrafu a konkrétního jiného paragrafu mi dej určitou informaci a něco k tomu vypiš.

Běžné nastavení je střední, což odpovídá původnímu výchozímu režimu CODEXIS AI. Vysoké a extra vysoké se hodí pro hlubší přemýšlení, hledání obskurních informací nebo pro situace, kdy má model vyvozovat závěry z nejasně propojených dokumentů a právních konceptů. Pokud nejste spokojeni se střední odpovědí, zkuste vyšší nastavení.

Třída

Třída určuje hlavně rychlost odpovědi a cenu. Flex je za polovinu ceny a Priority za dvojnásobek ceny oproti třídě Standard.

Pokud nespěcháte, použijte Flex. Ušetříte 50 %.

Velikost kontextu

Pro běžné konverzace doporučujeme velikost kontextu neměnit. Extra velký kontext dává smysl hlavně tehdy, když pracujete s velmi rozsáhlými podklady nebo dlouhou historií konverzace.

Pokud chcete obnovit výchozí nastavení, klikněte na Obnovit výchozí hodnoty. Změny nelze dělat v již probíhajícím chatu.

Rozhraní nastavení vidíte níže:

image.png

Upozornění: Spotřebu kreditů si teď můžete ovlivnit sami. Oproti výchozímu nastavení si ji můžete snížit až o 64 %, ale zároveň maximalistickým nastavením se spotřeba může navýšit až o 560 %.

Příklady nastavení

  • pro rychlé a levnější odpovědi použijte Flex + nízkou podrobnost,
  • pro složitější úkoly si zvyšte uvažování a případně i podrobnost,
  • pro velké vstupy nebo rozsáhlé podklady využijte extra velký kontext,

VitePress build pro CODEXIS AI dokumentaci.