TIP#3363: Když AI nestačí: zvýšit uvažování, změnit model, nebo začít nový chat?

Pracujete s Claude, ChatGPT nebo jinou AI, problém se komplikuje a odpovědi přestávají být dobré. Co teď? Zvýšit Effort nebo reasoning? Přepnout na silnější model? Vrátit se v konverzaci o několik kroků zpět? Nebo založit úplně nový chat?

Nejdůležitější otázka často není „potřebuji silnější model?“, ale „je dosavadní kontext stále užitečný?“

Pokud ano, má smysl v konverzaci pokračovat. Pokud se z ní stala hromada slepých uliček, chybných předpokladů, oprav a protichůdných instrukcí, může nový chat pomoci víc než nejsilnější dostupný model.

Ano, model můžete změnit uprostřed konverzace

U Claude je to normální podporovaný způsob práce. Anthropic výslovně uvádí, že model, Effort i Thinking lze změnit kdykoliv během existující konverzace a změna se projeví od následující odpovědi.

Můžete tedy začít se Sonnetem, zvýšit mu Effort a pokud stále nestačí, přepnout stejnou konverzaci na Opus.

Nový model ale nezačíná od nuly. Dostane dosavadní kontext konverzace. To je většinou výhoda, protože nemusíte znovu vysvětlovat problém, posílat stejné podklady a opakovat, co už bylo vyřešeno.

Současně ale dostane i chyby a slepé uličky, které se v konverzaci nahromadily.

Silnější model není Reset.

Nejdřív zkuste zvýšit Effort nebo reasoning

Pokud model problém chápe správně, ale řešení je příliš povrchní, nedotažené nebo mu chybí několik kroků, není nutné okamžitě měnit model.

U Claude zkuste zvýšit Effort. Low a Medium šetří čas a využití, High je běžná výchozí úroveň a xhigh či Max mají smysl pro obtížnější problémy. Anthropic jednotlivé úrovně popisuje v nastavení modelu a Effort.

U ChatGPT je princip podobný. Nabídka GPT-5.6 používá různé úrovně reasoning effort a novější modely budou podporovat totéž, takže u stejného problému můžete nejprve dát modelu více prostoru k uvažování, než začnete řešit nový chat nebo jiný model.

Kdy přepnout na silnější model ve stejném chatu

Dává smysl, pokud:

  • pořád řešíte stejný problém,
  • dosavadní závěry jsou převážně správné,
  • model už přečetl důležité dokumenty, data nebo kód,
  • předchozí práce vedla správným směrem,
  • problém je jen složitější, než jste původně čekali.

Při přepnutí na silnější model může být užitečné výslovně ho požádat, aby předchozí práci nekopíroval bez kontroly:

Projdi dosavadní konverzaci znovu. Neber předchozí závěry automaticky jako správné. Zkontroluj předpoklady, na kterých stojí, a teprve potom navrhni další postup.

Silnější model tím dostane nejen historii, ale i jasný pokyn, že ji má auditovat, ne pouze pokračovat v posledním směru.

Claude má ještě jednu užitečnou možnost: upravit starší zprávu

V běžném Claude.ai není stejné tlačítko Branch in new chat, jaké má ChatGPT. Můžete ale upravit některou svou starší zprávu a pokračovat od ní jiným směrem.

Claude tím vytvoří novou větev konverzace. Anthropic existenci větví vznikajících úpravou a opětovným odesláním starší zprávy popisuje i ve svých výzkumných textech.

To je velmi užitečné právě tehdy, když víte, kde se konverzace pokazila.

Například prvních deset zpráv bylo v pořádku, v jedenácté jste AI poslali špatný předpoklad a dalších dvacet zpráv se kvůli němu ubíralo špatným směrem. Nemusíte zahazovat prvních deset zpráv. Vraťte se k místu před chybou, upravte zadání a nechte vzniknout novou větev.

To není čistý nový chat. Větev stále zdědí všechno před místem rozdělení. Odříznete ale to, co přišlo potom.

ChatGPT má Branch in new chat

ChatGPT má stejnou myšlenku vyřešenou viditelněji. Funkce Branch in new chat umožňuje u starší zprávy vytvořit novou samostatnou konverzaci, která vychází z historie do tohoto bodu, zatímco původní chat zůstane zachovaný. OpenAI funkci uvádí v release notes ChatGPT.

Branch je výborný například pro vyzkoušení jiného řešení stejného problému, použití jiného modelu od stejného výchozího bodu nebo návrat před místo, kde se konverzace pokazila.

Ani Branch ale není čistý restart. Všechno před bodem rozdělení zůstává součástí kontextu.

TIP: Další základní možnosti práce s konverzacemi najdete v Jak pracovat s ChatGPT rozhraním? Základy. Už tam je mimo jiné postup, kdy si z jednoho chatu připravíte zadání pro pokračování v novém.

Fork v Claude Code je ještě o kus dál

Claude Code umí skutečný fork session. Vytvoří novou samostatnou relaci se stejnou historií do určitého bodu a obě pak pokračují nezávisle.

To je funkčně velmi podobné Branch in new chat v ChatGPT.

U Claude Code je ale potřeba rozlišovat historii konverzace a stav projektu na disku. Větvení konverzace samo o sobě nemusí znamenat, že jste zároveň vytvořili oddělenou kopii změněných souborů. Při programování je proto potřeba hlídat i Git branch, worktree nebo jiné oddělení pracovního prostředí.

Proč dlouhý chat může začít škodit

Velké kontextové okno neznamená, že čím více historie modelu dáte, tím lépe bude odpovídat.

Už práce Lost in the Middle ukázala, že modely nemusí informace v dlouhém kontextu využívat rovnoměrně. Relevantní informace uprostřed dlouhého vstupu mohou být využity hůře než informace na začátku nebo na konci.

Výzkum Chroma nazvaný Context Rot pak ukazuje, že rostoucí množství kontextu může zhoršovat spolehlivost modelů, přestože se vše stále pohodlně vejde do jejich deklarovaného kontextového okna.

Takže „vejde se to do kontextového okna“ není totéž jako „model to všechno dobře využije“.

TIP: Co tokeny a kontextové okno skutečně znamenají a proč deklarovaný milion tokenů není totéž jako dokonalá paměť, najdete v Co to v AI znamenají tokeny a kontextové okno a čím to omezuje dlouhé čtení?.

Context poisoning, distraction, confusion a clash

Drew Breunig ve velmi užitečném textu How Long Contexts Fail rozděluje problémy dlouhého kontextu do čtyř praktických kategorií.

Context poisoning vznikne, když se do kontextu dostane chyba či halucinace a další odpovědi ji začnou používat jako fakt.

Context distraction nastává, když už je historie tak rozsáhlá, že model věnuje příliš mnoho pozornosti tomu, co se řešilo dříve.

Context confusion znamená příliš mnoho nepotřebných informací, instrukcí nebo nástrojů, ze kterých model vybírá.

Context clash vzniká, když si různé části kontextu odporují. Typický dlouhý chat, kde jste několikrát změnili požadavky, podobných konfliktů snadno obsahuje více.

Tohle dobře vysvětluje, proč někdy nepomůže ani přepnutí Sonnetu na Opus. Opus může být lepší model, ale pořád dostane stejný otrávený kontext.

Podobné problémy patří i mezi praktické chyby při používání LLM, kterým se věnuje Časté chyby při práci s ChatGPT a LLM vůbec.

Simon Willison: někdy je správná odpověď prostě nový chat

Simon Willison ve svém praktickém popisu Here’s how I use LLMs to help me write code považuje správu kontextu za jednu z hlavních dovedností při práci s LLM. Když konverzace přestane být užitečná, běžně založí novou a znovu do ní vloží jen informace, které skutečně potřebuje.

Z toho plyne užitečné pravidlo:

Nový chat není selhání. Je to způsob, jak vyčistit pracovní kontext modelu.

Willison také upozorňuje na Breunigovy koncepty Context Pruning, Context Summarization a Context Quarantine.

V běžném chatu je lze přeložit do normální lidské řeči:

  • Pruning: vyhodit nepotřebný balast.
  • Summarization: zachovat podstatné věci v krátkém shrnutí.
  • Quarantine: oddělit nový problém do vlastního chatu.

Kdy je lepší opravdu nový chat

Novou konverzaci založte hlavně tehdy, když:

  • úkol se zásadně změnil,
  • AI se opakovaně vrací k dávno opravené chybě,
  • několikrát jste měnili zadání a historie obsahuje protichůdné instrukce,
  • vznikla dlouhá série neúspěšných pokusů,
  • chcete nezávislý druhý názor,
  • chcete porovnat dva modely bez toho, aby druhý nejprve četl řešení prvního.

Pro poslední případ je nový čistý chat mimořádně důležitý. Pokud Opusu ukážete celou předchozí analýzu Sonnetu, nezjišťujete už „jak by problém vyřešil Opus“, ale „jak Opus zhodnotí práci Sonnetu“.

To jsou dvě různé otázky.

Nejlepší mezivarianta: nový chat s handoffem

Dlouhý chat nemusíte buď celý zachovat, nebo celý zahodit.

Nechte AI vytvořit stručné předání:

Připrav podklady pro pokračování v novém chatu. Zachovej pouze cíl, ověřená fakta, důležitá rozhodnutí, omezení, relevantní zdroje a otevřené otázky. Vynech slepé uličky, neúspěšné pokusy, opakování a překonané závěry.

Výsledek vložte do nového chatu.

To je praktická podoba Context Summarization a často nejlepší kompromis mezi zachováním desítek zpráv historie a úplným restartem. Podrobněji tenhle přístup rozebírá Drew Breunig v How to Fix Your Context.

Ale nový chat dnes nemusí znamenat čistý stůl

Tady do hry vstupuje paměť.

ChatGPT může používat informace z předchozích konverzací a Claude má také vlastní Memory a práci s historií. Takže samotné kliknutí na New chat už nemusí znamenat, že AI o předchozí práci vůbec nic neví.

TIP: Jak funguje paměť ChatGPT, co se do ní dostává a jak ji spravovat, řeší samostatně Jak funguje paměť Memory v ChatGPT?.

Právě tady začínají být velmi užitečné Projects.

ChatGPT: nový izolovaný Project jako čistá laboratoř

ChatGPT umožňuje při vytváření projektu zvolit Project-only memory. OpenAI v dokumentaci Projects uvádí, že v tomto režimu projekt nepoužívá uložené memories ani konverzace mimo projekt, ale může používat ostatní konverzace uvnitř stejného projektu.

To z něj dělá velmi užitečný nástroj pro nový pokus.

Pokud máte projekt, ve kterém jste už několik týdnů řešili problém špatným směrem, nový chat ve stejném projektu není čistý restart. ChatGPT stále může použít ostatní projektové konverzace.

Místo toho vytvořte nový Project s Project-only memory a vložte do něj pouze čisté zadání a potřebné podklady.

Tím získáte:

nové chaty + vlastní projektovou paměť + žádný vliv chatů a memories zvenčí.

Project-only memory je potřeba zvolit při vytváření projektu. Projekt stále může mít vlastní instructions a soubory, takže izolovaný Project neznamená „AI bez jakéhokoliv kontextu“, ale kontext omezený na to, co do projektu sami pustíte.

  • TIP: Projects se jako způsob oddělování různých oblastí práce objevují také v Proč oddělit pracovní a soukromou AI. Od jeho vydání ale ChatGPT přidal právě Project-only memory, takže dnešní možnosti izolace jsou výrazně lepší.

Claude má izolovanou projektovou paměť také

I Claude dnes používá paměť oddělenou podle projektů. Anthropic uvádí, že každý Claude Project má vlastní oddělenou paměť a project summary, oddělené od ostatních projektů i běžných chatů.

Takže i u Claude lze použít podobný trik:

starý zamotaný Project nechat být -> založit nový Project -> vložit pouze čisté podklady -> začít znovu.

Pokud ale pouze založíte nový chat uvnitř starého projektu, projektová paměť může část předchozí práce opět přinést do hry.

Temporary Chat a Incognito jsou ještě čistší

Pro jednorázový nezávislý pokus nemusíte zakládat celý projekt.

ChatGPT má Temporary Chat, který nepoužívá ani nevytváří běžné memories a neobjeví se v běžné historii. Pozor ale, stále respektuje zapnuté Custom Instructions.

TIP: Temporary Chat má na 365tipech vlastní návod: Jak používat dočasný Temporary Chat v ChatGPT a k čemu slouží?.

Claude má obdobný Incognito chat. Ten nepoužívá existující Claude Memory a nevytváří nové memories.

Pro skutečně nezávislý druhý pokus je tedy Temporary/Incognito často nejjednodušší řešení.

Nový rozhodovací žebříček

Místo jednoduchého „přidat reasoning -> přepnout model -> nový chat“ se vyplatí rozhodovat podle toho, co je vlastně špatně.

  1. Výsledek je povrchní, ale kontext je správný: zvyšte Effort nebo reasoning.
  2. Úkol je nad schopnosti současného modelu, ale historie je hodnotná: přepněte na silnější model ve stejném chatu.
  3. Konverzace byla dobrá do konkrétního bodu a potom se pokazila: použijte Branch v ChatGPT nebo upravte starší zprávu a vytvořte větev v Claude.
  4. V historii je hodně omylů, změn zadání a slepých uliček: založte nový chat.
  5. Historie obsahuje hodně cenných informací i hodně balastu: vytvořte stručný handoff a pokračujte s ním v novém chatu.
  6. Starý bordel je součástí paměti celého projektu: založte nový izolovaný Project.
  7. Chcete skutečně nezávislý druhý názor: použijte Temporary Chat nebo Claude Incognito a dejte modelu čisté zadání.

Ještě jedno pravidlo navíc: když chcete porovnat modely, dejte jim pokud možno stejné výchozí informace. Přepnutí modelu uprostřed chatu testuje, jak druhý model pracuje s historií prvního. Dva čisté chaty testují, jak oba modely řeší stejný problém samostatně.

To je podstatný rozdíl.

Co z toho plyne

Není potřeba při prvním horším výsledku okamžitě sahat po nejsilnějším modelu.

Někdy model potřebuje více reasoning effort. Někdy potřebujete silnější model. Někdy stačí vrátit se před místo, kde se konverzace pokazila.

A někdy je nejlepší řešení mnohem jednodušší:

zahodit špatný kontext a začít znovu.