Časem na to nejspíš narazíte. Pokud budete mít moc dlouho session (chat), tak po vložení delšího textu (třeba textu článku), vám místo smysluplné odpovědi dorazí něco zcela náhodného, nesmyslného a anglicky, ačkoliv vše bylo doposud česky a česky to i chcete..
Skoro vždy pomůže vkládaný text zkrátit, tedy z článku vložit například jenom polovinu. Co určitě nepomůže je žádat o korektní odpověď.
Řešením také je zahájit novou session (chat) a tak trochu to napovídá na to, kde vzniká problém.
Pokud máte příliš objemnou session, začnete narážet na limity (jako například oněch 16 KB a 2 KB na prompt). A právě založení nové session (nového chatu) problém řeší prakticky vždy.
Mimochodem, snažil jsem se k tématu něco najít, ať už v článcích nebo v bug reportech, ale zatím bez úspěchu. Takže pokud na něco narazíte, dejte vědět.
Počítejte s tím, že neplacená ChatGPT bude na toto více náchylná než placená – ta totiž má více tokenů, takže se do session vejde podstatně víc informací.
PS: Výše uvedené příklady mají jako vstup kompletní článek pro Ecoista.cz a požadavek byl na vytvoření upoutávky pro Facebook. Po zkrácení článku to funguje, ale stejně tak to funguje v nové chat/session.
Další tipy týkající se AI (ChatGPT a další)
