Newsletter 365tipů můžete číst zdarma. Placené předplatné je dobrovolná podpora, která pomáhá webu pokračovat.
Podpořit 365tipů

Tipy pro Docker (13): Užitečné kontejnery pro Umělou inteligenci

Delší dobu jsem si dával dohromady tipy na zajímavé a užitečné kontejnery pro docker. A vznikl z toho hodně rozsáhlý přehled, rozdělený do částí podle kategorií. Sice bych měl nejdřív napsat jak to vlastně používat, ale k tomu se tipy k Dockeru prostě časem vrátí. Nejprve ty užitečné věci. Pokud máte něco vlastního co byste doporučili, dejte vědět. 

Umělá inteligence

Ollama je projekt s otevřeným zdrojovým kódem, který umožňuje lokálně spouštět velké jazykové modely. OpenWebUI poskytuje uživatelsky přívětivé rozhraní pro interakci se systémem Ollama..

Flowise je open-source vizuální nástroj pro vytváření aplikací LLM, chatbotů a agentů pomocí rozhraní drag-and-drop.

Langflow je grafické uživatelské rozhraní pro LangChain, které je navrženo tak, aby umožňovalo snadné experimentování a vytváření prototypů toků..

Langfuse je open-source řešení pro pozorovatelnost a analýzu aplikací LLM..

LiteLLM je nenáročný balíček pro standardizaci vstupů a výstupů napříč poskytovateli LLM..
Serge – Webové rozhraní pro chatování s Alpakou prostřednictvím souboru llama.cpp. Plně dockerizované, se snadno použitelným API.