Skip to main content


Jednou za čas si zkusím nějaké ty lokální #LLM, jestli by nešly prakticky používat bez přístupu k netu, a zatím teda ještě ne. 😁
#llm
in reply to Miroslav Buček 🌳

@miroslavbucek Upřímně nemám pocit, že by se to nějak posunulo. Možná Seznam dělá na něčem, co bude řešit tokenizaci v češtině a třeba to bude mít lepší výsledky. Ale vzhledem k tomu, že už údajně chybí další data a není z čeho učit, tak bez nějaké větší optimalizace LLM si nemyslím, že se to výrazně zlepší.
in reply to Michal Špondr

Však se tu bavíme o lokálním modelu a tohle opravdu vyřeší čas.
1) optimalizací
2) zvyšujícím se výkonem grafických karet a zvětšující se pamětí (co aktuálně uvedla NVIDIA je naprostá bomba)

This website uses cookies to recognize revisiting and logged in users. You accept the usage of these cookies by continue browsing this website.