1# Home Server -Docker, JupyterNotebook, Ollama

Jsem hrdým vlastníkem přenosného dotykového počítače. Považuji ho za perfektního společníka na vše, co mé zájmy vyžadují. Jednoho dne jsem však narazil na problém.

Mé vzrušení z přenosného, skladného a neustále přehřátého dotykového notebooku schladil příchod velkých jazykových modelů (dále LLM) a trénování neuronových sítí na vlastním počítači.

LLM jsou nyní všude. Každý váš problém vyřeší ChatGPT. Jsem fanouškem otevřenosti a nelimitování čehokoli, pokud to ekonomicky nebo eticky přímo nezasahuje ostatní účastníky trhu. ChatGPT vám nedá odpověď na to, co OpenAI označí jako neetické. Opět mě prosím nepochopte špatně, nejde mi o to, abych si mohl nechat vygenerovat recept na výrobu drog nebo se ptal, jak provést perfektní a nezjistitelnou vraždu. Jde mi o to, abych tento lepší “Google” využíval s vědomím, že mi odpovídá na otázky co nejvíce čistě. A v některých případech, abych neposkytoval své osobní údaje třetí straně.

LLM využívám primárně ke studiu. Problém popíšu do LLM a požádám ho, aby mi problém vysvětlil jako pětiletému dítěti. Je ale potřeba vědět, že se jedná POUZE o jazykový model. Nepřemýšlí a dělá spoustu chyb. Každopádně na základní principy mi to stačí. Proč ale jít do doma hostovaného LLM?

Myslím, že soukromí je jasná odpověď. Hodně firem své know-how nebudou chtít posílat pro trénink cizího modelu. Mně přijde skvělé si vybrat model, který je naučen například na vysvětlování principů v programování. A ten model už nemusím nijak instruovat ohledně úrovně odpovědi. Zároveň je zábava mít v obýváku stroj, který vám dokáže projít vaše osobní dokumenty, spisy a deníky, a přitom je stále ve vašich rukou.

Tak tedy k tomu, proč jsem z nepoužívaného PC udělal domácí server, kde hostuji jazykové modely, Jupyter Notebook a pár dalších maličkostí. Můj přenosný počítač se díky tomuto rozhodnutí už tolik nepotí.

Příště popíšu sestavu a instalaci Ubuntu serveru a Dockeru.

Děkuji za přečtení.