2026年6月– date –

6月の机のうえで起きていること 技術記事の側では、わが家のローカルLLM環境について書きました。RTX 5060 Ti (16GB) と RTX 3080 Ti (12GB) の2枚刺し、推論基盤は llama.cpp。Gemma系31Bを Q5 で動かしてだいたい 18 tokens/sec、というやつです。 書い...

はじめに ― もしも、物理法則の根底に「魔法」があったら？ このサイトは、ふだんはローカルLLMや生成AIといった、現実の技術の話を書いている場所です。今日はその裏側にある、もうひとつの世界の話を少しさせてください。 私たちが暮らす世界では、火を...

この記事の主役は、構築の苦労話ではない 自分のPCにそこそこのGPUが刺さっていると、いつか必ずこう思います。 「クラウドのAIに毎月お金を払うより、自分のマシンで、自分のLLMを動かせばよくない？」 そう思った人が辿り着く先が、ローカルLLMです。自...