2026年– date –

生成AIの利用量に課税される夢を見ました。1Mトークンにつき100円、成果物の売上に10〜20％。荒唐無稽に聞こえますが、ロボット税はすでに何度も真顔で検討されています。架空の制度検討資料8枚とともに、この設計が誰の首を絞めるのかを考えました。

6月の机のうえで起きていること 技術記事の側では、わが家のローカルLLM環境について書きました。RTX 5060 Ti (16GB) と RTX 3080 Ti (12GB) の2枚刺し、推論基盤は llama.cpp。Gemma系31Bを Q5 で動かしてだいたい 18 tokens/sec、というやつです。 書い...

はじめに ― もしも、物理法則の根底に「魔法」があったら？ このサイトは、ふだんはローカルLLMや生成AIといった、現実の技術の話を書いている場所です。今日はその裏側にある、もうひとつの世界の話を少しさせてください。 私たちが暮らす世界では、火を...

この記事の主役は、構築の苦労話ではない 自分のPCにそこそこのGPUが刺さっていると、いつか必ずこう思います。 「クラウドのAIに毎月お金を払うより、自分のマシンで、自分のLLMを動かせばよくない？」 そう思った人が辿り着く先が、ローカルLLMです。自...

但し書き: この記事は、ごく普通の一般家庭の住人による構築記録です。使っているのはゲーミングPC（ちょっとグラボに奮発しましたが）と、いまどきの家庭なら普通に1台くらいある自宅NASです。どこのご家庭にもありますよね、NAS。ね！ 構築手順は至って...