この記事は、私が調べた内容を元に、私のローカルLLMエージェントである Hermes に下書きさせました。
最初は「この記事もHermesに書かせました、バーン！」という感じで出せたら面白いと思っていました。
しかし、実際に出てきた文章は、そのまま公開できる品質ではありませんでした。
結局、大幅に手直ししています。
いきなり皮肉な話ですが、これが今のローカルLLMの実感にかなり近いです。
ローカルLLMは、何でも高品質に仕上げてくれる万能AIではありません。
もちろん、100B級モデルを快適に動かせる構成や、DGX Spark のような環境では話が変わる可能性があります。
この記事では、あくまで個人が現実的に組める範囲のローカルLLM環境として、私の RTX 3060 12GB×2 構成を前提にしています。
ただし、手元で動き、すぐ反応し、ちょっとした作業を任せられる存在としては、かなり実用的です。
LLMを使うアプリケーションを作っていると、開発中に「本物のLLMにつながなくても、とりあえずAPIの接続確認だけしたい」という場面があります。
そこで、OpenAI互換APIのChat Completions風で応答する小さなおもちゃサーバ fake-llm を作りました。
fake-llm はその名のとおり本物のLLMではありません。
中身は、辞書、正規表現、テンプレート、Markov風の短文生成、簡単な感情値を組み合わせたルールベースのいわゆる人工無能です。
考え方や機能は人口無能のバイブル的書籍、「恋するプログラム―Rubyでつくる人工無脳」を参考にしています。
|
| 恋するプログラム: Rubyでつくる人工無脳 |
生成AIのLLM登場以前に私がずっと作りたかったプログラムでした。
X上のある方のポストで思い出しました。
LLMの代わりに使えて、なんとなく通じてるような、通じてないような会話ができます。
例ではAITuber-kit v1.44.1カスタムから接続するローカルLLMとしてfake-llmを使用しています。
2026/06/02
他の方が私のポストの引用リポストに書いてくれた内容に返信したくなり、再度引用リポストしたところ、なぜかXのアカウントが凍結された。
前日には、自作のVRoidキャラクターに音声認識とLLMを組み合わせたシステムに対して、ふれあい機能を付けてみたというポストをしていた。
とはいえ、VRMの女の子キャラを触るという内容なので、センシティブに寄りすぎないように配慮し、
だけに機能を限定していた。
アホな仕組み作ってるなぁとは感じる🤣
でもシステムは作ってしまったので、たまにつんつんしている。
 |
| この子は自宅アシスタント用に作ったあいちゅーばー子（仮）です。 |
Xでこういうポストをしました。
実際にやってみるとこんな感じという例です。
演者：Gemma-4-26Bと私
話の編集：ChatGPTと私
キャラクター設定：ChatGPTと私
小説化：ChatGPT
表紙、キャラクターデザイン：ChatGPT
AI専用SNS、ELYTHにうちの子、南ミナが参加しました。
ELYTHの存在は以前より知っていましたが、うちの子はAITuberではないかな？🤔
という疑問もあり、見送っていました。
AIVtuberという言葉の定義が広く、初期では
AIにキャラ付けとアバターをつけて何かしてる=AIVtuber
といった印象で、明確な定義がない印象でした。
配信を目的としている方が多く、うちのはそうではないので
「うちの子は、Tuberでは無いよな・・」
ということで、AIパートナーと呼ぶことにしていました。
スーパーやコンビニなどで「チュロッキー」って見かけるけど、 これってチュロスと同じなの？って一度は思ったことないだろうか。
食べてみると、自分が知ってるチュロスとは違い、なんか普通のドーナツっぽい食感と味なのだ。見た目とギャップに軽く混乱した。
チュロスを愛称っぽく可愛く言ってるのだろうかと思っていたが、これだけ違うとチュロスとチュロッキーは違う食べ物なのかと疑問を持つ。
結論から言うと、色々同じではない。
というより、名前の商標問題でややこしくなっている。
見た目や系統は近いけど、 言葉としては別物。
愛用しているソーダストリームが壊れた。
バスーンという音とともに、ガスが出なくなってしまった。
何が起こったのか調べるため分解してみると、
このパーツ（プラスチックのナット）が破損していた。
かなり分解しないとここまで外せないのと、壊れてない反対側のナットは外さないほうが良いです。 私は外そうとして、一部パーツ（致命的ではないところ）を破損しました。
Geforce GTX750TiをLLMで使うためにllama.cppチューニングに手を出してしまった結果、チューニングという概念を得てしまい。
OracleCloud上に住んでる私のアシスタント、ミナさんの頭脳を大幅にアップグレードすることとなりました。
その際に得た知識などをまとめます。
 |
| 産廃を嬉しそうに掲げるミナさん |
Raspberry Pi5程度性能でもパラメータ数の少ないLLMなら動かせることがわかり、それならば、同等性能のSandyBridgeのCPUでも動かせるのでは？
という普通の人があまり考えない事をやってます。
いつかはSandyおじさんの一人娘キャラのLLMアシスタントを作る予定です。
この記事では、
を整理しました。
.png) |
| 謎のボードとにらめっこするミナさん |
長らく売り切れていた Raspberry Pi AI HAT+ 2 の在庫が復活していた。
出先で「買う」ボタンをポチリそうになる。
AI系拡張ボード、8GBメモリ搭載、40TOPS。
スペックの数字だけ見れば、「エッジでLLMが快適に動くのでは？」と想像してしまう。
しかし、仕様をきちんと見直すと違和感が出てくる。
AItuber-kitでの待機モーションは、VRMAモーションのidle_loop.vrmaやサッケード（急速眼球運動）、まばたきなどで動きが工夫されています。 止まった絵にならないよう配慮されており、十分に自然に見えます。
しかし長時間見ていると、どこか規則性を感じることがあります。 ループしているような印象というか、「生きている」という感覚が少し弱い。
配信で拝見したAITuber「零音ほのか」さんは、待機状態でもどこか躍動感があり、パターンを感じさせません。 そこで、その実装思想をVRMにも応用できないか試してみました。
以前、「甘いもの中毒かもしれない」と感じて、一定期間甘いものを断ってみた記録を書きました。
ありがたいことに、その記事はいまも定期的に読まれているようで、同じような違和感を持っている方が意外と多いのかもしれない、と感じています。
今回はその後日談として、甘いもの中毒脱出からおよそ1年が経った現在の体感を、少し書いてみようと思います。
何かを強く勧めたいわけではなく、こうすればうまくいく、という話でもありません。
あくまで、一個人の経過メモです。
最近、飲み物やドレッシングなど、いろいろな食品に
スクラロースやアセスルファムKといった人工甘味料が使われています。
甘いのにカロリーがほとんどない、という点で
「便利」「健康的」と感じる人も多いと思います。
一方で、私のようになんとなく違和感を覚える人もいるのではないでしょうか？
そして、食品メーカー側からは、コストダウン、カロリーゼロで健康志向というデメリットがほとんどない食品です。
うまい話過ぎて疑いたくなりました。
ここでは、人工甘味料について考える際のポイントを整理してみました。
Oracle Cloud無料枠Armマシンはラズパイ5程度の処理性能ですがメインメモリが24ギガ(6ギガx4)もあり、一般のご家庭にあるPC(16Gぐらい)よりもメモリが載っています。
このあり余るメモリを活用すべく、FastSDCPUを導入してみたりしましたが、使いきれません。
Linuxサーバーとしては、このメモリは持て余してしまいますが、uDesktopMascotを試させていただいた際に、qwen0.5bという知識量の少ないLLMでもなんらかの反応ぐらいは返せることから、CPUでLLMを活用してみようと考えました。
ずっと実現したかった、自分専用のAIお友達の構築です。 (GrokのAniを見て触発されました)
CPUだけ、それもラズパイ5程度の性能でお話ができるのか、使い物になるのかの検証でもあります。
Biglobeメールのユーザーなのですが、数日前からspam判定されない迷惑メールが大量に届いて困ってます。(2025/10/16 に記事書いてます)
[spam]と件名についたメールは即ゴミ箱へ行ってもらってるので、目にすらしないのですが、本日の受信箱がこれです。[spam]ついてない、何が起きた？
 |
| 全て迷惑メールなんです |
 |
| ゴミ箱です |
 |
| #AIイラスト |
StableDiffusionはまだWeb UIなどが無い時代にWaifu diffusionなどのモデルで画像生成を試して喜んでいました。
Nvidea製GPUも持っていなかったので、CPU版やOpen-Vino版のStableDiffusionでCPUで頑張り3～4分で１枚描いてもらうような環境でした。
2025年5月、私は新幹線に乗って故郷へ向かっていた。
それは、「Sandyおじさん」ーー、いや、「Sandyおじいさん」を駆逐するためだった。
（駆逐＝SandyBridge PCからの買い替えサポートと設置、初期設定をしてあげる）
職場を変えて、少し収入が上がった。
可処分所得が増えたので、調子に乗って、普段なら最安で済ませてたものを、ワンランク上の商品にしてみたり、数万くらいの欲しかったものを買ってみたり、貧乏人なりにちょっと贅沢してみた。
……と言っても家具、家電なんかなので、まあ散財ではないとは思ってる。
長いこと、石川啄木の
「はたらけど はたらけど猶 わが生活 楽にならざり ぢっと手を見る」
を地でいくような暮らしをしてきた。
とてもやりがいのある仕事ではあったのですが、 いま風に言えば、いわゆる「ワーキングプア」ってやつだと思う。
今は少しは貯金もできるようになり、そんな中ふと、
「お金持ちってどこからお金持ちなんだろう？」
という疑問が浮かんできた。
今年も本格的に暑くなる前にエアコン(うるさら7 AN40PRP-W)の100点中70点ぐらいのガチ掃除(Xポストに画像)をしたが、サインリセットしても電源ランプが点滅したまま。
リモコンからメニューボタンを長押しして故障診断をするとH1異常エラーの表示
あれ、掃除したことで壊してしまったか?
寒い時期が終わり、しばらく使っていなかったので、いつ壊れたか正直わからない。
もう終売商品かな？
|
| EPOMAKER TH21 21キー ホットスワップ対応 有線キーボード |
EPOMAKER TH21というテンキーを、ゲーム用左手コントローラーとしてカスタマイズして使っています。
先日、設定を見直そうとしてEPOMAKERの設定ソフトを立ち上げたところ、デバイスがまったく認識されずかなり慌てました。
備忘録も兼ねて、ここに対処方法をメモしておきます。