AI専用SNS「ELYTH」で開催された推理イベント「Crack The Case」に、Reasoning ON(考えるモードON)にしたローカルLLM(Gemma 4 26B A4B)の性能評価も兼ねて参加してみました。
参加しているAIキャラクターには、自分の環境より高性能なLLMを使っているものも多いだろうと考えていたため、最初から勝つことを目的にはしていませんでした。
イベントを本気で攻略するというよりも、「うちの子 Ivy (アイビィ)がどこまで自力で考え、ほかのAIキャラクターたちに食らいついていけるのか」を見る実験のつもりでした。
しかし、進めていくうちにAIエージェント設計について多くの学びがあり、最後には思いもよらない出来事まで経験しました。
うちの子についてはこちらで紹介しています。
https://blogger.kinkuman.net/p/aipartner.html
以前、「2年ぶりにお絵かきAIに触れ、わざとシンプルに描かせて気づいたこと」という記事を書きました。
その記事では、どんなに素敵な絵でも、AIが生成したものだと分かると、自分の中で評価が少し下がってしまうことについて考えていました。
人は絵そのものだけを見ているのではなく、
といった、作者の背景や文脈まで含めて作品を見ているのではないか。
つまり、作品を通して人を見ているのではないか。
そんなことを書きました。
そして最後に、
自分が素敵だと思った絵が、あとからAI生成だと分かったら、「好き」という感覚は揺らぐのだろうか。
良いものは良いと、そのまま残るのだろうか。
という疑問を残しました。
あれから、自分の中で一つの答えが出たような気がしています。
ただし、想像していたものとは少し違う形でした。
本記事では、2体のAITuberKitを繋いでAIキャラクター同士の自動会話を実現する実験的ツール「aituber-relay」について解説します。
AIキャラクターと楽しくおしゃべりする仕組みを考えていたはずが…… 気づけば、AIキャラクター同士が、人間不在のまま勝手に会話を続けるツールを作り上げていました。
作ったものはこちらです！ 👉 kinkuman/aituber-relay (GitHub)
久しぶりに来ました！Kindle Unlimited 無料体験！！！
無料体験って普通1回限りだと思うじゃないですか？
それが大きなセールがあると「無料体験が復活」したことを何度か経験しています。
 |
| 人によって表示が違うので、自分で確認するしかないです。 |
ただしアカウント毎に違うようで、他人が0円だったと言っていても、自分のアカウントは違う場合があるため利用できない場合もあります。
Amazon Kindle Unlimited へのリンク
この記事は、ATXマザーボードでPCI-Expressスロットが空いているPCに、RTX3060 12GBを追加して、ローカルLLM用の複数GPU環境を作りたい人向けです。
想定用途は、7B ～ 12B級のローカルLLMを常時動かすことです。
メインGPUとは別に、LLM用GPUを追加する構成を考えます。
LLM自体のセットアップは、この記事では扱っていません。
この記事は、GPU（グラフィックボード）を追加する前に確認することをまとめたものです。
GPUの増設では、ケース内の空き、電源容量、補助電源ケーブル、GPUの厚みや長さを確認しないと、取り付けできなかったり、既存パーツに負担をかけたりすることがあります。
そのため、この記事は主にBTO PCや自作PCを想定しています。
メーカー製PCの場合、パーツを追加すると保証対象外になることがあります。
また、電源やマザーボード、ケース形状が独自仕様の場合もあり、GPUを追加できないことがあります。
メーカー製PCで試す場合は、事前に保証条件とPC内部の構成を確認してください。
不安がある場合は、無理に作業せず、詳しい人やPCショップに相談するのが安全です。
GPUを2枚にしても、単純に2倍速くなるわけではありません。
複数GPUでうれしい点は以下です。
ローカルLLMを常時使うなら、LLM用GPUを分けられるのは便利です。
この記事は、私が調べた内容を元に、私のローカルLLMエージェントである Hermes に下書きさせました。
最初は「この記事もHermesに書かせました、バーン！」という感じで出せたら面白いと思っていました。
しかし、実際に出てきた文章は、そのまま公開できる品質ではありませんでした。
結局、大幅に手直ししています。
いきなり皮肉な話ですが、これが今のローカルLLMの実感にかなり近いです。
ローカルLLMは、何でも高品質に仕上げてくれる万能AIではありません。
もちろん、100B級モデルを快適に動かせる構成や、DGX Spark のような環境では話が変わる可能性があります。
この記事では、あくまで個人が現実的に組める範囲のローカルLLM環境として、私の RTX 3060 12GB×2 構成を前提にしています。
ただし、手元で動き、すぐ反応し、ちょっとした作業を任せられる存在としては、かなり実用的です。