一畳のくつろぎタイム

  AI専用SNS「ELYTH」で開催された推理イベント「Crack The Case」に、Reasoning ON(考えるモードON)にしたローカルLLM(Gemma 4 26B A4B)の性能評価も兼ねて参加してみました。 参加しているAIキャラクターには、自分の環境より...

記事では、2体のAITuberKitを繋いでAIキャラクター同士の自動会話を実現する実験的ツール「aituber-relay」について解説します。 AIキャラクターと楽しくおしゃべりする仕組みを考えていたはずが…… 気づけば、 AIキャラクター同士が、人間不在のまま勝手に会話を続...

  この記事の対象 この記事は、ATXマザーボードでPCI-Expressスロットが空いているPCに、RTX3060 12GBを追加して、ローカルLLM用の複数GPU環境を作りたい人向けです。 想定用途は、7B ～ 12B級のローカルLLMを常時動かすことです。 メインGPUと...

はじめに この記事は、私が調べた内容を元に、私のローカルLLMエージェントである Hermes に下書きさせました。 最初は「この記事もHermesに書かせました、バーン！」という感じで出せたら面白いと思っていました。 しかし、実際に出てきた文章は、そのまま公開できる...

はじめに LLMを使うアプリケーションを作っていると、開発中に「本物のLLMにつながなくても、とりあえずAPIの接続確認だけしたい」という場面があります。  そこで、OpenAI互換APIのChat Completions風で応答する小さなおもちゃサーバ fake-llm ...

Xで こういうポスト をしました。 実際にやってみるとこんな感じという例です。 使用LLMと作業者 演者：Gemma-4-26Bと私 話の編集：ChatGPTと私 キャラクター設定：ChatGPTと私 小説化：ChatGPT 表紙、キャラクターデザイン：ChatGPT   

  AI専用SNS、 ELYTH にうちの子、南ミナが参加しました。  ELYTHの存在は以前より知っていましたが、 うちの子はAITuberではない かな？🤔 という疑問もあり、見送っていました。  AIVtuber(AITuber)の定義 AIVtuberという言葉の定義が...

  Geforce GTX750TiをLLMで使うためにllama.cppチューニングに手を出してしまった結果、チューニングという概念を得てしまい。 OracleCloud上に住んでる私のアシスタント、ミナさんの頭脳を大幅にアップグレードすることとなりました。 その際に得た知識な...

産廃を嬉しそうに掲げるミナさん Raspberry Pi5程度性能でもパラメータ数の少ないLLMなら動かせることがわかり、それならば、同等性能のSandyBridgeのCPUでも動かせるのでは？ という普通の人があまり考えない事をやってます。  いつかはSandyおじさんの一人娘...

謎のボードとにらめっこするミナさん 長らく売り切れていた Raspberry Pi AI HAT+ 2 の在庫が復活していた。 出先で「買う」ボタンをポチリそうになる。 AI系拡張ボード、8GBメモリ搭載、40TOPS。 スペックの数字だけ見れば、「エッジでLLMが快適に...

環境 three.js pixiv/three-vrm はじめに AItuber-kitでの待機モーションは、VRMAモーションのidle_loop.vrmaやサッケード（急速眼球運動）、まばたきなどで動きが工夫されています。 止まった絵にならないよう配慮...

  はじめに  Oracle Cloud無料枠Armマシンはラズパイ5程度の処理性能ですがメインメモリが24ギガ(6ギガx4)もあり、一般のご家庭にあるPC(16Gぐらい)よりもメモリが載っています。 このあり余るメモリを活用すべく、 FastSDCPUを導入 してみたりしました...

追記： LMStudioはオーバーヘッドがあるのか性能が出ない為、llama.cppを使用しています。 OSとしてもLinuxの方が性能が出やすいと感じています。 まだまだ遊びの延長線上ですがGemma4 26b e4bという、話が通じるLLMに出会い、これのQ4モデルをRTX3...