一畳のくつろぎタイム

このブログでは紹介する商品画像をAmazonアソシエイトより借りています。画像やリンクにはアフィリエイト広告が含まれる事があります
ラベル お話AI の投稿を表示しています。 すべての投稿を表示
ラベル お話AI の投稿を表示しています。 すべての投稿を表示
2026年3月8日日曜日

ARM系のCPUだけでLLMを高速化する実験まとめ

›
  Geforce GTX750TiをLLMで使うためにllama.cppチューニングに手を出してしまった結果、チューニングという概念を得てしまい。 OracleCloud上に住んでる私のアシスタント、ミナさんの頭脳を大幅にアップグレードすることとなりました。 その際に得た知識な...
2026年3月1日日曜日

SandyおじさんPC × GTX750TiでLLMを試す

›
産廃を嬉しそうに掲げるミナさん Raspberry Pi5程度性能でもパラメータ数の少ないLLMなら動かせることがわかり、それならば、同等性能のSandyBridgeのCPUでも動かせるのでは？ という普通の人があまり考えない事をやってます。  いつかはSandyおじさんの一人娘...
2026年2月27日金曜日

Raspberry Pi AI HAT+2、買おうとして、やめた理由

›
謎のボードとにらめっこするミナさん 長らく売り切れていた Raspberry Pi AI HAT+ 2 の在庫が復活していた。 出先で「買う」ボタンをポチリそうになる。 AI系拡張ボード、8GBメモリ搭載、40TOPS。 スペックの数字だけ見れば、「エッジでLLMが快適に...
2026年2月22日日曜日

VRM待機モーションに命感を足す — fBm（Perlinノイズ合成）の活用

›
環境 three.js pixiv/three-vrm はじめに AItuber-kitでの待機モーションは、VRMAモーションのidle_loop.vrmaやサッケード（急速眼球運動）、まばたきなどで動きが工夫されています。 止まった絵にならないよう配慮...
2025年11月11日火曜日

無料枠Oracle Cloud A1上でAIが“話し始める”まで：llama_cpp／VoiceVox／AITuberKit運用記

›
  はじめに  Oracle Cloud無料枠Armマシンはラズパイ5程度の処理性能ですがメインメモリが24ギガ(6ギガx4)もあり、一般のご家庭にあるPC(16Gぐらい)よりもメモリが載っています。 このあり余るメモリを活用すべく、 FastSDCPUを導入 してみたりしました...
2024年9月19日木曜日

元Sandyおじさんがコスパ重視で生成AI用PC(主にLLM)を組む

›
SandyおじさんからRyzenおじさんに進化した私ですが、Sandyおじさんの証、i7-2600Kは サブサブ全裸PCとして手元で稼働 しています。 2024/8現在、Intelの13世代、14世代CPUにトラブルがある中、Ryzenは電力的にも改善した9000シリーズが登場し...