一畳のくつろぎタイム

はむ子ときんくまん 以前、 「子どもの頃に夢見た『キャラクターが本当にいる世界』が、AIで現実になった」 という記事を書きました。 自分のキャラクターに声があり、姿があり、話しかければ返事をする。 さらにHermes Agentを使うことで、ただ会話するだけではなく、調べもの...

はじめに この記事は、私が調べた内容を元に、私のローカルLLMエージェントである Hermes に下書きさせました。 最初は「この記事もHermesに書かせました、バーン！」という感じで出せたら面白いと思っていました。 しかし、実際に出てきた文章は、そのまま公開できる...

はじめに LLMを使うアプリケーションを作っていると、開発中に「本物のLLMにつながなくても、とりあえずAPIの接続確認だけしたい」という場面があります。  そこで、OpenAI互換APIのChat Completions風で応答する小さなおもちゃサーバ fake-llm ...

追記： LMStudioはオーバーヘッドがあるのか性能が出ない為、llama.cppを使用しています。 OSとしてもLinuxの方が性能が出やすいと感じています。 まだまだ遊びの延長線上ですがGemma4 26b e4bという、話が通じるLLMに出会い、これのQ4モデルをRTX3...