
はじめに
LLMを使うアプリケーションを作っていると、開発中に「本物のLLMにつながなくても、とりあえずAPIの接続確認だけしたい」という場面があります。
そこで、OpenAI互換APIのChat Completions風で応答する小さなおもちゃサーバ fake-llm を作りました。
fake-llm はその名のとおり本物のLLMではありません。
中身は、辞書、正規表現、テンプレート、Markov風の短文生成、簡単な感情値を組み合わせたルールベースのいわゆる人工無能です。
考え方や機能は人口無能のバイブル的書籍、「恋するプログラム―Rubyでつくる人工無脳」を参考にしています。
|
| 恋するプログラム: Rubyでつくる人工無脳 |
生成AIのLLM登場以前に私がずっと作りたかったプログラムでした。
X上のある方のポストで思い出しました。
どんなもの?
LLMの代わりに使えて、なんとなく通じてるような、通じてないような会話ができます。
例ではAITuber-kitから接続するLMStudio等のローカルLLMとしてfake-llmを使用しています。


