環境構築

環境構築

【ローカルLLM検証 環境構築編#8】Qwen3 32Bをサクサク動かせないのか?

Qwen3:32Bのレスポンスが遅い原因をClaudeと一緒に調査。量子化Bit確認からnum_ctx(コンテキスト長)調整まで、実際のVRAM使用量の変化を追った検証記録です。
環境構築

【ローカルLLM検証 環境構築編#7】ローカルLLMでDifyとRAGを連携する

Difyの構築は終わっていますが、定型作業の自動化、品質向上をするためにDifyとRAGを連携させていきたいと思います。達成目標 DifyとRAGを連携する。実装順番 1.RAGを使うためのナレッジベースを作成する 2.ワークフローからナレ...
環境構築

【ローカルLLM検証 環境構築編#6】Open WebUIでRAGを使ってみる

ローカルLLM(Ollama+Open WebUI)でRAGを構築し、過去の用語マップ記事をナレッジベース化してみた検証ログ。Canva図解をPDF化して読み込ませる方法や、ハルシネーション対策の挙動まで実際に試した結果を紹介します。
環境構築

【ローカルLLM検証 環境構築編#5】ローカルLLM:Qwen3 32Bはサクサク動くのか?

VARM32GB環境にQwen3 32Bを導入します。VARMいっぱいを使うLLMですが、果たしてサクサク動いてくれるのか?
環境構築

【ローカルLLM検証 環境構築編#4】ローカルLLMでDifyを構築

ローカルLLMでのDify構築手順です
AI検証

【ローカルLLM検証 環境構築編#3】ローカルLLMに推論が強そうなLLMを入れてみる(deepseek-r1:32b)

deepseek-r1:32bの導入方法と使った感触です
環境構築

【ローカルLLM検証 環境構築編#2】ローカルLLMにマルチモーダルモデルを入れる

ローカルLLMにマルチモーダルモデルを入れる手順と苦戦した点をまとめています。
AI検証

【ローカルLLM検証 環境構築編#1】 モデル実行・管理、LLM(モデル)、ブラウザチャットまで

ローカルLLMの環境構築です モデル実行・管理のOllama、LLM(モデル)のQwen3、ブラウザチャットのOpenWebUIまでの環境構築方法です