【ローカルLLM検証環境構築編#4】ローカルLLMでDifyを構築

今回は下記の④を実施します。

Step	内容	目標	実体は何か？
①	Ollama導入	ローカルLLMを動かす	モデルを管理・実行するソフト
②	Qwen 3導入	高性能な日本語モデルを使う	LLM本体（モデル）
③	Open WebUI導入	ChatGPTのような画面で使う	ChatGPTのような画面で使えるようにするソフト
④	Dify導入	AIアプリ・エージェントを作る	LLMをワークフローでアプリ化する
⑤	RAG	知識として読み込ませる
⑥	AIエージェント	ドキュメント作成支援などを自動化する

1-1.gitを取得、確認

git –versionでバージョンが出ればOK

1-2.Dify導入

まずDify用の作業フォルダ

私はC:\AI\Difyを作り、gitでDify取得し、下記を実行

git clone https://github.com/langgenius/dify.git

difyフォルダに移動

cd docker　でまた移動で、dir

以下2つなどがあればOKとのことで、あるので、OK

docker-compose.yaml
.env.example

次は.envを作るようです

Copy-Item .env.example .env

その後

dir -Force

あるのでOK

いよいよ

docker compose up -d

うまくいったみたいです

確認
docker compose ps

STATUSがUPになってればOK

次「http://localhost/install」を開きます

ローカルなのでメアドは実在しないものでもよいみたいです
ユーザー、パスを指定してセットアップ

すると画面が出てますね

次は連携、モデルプロバイダー、Ollamaを選択。モデルプロバイダーは任意ですが、私はOllama

でインストール

時間がかかりましたが、プラグインが入りました

あとはモデル追加ですね

URL　：http://host.docker.internal:11434

URLだけローカルなのが注意点
エラーが出ました。モデル名は任意ではなく、インストールしたものみたいです

「deepseek-r1:32b」にしました（ちょっと見切れて戻らなくなりました。。。）

実際に作ってみます

モデルエラーが出ますが、無視です

右上のモデルで、ローカルのモデルを選択

これで完了

💻 ローカルLLMでは容量が大きいグラフィックボードが必須です！

リンク

実際にチャットしてみます

私は日本人です。ブログ収益で良さそうなジャンルを教えてください

Q: 私は日本人です。ブログ収益で良さそうなジャンルを教えてください
A: 様々なブログジャンルがありますが、収益性の高いジャンルは以下のようになりました：

テクノロジーとデジタルトレンド

日本ではテクノロジーに対する関心が高く、新しい技術やデジタルツールに関する情報が常に求められています。AI（人工知能）、ブロックチェーン、サイバーセキュリティなどは特に注目されています。

個人 finanziarpa (投資・資産形成)

若い世代を中心に、自己資金管理や投資への関心が高まっています。特に仮想通貨（Cryptocurrency）や株式取引に関する情報は人気です。収益化の可能性として、アフィリエイトやオンラインコースの提供などが考えられます。

ライフスタイルとウェルネス

健康や生活品質に対する意識が高まっているため、健康食品、瞑想、ヨガ、持続可能な暮らし（エコフレンドリーな製品やサービス）に関する情報は収益性が高いです。

ペットとペットケア

日本ではペット飼育率が高いことに加え、ペットに対する愛着が強く、ペット用品やペットケアに関するブログが人気です。収益化の可能性としては、ペット関連製品のアフィリエイトなどが考えられます。

デジタルノマドと在宅ワーク

近年、特にコロナ禍を機に、在宅ワークやテレワークの需要が高まっています。海外移住やノマード生活に関する情報は大きな関心を呼びます。

オンライン教育とツール

eラーニングプラットフォームや学びのツールに対する需要が伸びています。特に、日本語対応のサービスや教材レビューは収益化しやすいです。

選び方のヒント：

自身に Expertise （専門知識）があるジャンルを選ぶことが重要です。

永続的に readership（読者層）が期待できるジャンルを選ぶ。

競合状況を分析し、独自性や差別化されたコンテンツを作成すること。

これらのジャンルはいずれも日本市場でのニーズが高いものばかりですので、ぜひ自身の興味と専門性に応じてチョイスしてください！