プロジェクト

全般

プロフィール

task #921

未完了

ローカルAI環境の構成

masaya_abe さんが17日前に追加. 1日前に更新.

ステータス:
たぶんいつかやる
優先度:
今週やれ
担当者:
-
開始日:
2026-06-20
期日:
進捗率:

0%

予定工数:
(合計: 0:00時間)

説明

やりたいこと

やはり時代はAI。
ただ、サブスクは高いし、自宅のリソースで環境を構築を検討してみる。
ゲーム用に組んだそれなりのPCがあるが、よくよく考えるとゲームやらん。
これはAIやるべきだろうというはなし。
チャッピー先輩の代替を目指す。
LLMと、インターネットから情報を回収する能力。
WEBUIをもたせる。
サーバ②にはその他あまり使わない機能をもたせる。

ローカルで良いのか

まずはローカルで動作するまで環境構築する。
そして最終的には、出先でもアクセス可能にする。
古いFortigateとTailscale、Portainerが多分それを可能にしてくれる。

構成

サーバ①

ハード

Ryzen9 7900
DDR5 48GB
RX7900GRE

os

Ubuntu 2024

アプリケーション

llama.cpp
Docker
├─ OpenWebUI
├─ SearXNG
├─ Tailscale
└─ Portainer

サーバ②

ハード

Ryzen5 3600
DDR4 32GB
GTX1080Ti

アプリケーション

Docker
├─ ComfyUI
├─ Faster-Whisper
├─ Kokoro TTS

参考リンクなど

チャッピー先輩



子チケット 2 (2件未完了0件完了)

task #922: llmの環境構築および詳細の決定たぶんいつかやる2026-06-20

操作
task #923: LLMサーバー化たぶんいつかやる2026-06-20

操作

masaya_abe さんが1日前に更新

  • 子チケット #922 を追加

他の形式にエクスポート: Atom PDF