在 5 美元 VPS 上打造開源 AI 助理：我的日常自動化完整架構教學

核心解答：如何在低價 VPS 上運行 AI 個人助理

你可以在每月僅需 5 美元的 VPS 上建構一個功能完整的 AI 個人助理，關鍵在於採用合適的開源模型與精簡的架構設計。這個 AI 助理不僅是對話機器人，而是能夠實際執行日程管理、郵件回覆、任務排程等工作的自動化助手。透過 Docker 容器化部署、开源 LLM 模型（如 Llama 2 或 Mistral）與 API 整合，你可以打造一個隱私保護且成本極低的個人 AI 系統。

系統架構總覽

整個系統採用微服務架構設計，主要分為三個層次：

• API 閘道層：使用 Nginx 作為反向代理，負責負載均衡與 SSL 終端
• 應用服務層：包含 AI 推理服務、工作排程器、第三方 API 整合模組
• 資料層：使用 SQLite 儲存本地資料，搭配 Redis 做為快取

各服務間透過 REST API 與訊息佇列（使用 Redis Queue）溝通，這種設計確保系統各元件可獨立擴展與維護。

核心服務元件

• LLM 服務：使用 Ollama 運行量化後的 7B 參數模型，記憶體需求約 4GB
• 工具調用層：LangChain 框架實現 Function Calling，讓 AI 能呼叫外部工具
• 排程引擎：APScheduler 處理定時任務與循環工作

技術選型與模型部署

在 5 美元 VPS（通常配備 1-2 CPU 核心、1GB RAM）上運行 AI 模型，需要特別注意資源優化。

模型選擇策略

我選擇 Llama 2 7B Q4_K_M 量化版本，這個模型經過 4 位元量化後僅需約 4GB 記憶體，在 CPU 推論下每秒可產生 8-12 個 token。對於日常對話與任務處理已足夠使用。

關鍵技術決策：

• 使用 llama.cpp 做為推論引擎，支援 CPU 高效運算
• 採用 LangChain 框架實現 RAG（檢索增強生成）與工具調用
• 部署 Open WebUI 作為使用者介面

Docker 部署配置

以下是我的 docker-compose.yml 核心配置：

services:
  ollama:
    image: ollama/ollama:latest
    volumes:
      - ollama:/root/.ollama
    deploy:
      resources:
        limits:
          memory: 4G

  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    ports:
      - "3000:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434

實作步驟：從零建構 AI 助理

第一步：VPS 環境準備

選擇提供 Docker 支援的 VPS 供應商（如 DigitalOcean、Linode 或 Hetzner），建議使用 Ubuntu 22.04 LTS 系統。安裝 Docker 環境後，確保 Swap 空間至少設定為 4GB，以防止記憶體不足。

# 建立 Swap
sudo fallocate -l 4G /swapfile
sudo chmod 600 /swapfile
sudo mkswap /swapfile
sudo swapon /swapfile

第二步：部署 Ollama 服務

docker run -d --name ollama \
  -v ollama:/root/.ollama \
  --restart unless-stopped \
  ollama/ollama:latest

# 進入容器下載模型
docker exec -it ollama ollama pull llama2:7b

第三步：建構工具函式

定義 AI 可呼叫的函式，讓助理能夠執行實際任務：

@tool
def add_event(title: str, date: str, time: str):
    """新增日曆事件"""
    # 整合 CalDAV 或 Google Calendar API
    return calendar.add_event(title, date, time)

@tool
def send_email(to: str, subject: str, body: str):
    """發送電子郵件"""
    # 使用 SMTP 發送郵件
    return email.send(to, subject, body)

@tool
def search_web(query: str):
    """搜尋網路資訊"""
    # 串接 SerpAPI 或 Tavily
    return search.execute(query)

第四步：設定自動化工作流程

建立每日的例行任務，例如：

• 早上 8 點：AI 總結昨日任務與今日待辦事項
• 下午 2 點：檢查郵件並生成回覆建議
• 下班前：自動排程明日行程

實際應用場景與效果

這套 AI 助理目前已自動化我 80% 的日常行政工作：

• 郵件管理：AI 每天自動分類重要郵件，並生成回覆草稿
• 日程統整：透過自然語言指令新增或查詢行程
• 任務提醒：結合 RSS 訂閱與關鍵字監控，主動推送興趣資訊
• 會議摘要：自動產生會議記錄與行動項目清單

相比雲端 AI 服務，這種本地部署方式確保了資料隱私，所有對話與資料都儲存在自己的伺服器上，無需擔心資料外洩問題。

常見挑戰與解決方案

在部署過程中，我遇到了幾個主要挑戰：

• 推論速度過慢：透過模型量化與批次處理優化，將延遲從 30 秒降至 3 秒內
• 記憶體不足：使用 SWAP 與模型串流載入技術解決
• API 整合複雜度：採用統一的工具註冊機制，簡化新功能擴展

總結來說，在 5 美元 VPS 上運行 AI 助理完全可行，關鍵在於選擇合適的量化模型與優化資源配置。這種架構不僅成本低廉，更提供了完整的資料控制權。