跳到主要内容

系统要求

NeoMind 可在桌面(macOS / Windows / Linux)或服务器上运行。以下是各部署方式的具体要求。

包大小与资源占用​

下载体积(GitHub Releases)​

产物大小说明
服务器二进制 (tar.gz)~27–30 MBneomind + neomind-extension-runner 打包;按平台分发
Web 前端 (tar.gz)~4.4 MB静态资源(HTML/JS/CSS),由后端直接服务
macOS 桌面 (.dmg)~41 MBTauri 应用 — 内含后端 + 前端 + 系统 WebView
Windows 桌面 (.msi)~42 MB
Linux 桌面 (.deb)~48 MB
Linux AppImage~117 MB完全自包含 — 包含所有系统库

服务器总磁盘占用:~35 MB(二进制 + Web 资源)。没有 Docker 镜像层,没有 pip/npm 运行时——一个静态编译二进制 + 一组静态文件。

运行时资源占用​

主进程在单个二进制中内嵌 API 服务器、MQTT Broker、redb 存储和规则引擎。扩展运行在独立进程中。

组件内存(典型)说明
主进程50–150 MBAxum + MQTT Broker + redb。随设备数量和遥测量增长。
扩展进程每个扩展 10–50 MBML 模型延迟加载(首次命令 → 加载 → 常驻)。YOLOv8n 模型激活时增加 ~50 MB。
遥测存储随数据量增长redb 文件位于 data/telemetry.redb。每个数据点 ~1 KB。保留时间可配置。
无外部依赖

NeoMind 不需要 PostgreSQL、Mosquitto、Redis 或任何其他外部服务。唯一可选的外部依赖是 LLM——内置模型本地一键下载(完全离线),也可接 Ollama 或云端 API Key。

桌面应用(推荐入门)​

通过 GitHub Releases 下载安装包。

操作系统架构安装包格式
macOSApple Silicon(arm64).dmg
Windowsx86_64.msi / .exe
Linuxx86_64 / arm64.AppImage / .deb / .rpm

官方仅提供上述架构的预编译包。如需其他平台(如 macOS Intel / Windows ARM),可从源码构建。

最低硬件:

  • CPU:2 核以上(建议 4 核)
  • 内存:4 GB 起步;若运行本地 LLM 推荐 8 GB 及以上
  • 磁盘:1 GB 安装空间 + 数据存储(见下文)

服务器部署​

支持的操作系统​

  • Linux(x86_64 / arm64):需 glibc ≥ 2.35 — Ubuntu 22.04+ / Debian 12+ / openEuler 24.03+ / Deepin 23+ / UOS V25+;更早或未列出的发行版(CentOS 7/8、麒麟 V10、UOS V20、Alpine 等)请使用 Docker 部署
  • 边缘设备(arm64):NVIDIA Jetson(Orin 系列,CUDA 运行时自动引导安装)、RK3576 等 aarch64 SBC——服务端与扩展均有 arm64 构建
  • macOS:12 Monterey 及以上(开发或小规模部署)
  • Windows:Windows 10/Server 2019 及以上(通过 WSL2 或原生)

硬件建议​

场景CPU内存磁盘说明
轻量(仅规则 / 云端 LLM)2 核2 GB10 GB不跑本地模型
推荐(本地 LLM)4 核8 GB20 GB+ SSD跑 Qwen3.5-4B 等 4B 模型;3 GB 起即可跑文档推荐的 MiniCPM5-2B(1.5GB,Apache-2.0 开放许可);亦可选择 LFM2.5-2.6B(平台默认下载,注意其为 LFM 自定义许可,商用需评估条款)
多设备 / 视觉管线8 核16 GB50 GB+ SSD多路视频流 + YOLO/OCR 扩展

GPU:非必需。本地 LLM 与视觉推理主推内置模型(llama.cpp 运行时)——纯 CPU 即可运行,有 GPU(CUDA / Metal / Vulkan)时自动加速;可选的 Ollama 路线行为相同(CPU 可跑、GPU 自动加速)。详细模型与内存要求见本地 LLM 与视觉推理要求。

网络端口​

端口协议用途可配置
9375HTTP后端 API + Web UI(开发模式 neomind-cli serve 默认端口)--port / PORT 环境变量
1883MQTT内置 MQTT Broker(设备接入)配置文件
29375HTTP内置模型推理服务(llama-server,仅本机回环 127.0.0.1)配置文件
80 / 443HTTP(S)反向代理(可选,nginx)nginx 配置

生产部署建议用 nginx 反向代理,对外只暴露 80/443,将 9375 / 1883 限制在内网。

运行时依赖​

服务器部署无需手动安装额外依赖——安装脚本会下载静态编译的二进制。可选组件:

  • Docker 镜像内置(默认):官方镜像 camthink/neomind 已内置 llama.cpp 运行时与默认模型 LFM2.5-2.6B(volume 首次运行自动就位,无需下载),详见下方 Docker 部署要求
  • Ollama(可选):已有 Ollama 环境时用于本地 LLM 推理。安装见 ollama.com。首次配置 LLM 后端时需拉取模型,例如 ollama pull qwen3.5:4b
  • Docker(可选):docker compose up -d 一键部署
  • nginx(可选):生产环境反向代理 + 静态前端托管

Docker 部署要求​

项要求
镜像camthink/neomind:latest(多架构 amd64 + arm64,随发版构建)
端口9375(HTTP API + Web UI)、1883(MQTT)
数据持久化volume neomind-data(挂载至容器 /app/data)
本地 LLM镜像构建时已下载并内置 llama.cpp 运行时与默认精选模型 LFM2.5-2.6B(来自官方 HuggingFace 仓库,SHA-256 校验;构建参数可换为 Qwen3.5-4B / Gemma4-E2B 或 none 跳过);目录默认下载亦为 LFM2.5-2.6B(LFM 自定义许可,商用需评估条款),文档推荐 MiniCPM5-2B(Apache-2.0 开放许可),向导内切换一键完成(预留 4-8GB 磁盘 + 内存)。注意:volume 首次运行从镜像内容初始化,若用 bind-mount 挂载 /app/data 则跳过预置模型,改走下载 API

详见 安装与配置 — Docker 部署。

边缘设备说明​

  • NG4500 AI Box:官方推荐的边缘主机,开箱即可部署 NeoMind 与本地模型,见 NG4500 系列文档
  • NVIDIA Jetson(Orin 系列):CUDA 运行时自动引导安装,视觉管线(YOLO / DeepStream)建议 8GB+ 显存预算
  • RK3576 / 树莓派 5 等 aarch64 SBC:服务端与扩展均有 arm64 构建(Ubuntu / Debian 系,glibc ≥ 2.35)。主要门槛是内存:3GB 起可跑 MiniCPM5-2B / LFM2.5-2.6B(纯 CPU),8GB 机型可上 Qwen3.5-4B;视觉推理建议选 small 档模型
  • 内存紧张的设备建议:本地 LLM 用 2-3B 档模型,视觉推理与 LLM 分机部署

本地 LLM 与视觉推理要求​

NeoMind 的本地推理由内置模型承担:平台自带 llama.cpp 运行时,模型从目录按需下载,推理服务自动拉起——CPU 即可运行,有 GPU(CUDA / Metal / Vulkan)时自动加速。

LLM(文本推理)

模型体积最低内存上下文说明
MiniCPM5-2B(文档推荐)1.6GB3GB128KApache-2.0 开放许可,商用友好
LFM2.5-2.6B(平台默认下载)1.5GB3GB128KLFM 自定义许可,商用需评估条款
Qwen3.5-4B2.7GB4.8GB128K4GB+ 内存时 agent 能力最强
其余 3 款——128KGemma4-E2B / Nanbeige4.2-3B / Ling-3.0-tiny,见后端卡片目录
  • 磁盘预留 4-8GB(模型 + KV 缓存);上下文默认 128K,按可用内存自动封顶,长会话建议保持 ≥32K
  • 模型可在 LLM 后端卡片随时切换,也支持导入自己的 GGUF(上下文上限 128K)

视觉推理(VLM,独立模型)

  • MiniCPM-V-4.7-1B:0.7GB,最低 2.4GB 内存,上下文 32K——与文本模型相互独立、单独下载,首次使用视觉功能(AI Chat 上传图片 / Agent 分析相机画面)时自动拉取
  • 下载正文之外还会附带 mmproj 投影文件,并拉起一个独立的视觉 companion 实例;不使用视觉功能时不占任何资源
  • 与文本模型可并存:文本走 MiniCPM5-2B / LFM2.5-2.6B,视觉走 MiniCPM-V

可选的 Ollama 路线行为相同:CPU 可跑、GPU 自动加速;模型生态更广,但需自行管理安装与许可。

数据存储​

NeoMind 使用嵌入式存储,无需外部数据库。数据目录默认在 data/,包含:

文件 / 目录用途
telemetry.redb时序遥测数据(所有设备指标)
sessions.redb用户会话
devices.redb / dashboards.redb / rules.redb / agents.redb各业务域主数据
messages.redb通知消息投递记录
memory/Agent 记忆文件(Markdown)
skills/技能定义(YAML + Markdown)
extensions/扩展二进制与配置
logs/运行日志

可通过环境变量或安装脚本参数自定义数据目录(见 安装与配置)。

开发环境​

从源码构建需要:

工具版本用途
Rust1.85+(工具链锁定 1.92.0)后端编译
Node.js20+前端构建
Ollama(可选)任意本地 LLM(也可用内置模型或接入云端模型)
# 后端
cargo build && cargo test && cargo run -p neomind-cli -- serve

# 桌面 / 前端
cd web && npm install && npm run tauri:dev

详见 开发指南。

LLM 后端要求​

NeoMind 支持四类 LLM 后端,按部署形态选择:

  • 内置模型(推荐):无需安装 Ollama 或 Docker,向导内一键下载即可。模型选型、内存与磁盘要求见本地 LLM 与视觉推理要求。
  • Ollama(可选):已有 Ollama 环境时使用(默认模型 qwen3.5:4b)。需要宿主机有足够内存加载模型。
  • llama.cpp(可选):自带 llama.cpp server 或直接使用内置运行时,适合自带 GGUF 模型的场景。
  • 云端:OpenAI / Anthropic / Google / xAI / Qwen / DeepSeek / GLM / MiniMax 等 OpenAI 兼容端点。仅需 API Key 与出站网络。

配置方法见 配置 LLM 后端。


最后更新: 2026-10-21