Ollama
本指南讲解如何在 NVIDIA Jetson Orin 设备上安装、更新、配置和卸载 Ollama。支持本地运行 LLMs 推理，具备 CUDA 加速能力并针对 Jetson 硬件优化。
2 篇文档带有标签「AI 推理」
查看所有标签yolo-device-inference：AI 推理扩展
把 YOLOv8 目标检测部署到边缘设备的第一个 AI 推理扩展——模型懒加载、ONNX Runtime 动态库治理、能力化设备取流的完整工程剖析
本指南讲解如何在 NVIDIA Jetson Orin 设备上安装、更新、配置和卸载 Ollama。支持本地运行 LLMs 推理，具备 CUDA 加速能力并针对 Jetson 硬件优化。
把 YOLOv8 目标检测部署到边缘设备的第一个 AI 推理扩展——模型懒加载、ONNX Runtime 动态库治理、能力化设备取流的完整工程剖析