> ## Documentation Index
> Fetch the complete documentation index at: https://geniex.aihub.qualcomm.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 快速入门

> 通过 GenieX CLI 运行你的第一个模型。

## **前置条件**

* 已安装 CLI——详见[安装](/cn/run/cli/install)。
* 容器内交互式 shell（仅 Docker）——详见[交互式运行](/cn/run/linux/install#交互式运行)。
* 了解[运行环境选择](/cn/get-started/platforms#geniex-运行环境)——`qairt`（Qualcomm AI Engine Direct）用于 Qualcomm AI Hub 模型，`llama_cpp` 用于任意 GGUF。

## **运行你的第一个模型**

### **Qualcomm AI Engine Direct 运行环境（Qualcomm AI Hub）**

**语言模型：**

```powershell windows theme={"dark"}
geniex infer ai-hub-models/Qwen3-4B
```

**多模态模型：**

```powershell windows theme={"dark"}
geniex infer ai-hub-models/Qwen2.5-VL-7B-Instruct
```

### **llama.cpp 运行环境（GGUF）**

系统提示时请选择 `Q4_0`——它在 Hexagon NPU 上支持最佳。

**语言模型：**

```powershell windows theme={"dark"}
geniex infer unsloth/Qwen3.5-0.8B-GGUF
```

**多模态模型：**

```powershell windows theme={"dark"}
geniex infer Qwen/Qwen3-VL-2B-Instruct-GGUF
```

系统提示时请选择：

* **模型类型**——视觉语言模型选 `vlm`，纯文本模型选 `llm`。`Qwen3.5` 与 `Gemma4` 目前请选 `llm`（多模态支持即将推出）。
* **精度（量化）**——`Q4_0` 在 Hexagon NPU 上性能最佳。

<Tip>如需尝试其他 GGUF 模型，从 Hugging Face 复制任意兼容 GGUF 路径替换上面的命令即可。详见[运行 Hugging Face 上的 GGUF 模型](/cn/models/supported#运行-hugging-face-上的-gguf-模型)。</Tip>

## **运行本地模型**

已有模型文件在本地，或想从 Hugging Face 自行转换模型包？使用 `geniex pull` 配合 `--local-path` 注册到缓存，然后像其他模型一样运行。详见：

* [运行本地 Qualcomm AI Engine Direct 模型包](/cn/models/supported#运行本地-qualcomm-ai-engine-direct-模型包) —— 从 Hugging Face 自行转换、已解压的模型包目录，或 AI Hub `.zip`。
* [运行本地 GGUF 模型](/cn/models/supported#运行本地-gguf-模型) —— 包含 `.gguf` 文件的目录。

## **下一步**

<CardGroup cols={2}>
  <Card title="本地服务器" href="/cn/run/cli/local-server" icon="server">
    在 `localhost:18181` 暴露兼容 OpenAI 协议的 HTTP API。
  </Card>

  <Card title="CLI 参考" href="/cn/run/cli/reference" icon="book">
    各命令及参数。
  </Card>
</CardGroup>

<br />

<div class="feedback-wrapper">
  <span class="feedback-label">Was this page helpful?</span>

  <div class="feedback-toggle">
    <input type="radio" name="feedback" id="feedback-yes" class="feedback-input" />

    <label for="feedback-yes" class="feedback-button">
      <img src="https://mintcdn.com/qualcomm-0801e48b/VijZ6eXFSGIGNc9Z/Images/FeedBack/thumbs-up.svg?fit=max&auto=format&n=VijZ6eXFSGIGNc9Z&q=85&s=9fa1e132909ee8667d02f775cd8bc108" alt="Thumbs up" class="feedback-icon" noZoom width="14" height="14" data-path="Images/FeedBack/thumbs-up.svg" />

      Yes
    </label>

    <input type="radio" name="feedback" id="feedback-no" class="feedback-input" />

    <label for="feedback-no" class="feedback-button">
      <img src="https://mintcdn.com/qualcomm-0801e48b/VijZ6eXFSGIGNc9Z/Images/FeedBack/thumbs-down.svg?fit=max&auto=format&n=VijZ6eXFSGIGNc9Z&q=85&s=7f5f8865b502b5262849a700e6989278" alt="Thumbs down" class="feedback-icon" noZoom width="14" height="14" data-path="Images/FeedBack/thumbs-down.svg" />

      No
    </label>
  </div>
</div>
