通常来说本地运行大模型相对比较麻烦，需要部署各类环境。不过，目前Mozilla推出了一个轻量化本地大模型推理工具llamafile。它将模型参数、推理代码和运行环境全部打包为一个可执行文件，支持Windows、macOS和Linux平台，真正实现“一键启动大模型”。

有了llamafile你无需安装Python环境、无需依赖复杂的库，仅下载一个文件，就能在本地运行LLaMA、Mistral等开源大模型，非常适合开发者测试、离线使用或私有部署。

接下来，将带大家使用llamafile，并通过贝锐花生壳内网穿透实现远程访问，无需公网IP，出门在外也能远程访问家电脑运行的本地AI服务！

一、llamafile本地快速运行教程（以Windows为例）

前往llamafile GitHub主页，可直接下载已经整合好的模型文件，目前主页下方直接列出了已有的模型和下载入口，按需下载至本地即可。

打开电脑的终端，如果使用的是macOS、Linux系统，需要先授予该文件执行权限（只需操作一次，以Qwen_Qwen3-4B-Q4_K_M.llamafile为例）。

如果使用的是Windows系统，可将该文件重命名，在文件名末尾添加.exe后缀。然后，直接输入“路径+文件名”就能运行llamafile。

运行上述命令后，在浏览器中访问localhost:8080，就能和大模型开始对话。

二、使用贝锐花生壳实现内网穿透，让异地也能远程访问llamafile

如果你希望在手机、其他电脑上访问这个大模型服务，或者部署在NAS上供多用户使用，会遇到一个现实问题：家用宽带没有公网 IP，或者没有光猫端口转发的配置权限，导致外网无法访问localhost:8080的llamafile服务。

这时，我们可以借助贝锐花生壳内网穿透，快速将本地llamafile服务映射到公网，让任何设备都能访问。

1.前往贝锐官网下载贝锐花生壳客户端（支持Windows、Linux、MacOS、Docker以及各类NAS），在llamafile服务器上安装并登录账号。

2.在客户端中添加「HTTPS映射」，内网主机地址填写本机局域网IP，内网端口8080。

3.保存后即可获得一个域名形式的远程访问地址用手机、远程电脑输入该地址，就能随时随地访问llamafile。

由于llamafile默认不要任何身份验证就能使用，为了防止恶意访问，可使用贝锐花生壳内网穿透的安全功能加强防护。

贝锐花生壳支持大量安全功能，如：Web访问口令验证，限制外部访问必须输入密码；访问来源限制，仅允许指定IP、设备、浏览器连接。同时，贝锐花生壳还有爆破防护功能，能够自动识别并拦截那些可能对映射服务构成威胁的高频访问请求。

总体来说，通过将llamafile本地部署与贝锐花生壳的公网访问能力相结合，我们可以轻松打造一个灵活、安全的大模型应用环境。无需复杂依赖，仅需一个可执行文件，即可实现本地大模型的快速启动。同时，即便是在没有公网IP的网络环境中，也能通过花生壳实现远程访问，突破传统部署的网络限制。