贝博恩创新科技网

Wally为何必须联网才能用?

Wally 是一款功能强大的本地大语言模型,它的主要设计理念是在您的个人电脑上运行,保护您的隐私和数据安全,它默认情况下是不需要也不应该连接到互联网的。

Wally为何必须联网才能用?-图1
(图片来源网络,侵删)

但确实有几种情况需要 Wally 访问互联网,并且有不同的实现方式,我会为您分情况说明。


为什么 Wally 默认不联网?(核心优势)

理解这一点很重要,Wally 的核心卖点之一就是“本地运行”:

  • 隐私安全:您的所有对话、输入的文本、上传的文件都完全留在您的电脑上,不会被发送到任何云端服务器,这对于处理敏感信息(如代码、个人笔记、商业数据)至关重要。
  • 无成本:一旦下载,Wally 的使用不产生任何网络费用或 API 调用费用。
  • 离线可用:只要您的电脑开着,Wally 就能工作,不依赖网络连接。

在开始之前,请先问自己:我真的需要 Wally 联网吗? 很多时候,强大的本地模型已经足够处理任务。


在什么情况下需要 Wally 联网?

虽然 Wally 本地运行,但它的开发者也提供了一些需要联网的功能,主要集中在以下两个方面:

Wally为何必须联网才能用?-图2
(图片来源网络,侵删)
  1. 联网搜索:当您问的问题需要最新的信息时(今天天气怎么样?”或“最近发生了什么AI新闻?”),Wally 可以实时从搜索引擎获取信息,然后基于这些信息为您生成答案,这解决了本地模型知识“截止日期”的问题。
  2. 模型更新:下载和安装新版本的 Wally 模型文件时,需要从互联网上下载数据。

如何实现 Wally 联网?

实现联网的方式取决于您使用的 Wally 客户端,目前最主流的客户端是 Open WebUI

通过 Open WebUI 实现联网搜索(最常用)

这是目前 Wally 官方推荐和最成熟的联网方式,它的工作原理是:当您提出一个需要实时信息的请求时,Open WebUI 会调用一个外部搜索引擎(如 Google、DuckDuckGo、Bing 等),获取搜索结果,然后将这些结果作为上下文的一部分,连同您的问题一起发送给本地的 Wally 模型,让模型基于这些新信息来回答。

设置步骤:

  1. 确保 Open WebUI 正常运行:您的 Open WebUI 服务必须在本地电脑上启动并可以访问。

    Wally为何必须联网才能用?-图3
    (图片来源网络,侵删)
  2. 找到配置文件

    • 如果您使用 Docker Compose,找到您的 docker-compose.yml 文件。
    • 如果您直接运行 Docker 命令,找到您启动容器的命令。
  3. 添加环境变量: 在您的 docker-compose.yml 文件中的 services.open-webui 下,或者在 docker run 命令中,添加以下环境变量:

    # docker-compose.yml 示例
    services:
      open-webui:
        image: ghcr.io/open-webui/open-webui:main
        container_name: open-webui
        ...
        environment:
          # --- 关键配置 ---
          - ENABLE_RAG_WEB=True  # 启用联网搜索功能
          - RAG_WEB_SEARCH_ENGINE="duckduckgo" # 选择搜索引擎,可选 "google", "bing", "duckduckgo" 等
          # -----------------
        ...

    或者,在 Docker 命令中添加 --env 参数:

    docker run -d -p 3000:8080 \
      --name open-webui \
      --gpus=all \
      -v open-webui:/app/backend/data \
      -e ENABLE_RAG_WEB=True \
      -e RAG_WEB_SEARCH_ENGINE="duckduckgo" \
      ghcr.io/open-webui/open-webui:main
    • ENABLE_RAG_WEB=True:这是启用联网功能的开关。
    • RAG_WEB_SEARCH_ENGINE:指定搜索引擎。duckduckgo 是一个不错的选择,因为它免费且不需要 API Key。
  4. 重启服务: 保存配置文件后,重新启动您的 Open WebUI 容器。

    • Docker Compose: docker-compose down && docker-compose up -d
    • Docker: docker restart open-webui
  5. 验证: 重启后,打开 Open WebUI 界面,当您提出一个需要实时信息的问题时,Wally 就会先进行搜索,然后给出更准确的答案。

注意:联网功能会增加响应时间,因为它需要先进行网络请求。

通过 Wally Desktop 客户端实现

如果您使用的是 Wally Desktop 应用(一个独立的桌面程序),它通常已经内置了联网功能的开关,设置会更简单。

  1. 打开 Wally Desktop
  2. 找到设置:通常在界面的右下角或某个菜单栏里可以找到“设置”、“偏好设置”或“Options”。
  3. 启用联网:在设置选项中,寻找一个名为“Enable Web Search”、“联网搜索”或类似的开关,并将其打开。
  4. 保存并重启:保存设置,然后重启应用程序。

由于不同版本的 Wally Desktop 界面可能略有不同,具体位置请参考您所用版本的说明。

更新 Wally 模型(需要联网)

这是最基础的联网需求,无论您使用哪种客户端,更新模型都需要从互联网下载。

  • 通过 Open WebUI:通常在界面上有“模型”或“管理”区域,您可以在这里看到可用的模型列表,并选择下载新的模型。
  • 通过 Ollama (如果使用):如果您通过 Ollama 来管理 Wally 模型,只需在终端运行:
    ollama pull wally

    Ollama 会自动从其服务器下载最新的 Wally 模型。


总结与建议

需求 推荐方法 优点 缺点
获取最新信息 通过 Open WebUI 启用 ENABLE_RAG_WEB 功能强大,无缝集成,保护隐私(仅搜索结果被临时使用) 响应稍慢,需要配置
使用桌面版 在 Wally Desktop 设置中启用联网 设置简单,一键开启 可能功能稍弱于 Open WebUI
更新模型本身 通过 Open WebUI 的模型管理或 Ollama 官方支持,最可靠 -

给您的最终建议:

  1. 优先考虑隐私:如果您的任务不涉及最新信息,请保持 Wally 离线状态,这是它最大的优势。
  2. 如果需要联网,首选 Open WebUIENABLE_RAG_WEB 是目前最稳定和功能最全的解决方案。
  3. 检查您使用的客户端:根据您是用的 Open WebUI、Wally Desktop 还是 Ollama,选择对应的设置方法。

希望这个详细的指南能帮助您成功让 Wally 连接互联网!

分享:
扫描分享到社交APP
上一篇
下一篇