open-web UI 实用指南

Win10环境借助DockerDesktop部署Open web UI集成DeepSeek Win10环境借助DockerDesktop部署Open web UI集成DeepSeek,并借助DuckDuckGo实现联网查询 阅读详情
AI摘要

open-web UI可私有化模型本地部署,能实现多模态AI聊天、AI翻译、AI搜索等功能。文章介绍了其安装步骤,包括使用pip安装,还说明了各项功能的使用方法,如AI聊天、语音转文本、文生图等,以及集成Continue.dev代码助手的配置过程。

open-web UI 类似于chatgpt, 可以私有化模型本地部署,可以实现 多模态AI聊天 , AI 翻译 , AI搜索,语音转文本, 文本转语音, 文生图,代码助手,可谓利器。
前提:安装好WSL2 ,ollama安装在WSL2里面。参考我的WSL2折腾帖子

安装open-web UI

使用 pip 安装

需要 Python 3.11

  1. 安装Open WebUI:打开你的终端并运行以下命令:

    pip install open-webui
    
  2. 启动 Open WebUI:安装完成后,使用以下命令启动服务器:

    open-webui serve
    

安装后,可以在 http://localhost:8080 访问Open WebUI
如果有需要更新:

pip install --upgrade open-webui

AI 聊天

点用户,打开管理员面板,选择设置–外部连接,输入Ollama API的链接地址,点击右边按钮,测试连接

在这里插入图片描述

然后在 设置–界面 ,选择一个默认模型

在这里插入图片描述

然后就可以回到新对话,进行聊天了。

AI 多模态聊天

ollama 0.4.0之后支持llama3.2-vision,可以识图聊天了。

在管理员面板-设置-模型,下载llama3.2-vision, 大约7.9GB

在这里插入图片描述
然后新建一个对话,上传图片,问它问题。
在这里插入图片描述

AI翻译

可以在工作空间编辑一下提示词,便于翻译

在这里插入图片描述

在这里插入图片描述

在聊天框输入 /xtranslate, 在content位置输入你的文本,答复如下
在这里插入图片描述

AI搜索

由于大模型的知识都是过去时,如果询问需要最新的知识,就需要AI+搜索来实现。分两步来实现

搜索引擎

SearXNG 是一个元搜索引擎,从多个搜索引擎中聚合结果。我们用docker方式安装

git clone https://github.com/searxng/searxng-docker.git
cd searxng-docker

用OpenSSL工具建立一组secret key,并自动填入到searxng/settings.yml

sed -i "s|ultrasecretkey|$(openssl rand -hex 32)|g" searxng/settings.yml

修改 searxng/settings.yml 成以下, secret_key已经填入,不要修改哦。

# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true

server:
  secret_key: "已经自动填入的secret_key"
  limiter: false
  image_proxy: true

ui:
  static_use_hash: true

search:
  safe_search: 0
  autocomplete: ""
  default_lang: ""
  formats:
    - html
    - json

新建一个 searxng/uwsgi.ini文件,填入以下内容:

[uwsgi]
# Who will run the code
uid = searxng
gid = searxng

# Number of workers (usually CPU count)
# default value: %k (= number of CPU core, see Dockerfile)
workers = %k

# Number of threads per worker
# default value: 4 (see Dockerfile)
threads = 4

# The r
【三步 完全离线搭建 openwebui 】 完全离线linux 版open webui 的搭建。 阅读详情

相关推荐

超级详细的 Ollama 结合 DeepSeek + Docker + Open Web UI 构建本地AI知识库教程

Ollama结合DeepSeek、Docker和Open Web UI构建本地AI知识库教程,将带您轻松搭建一套高效、易用的智能问答系统。本教程通过Docker容器化技术,简化了环境配置过程,确保了系统的稳定运行。DeepSeek作为强大的知识库构建工具,助力您快速整合各类数据资源。Open Web UI则为用户提供了一个美观、直观的交互界面。跟随本教程,您将掌握从零开始搭建AI知识库的完整流程,实现个性化智能问答服务,助力您在短时间内成为AI领域的专家。快来开启您的AI知识库搭建之旅吧!

IT小郭的技术博客 2233

openwebui开发部署教程

1、执行容器build命令,npm ci命令会一直卡住,报网络问题错误,实际上是pyodide这个包要预先下载和node匹配的版本,且npm ci命令需要在前面加镜像源,https://www.cnblogs.com/lasding/p/18401704,自己感觉华为云的镜像源好使。这里要注意的是端口,例如前端3000:5173,容器向外映射的是3000,内部是5173端口。且代码中配置项较多,在.env中配置不生效,目前跨过验证接口直接跳转登录的情况也未解决。具体来说,主要是添加。

m0_51630891的博客 1万+

Open WebUI: The LLM Web UI Open WebUI,即 Ollama Web UI,是一款功能强大且灵活的工具

Open WebUI(原名 Ollama WebUI)是一个可扩展、功能丰富且用户友好的自托管 Web 界面,旨在完全离线运行。它支持各种大型语言模型 (LLM) 运行器,使其成为部署和与语言模型交互的多功能工具。Open WebUI 提供了 ChatGPT 风格的界面,允许用户与运行语言模型的远程服务器聊天。此 Web UI 对于希望在本地或自托管环境中运行语言模型的用户特别有用,可确保数据隐私和控制。

iCloudEnd的博客 3431

【人工智能】Open WebUI 安装指南 ( 基于Docker下载和使用Open WebUI 、通过本地运行项目源码进行搭建Open WebUI)

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 WebUI,旨在完全离线操作。它支持各种 LLM 运行程序,包括 Ollama 和 OpenAI 兼容的 API。社区:https://openwebui.com/

奶爸的编程之路,也就一周冷个三天 2万+

【STM32】CubeMx系列教程之移植FreeRTOS

本文详细介绍了在STM32F429上通过CubeMX工具移植FreeRTOS的方法。主要内容包括:1)配置系统时钟源,将TIM1替换SysTick作为时钟基准;2)FreeRTOS的创建与配置,包括任务创建、堆栈大小设置等;3)关键配置参数说明,如堆大小建议设为RAM的50%-70%;4)常用函数如堆栈监控、任务挂起/恢复等。文章提供了从基础配置到深入优化的完整移植指南,适合STM32开发者参考使用。

JackieJin123的博客 790

秋叶ComfyUI整合包:一键部署AI绘画工作流,解决环境配置难题

在AI绘画和生成式AI领域,Stable Diffusion作为开源的扩散模型,为图像生成提供了强大的技术基础。其核心原理是通过学习数据分布,对随机噪声进行逐步去噪,最终生成高质量的图像。这项技术的价值在于极大地降低了专业图像创作的门槛,并推动了AIGC(人工智能生成内容)在艺术设计、游戏开发、广告营销等场景的广泛应用。然而,其典型工作流实现工具ComfyUI,在实际部署中常因Python环境、PyTorch版本与CUDA驱动之间的复杂依赖关系而受阻,尤其是面对NVIDIA 30系、40系及未来50系等不同

CSDN头条 680

保姆级教程:在Ubuntu 22.04上,用Chroot和xorriso定制你的专属服务器镜像(附离线包集成)

本文提供了一份详细的Ubuntu 22.04离线镜像定制教程,通过Chroot环境和xorriso工具,帮助用户打造专属服务器镜像。教程涵盖环境准备、镜像解构、系统定制、镜像重组与验证等全流程,特别适合需要在隔离网络环境中批量部署服务器的场景。

weixin_28704565的博客 453

钓鱼工具gophish史上最详细教程(附实例) —— 手把手教你成为“捕鱼人”

关于钓鱼工具 —— Gophish的超详细教程!

Ve99tr’s Blog 10万+

【Unity引擎技术整合】 Unity学习路线 | 知识汇总 | 持续更新 | 保持乐趣 | 共同成长

本文对Unity引擎的知识进行了一个整理总结,基本包含了Unity中大部分的知识介绍。 网上也有很多Unity相关的学习资料,但大多数都不成体系,学起来的时候难免会东奔西走的摸不着头脑。 本文整理的多数文章都是有对应的系列性文章专栏,可以更方便的进行系统学习相关知识体系。

努力前行,总会成为自己心中的那道光 15万+

笔试题-2023-紫光展锐-数字芯片设计【纯净题目版】

笔试题-2023-紫光展锐-数字芯片设计【纯净题目版】

w0shishabi的博客 2927

29、固态变压器拓扑、设计及其应用深度解析

本文深入解析了固态变压器(SST)的拓扑结构、设计方法及其在智能电网和能源互联网中的应用。重点探讨了机器学习在SST优化设计中的应用,包括中高频变压器设计、整体系统优化与建模研究。文章详细介绍了多端口SST的拓扑特点、功率传输机制及其作为能源路由器的关键作用,分析了不同端口数量下的控制复杂度与应用场景,并通过案例研究展示了四端口SST在分布式能源系统中的实际应用。最后,文章总结了多端口SST面临的技术挑战,并展望了未来在先进控制策略、集成化设计和标准化方面的发展方向。

study的专栏 3804

【网络与爬虫 62】小程序爬虫终极攻略:微信支付宝小程序数据采集完全指南

本文深入解析微信和支付宝小程序的爬虫技术,从基础架构分析到高级逆向工程,涵盖WXML/AXML模板解析、API接口拦截、网络流量分析等核心技术。通过实战案例和代码示例,帮助开发者掌握小程序数据采集的完整技术栈。

熵数实验室 3422

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

上一篇: FLUX.1 LoRa 微调
下一篇: 解决VS code + platformIO的PlatformIO主页一直显示loading --- 端口占用
szmars
博客等级 码龄7年 76粉丝 6原创
评论 8
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址