Open-WebUI

news/2024/10/16 16:58:47 标签: Ollama, Llama3, ubuntu, linux

Open-WebUI特点⭐

  • 直观的界面:聊天界面从 ChatGPT 中汲取灵感,确保用户友好的体验。
  • 响应式设计:在桌面和移动设备上享受无缝体验。
  • 快速响应:享受快速响应的性能。
  • 轻松设置:使用 Docker 或 Kubernetes(kubectl、kustomize 或 helm)无缝安装,以获得无忧体验。
  • 代码语法突出显示:通过我们的语法突出显示功能增强代码的可读性。
  • ✒️ 完整的 Markdown 和 LaTeX 支持:通过全面的 Markdown 和 LaTeX 功能来丰富交互,提升您的 LLM 体验。
  • 本地 RAG 集成:通过突破性的检索增强生成 (RAG) 支持深入了解聊天交互的未来。此功能将文档交互无缝集成到您的聊天体验中。您可以将文档直接加载到聊天中或将文件添加到文档库中,使用#提示中的命令轻松访问它们。在 alpha 阶段,当我们积极完善和增强此功能以确保最佳性能和可靠性时,可能会偶尔出现问题。
  • 网页浏览功能#:使用URL 后的命令将网站无缝集成到您的聊天体验中。此功能允许您将网络内容直接合并到您的对话中,从而增强交互的丰富性和深度。
  • 提示预设支持/:使用聊天输入中的命令立即访问预设提示。轻松加载预定义的对话开头并加快您的互动。通过Open WebUI Community集成轻松导入提示。
  • RLHF 注释:通过对消息进行“赞成”和“反对”评级来增强您的消息的能力,从而促进根据人类反馈 (RLHF) 创建强化学习数据集。利用您的消息来训练或微调模型,同时确保本地保存数据的机密性。
  • 对话标记:轻松分类和定位特定聊天,以便快速参考和简化数据收集。
  • 下载/删除模型:直接从 Web UI 轻松下载或删除模型。
  • ⬆️ GGUF 文件模型创建:通过直接从 Web UI 上传 GGUF 文件,轻松创建 Ollama 模型。简化的流程,可选择从您的计算机上传或从 Hugging Face 下载 GGUF 文件。
  • 多模型支持:不同聊天模型之间无缝切换,实现多样化交互。
  • 多模态支持:与支持多模态交互的模型无缝交互,包括图像(例如 LLava)。
  • 模型文件生成器:通过 Web UI 轻松创建 Ollama 模型文件。通过开放 WebUI 社区集成轻松创建和添加角色/代理、自定义聊天元素以及导入模型文件。
  • ⚙️多个模特对话:轻松地同时与多个模特互动,利用他们的独特优势来获得最佳响应。通过并行利用一组不同的模型来增强您的体验。
  • 协作聊天:通过无缝编排群组对话来利用多个模型的集体智慧。使用@命令指定模型,在聊天界面中启用动态且多样化的对话。让自己沉浸在聊天环境中的集体智慧中。
  • 再生历史记录访​​问:轻松重新访问和探索您的整个再生历史记录。
  • 聊天历史记录:轻松访问和管理您的对话历史记录。
  • 导入/导出聊天历史记录:将您的聊天数据无缝移入和移出平台。
  • 语音输入支持:通过语音交互与您的模型互动;享受直接与模特交谈的便利。此外,探索在 3 秒静音后自动发送语音输入的选项,以获得简化的体验。
  • ⚙️使用高级参数进行微调控制:通过调整温度等参数和定义系统提示来获得更深层次的控制,以根据您的特定偏好和需求定制对话。
  • 图像生成集成:使用 AUTOMATIC1111 API(本地)和 DALL-E 无缝集成图像生成功能,通过动态视觉内容丰富您的聊天体验。
  • OpenAI API 集成:轻松集成 OpenAI 兼容 API,与 Ollama 模型进行多功能对话。自定义 API 基本 URL 以链接到LMStudio、Mistral、OpenRouter 等
  • 多种 OpenAI 兼容 API 支持:无缝集成和定制各种 OpenAI 兼容 API,增强聊天交互的多功能性。
  • 外部 Ollama 服务器连接:通过配置环境变量无缝链接到托管在不同地址上的外部 Ollama 服务器。
  • 多个 Ollama 实例负载平衡:轻松地在多个 Ollama 实例之间分配聊天请求,以增强性能和可靠性。
  • 多用户管理:通过我们直观的管理面板轻松监督和管理用户,简化用户管理流程。
  • 基于角色的访问控制(RBAC):通过受限的权限确保安全访问;只有经过授权的个人才能访问您的 Ollama,并且为管理员保留专有的模型创建/拉取权限。
  • 后端反向代理支持:通过 Open WebUI 后端和 Ollama 之间的直接通信增强安全性。这一关键功能消除了通过 LAN 公开 Ollama 的需要。从 Web UI 向“/ollama/api”路由发出的请求会从后端无缝重定向到 Ollama,从而增强整体系统安全性。
  • 多语言支持:借助我们的国际化 (i18n) 支持,以您喜欢的语言体验开放式 WebUI。加入我们,扩展我们支持的语言!我们正在积极寻找贡献者!
  • 持续更新:我们致力于通过定期更新和新功能来改进 Open WebUI。

🚀 Getting Started | Open WebUI

For Linux/macOS:

git clone https://github.com/open-webui/open-webui.git
cd open-webui/

# Copying required .env file
cp -RPp .env.example .env

# Building Frontend Using Node
npm install
npm run build

cd ./backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

# Install dependencies
#pip install -r requirements.txt -U
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt -U


# Start the application
bash start.sh

For Windows:

git clone https://github.com/open-webui/open-webui.git
cd open-webui

copy .env.example .env

npm install
npm run build

cd .\backend

# Optional: To install using Conda as your development environment, follow these instructions:
# Create and activate a Conda environment
conda create --name open-webui-env python=3.11
conda activate open-webui-env

#pip install -r requirements.txt -U
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt -U

start.bat


http://www.niftyadmin.cn/n/5708245.html

相关文章

数据结构-排序2

1.快速排序 快速排序是Hoare于1962年提出的一种二叉树结构的交换排序方法,其基本思想为: 任取待排序元素序列中 的某元素作为基准值,按照该排序码将待排序集合分割成两子序列,左子序列中所有元素均小于基准值,右 子…

Python中的SQLAlchemy:解锁数据库操作的新世界

引言 SQLAlchemy是一个Python SQL工具包和ORM,它提供了全面的企业级持久性模式。通过SQLAlchemy,你可以使用Python类来定义数据库表,并使用面向对象的方式来进行数据库操作,如查询、更新等。这种ORM方法不仅使代码更加简洁易读&a…

一文读懂Mysql中的IS NULL 和 = NULL

目录 前言基本知识 前言 详细的Mysql基本知识可查看此专栏:sql专栏 基本知识 在 MySQL 中,IS NULL 和 NULL 的区别在于如何处理空值(NULL)。IS NULL 是专门用于检查某个值是否为 NULL 的条件表达式,而 NULL 在逻辑…

尽快完成HarmonyOS NEXT API12 Release应用更新

近日(2024年10月10日)HarmonyOS Developer发布公告,要求开发者在2024年11月10日前将应用在HarmonyOS NEXT API12 Release环境下重新编译,否则会影响在华为应用市场上架。 尊敬的开发者,您好! HarmonyOS NEX…

Git_命令

Git_命令 设置用户签名 基本语法 案例实操 初始化本地库 基本语法 案例实操 结果查看 查看本地库状态 基本语法 案例实操 首次查看 新增文件 再次查看 添加暂存区 将工作区的文件添加到暂存区 基本语法 案例实操 查看状态 提交本地库 将暂存区的文件提交…

友思特分享 | 车载同步技术创新:多相机系统如何实现精准数据采集与实时处理?

导读 车载多相机采集系统是智能驾驶技术实际应用中的“眼睛”,友思特车载图像采集和回放系统切实提升了系统的实时同步采集与回放能力,为ADAS等应用的决策系统提供了可靠的核心数据。 视频流同步采集与智驾技术发展 在现代汽车行业中,智能驾…

Java高级工程师带你一起学习ElasticSearch晋级教程二(批处理、聚合查询、高可用集群配置)

Java高级工程师带你一起学习ElasticSearch晋级教程二 ElasticSearch 高级操作ElasticSearch 集群管理 02-ElasticSearch高级操作 2.1-bulk批量操作-脚本(批处理) 脚本: 测试用的5号文档 POST /person1/_doc/5 {"name":"…

02.01、移除重复节点

02.01、[简单] 移除重复节点 1、题目描述 编写代码,移除未排序链表中的重复节点。保留最开始出现的节点。 2、解题思路 为了实现这一目标,我们可以使用一个哈希表(或集合)来记录已经遇到的节点值,逐步遍历链表并删…