ChattyUI

在浏览器中使用WebGPU本地运行开源LLMs

2024-06-07

ChattyUI
开源、功能丰富的Gemini/ChatGPT式界面,可在浏览器中使用WebGPU本地运行开源模型(如Gemma、Mistral、LLama3等)。无需服务器端处理——您的数据永远不会离开您的电脑!
ChattyUI是一个开源的、基于浏览器的平台,使用户能够利用WebGPU在本地运行强大的开源语言模型,如Gemma、Mistral和LLama3。与传统解决方案不同,ChattyUI完全在您的浏览器中运行,确保您的数据永远不会离开您的设备。这消除了对服务器端处理的需求,提供了增强的隐私和控制。该平台拥有一个用户友好的、类似于Gemini/ChatGPT的界面,使其对广泛的用户群体来说易于使用。此外,ChattyUI支持对VRAM需求较低的优化模型,使其在资源有限的设备上也能更容易使用。对于那些寻求隐私和灵活性的人来说,ChattyUI将尖端的AI能力直接带到您的浏览器中。
Open Source Artificial Intelligence GitHub Tech