使用不同的开源模型显存要求可能还会增加
 。该项目可以让开发者基于浏览器调用本机显卡算力。项目 显存至少需要 6.4GB，基于机器不需要服务器支持、安装显存至少为 6.4GB ，本地

早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目 ，聊天蓝点因为这个 AI 模型是人开 “你” 控制的，

这个项目还在开发中 ，发中根据开源团队说明，开源

这个项目可以大幅度简化搭建 AI 聊天机器人的项目步骤 ，你提交的基于机器数据不会被共享给开发者进行模型训练。

当然由于是相当于在本地运行的 ，一切都在浏览器内运行
，本地

必要条件 ：Google Chrome 113.0+、聊天蓝点而且可以保护隐私 ，人开所以如果你的显卡显存比较小的话可能无法运行 。即基于 Web 的大型语言模型，直接利用 WebGPU 特性运行。不需要安装 、

项目地址：https://github.com/mlc-ai/web-llm

演示地址：https://mlc.ai/web-llm/#chat-demo

注：演示聊天使用的模型是 vicuna-7b-v0 。所以显卡性能至关重要 ，有兴趣的开发者可以参与该项目。

所以在 GitHub 上有开源团队构建了 Web-LLM 项目，