要在本地環境中設置並運行 DeepSeek-R1 WebGPU 應用程序,請按照以下步驟進行:
1. 確認 WebGPU 支持
首先,確保您的瀏覽器支持 WebGPU。最新版本的 Chrome 通常支持 WebGPU。您可以在瀏覽器的實驗性功能設置中啟用 WebGPU。
2. 克隆範例庫
從 GitHub 克隆 transformers.js 的範例庫:
git clone https://github.com/huggingface/transformers.js-examples.git
3. 進入專案目錄
切換到 deepseek-r1-webgpu 資料夾:
cd transformers.js-examples/deepseek-r1-webgpu
4. 安裝相依套件
使用 npm 安裝所需的相依套件:
npm install
5. 啟動開發伺服器
啟動開發伺服器:
npm run dev
現在,應用程序應在本地運行。打開瀏覽器,前往 http://localhost:5173 查看效果。
請注意,確保您的系統滿足運行 DeepSeek-R1 模型的最低要求,包括足夠的磁碟空間和 GPU 配置。具體要求可能因模型大小而異。
如需更詳細的指導,您可以參考以下資源:
– 如何在瀏覽器中安裝 DeepSeek 以進行離線 AI https://medium.com/@thesab/how-to-install-deepseek-in-your-browser-for-offline-ai-featuring-a-live-hugging-face-demo-08ee53b8e572
– 在本地運行 DeepSeek R1 的完整設置指南 https://www.reddit.com/r/selfhosted/comments/1i6ggyh/got_deepseek_r1_running_locally_full_setup_guide/
這些資源提供了關於在本地環境中設置和運行 DeepSeek-R1 的詳細說明,可能對您有所幫助。