共计 642 个字符，预计需要花费 2 分钟才能阅读完成。

由於 Windows 下使用 CUDA 搭配 vllm 載入大模型會報錯! 官方說不支持 windows 那麼只能重新使用 WSL 方式重新配置看看

安裝

首先進入 WSL 中配置的 Linux 環境，並輸入以下命令進行安裝

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

結果如下圖

接著執行以下命令

bash ./Miniconda3-latest-Linux-x86_64.sh

如下圖輸入同意並按下 Enter 便會自動開始安裝

安裝結束前會詢問是否初始化配置，這步驟必須手動收入 yes 直接 enter 會跳過!

接著執行命令測試

source ~/.bashrc
conda list

配置代理

使用命令編輯 conda 配置

vim ~/miniconda3/.condarc

內容如下

channels:
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
  - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
  - defaults

show_channel_urls: true

如下圖