Windows11(非WSL)安装Installing llama-cpp-python with GPU Support
在Windows 11上安装具有GPU支持的llama-cpp-python，您需要确保满足以下先决条件：
- 安装了CUDA工具包。
- 安装了cuDNN库。
- 安装了Python和pip。
- 安装了CMake。
以下是安装步骤的简化版：
安装CUDA Toolkit：
- 访问NVIDIA官网下载CUDA Toolkit。
- 选择与您的Windows 11系统兼容的版本并安装。
安装cuDNN库：
- 访问NVIDIA官网下载cuDNN。
- 解压缩下载的文件到指定目录。
- 将cuDNN的bin目录添加到系统环境变量的Path中。
安装Python和pip：
- 访问Python官网下载适用于Windows的安装程序。
- 运行安装程序，确保选中pip的安装选项。
安装CMake：
- 访问CMake官网下载Windows版本的CMake。
- 运行安装程序，按提示完成安装。
安装llama-cpp-python：
- 打开命令提示符或PowerShell。
使用pip安装llama-cpp-python：
pip install llama-cpp-python[gpu]
请注意，具体的软件版本和安装步骤可能会随着时间推移而变化，请参考官方文档以获取最新信息。如果遇到任何具体的错误信息，请提供详细的错误描述以便获得更具体的帮助。
评论已关闭