Win-AI-Wheelhouse

<!-- Improved compatibility of back to top link: See: https://github.com/othneildrew/Best-README-Template/pull/73 --> <!-- PROJECT LOGO -->

<a id="readme-top"></a>

<div align="center"> <h1 align="center">Windows AI Wheelhouse</h1> <img src="https://github.com/user-attachments/assets/3d63f337-b913-4246-9bd0-d0bfc1c871e2" alt="Windows AI Wheelhouse logo"> <p align="center"> 面向 Windows 平台的 AI 预编译 Python 轮子合集 <br /> <br /> <strong>⏱️ 最后自动更新（UTC）：<!-- START_LAST_UPDATED -->2026-04-24T04:17:53.888084+00:00<!-- END_LAST_UPDATED --></strong> </p> </div> <!-- TABLE OF CONTENTS --> <details> <summary><strong>📑 目录</strong></summary> <ol> <li><a href="#-项目愿景">项目愿景</a></li> <li><a href="#-致敬与启发">致敬与启发</a></li> <li> <a href="#-快速开始">快速开始</a> <ul> <li><a href="#环境准备">环境准备</a></li> <li><a href="#安装示例">安装示例</a></li> </ul> </li> <li><a href="#-cxx11-abi-说明">CXX11 ABI 说明</a></li> <li><a href="#-可用轮子">可用轮子</a> <ul> <li><a href="#pytorch">PyTorch</a></li> <li><a href="#torchaudio">Torchaudio</a></li> <li><a href="#️-flash-attention">Flash Attention</a></li> <li><a href="#️-xformers">xformers</a></li> <li><a href="#️-sageattention">SageAttention</a></li> <li><a href="#️-sageattention-22-sageattention2">SageAttention 2.2</a></li> <li><a href="#️-sageattention3">SageAttention 3</a></li> <li><a href="#️-spargeattn">SpargeAttn</a></li> <li><a href="#️-nunchaku">Nunchaku</a></li> <li><a href="#️-natten">NATTEN</a></li> <li><a href="#️-tritonwindows-fork">Triton</a></li> <li><a href="#️-bitsandbytes">bitsandbytes</a></li> <li><a href="#️-radialattention-for-comfyui">RadialAttention</a></li> </ul> </li> <li><a href="#-贡献-contributing">贡献</a></li> <li><a href="#-致谢-acknowledgments">致谢</a></li> </ol> </details> <!-- ABOUT THE PROJECT -->

<a id="-项目愿景"></a>

🟦 项目愿景

本项目作为一个学习和实践的项目，在延续 wildminder AI-windows-whl 优秀理念的基础上，尝试通过以下方式提供一些补充：

• 🤖 自动化更新：通过 GitHub Actions 定期自动抓取和更新 wheel 链接
• 📊 多源聚合：整合来自不同社区贡献者的预编译资源
• 📖 结构化呈现：按版本和依赖关系分类展示，便于查找
• 🔍 智能解析：自动识别版本号、CXX11 ABI 等元数据

这些尝试完全出于个人学习目的，也希望能够为社区提供一个不同角度的资讯汇整。如果本项目能为更多 Windows AI 爱好者节省一点点时间，让大家能够更专注于创作和探索，那便这个项目最大的荣幸。

<a id="-致敬与启发"></a>

🟦 致敬与启发

本项目深受 wildminder AI-windows-whl 项目的启发，我们旨在延续其精神，为更广泛的 Windows AI 社区提供稳定可靠的预编译资源。

特别感谢 Eddy 孜孜不倦的精神和无私的指导。从接触他的 Palingenesis 模型 开始，是他的热情感召，让我这样一个影视从业者，能够开始尝试撰写自己需要的代码。

我的 Palingenesis AIGC 作品

使用 Eddy 的 Palingenesis 模型创作的 MV：

<div align="center"> <a href="https://www.youtube.com/watch?v=WdxTmXfplho"> <img src="https://img.youtube.com/vi/WdxTmXfplho/maxresdefault.jpg" alt="My First AIGC MV" style="width:80%; max-width:720px;"> </a> <p><em>点击图片观看视频</em></p> </div> <!-- GETTING STARTED -->

<a id="-快速开始"></a>

🟦 快速开始

按照以下步骤即可使用仓库中的 wheel：

<a id="环境准备"></a>

环境准备

1. Windows 版 Python：请确认本地安装的 Python 版本与 PyTorch 支持范围一致（当前为 3.9 - 3.14）。可前往 Python 官网 下载。

<a id="安装示例"></a>

安装示例

通过 pip 搭配 .whl 直链进行安装，建议给 URL 加上引号，防止 shell 解析问题。

# 以安装特定 flash-attention 轮子为例
pip install "https://huggingface.co/lldacing/flash-attention-windows-wheel/blob/main/flash_attn-2.7.4.post1+cu128torch2.7.0cxx11abiFALSE-cp312-cp312-win_amd64.whl"

[!TIP] 在下方 <a href="#-可用轮子">可用轮子</a> 区域按 Python/PyTorch/CUDA 版本找到匹配行，然后复制下载链接放入 pip install 命令即可。

<p align="right">(<a href="#readme-top">返回顶部</a>)</p> <!-- CXX11 ABI GUIDE -->

<a id="-cxx11-abi-说明"></a>

🟦 CXX11 ABI 说明

部分表格包含 CXX11 ABI 列，这是 C++ 编译器的两种不兼容模式。表格中使用以下符号标注：

• ✓ 或 TRUE：启用 CXX11 ABI（新版，适用于新版 PyTorch，通常 2.7.0 及以上）
• ✗ 或 FALSE：禁用 CXX11 ABI（Pre-CXX11 ABI，旧版）
• —（横线或未标注）：未明确标注（大多数 Windows 用户应优先选择此版本）

[!IMPORTANT] PyTorch 和扩展库的 CXX11 ABI 必须一致，否则会导致崩溃或链接错误。

如何检测你的 PyTorch 使用哪种 ABI？

运行以下 Python 代码：

import torch
print(f"PyTorch 版本: {torch.__version__}")
print(f"CXX11 ABI: {torch._C._GLIBCXX_USE_CXX11_ABI}")

结果解读：

• 输出 0 或 False → 使用 Pre-CXX11 ABI，选择 CXX11 ABI 列为 —、✗ 或 FALSE 的 wheel
• 输出 1 或 True → 使用 CXX11 ABI，选择 CXX11 ABI 列为 ✓ 或 TRUE 的 wheel

快速选择指南

对于大多数 Windows 用户（使用 PyTorch 官方版本）：

1. ✅ 优先选择 CXX11 ABI 列显示为 — 的 wheel（最兼容）
2. ✅ 次选 CXX11 ABI 列显示为 ✗ 或 FALSE 的 wheel（明确兼容）
3. ⚠️ 仅在确认后选择 CXX11 ABI 列显示为 ✓ 或 TRUE 的 wheel

[!TIP] 如果不确定，优先选择未标注 CXX11 ABI（显示 —）的版本，这些版本通常与官方 PyTorch 兼容。

<p align="right">(<a href="#readme-top">返回顶部</a>)</p> <!-- AVAILABLE WHEELS -->

<a id="-可用轮子"></a>

🟦 可用轮子

以下是当前收录的轮子

<a id="pytorch"></a>

⚙️ PyTorch

深度学习框架的基石，强烈建议优先通过官方渠道安装以确保兼容性。

• 官方安装页面： https://pytorch.org/get-started/locally/

为了方便，在 Linux/WSL（NVIDIA GPU）环境下列出常用命令；其他配置（CPU、macOS、ROCm）请参考官网指引。

稳定版（2.9.1）

多数用户推荐使用该版本

<details> <summary>历史稳定版 2.7.1 / 2.8.0</summary>

历史稳定版（2.8.0）

历史稳定版（2.7.1）

</details>

Nightly 版本

适合追新特性，但可能存在不稳定。

PyTorch 2.10（Nightly）

<hr />

<a id="torchaudio"></a>

⚙️ Torchaudio

PyTorch 官方音频处理库，提供音频 I/O、转换和特征提取等功能。

• 官方仓库： https://github.com/pytorch/audio
• 预编译来源： <!-- START_TORCHAUDIO_SOURCES --><!-- END_TORCHAUDIO_SOURCES -->

<details> <summary>展开已收录的 Torchaudio</summary> <!-- START_TORCHAUDIO_TABLE --> <!-- END_TORCHAUDIO_TABLE --> </details> <p align="right">(<a href="#readme-top">返回顶部</a>)</p> <hr />

<a id="️-flash-attention"></a>

⚙️ Flash Attention

高性能注意力机制的先驱实现，通过分块计算和重计算策略大幅降低显存并提速。

• 官方仓库： Dao-AILab/flash-attention
• 预编译来源： <!-- START_FLASHATTENTION_SOURCES -->Wildminder、lldacing、mjun0812、Kijai<!-- END_FLASHATTENTION_SOURCES -->

<details> <summary>展开已收录的 Flash Attention</summary>

📝 CXX11 ABI 说明：

• ✓ = 启用 CXX11 ABI（适用于新版 PyTorch，通常 2.7.0 及以上）
• ✗ = 禁用 CXX11 ABI（Pre-CXX11 ABI，适用于旧版或特定配置）
• — = 未明确标注（请根据您的 PyTorch 版本选择，或参考 CXX11 ABI 说明）

<!-- START_FLASHATTENTION_TABLE --> <!-- END_FLASHATTENTION_TABLE --> </details> <p align="right">(<a href="#readme-top">返回顶部</a>)</p> <hr />

<a id="️-xformers"></a>

⚙️ xformers

Meta 开发的内存高效注意力库，提供多种优化算子，广泛应用于图像生成和 LLM 推理。

• 官方仓库： facebookresearch/xformers
• 预编译来源： <!-- START_XFORMERS_SOURCES -->PyTorch<!-- END_XFORMERS_SOURCES -->

[!NOTE] 安装 PyTorch 后通常可以直接 pip install xformers。若失败，可在预编译来源中寻找与环境匹配的 wheel。

ABI3 版本可兼容 Python 3.9-3.12。

<details> <summary>展开已收录的 xformers</summary> <!-- START_XFORMERS_TABLE --> <!-- END_XFORMERS_TABLE --> </details> <p align="right">(<a href="#readme-top">返回顶部</a>)</p> <hr />

<a id="️-sageattention"></a>

⚙️ SageAttention

精准且高效的注意力机制，通过平滑量化大幅降低显存占用，同时保持精度。

• 官方仓库： thu-ml/SageAttention
• 预编译来源： <!-- START_SAGEATTENTION_SOURCES -->woct0rdho、sdbds<!-- END_SAGEATTENTION_SOURCES -->

<details> <summary>展开已收录的 SageAttention</summary> <!-- START_SAGEATTENTION2_TABLE --> <!-- END_SAGEATTENTION2_TABLE --> </details> <p align="right">(<a href="#readme-top">返回顶部</a>)</p> <hr />

<a id="️-sageattention-22-sageattention2"></a>

⚙️ SageAttention 2.2 (SageAttention2++)

SageAttention 的升级版本，引入更先进的量化策略和优化算法，显存节省更多，速度更快。

• 官方仓库： thu-ml/SageAttention
• 预编译来源： <!-- START_SAGEATTENTION22_SOURCES -->woct0rdho、sdbds、Wildminder、Eddy、Mengqin<!-- END_SAGEATTENTION22_SOURCES -->

[!NOTE] 仅支持 CUDA ≥ 12.8，因此需搭配 PyTorch ≥ 2.7。

<details> <summary>展开已收录的 SageAttention 2++</summary> <!-- START_SAGEATTENTION22_TABLE -->

The model card is truncated. Read the rest on Hugging Face.