nix-build -o build/nix-result
Windows 平台需 Visual Studio 2022 C++ 工具和 CUDA 13.4:
.\build.ps1 -CudaArch 86
CudaArch 是 GPU 的计算能力,可在 NVIDIA 的 CUDA GPU 列表中查询。
.\build\turbogpt.exe --data hn1g.txt --log-to runs/ctx4
运行时会把 checkpoint 存储在 runs/ctx4/ctx4.pt,其中包含模型、优化器、调度器和训练器状态。使用 --load CHECKPOINT.pt 即可恢复训练。