协会网站建站,建个电子商务网站多少钱,还有用asp做网站的吗,在本地做的网站上传到空间之后_刷新就跳到本地的网址怎么办本篇文章#xff0c;我们聊聊如何在 Windows 环境下使用 Docker 作为深度学习环境#xff0c;以及快速运行 SDXL 1.0 正式版#xff0c;可能是目前网上比较简单的 Docker、WSL2 配置教程啦。
写在前面
早些时候#xff0c;写过一篇《基于 Docker 的深度学习环境#xff…本篇文章我们聊聊如何在 Windows 环境下使用 Docker 作为深度学习环境以及快速运行 SDXL 1.0 正式版可能是目前网上比较简单的 Docker、WSL2 配置教程啦。
写在前面
早些时候写过一篇《基于 Docker 的深度学习环境入门篇》聊过了在 Linux 环境下如何简单、正确的配置 GPU Docker 环境。
这几周总有不少好玩的开源模型和相关的应用组团出现最近几篇文章发布后尤其是 LLaMA2总有 Windows 玩家因为环境原因提问。我觉得或许需要写一篇 Windows 下的 Docker 深度学习环境的配置教程作为查缺补漏参考之用应该能够减少不少因为环境所带来的问题。
我使用的操作系统版本为 Windows 11 家庭版如果你使用的操作系统版本低于 Windows 11可以考虑适当调整命令。
准备 Docker 虚拟化运行环境
想要完成 Docker 虚拟化环境的准备一共分为三步安装 Docker、配置 WSL2开始玩。
安装 Docker 应用程序
我们可以从 Docker 官方网站获取到 Docker 应用程序安装包的下载。 下载完毕之后“一路 Next” 完成安装后点击安装程序的“重启按钮”等待程序安装完毕。 等待电脑重启完毕我们启动 Docker 可能会遇到报错提示提醒我们需要 “WSL” 新版本。如果已经是 WSL2 环境则可以跳过下面的小节如果不确定可以跟着走一遍
接下来我们来准备 WSL2 的运行环境。
准备 WSL2 的运行环境
网上的安装教程绝大多数都是陈旧的资料都比较繁琐其实配置 WSL2 的环境非常简单。
右键任务栏上的“Windows”徽标选择“终端管理员”打开 Powershell 终端界面执行下面的命令。
wsl --install命令执行后可能会得到执行命令超时的提醒。没有关系再次执行命令即可等到能够看到终端展示支持的 Linux 操作系统的列表表示 WSL 初始化正常网络访问正常
# wsl --install适用于 Linux 的 Windows 子系统已安装。操作超时如果遇到超时没关系的再试试就好
# wsl --install适用于 Linux 的 Windows 子系统已安装。以下是可安装的有效分发的列表。
请使用“wsl --install -d 分发”安装。NAME FRIENDLY NAME
Ubuntu Ubuntu
Debian Debian GNU/Linux
kali-linux Kali Linux Rolling
Ubuntu-18.04 Ubuntu 18.04 LTS
Ubuntu-20.04 Ubuntu 20.04 LTS
Ubuntu-22.04 Ubuntu 22.04 LTS
OracleLinux_7_9 Oracle Linux 7.9
OracleLinux_8_7 Oracle Linux 8.7
OracleLinux_9_1 Oracle Linux 9.1
openSUSE-Leap-15.5 openSUSE Leap 15.5
SUSE-Linux-Enterprise-Server-15-SP4 SUSE Linux Enterprise Server 15 SP4
SUSE-Linux-Enterprise-15-SP5 SUSE Linux Enterprise 15 SP5
openSUSE-Tumbleweed openSUSE Tumbleweed当你看到上面的命令后我们就可以执行第二条命令 wsl --update 来完成 wsl 主体程序的更新啦
# wsl --update正在安装: 适用于 Linux 的 Windows 子系统
已安装 适用于 Linux 的 Windows 子系统。命令执行完毕后我们能够看到类似上面的提醒。查看程序版本和内核能够看到类似下面的信息
# wsl --versionWSL 版本 1.2.5.0
内核版本 5.15.90.1
WSLg 版本 1.0.51
MSRDC 版本 1.2.3770
Direct3D 版本 1.608.2-61064218
DXCore 版本 10.0.25131.1002-220531-1700.rs-onecore-base2-hyp
Windows 版本 10.0.22621.1778接着为了让 Docker 跑的更欢脱以及能够正常调用 GPU我们需要切换 WSL 默认版本为 WSL2
# wsl --set-default-version 2有关与 WSL 2 关键区别的信息请访问 https://aka.ms/wsl2操作成功完成。上面的操作都完成后我们再次打开 Docker就能够看到正常运行的界面啦。 在使用 Docker 调用容器镜像前我们还需要验证下 Docker 是否能够和 GPU 正常通信。
验证 Docker 中 GPU 是否能够被正常调用
和上篇文章一样可以先下载一个 Nvidia 官方的 PyTorch 镜像
docker pull nvcr.io/nvidia/pytorch:23.07-py3镜像比较大需要耐心等待几分钟
# docker pull nvcr.io/nvidia/pytorch:23.07-py323.07-py3: Pulling from nvidia/pytorch
...
...
Digest: sha256:c53e8702a4ccb3f55235226dab29ef5d931a2a6d4d003ab47ca2e7e670f7922b
Status: Downloaded newer image for nvcr.io/nvidia/pytorch:23.07-py3当镜像下载完毕后我们可以使用命令 docker run -it --gpusall --rm nvcr.io/nvidia/pytorch:23.07-py3 nvidia-smi 来使用 Docker 启动一个容器并在容器中调用 nvidia-smi 显卡管理程序来查看显卡的状况
# docker run -it --gpusall --rm nvcr.io/nvidia/pytorch:23.07-py3 nvidia-smiPyTorch
NVIDIA Release 23.07 (build 63867923)
PyTorch Version 2.1.0a0b5021baContainer image Copyright (c) 2023, NVIDIA CORPORATION AFFILIATES. All rights reserved.Copyright (c) 2014-2023 Facebook Inc.
Copyright (c) 2011-2014 Idiap Research Institute (Ronan Collobert)
Copyright (c) 2012-2014 Deepmind Technologies (Koray Kavukcuoglu)
Copyright (c) 2011-2012 NEC Laboratories America (Koray Kavukcuoglu)
Copyright (c) 2011-2013 NYU (Clement Farabet)
Copyright (c) 2006-2010 NEC Laboratories America (Ronan Collobert, Leon Bottou, Iain Melvin, Jason Weston)
Copyright (c) 2006 Idiap Research Institute (Samy Bengio)
Copyright (c) 2001-2004 Idiap Research Institute (Ronan Collobert, Samy Bengio, Johnny Mariethoz)
Copyright (c) 2015 Google Inc.
Copyright (c) 2015 Yangqing Jia
Copyright (c) 2013-2016 The Caffe contributors
All rights reserved.Various files include modifications (c) NVIDIA CORPORATION AFFILIATES. All rights reserved.This container image and its contents are governed by the NVIDIA Deep Learning Container License.
By pulling and using the container, you accept the terms and conditions of this license:
https://developer.nvidia.com/ngc/nvidia-deep-learning-container-licenseNOTE: The SHMEM allocation limit is set to the default of 64MB. This may beinsufficient for PyTorch. NVIDIA recommends the use of the following flags:docker run --gpus all --ipchost --ulimit memlock-1 --ulimit stack67108864 ...Sat Jul 29 01:44:04 2023
---------------------------------------------------------------------------------------
| NVIDIA-SMI 530.37 Driver Version: 531.30 CUDA Version: 12.1 |
|-------------------------------------------------------------------------------------
| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
||
| 0 NVIDIA GeForce RTX 4090 On | 00000000:01:00.0 On | Off |
| 32% 38C P8 23W / 450W| 571MiB / 24564MiB | 4% Default |
| | | N/A |
----------------------------------------------------------------------------------------------------------------------------------------------------------------------------
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
||
| No running processes found |
---------------------------------------------------------------------------------------通过上面的日志可以看到显卡状态正常同时能够读取到所有我们需要的信息。
写到这里Windows 环境下的 Docker 深度学习环境就聊完了如果你想了解更多可以翻阅《基于 Docker 的深度学习环境入门篇》文章中的“AI 相关的 Docker 镜像及实际使用”和“其他”小节来进行查缺补漏。
使用 Docker 在容器中调用 GPU
当然不实实在在来一场实践不是我的写作风格。
所以在环境就绪之后我们来使用 Docker 来尝试运行上一篇文章《使用 Docker 快速上手 Stability AI 的 SDXL 1.0 正式版》中提到的 Stable Diffusion XL 1.0 的镜像让它能够在 Windows 环境下正常使用。
这里我们跳过上一篇的准备工作和镜像构建直接使用现成的运行环境来折腾 SDXL 1.0。当然如果你感兴趣可以翻阅上篇文章全文来了解背后的技术细节这里就不展开啦。
下载模型文件和容器环境
我们可以从网盘地址1和网盘地址2分别下载官方的模型文件和整理好的 Docker 容器环境环境只下载 sdxl-runtime.tar 即可。
如果下载出现问题可以前往 soulteary/docker-sdxl 项目 issue 留言反馈或参考上一篇文章从 HuggingFace 下载模型和进行容器镜像的手动构建。
加载模型并准备工作目录
以 C 盘为例我们在盘根创建一个名为 docker-sdxl 的目录然后将 sdxl-runtime.tar 和下载模型目录中的 stabilityai 放到这个目录中。
然后切换工作目录到 C:/docker-sdxl
cd C:/docker-sdxl/接着执行命令载入容器镜像文件 docker load -i .\docker-sdxl\sdxl-runtime.tar
docker load -i .\docker-sdxl\sdxl-runtime.tar
68ad565f4346: Loading layer [] 2.56kB/2.56kB
b279d196469f: Loading layer [] 384.6MB/384.6MB
08135af11e7a: Loading layer [] 1.536kB/1.536kB
6b36eae25335: Loading layer [] 6.144kB/6.144kB
72a8d0a30e5a: Loading layer [] 18.94kB/18.94kB
Loaded image: soulteary/sdxl:runtime镜像加载完毕之后我们就可以运行 Docker 容器来玩 SDXL 啦 docker run --gpus all --ipchost --ulimit memlock-1 --ulimit stack67108864 --rm -it -v C:/docker-sdxl/stabilityai/:/app/stabilityai -p 7860:7860 soulteary/sdxl:runtime可以看到命令和前一篇适用于 Linux 环境的文章几乎一致除了在 Linux 环境下我们可以通过 pwd 来表示当前目录而 Windows 环境中最佳实践是通过完整目录C:/docker-sdxl/stabilityai/来表示。
在命令执行完毕后我们就进入了交互式的终端接下来我们可以执行和上一篇文章一样的三个程序basic.py、refiner.py、refiner-low-vram.py
# 执行基础模型程序
python basic.py
# 执行全家桶模型程序
python refiner.py
# 执行使用显存稍低的程序
python refiner-low-vram.py资源要求和消耗和上一篇并没有什么不同唯一的差别可能是 WSL2 的数据传输性能相比 Linux 环境要低不少模型加载的时间会长很多需要耐心等待。
当模型完全加载完毕我们能够看到下面的日志
python basic.py
Loading pipeline components...: 100%|███████████████████████████████████████████████████████████████████████████| 7/7 [00:0300:00, 1.95it/s]
Running on local URL: http://0.0.0.0:7860/To create a public link, set shareTrue in launch().接下来访问 http://localhost:7860 或者 http://你的IP:7860 来访问 SDXL 1.0 的 Web 界面啦。 虽然上面日志中加载模型的性能比较差但实际推理的性能非常好能够达到 11~13it/s和 Linux 没有什么差异。都在显存里了没有数据交换
因为 Windows 默认会打开防火墙限制程序对外暴露端口避免一些安全问题。在使用的时候如果你的 Windows 主机和你要访问这个服务的设备是两台设备你需要关闭或者在防火墙内放行这个应用有类似情况的小伙伴可以注意下调整下系统防火墙配置。
其他
我之前已经写过不少 AI 相关的内容尤其是偏实践类的文章你可以访问下面几个链接来获取能够快速上手的教程。比如“Python” 主题的内容、“Llama ” 主题相关的内容、“Stable Diffusion ” 主题相关的内容。
或者也可以访问我在 GitHub 上公开的项目获取相关的代码或者 Docker 镜像自己亲手试验下 “人工智能” 的 iPhone Moment 时代的各种模型。
最后
好了这篇文章就先写到这里啦
– EOF 我们有一个小小的折腾群里面聚集了一些喜欢折腾、彼此坦诚相待的小伙伴。
我们在里面会一起聊聊软硬件、HomeLab、编程上的一些问题也会在群里不定期的分享一些技术资料。
喜欢折腾的小伙伴欢迎阅读下面的内容扫码添加好友。
关于“交友”的一些建议和看法
添加好友时请备注实名和公司或学校、注明来源和目的珍惜彼此的时间
苏洋关于折腾群入群的那些事 本文使用「署名 4.0 国际 (CC BY 4.0)」许可协议欢迎转载、或重新修改使用但需要注明来源。 署名 4.0 国际 (CC BY 4.0)
本文作者: 苏洋
创建时间: 2023年07月29日 统计字数: 8488字 阅读时间: 17分钟阅读 本文链接: https://soulteary.com/2023/07/29/docker-based-deep-learning-environment-under-windows.html
