PyTorch có thể tăng tốc các ứng dụng AI/ML bằng GPU NVIDIA thông qua thư viện NVIDIA CUDA giống như TensorFlow.
Trong bài viết này, chúng tôi sẽ hướng dẫn bạn cách cài đặt PyTorch với hỗ trợ tăng tốc NVIDIA GPU/CUDA trên Debian 12 “Bookworm”.
Chủ đề Nội dung:
- Cài đặt trình điều khiển GPU NVIDIA trên Debian 12
- Cài đặt NVIDIA CUDA trên Debian 12
- Cài đặt Python 3 PIP và Python 3 Môi trường ảo (venv) trên Debian 12
- Tạo môi trường ảo Python 3 cho PyTorch
- Nâng cấp Python 3 PIP lên phiên bản mới nhất trên Môi trường ảo Python 3 PyTorch
- Cài đặt PyTorch với Hỗ trợ tăng tốc GPU/CUDA của NVIDIA trên Debian 12
- Kích hoạt môi trường ảo PyTorch Python 3
- Truy cập PyTorch và kiểm tra xem có khả năng tăng tốc GPU/CUDA của NVIDIA không
- Phần kết luận
Cài đặt trình điều khiển GPU NVIDIA trên Debian 12
Để khả năng tăng tốc GPU/CUDA của PyTorch NVIDIA hoạt động, bạn phải cài đặt trình điều khiển GPU NVIDIA trên Debian 12 . Nếu bạn cần bất kỳ trợ giúp nào trong việc cài đặt trình điều khiển GPU NVIDIA trên hệ thống Debian 12 của mình, đọc bài viết này .
Cài đặt NVIDIA CUDA trên Debian 12
Để khả năng tăng tốc GPU/CUDA của PyTorch NVIDIA hoạt động trên Debian 12, bạn phải cài đặt NVIDIA CUDA trên Debian 12 . Nếu bạn cần bất kỳ trợ giúp nào trong việc cài đặt NVIDIA CUDA trên hệ thống Debian 12 của mình, đọc bài viết này .
Cài đặt Python 3 PIP và Python 3 Môi trường ảo (venv) trên Debian 12
Để cài đặt PyTorch trên Debian 12, bạn cần cài đặt môi trường ảo Python 3 PIP và Python (venv).
Đầu tiên, cập nhật bộ đệm của kho lưu trữ gói APT bằng lệnh sau:
$ sudo cập nhật thích hợp 
Để cài đặt môi trường ảo Python 3 PIP và Python 3 (venv), hãy chạy lệnh sau:
$ sudo đúng cách cài đặt python3-pip python3-venv python3-dev Để xác nhận cài đặt, nhấn “Y” rồi nhấn
Python 3 PIP và Python 3 venv đang được cài đặt. Phải mất một thời gian để hoàn thành.
Tại thời điểm này, nên cài đặt Python 3 PIP và Python 3 venv.
Tạo môi trường ảo Python 3 cho PyTorch
Phương pháp tiêu chuẩn để cài đặt thư viện Python trên Debian 12 là cài đặt chúng trong môi trường ảo Python để chúng không can thiệp vào các gói/thư viện Python của hệ thống.
Để tạo môi trường ảo Python 3 mới cho PyTorch trong thư mục “/opt/pytorch”, hãy chạy lệnh sau:
$ sudo trăn3 -m venv / opt / ngọn đuốcNâng cấp Python 3 PIP lên phiên bản mới nhất trên Môi trường ảo Python 3 PyTorch
Để nâng cấp Python 3 PIP lên phiên bản mới nhất trên môi trường ảo Python 3 “/opt/pytorch”, hãy chạy lệnh sau:
$ sudo / opt / ngọn đuốc / thùng rác / pip3 cài đặt --nâng cấp pip 
Cài đặt PyTorch với Hỗ trợ tăng tốc GPU/CUDA của NVIDIA trên Debian 12
Để tính năng tăng tốc GPU/CUDA PyTorch của NVIDIA hoạt động, bạn phải cài đặt đúng phiên bản PyTorch hỗ trợ phiên bản trình điều khiển NVIDIA CUDA mà bạn đã cài đặt trên hệ thống Debian 12 của mình. Tại thời điểm viết bài này, PyTorch hỗ trợ trình điều khiển NVIDIA CUDA phiên bản 11.8 và 12.1. Để biết thông tin cập nhật về các phiên bản trình điều khiển NVIDIA CUDA mà PyTorch hỗ trợ, kiểm tra trang web chính thức của PyTorch .
Để kiểm tra phiên bản trình điều khiển NVIDIA CUDA mà bạn đã cài đặt trên hệ thống Debian 12, hãy chạy lệnh sau. Như bạn có thể thấy, chúng tôi đã cài đặt NVIDIA CUDA phiên bản 11.8 trên hệ thống Debian 12.
$ nvcc --phiên bản 
Để cài đặt PyTorch có hỗ trợ NVIDIA CUDA 11.8 trên môi trường ảo PyTorch Python 3, hãy chạy lệnh sau:
$ sudo / opt / ngọn đuốc / thùng rác / pip3 cài đặt ngọn đuốc ngọn đuốcvision torchaudio --url chỉ mục https: // tải xuống.pytorch.org / cái gì / với 118Để cài đặt PyTorch có hỗ trợ NVIDIA CUDA 12.1 trên môi trường ảo PyTorch Python 3, hãy chạy lệnh sau:
$ sudo / opt / ngọn đuốc / thùng rác / pip3 cài đặt ngọn đuốc ngọn đuốcvision torchaudioPyTorch đang được cài đặt trên môi trường ảo PyTorch Python 3. Phải mất một thời gian để hoàn thành.
Tại thời điểm này, PyTorch nên được cài đặt trên môi trường ảo PyTorch Python 3
Kích hoạt môi trường ảo PyTorch Python 3
Để kích hoạt môi trường ảo PyTorch Python “/opt/pytorch”, hãy chạy lệnh sau:
$ . / opt / ngọn đuốc / thùng rác / kích hoạtMôi trường ảo PyTorch Python 3 phải được kích hoạt.
Truy cập PyTorch và kiểm tra xem có khả năng tăng tốc GPU/CUDA của NVIDIA không
Để mở shell tương tác Python 3, hãy chạy lệnh sau:
$ trăn3Shell tương tác Python 3 nên được mở.
Đầu tiên, nhập PyTorch với dòng mã sau:
$ ngọn đuốc nhập khẩu 
Để kiểm tra phiên bản PyTorch mà bạn đã cài đặt, hãy chạy dòng mã sau. Như bạn có thể thấy, chúng tôi đang chạy PyTorch 2.1.0 với hỗ trợ tăng tốc NVIDIA CUDA 11.8 (cu118).
$ ngọn đuốc.__version__ 
Để kiểm tra xem PyTorch có khả năng sử dụng GPU NVIDIA của bạn để tăng tốc NVIDIA CUDA hay không, bạn cũng có thể chạy dòng mã sau. Nếu có hỗ trợ NVIDIA CUDA, “True” sẽ được in.
$ ngọn đuốc.cuda.is_available ( )Nếu cài đặt nhiều GPU trên máy tính, bạn có thể kiểm tra số lượng GPU mà PyTorch có thể sử dụng bằng dòng mã sau. Như bạn có thể thấy, chúng tôi đã cài đặt GPU NVIDIA (RTX 4070) trên hệ thống Debian 12 của mình.
$ ngọn đuốc.cuda.device_count ( )Để thoát khỏi shell tương tác Python, hãy chạy dòng mã sau:
$ từ bỏ ( )Phần kết luận
Trong bài viết này, chúng tôi đã hướng dẫn bạn cách cài đặt môi trường ảo Python 3 PIP và Python 3 (venv) trên Debian 12. Chúng tôi cũng đã hướng dẫn bạn cách tạo môi trường ảo Python 3 cho PyTorch trên Debian 12 và cách cài đặt PyTorch với NVIDIA CUDA Hỗ trợ tăng tốc 11.8 và 12.1 trên Debian 12. Cuối cùng, chúng tôi đã hướng dẫn bạn cách kích hoạt môi trường ảo PyTorch Python và truy cập PyTorch trên Debian 12.