Cách cài đặt TensorFlow với Tăng tốc NVIDIA CUDA/cuDNN trên Debian 12

Cach Cai Dat Tensorflow Voi Tang Toc Nvidia Cuda Cudnn Tren Debian 12



TensorFlow là thư viện Python dành cho trí tuệ nhân tạo và học máy. TensorFlow có thể được sử dụng để đào tạo và tạo các mô hình AI mới, nhập các mô hình AI hiện có, tải dữ liệu thử nghiệm và kiểm tra hiệu suất của các mô hình AI, lưu các mô hình AI đã đào tạo, v.v.

TensorFlow có thể sử dụng CPU và GPU để tính toán các phép tính phức tạp về Trí tuệ nhân tạo (AI) và Học máy (ML). TensorFlow có thể sử dụng bất kỳ GPU NVIDIA nào được CUDA hỗ trợ để tăng tốc các chương trình AI/ML. Nếu bạn không có GPU hỗ trợ CUDA, TensorFlow sẽ sử dụng CPU cho mã AI/ML. Nếu không tăng tốc GPU, hiệu suất của TensorFlow sẽ giảm trong các chương trình AI/ML phức tạp.

Trong bài viết này, chúng tôi sẽ hướng dẫn bạn cách cài đặt TensorFlow với khả năng tăng tốc NVIDIA CUDA/cuDNN trên Debian 12 “Bookworm”.







Chủ đề Nội dung:

  1. Kiểm tra xem bạn đã cài đặt GPU NVIDIA trên máy tính chưa
  2. Cài đặt Python 3 PIP và Python Venv trên Debian 12
  3. Tạo môi trường ảo Python 3 cho TensorFlow
  4. Nâng cấp PIP Python 3 trên Môi trường ảo Python 3
  5. Cài đặt TensorFlow với Hỗ trợ tăng tốc NVIDIA CUDA
  6. Cài đặt TensorRT trên Debian 12
  7. Kích hoạt môi trường ảo TensorFlow Python 3
  8. Truy cập TensorFlow và kiểm tra xem có khả năng tăng tốc GPU/CUDA của NVIDIA không
  9. Phần kết luận

Kiểm tra xem bạn đã cài đặt GPU NVIDIA trên máy tính chưa

Để TensorFlow tăng tốc các chương trình AI với GPU NVIDIA/CUDA, bạn phải có Trình điều khiển GPU NVIDIA NVIDIA CUDA và cuDNN được cài đặt trên hệ điều hành Debian 12 của bạn.



Nếu bạn cần bất kỳ trợ giúp nào trong việc cài đặt trình điều khiển GPU NVIDIA trên hệ điều hành Debian 12 của mình, đọc bài viết này .



Nếu bạn cần bất kỳ trợ giúp nào trong việc cài đặt trình điều khiển NVIDIA CUDA và cuDNN trên hệ điều hành Debian 12 của mình, đọc bài viết này .





Sau khi bạn đã cài đặt trình điều khiển GPU NVIDIA trên hệ thống Debian 12 của mình, lệnh “nvidia-smi” sẽ khả dụng.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động



Các mô-đun hạt nhân NVIDIA cũng phải được tải trên hệ thống Debian 12 của bạn.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Sau khi cài đặt trình điều khiển NVIDIA CUDA, bạn sẽ có sẵn lệnh “nvcc” trên hệ thống Debian 12 của mình.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Cài đặt Python 3 PIP và Python Venv trên Debian 12

Để cài đặt TensorFlow trên Debian 12, bạn cần cài đặt mô-đun Python 3 PIP và môi trường ảo Python (venv).

Đầu tiên, cập nhật bộ đệm của kho lưu trữ gói APT bằng lệnh sau:

$ sudo cập nhật thích hợp

  Ảnh chụp màn hình chương trình máy tính Mô tả được tạo tự động

Để cài đặt môi trường ảo Python 3 PIP và Python 3 (venv), hãy chạy lệnh sau:

$ sudo đúng cách cài đặt python3-pip python3-venv python3-dev

Để xác nhận cài đặt, nhấn “Y” rồi nhấn .

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Python 3 PIP và Python 3 venv đang được cài đặt. Phải mất một thời gian để hoàn thành.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Tại thời điểm này, nên cài đặt Python 3 PIP và Python 3 venv.

  Ảnh chụp màn hình chương trình máy tính Mô tả được tạo tự động

Tạo môi trường ảo Python 3 cho TensorFlow

Phương pháp tiêu chuẩn để cài đặt thư viện Python trên Debian 12 là cài đặt chúng trong môi trường ảo Python để chúng không can thiệp vào các gói/thư viện Python của hệ thống.

Để tạo môi trường ảo Python 3 mới cho TensorFlow trong thư mục “/opt/tensorflow”, hãy chạy lệnh sau:

$ sudo trăn3 -m venv / opt / dòng chảy căng thẳng

Nâng cấp PIP Python 3 trên Môi trường ảo Python 3

Để nâng cấp Python 3 PIP lên phiên bản mới nhất trên môi trường ảo Python 3 “/opt/tensorflow”, hãy chạy lệnh sau:

$ sudo / opt / dòng chảy căng thẳng / thùng rác / pip cài đặt --nâng cấp pip

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Cài đặt TensorFlow với Hỗ trợ tăng tốc NVIDIA CUDA

Để cài đặt TensorFlow có hỗ trợ tăng tốc NVIDIA CUDA trên môi trường ảo Python “/opt/tensorflow”, hãy chạy lệnh sau:

$ sudo / opt / dòng chảy căng thẳng / thùng rác / pip cài đặt dòng chảy căng thẳng [ và-cuda ]

TensorFlow với khả năng tăng tốc NVIDIA CUDA đang được cài đặt. Phải mất một thời gian để hoàn thành.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Tại thời điểm này, nên cài đặt TensorFlow với hỗ trợ tăng tốc NVIDIA CUDA.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Cài đặt TensorRT trên Debian 12

NVIDIA TensorRT còn tối ưu hóa hiệu suất của deep learning TensorFlow hơn nữa. Bạn có thể cài đặt TensorRT trên môi trường ảo TensorFlow Python “/opt/tensorflow” bằng lệnh sau:

$ sudo / opt / dòng chảy căng thẳng / thùng rác / pip cài đặt tenxơ

NVIDIA TensorRT đang được cài đặt trên môi trường ảo Python. Phải mất một thời gian để hoàn thành.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Tại thời điểm này, NVIDIA TensorRT nên được cài đặt.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Kích hoạt môi trường ảo TensorFlow Python 3

Để kích hoạt môi trường ảo TensorFlow Python “/opt/tensorflow”, hãy chạy lệnh sau:

$ . / opt / dòng chảy căng thẳng / thùng rác / kích hoạt

Môi trường ảo TensorFlow Python 3 phải được kích hoạt.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Truy cập TensorFlow và kiểm tra xem có khả năng tăng tốc GPU/CUDA của NVIDIA không

Để mở shell tương tác Python 3, hãy chạy lệnh sau:

$ trăn3

Shell tương tác Python 3 nên được mở.

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Đầu tiên, nhập TensorFlow với dòng mã sau:

$ nhập tenorflow BẰNG tf

Sau khi nhập TensorFlow, bạn có thể kiểm tra số phiên bản của TensorFlow mà bạn đã cài đặt bằng dòng mã sau. Như bạn có thể thấy, chúng tôi đã cài đặt TensorFlow 2.13.1 trên hệ thống Debian 12.

$ tf.__version__

Để xác minh rằng TensorFlow có thể sử dụng GPU NVIDIA mà bạn đã cài đặt trên máy tính để tăng tốc CUDA, hãy chạy dòng mã sau. Như bạn có thể thấy, GPU NVIDIA của chúng tôi có thể truy cập được từ TensorFlow.

$ in ( tf.config.list_physical_devices ( 'GPU' ) )

  Ảnh chụp màn hình máy tính Mô tả được tạo tự động

Để thoát khỏi shell tương tác Python, hãy chạy dòng mã sau:

$ từ bỏ ( )

Phần kết luận

Trong bài viết này, chúng tôi đã hướng dẫn bạn cách cài đặt môi trường ảo Python 3 PIP và Python 3 (venv) trên Debian 12. Chúng tôi cũng hướng dẫn bạn cách tạo môi trường ảo Python 3 cho TensorFlow trên Debian 12 và cách cài đặt TensorFlow với NVIDIA Hỗ trợ tăng tốc GPU/CUDA và NVIDIA TensorRT trên Debian 12. Cuối cùng, chúng tôi đã hướng dẫn bạn cách kích hoạt môi trường ảo TensorFlow Python và truy cập TensorFlow trên Debian 12.