Bài giảng Học sâu và ứng dụng - Bài 6: Phần cứng và phần mềm cho học sâu

Bài giảng Học sâu và ứng dụng - Bài 6: Phần cứng và phần mềm cho học sâu. Bài này cung cấp cho học viên những nội dung về: phần cứng cho học sâu; các nền tảng lập trình cho học sâu; công cụ tăng tốc và nén mạng;... Mời các bạn cùng tham khảo chi tiết nội dung bài giảng!
Nội dung trích xuất từ tài liệu:
Bài giảng Học sâu và ứng dụng - Bài 6: Phần cứng và phần mềm cho học sâu 1 Bài 6: Phần cứng và phần mềm cho học sâu 2 Nội dung 1. Phần cứng cho học sâu 2. Các nền tảng lập trình cho học sâu 3. Công cụ tăng tốc và nén mạng 3 Phần cứng cho học sâu 4 Một máy tính cho học sâu 5 CPU vs GPU • CPU: ít nhân, nhưng mỗi nhân rất nhanh và hiệu năng cao, có khả năng xử lý thao tác phức tạp. Rất tốt cho các tác vụ tuần tự • GPU: nhiều nhân, những mỗi nhân chậm hơn và “dốt” hơn. Rất tốt cho các tác vụ song song 6 Ví dụ nhân ma trận • Rất phù hợp để sử dụng GPU 7 GigaFLOPs trên 1$ 8 CPU vs GPU trong thực tế 9 CPU vs GPU trong thực tế 10 CPU vs GPU vs TPU • TPU: phần cứng chuyên dụng cho học sâu 11 GigaFLOPs trên 1$ 12 NVIDIA DGX-2 13 Thiết bị biên NVidia 14 Thiết bị biên Google Coral 15 Thiết bị biên ARM 16 Thiết bị biên ARM NPU 17 Các nền tảng lập trình cho học sâu 18 Rất nhiều nền tảng… 19 Đồ thị tính toán • Ưu điểm: API sáng sủa, dễ lập trình các tác vụ tính toán • Nhược điểm: Phải tự lập trình Backprop; Không chạy được trên GPU 20