Viettel Cloud NPU is a Public Cloud service providing to customers Virtual Machines attached with one or many NPU Qualcomm Cloud AI 100. It is aimed at businesses and organizations that need to deploy and provide artificial intelligence (AI) applications including computer vision (CV), natural language processing (NLP), generative AI (GenAI), and more. Viettel Cloud NPU helps businesses and organizations solve the price-performance (P/P) challenge of deploying AI applications.

NPU stands for Neural Processing Unit. It is a specialized integrated circuit (ASIC) designed specifically for AI processing.

Viettel IDC is currently the exclusive partner of Qualcomm in providing Qualcomm NPU products and services in Vietnam.

Hỗ trợ nhiều mô hình triển khai hệ thống quy mô nhỏ đến lớn

Viettel Cloud NPU hỗ trợ gắn tối đa tới 06 cards NPU Qualcomm Cloud AI 100 trên mỗi VM, dễ dàng kết nối riêng tư và bảo mật nhiều VM gắn NPU với nhau thông qua Switch ảo.

Tổ chức & quản lý linh hoạt các nhân xử lý AI (AI core)

Trên mỗi thiết bị NPU Qualcomm có nhiều nhân xử lý AI (AI core). Người dùng có thể gắn đích danh một hoặc nhiều AI core cho từng AI model chạy song song trên NPU, cũng như sử dụng tính năng lập lịch (Scheduler) để tự động hoá việc phân bổ, điều phối các AI core đang trống cho từng AI model.

Hỗ trợ đầy đủ các AI Framework & Model phổ biến

NPU Qualcomm hỗ trợ đầy đủ các AI Frameworks phổ biến như TensorFlow, PyTorch, ONNX, các AI Model thông dụng như ResNet, YOLO, BERT, GPT, v.v.

Bộ SDK mạnh mẽ, dễ dàng chuyển đổi code

NPU Qualcomm đi kèm hai bộ SDK mạnh mẽ là Cloud AI Apps SDK và Cloud AI Platform SDK, được cập nhật thường xuyên, hỗ trợ các Nhà phát triển AI thực hiện tối ưu, biên dịch và triển khai AI Model một cách dễ dàng, nhanh chóng.

Bộ công cụ quản trị mạnh mẽ, trực quan

Qualcomm cung cấp miễn phí các bộ công cụ quản trị cả dưới dạng giao diện dòng lệnh (Command line) và giao diện đồ hoạ người dùng (GUI), hỗ trợ theo dõi các thông số của NPU trong khi hoạt động, tinh chỉnh các tham số, luồng hoạt động cũng như biên dịch AI model.

Dễ dàng kết hợp với Kubernetes & Container

Qualcomm cung cấp device plug-in cho Kubernetes để sử dụng kết hợp với NPU, không mất thêm chi phí license như nhiều hãng khác, hỗ trợ mapping tài nguyên tới mức từng Container với từng AI core trên card.

Đáp ứng tốt nhiều loại ứng dụng AI, vượt trội về hiệu năng xử lý Computer Vision AI

NPU Qualcomm đáp ứng đa dạng loại hình AI từ Thị giác máy tính (CV), Xử lý ngôn ngữ tự nhiên (NLP) đến các loại hình mới như AI Tạo sinh (GenAI). NPU thể hiện hiệu suất xử lý Performance/Watt vượt trội so với nhiều dòng thiết bị GPU tương đương của các hãng khác trong nhiều trường hợp sử dụng.

Tối ưu chi phí & hiệu suất

Sử dụng NPU Qualcomm triển khai ứng dụng AI mang lại nhiều lợi ích cho khách hàng về chi phí: các tính năng, công cụ đi kèm đều miễn phí; chi phí thuê dịch vụ Cloud NPU tiết kiệm hơn nhờ tính tối ưu Tổng chi phí sở hữu (Total Cost of Ownership – TCO) của Qualcomm NPU.

Chuyển đổi dễ dàng

Quá trình chuyển đổi code đang chạy trên thiết bị GPU của các Nhà cung cấp khác sang Qualcomm NPU đơn giản, nhanh chóng nhờ có bộ SDK, tài liệu hướng dẫn chuyển đổi, kết hợp với hỗ trợ kỹ thuật chuyên sâu từ đội ngũ chuyên gia Viettel IDC-Qualcomm. 

Xử lý hình ảnh, video

Các mô hình AI phổ biến về Nhận diện khuôn mặt, Phát hiện vật thể hay Xử lý hình ảnh đều hoạt động tốt, tối ưu trên Qualcomm NPU, phù hợp các doanh nghiệp, tổ chức cần triển khai các hệ thống, ứng dụng Chấm công, eKYC, Camera AI giám sát, v.v.

Trợ lý ảo, Chatbot

Qualcomm NPU hỗ trợ tốt các mô hình AI về ngôn ngữ phổ biến như BERT, GPT, CNN-Text, phù hợp với các ứng dụng AI về xử lý ngôn ngữ như Chuyển văn bản thành giọng nói, Chuyển giọng nói thành văn bản, Trợ lý ảo chăm sóc khách hàng, v.v.

AI Tạo sinh (GenAI)

Các mô hình, ứng dụng AI Tạo sinh về văn bản, hình ảnh, video, hay mã máy tính (code) đều có thể khai thác tốt sức mạnh của Qualcomm NPU. 

AI Rô-bốt và Thực tế ảo tăng cường

Qualcomm NPU đáp ứng tốt các bài toán về AI Rô-bốt như điều hướng và nhận thức môi trường, tương tác giữa con người và rô-bốt, học tập và thích ứng, cũng như về các ứng dụng AR trong đào tạo, mua sắm.

Khi Khách hàng muốn có một hệ thống hạ tầng ảo hóa dung riêng đòi hỏi tính độc lập cao theo yêu cầu của tổ chức, điều mà public cloud không thể đáp ứng được.

Viettel Cloud NPU cung cấp các máy chủ ảo gắn một hoặc nhiều card NPU Qualcomm Cloud AI 100 (tối đa 06 card). Khách hàng có thể truy cập sử dụng VM Cloud NPU đơn lẻ thông qua kết nối Internet (giao thức SSH/Remote Desktop), hoặc thông qua kết nối Private với các dịch vụ khác trong hệ sinh thái của Viettel IDC như Viettel Cloud Server, Viettel Virtual Private Cloud, Viettel Dedicated Private Cloud.

Viettel Cloud NPU hỗ trợ đầy đủ các hệ điều hành phổ biến như Windows Server, Ubuntu, v.v. các phiên bản mới, và liên tục được cập nhật thêm các OS mới.

Viettel Cloud NPU đáp ứng tốt nhiều loại hình ứng dụng AI phổ biến, từ Computer Vision, Natural Language Processing, Generative AI, và nhiều loại khác.

NPU Qualcomm Cloud AI 100 được thiết kế chuyên dụng và tối ưu nhất cho mục đích AI Inference, không phù hợp và tối ưu cho AI Training.

Khi sử dụng Viettel Cloud NPU, Viettel IDC cam kết Uptime của các VM Cloud NPU ≥ 99.5%, giúp giảm thiểu tối đa nỗi lo về gián đoạn dịch vụ ảnh hưởng tới trải nghiệm khách hàng cuối.

Let us contact you

Fill in the information in the table next to it and Viettel IDC staff will contact you soon!

Or call us now to learn more about service prices.
Hotline: 0966707701

Connect