Alibaba rilis AI inference chip

HANGZHOU (IndoTelko) – Alibaba Group meluncurkan AI inference chip pertamanya yang dikembangkan oleh T-Head di bawah Alibaba DAMO Academy, sebuah program global Alibaba dalam upaya mendorong riset teknologi dan sains.

AI inference chip dengan performa tinggi, sebuah neural processing unit (NPU) yang dinamakan Hanguang 800 (Neutral Processing Unit) diluncurkan pada acara tahunan Apsara Computing Conference dan berfungsi untuk meningkatkan kecepatan proses eksekusi machine learning.

Chip ini telah digunakan dalam operasi usaha Alibaba Group, terutama dalam hal pencarian produk pada situs eCommerce, rekomendasi terpersonalisasi, periklanan, intelligent customer service, terjemahan otomatis, serta hal-hal lain yang membutuhkan performa AI tinggi guna meningkatkan kualitas pengalaman berbelanja pelanggan.

“Peluncuran Hanguang 800 merupakan langkah penting dalam upaya kami untuk terus memajukan teknologi demi masa depan, mendorong kapabilitas komputasi untuk memacu kemajuan berbagai unit usaha kami saat ini dan di masa datang, sambil meningkatkan efisiensi energi,” jelas   Alibaba Group CTO and President of Alibaba Cloud Jeff Zhang.

Ke depannya, Alibaba berencana untuk memberikan kemudahan bagi pelanggan mengakses advanced computing yang didukung oleh chip ini kapanpun dan dimanapun melalui cloud-nya.

Bermula dari kerangka kerja hardware yang dikembangkan sendiri dengan desain algoritma yang dioptimalisasi untuk aplikasi bisnis, seperti ritel dan logistik, pada ekosistem Alibaba, Hanguang 800 tercatat memiliki kinerja yang luar biasa dalam tahap pengujian awal.

Dalam uji Resnet-50 Inference, kinerja komputasi single-chip ini mencapai titik tertinggi pada 78.563 IPS dan efisiensi komputasi pada 500 IPS/W. Kedua hasil pengujian performa ini jauh melampaui skor rata-rata industri sekaligus membuktikan keunggulan yang tak tertandingi dan didukung oleh keseimbangan antara kapabilitas komputasi kuat dan efisiensi terbaik.

Sebagai contoh, saat ini para pengguna dapat mengunggah ratusan juta gambar setiap hari ke Taobao, situs e-commerce Alibaba, setiap harinya. Sebelumnya, mesin membutuhan waktu satu jam untuk mengidentifikasi gambar, menciptakan pencarian khusus, dan memberikan rekomendasi terpersonalisasi bagi ratusan juta konsumen. Kini, semua proses tersebut dapat dilakukan dalam waktu lima menit oleh Hanguang 800.(wn)