F5 percepat delivery aplikasi berbasis AI dengan NVIDIA BlueField-3 DPU

JAKARTA (IndoTelko) - F5 mengumumkan hadirnya BIG-IP Next untuk Kubernetes, solusi delivery dan keamanan aplikasi AI yang inovatif sehingga penyedia layanan dan enterprise besar memiliki titik kontrol terpusat untuk dapat mempercepat, mengamankan, dan menyederhanakan lalu lintas data yang mengalir masuk dan keluar dari infrastruktur AI berskala besar.

Solusi ini memanfaatkan kekuatan NVIDIA BlueField-3 DPUs berperforma tinggi untuk meningkatkan efisiensi lalu lintas pusat data yang sangat penting bagi penerapan AI dalam skala besar. Dengan mengetahui situasi jaringan, manajemen lalu lintas, dan keamanan secara terintegrasi, para pelanggan bisa memaksimalkan pemanfaatan sumber daya pusat data serta mewujudkan kinerja aplikasi AI yang optimal. Hal ini tidak hanya meningkatkan efisiensi infrastruktur, tetapi juga mendukung inferensi AI yang lebih cepat dan lebih responsif, sehingga pada akhirnya memberikan pengalaman pelanggan yang lebih baik berkat pemanfaatan AI.

F5 BIG-IP Next untuk Kubernetes merupakan solusi yang dirancang khusus untuk lingkungan Kubernetes yang manfaatnya telah terbukti dalam infrastruktur cloud dan 5G di perusahaan-perusahaan telko berskala besar. Dengan BIG-IP Next untuk Kubernetes, teknologi ini sekarang dapat disesuaikan untuk kasus penggunaan AI yang penting seperti inferensi, retrieval-augmented generation(RAG), manajemen dan penyimpanan data yang mulus. Integrasi dengan NVIDIA BlueField-3 DPUs akan meminimalkan ruang untuk hardware, sehingga ruang bisa digunakan oleh lebih banyak pengguna, dan konsumsi energi bisa lebih optimal dengan adanya jaringan, keamanan, dan manajemen lalu lintas berkinerja tinggi yang juga sudah tersedia.

Menurut Chief Technology and AI Officer F5, Kunal Anand, penyebaran AI telah memicu permintaan yang luar biasa untuk semikonduktor dan teknologi canggih. Berbagai organisasi tengah membangun pabrik AI, lingkungan yang sangat dioptimalkan yang dirancang untuk melatih model AI berskala besar dan memberikan daya pemrosesan yang diperlukan untuk pengembangan inferensi dengan kecepatan luar biasa dan latensi minimal.

"Sinergi antara layanan delivery aplikasi dan keamanan F5 yang kuat disertai komputasi full-stack yang terakselerasi dari NVIDIA menciptakan ekosistem yang kuat. Dengan integrasi ini para pelanggan memiliki kemampuan observabilitas yang lebih baik, kontrol yang detail, dan kinerja yang optimal untuk beban kerja AI mereka di seluruh stack, dari lapisan akselerasi hardware hingga antarmuka aplikasi," ujarnya.

Kombinasi teknologi F5 dan NVIDIA memungkinkan penyedia layanan telekomunikasi seluler dan jaringan kabel melakukan transisi ke infrastruktur cloud-native(Kubernetes) dengan mudah, sehingga bisa memenuhi permintaan yang terus meningkat dari berbagai vendor yang ingin mengadaptasikan fitur mereka ke model cloud-native network function (CNF). F5 BIG-IP Next untuk Kubernetes memindahkan pekerjaan-pekerjaan yang memerlukan banyak data ke BlueField-3 DPUs, sehingga sumber daya CPU dapat dialokasikan untuk menangani aplikasi-aplikasi yang menghasilkan pendapatan. Solusi ini sangat bermanfaat di network edge untuk virtualized RAN (vRAN) atau DAA untuk MSO, serta di core network untuk 5G, sehingga akan membuka potensi masa depan untuk 6G.

Dirancang khusus untuk penyedia layanan dengan permintaan tinggi dan infrastruktur skala besar, F5 BIG-IP Next untuk Kubernetes :

1. Memperlancar delivery layanan AI pada skala cloud

BIG-IP Next untuk Kubernetes dapat terintegrasi secara seamless dengan jaringan front-end di pelanggan, sehingga mengurangi latensi secara signifikan serta menyediakan load balancing berkinerja tinggi untuk menangani permintaan data yang besar dari miliaran parameter model AI dan triliunan operasi.

2. Meningkatkan kontrol penerapan AI

Solusi ini menawarkan titik integrasi terpusat ke dalam jaringan AI modern dengan kemampuan pengamatan yang luas dan informasi yang sangat rinci. BIG-IP Next untuk Kubernetes mendukung beberapa protokol L7 di luar HTTP, sehingga memastikan kontrol masuk dan keluar yang ditingkatkan dengan kinerja yang sangat tinggi.

3. Melindungi lanskap AI yang baru

Para pelanggan dapat sepenuhnya mengotomatisasi discovery dan keamanan endpoint pada pelatihan dan inferensi AI. BIG-IP Next untuk Kubernetes juga dapat mengisolasi aplikasi AI dari ancaman dengan target tertentu, memperkuat integritas dan kedaulatan data serta memenuhi kebutuhan enkripsi yang penting bagi lingkungan-lingkungan AI modern.

BIG-IP Next untuk Kubernetes yang bekerja dengan NVIDIA BlueField-3 DPUs akan mulai tersedia pada bulan November. Informasi tambahan juga dapat ditemukan dalam companion blog post dari F5.

Dikatakan Director of AI Networking and Security Partnerships di NVIDIA, Ash Bhalgat, Sr. mengungkapkan, berbagai penyedia layanan dan perusahaan memerlukan komputasi yang lebih cepat untuk menghadirkan aplikasi AI berperforma tinggi secara aman dan efisien pada skala cloud. "NVIDIA bekerja sama dengan F5 untuk mempercepat delivery aplikasi AI, sehingga memastikan efisiensi maksimal dan pengalaman pengguna yang mulus dengan dukungan BlueField-3 DPUs," katanya.

Sedangkan, Research Vice President, Computing Systems Research Practice at IDC, Kuba Stolarski menjelaskan, merealisasikan potensi AI membutuhkan lebih banyak kemampuan pemrosesan data ketimbang yang dipersiapkan oleh industri sebelumnya. Bagi banyak perusahaan, penerapan AI yang canggih membutuhkan pembangunan infrastruktur besar-besaran yang cenderung sangat kompleks dan mahal, di mana hal ini menjadikan operasional yang efisien dan aman sekarang menjadi lebih penting.

"F5 BIG-IP Next untuk Kubernetes mengatasi masalah kinerja dan keamanan untuk infrastruktur AI berskala besar. Dengan menyediakan peningkatan kinerja pengambilan data dan pemanfaatan server selama inferensi model AI. Hal ini menghasilkan pengalaman pelanggan yang jauh lebih baik bagi pengguna aplikasi AI," katanya.

Global Practice Manager, AI, App, and API Security Solutions at WWT, Todd Hathaway bercerita, maraknya utilisasi AI mendorong munculnya akan tingginya kebutuhan adanya Kubernetes Ingress dan Egress yang canggih , scalable dan optimized. Dengan tersedianya semua keunggulan terkini daripada F5 BIG-IP untuk Kubernetes, di mana sekarang telah tersedia pada NVIDIA BlueField-3 DPUs secara langsung, menunjukan bahwa potensi teknologi tersebut sudah siap untuk diterapkan di titik-titik area penerapan AI skala besar.

"Klien WWT akan dapat memperoleh manfaat dari kinerja penyerapan data yang lebih baik dan pemanfaatan GPU selama pelatihan model dan pengalaman pengguna yang lebih baik selama inferensi, sekaligus memperoleh titik kontrol strategis untuk layanan keamanan. Teknologi dari F5 dan NVIDIA—dua dari kemitraan kami yang paling strategis—semakin memperkuat misi Global Cyber kami untuk menghadirkan keunggulan keamanan digital," jelasnya. (mas)