Red Hat permudah bikin AI Generatif

Ilustrasi (dok)

JAKARTA (IndoTelko) - Penyedia solusi open source terkemuka di dunia, Red Hat, Inc, baru-baru ini mengumumkan peluncuran Red Hat Enterprise Linux AI (RHEL AI), sebuah platform foundation model yang membantu pengguna dalam mengembangkan, menguji, dan menjalankan model AI generatif (GenAI) tanpa hambatan.

RHEL AI menggabungkan large language model (LLM) Granite yang berlisensi open source dari IBM Research, tools untuk model alignmentdari InstructLab yang berbasis metodologi LAB (Large-scale Alignment for chatBots), dan pendekatan berbasis komunitas untuk pengembangan model melalui proyek InstructLab.

Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable, untuk penggunaan di server individual di seluruh hybrid clouddan juga termasuk bagian dari OpenShift AI, platform machine learning operations (MLOps) hybrid dari Red Hat, untuk menjalankan model dan pengembangan InstructLab di seluruh lingkungan cluster yang tersebar.

Peluncuran ChatGPT telah menimbulkan ketertarikan sangat besar terhadap GenAI, dengan inovasi yang semakin cepat sejak saat itu. Enterprise mulai berpindah dari penilaian awal terhadap layanan GenAI ke fase pengembangan aplikasi dengan AI. Ekosistem opsi open model yang terus berkembang pesat telah memacu inovasi AI lebih jauh dan menggambarkan bahwa tidak akan ada “satu model yang mengendalikan semua.” Pelanggan akan mendapatkan manfaat dari berbagai pilihan yang ada untuk memenuhi kebutuhan-kebutuhan spesifik, yang semuanya akan semakin dipercepat dengan pendekatan terbuka terhadap inovasi.

Menurut Senior Vice President dan Chief Product Officer, Red Hat, Ashesh Badani, GenAI merepresentasikan lompatan revolusioner bagi enterprise, namun hanya jika perusahaan teknologi mampu menjalankan dan menggunakan model AI dengan cara yang sesuai dengan kebutuhan bisnis spesifik mereka. "RHEL AI dan proyek InstructLab, bersama dengan Red Hat OpenShift AI pada skala besar, didesain untuk menerobos hambatan yang dihadapi GenAI di seluruh hybrid cloud, mulai dari keterampilan data science yang terbatas, hingga jumlah sumber daya yang dibutuhkan, sekaligus mendorong inovasi baik saat digunakan di enterprise maupun di komunitas upstream,” katanya.

Menerapkan strategi AI membutuhkan lebih dari sekadar memilih sebuah model; perusahaan teknologi membutuhkan keahlian untuk menyempurnakan model tertentu untuk kasus penggunaan yang spesifik bagi mereka, serta mengatasi biaya yang besar dalam penerapan AI.

Kelangkaan keahlian data science makin dipersulit dengan kebutuhan keuangan yang besar, termasuk di antaranya :

•
Pengadaan infrastruktur AI atau memanfaatkan layanan AI
•
Proses yang rumit dalam menyempurnakan model AI untuk kebutuhan bisnis yang spesifik
•
Mengintegrasikan AI ke dalam aplikasi enterprise
•
Mengelola aplikasi dan lifecycle model

Untuk benar-benar menerobos hambatan dalam inovasi AI, enterprise harus bisa mengumpulkan daftar siapa saja yang bisa bekerja untuk inisiatif AI dan pada saat yang sama berusaha mengontrol biaya. Dengan alignment tools dari InstructLab, model Granite, dan RHEL AI, Red Hat akan memberikan manfaat dari proyek open sourceyang sebenarnya, yaitu berupa akses gratis dan bisa digunakan kembali, transparan dan terbuka terhadap kontribusi, ke dalam GenAI sebagai upaya untuk menghilangkan penghambat tersebut.

Dikatakan Corporate Vice President, AI Group, AMD, Ramine Roane, AI adalah salah satu pergeseran paling penting dalam teknologi selama 50 tahun terakhir. Untuk membantu mempercepat pengadopsian AI yang lebih luas, model dan tool yang digunakan untuk membangun aplikasi AI harus bisa diakses oleh enterprise. "Dibangun di tulang punggung Linux dengan tooling open source dan model berlisensi open source, RHEL AI adalah salah satu platform yang menyediakan hal ini, dan kami gembira bisa mendukung upaya Red Hat dalam mendorong AI di enterprise dengan teknologi AMD kami, termasuk akselerator Instinct AI,” ujarnya.

Sementara Senior Vice President, Solution Platforms, Dell Technologies, Gil Shneorson, Dell Technologies telah menjadi pelopor dalam penyediaan manajemen lifecycle infrastruktur yang andal dan konsisten, pihaknya yakin bahwa update sistem yang konsisten, andal, dan aman pada operasional IT di enterprise adalah sebuah keharusan, seiring dengan sistem yang terus berkembang. "Teknologi baru yang menawarkan kepada perusahaan kemampuan untuk memperluas update kode dan mengurangi waktu deployment akan menjadi hal penting untuk mempertahankan kemajuan dalam inovasi," jelasnya.

Sedangkan Director, Compute Solutions and AI, Hewlett Packard Enterprise, Frances Guida mengungkapkan, Hewlett Packard Enterprise telah berkolaborasi dengan Red Hat selama dua dekade untuk menyediakan solusi terdepan dalam industri yang menggabungkan platform HPE Compute dengan RHEL. "Lingkungan terbuka sangat penting bagi inovasi dalam kategori teknologi yang berkembang pesat seperti AI generatif dan kami menantikan dapat menjajaki area kolaborasi baru dengan RHEL AI dan Red Hat untuk membantu pelanggan HPE meraih kesuksesan,” tambahnya.

IBM Research menciptakan teknik Large-scale Alignment for chatBots (LAB), sebuah pendekatan model alignment yang menggunakan penciptaan data sintetis yang dipandu oleh taksonomi dan tuning frameworkmulti-fase yang baru. Pendekatan ini menjadikan pengembangan model AI lebih terbuka dan bisa diakses oleh semua pengguna dengan mengurangi ketergantungan terhadap anotasi manusia yang mahal dan model proprietary. Dengan menggunakan metode LAB, model bisa ditingkatkan dengan melakukan spesifikasi pada keahlian dan pengetahuan yang terkait dengan sebuah taksonomi, sehingga menghasilkan data sintetis dari informasi tersebut pada skala besar untuk memengaruhi model dan menggunakan data yang dihasilkan tersebut untuk pelatihan model.

Setelah melihat bahwa metode LAB bisa membantu memperbaiki kinerja model secara signifikan, IBM dan Red Hat memutuskan untuk meluncurkan InstructLab, komunitas open source yang dibangun di seputar metode LAB dan model Granite open source dari IBM. Proyek InstructLab bertujuan untuk meletakkan pengembangan LLM di tangan para pengembang dengan membuat, mengembangkan, dan berkontribusi ke sebuah LLM semudah berkontribusi ke proyek open source apapun.

Sebagai bagian dari peluncuran InstructLab, IBM juga merilis satu paket Granite, sebuah code model berbahasa Inggris dan berbasis open source. Model ini diluncurkan di bawah lisensi Apache dengan transparansi pada dataset yang digunakan untuk melatih model tersebut. Model Granite 7B telah diintegrasikan ke dalam komunitas InstructLab, di mana pengguna akhir bisa menyumbangkan keahlian dan pengetahuan mereka untuk menyempurnakan model tersebut secara kolektif, seperti yang mereka lakukan untuk proyek open sourcelain. Dukungan yang sama untuk code model Granite diInstructLab akan segera tersedia.

Diungkapkan CTO dan general manager of innovation IBM Infrastructure, Hillery Hunter, banyak perusahaan ingin memasukkan AI ke dalam aplikasi penting mereka. Ketersediaan RHEL AI dan OpenShift AI di IBM Cloud akan membantu mengubah cara komunitas dan perusahaan membangun dan memanfaatkan AI generatif. "Kami memungkinkan kolaborasi terbuka, menyederhanakan penyesuaian model, dan menyediakan model dan tools pendukung berkualitas enterprise untuk membangun AI ke dalam setiap aplikasi,” ujarnya.

Sedangkan Senior Vice President and Director Research IBM, Darío Gil menambahkan, menghadirkan inovasi open source yang sebenarnya ke dalam pengembangan model AI dan memanfaatkan kekuatan komunitas yang luas akan mengubah cara berpikir enterprise tentang rencana mereka untuk mengadopsi dan mengembangkan AI.

"IBM telah menjadi pendukung kuat open source, mendorong komunitas berpengaruh seperti Linux, Apache, dan Eclipse, dan kolaborasi kami dengan Red Hat merepresentasikan langkah maju dalam pendekatan terbuka untuk mengembangkan AI yang aman, bertanggung jawab, dan efektif. RHEL AI dan InstructLab, dikombinasikan dengan rangkaian model Granite open source IBM, akan memberikan value dan pilihan yang baru bagi klien yang ingin membangun model yang sesuai dengan tujuan untuk menangani kasus penggunaan dengan data mereka sendiri sambil meminimalkan biaya di lingkungan cloud hybrid yang beragam,” jelasnya.

RHEL AI membangun pendekatan terbuka ini berdasarkan inovasi AI, yang menggabungkan proyek InstructLab versi yang enterprise-ready dan bahasa serta code model Granite bersama dengan platform Linux enterprise terdepan di dunia untuk menyederhanakan penggunaan di semua lingkungan infrastruktur hybrid. Ini menciptakan sebuah platform foundation model untuk membawa model GenAI berlisensi open source ke enterprise. RHEL AI meliputi : 


•
Bahasa dan code model Granite berlisensi open source yang didukung dan dilindungi oleh Red Hat
•
Distribusi InstructLab yang didukung dan di-lifecycled yang menyediakan solusi yang skalabel dan hemat biaya untuk meningkatkan kemampuan LLM dan membuat lebih banyak orang dapat menyumbangka ilmu serta keterampilan mereka.
•
Runtime instance model yang bootable dan dioptimalkan dengan model Granite dan paket tooling InstructLab sebagai RHEL image melalui image mode RHEL, termasuk runtime librariesPytorch yang dioptimalkan dan akselerator untuk kerangka kerja AMD Instinct™ MI300X, Intel dan NVIDIA GPUs dan NeMo.
•
Dukungan enterprise dan janji lifecycleterlengkap dari Red Hat yang dimulai dengan pendistribusian produk enterprise paling tepercaya, dukungan produksi 24x7 dan dukungan lifecycle yang panjang.

Senior Vice President dan General Manager Networking - Compute, Cisco, Jeremy Foster bercerita, gerakan AI mewakili perubahan besar bagi enterprise, dan banyak perusahaan berjuang mencari jalan terbaik ke depan. "Cisco terus bekerja sama dengan Red Hat untuk memajukan pengadopsian AI dan RHEL AI akan mempercepat inovasi dengan menyediakan model LLM yang bersifat open-source sebagai bagian dari platform Linux yang enterprise-ready,” katanya.

Ketika perusahaan bereksperimen dan menyempurnakan model AI terbaru mereka di RHEL AI, mereka siap untuk menskalakan alur kerja ini dengan Red Hat OpenShift AI, yang akan menyertakan RHEL AI, dan tempat di mana mereka bisa memanfaatkan mesin Kubernetes di OpenShift untuk melatih dan mendukung model AI pada skala besar dan kemampuan MLOps yang terintegrasi di OpenShift AI untuk mengelola model lifecycle. Enterprise studio watsonx.ai dari IBM yang dibangun di Red Hat OpenShift AI saat ini, akan memetik manfaat dari penyertaan RHEL AI dalam OpenShift AI berdasarkan ketersediaan, sehingga memberikan kemampuan tambahan untuk pengembangan AI enterprise, pengelolaan data, tata kelola model, dan harga yang lebih baik.

Cloud bersifat hybrid

Selama lebih dari 30 tahun, teknologi open source telah menyandingkan inovasi yang pesat dengan penghematan biaya IT yang besar serta mengurangi penghambat inovasi. Red Hat telah memimpin perubahan ini sejak lama, mulai dari menyediakan platform Linux enterprise yang terbuka dengan RHEL pada awal tahun 2000an, hingga mendorong container dan Kubernetes sebagai landasan open hybrid cloud dan komputasi cloud-nativedengan Red Hat OpenShift.

Dorongan ini berlanjut dengan Red Hat yang memberdayakan strategi AI/ML di semua open hybrid cloud, sehingga memungkinkan beban kerja AI berjalan di mana data berada, baik di pusat data, di beberapa public cloud atau di edge. Lebih dari sekadar beban kerja, visi Red Hat untuk AI membawa pelatihan model dan tuning ke jalur yang sama untuk mengatasi batasan di seputar kedaulatan data, kepatuhan dan integritas operasional dengan lebih baik. Konsistensi platform Red Hat di berbagai lingkungan tersebut, di manapun mereka dijalankan, sangat penting untuk menjaga keberlanjutan inovasi AI.

RHEL AI dan komunitas InstructLab semakin memenuhi visi ini, mendobrak banyak penghalang untuk bereksperimen dan mengembangkan model AI sekaligus menyediakan tools, data dan konsep yang dibutuhkan untuk mendorong gelombang beban kerja cerdas berikutnya.

Dijelaskan Executive Vice President and General Manager, Data Center & AI Group, Intel, Justin Hotard, agar pengadopsian AI dapat ditingkatkan, AI harus sepenuhnya menjadi open source, tempat anggota komunitas berkontribusi dan membuat aplikasi dan kasus penggunaan baru. "Dengan menggabungkan model Granit open source dan proyek InstructLab, RHEL AI siap membawa perubahan signifikan dalam cara kita berinteraksi, menyesuaikan, dan pada akhirnya menggunakan model AI dalam produksi,” ujarnya.

Sementara, President Lenovo ISG, Kirk Skaugen mengatakan, pelanggan yang menerapkan aplikasi berbasis AI harus mampu menguji dan bereksperimen dengan model potensial pada platform yang tepercaya dan sudah dikenal namun tetap inovatif. "Lenovo yakin masa depan AI adalah hybrid, dan kami melihat RHEL AI sebagai jalur penting untuk memperluas inovasi AI hybrid, dan skalabilitas produksi melalui Red Hat OpenShift AI. Kami senang dapat bekerja sama dengan Red Hat dalam mendorong inovasi AI hybrid ini melalui pengujian bersama pada server ThinkSystem 8-GPU kami, yang memberikan landasan hardware tepercaya untuk mendukung AI open source sepenuhnya,” jelasnya.

Pun Vice President Enterprise Products NVIDIA, Justin Boitano mengungkapkan hal yang sama. "Red Hat dan NVIDIA memiliki sejarah panjang kolaborasi yang erat, dan Red Hat Enterprise Linux AI menunjukkan fokus bersama kami dalam menghadirkan komputasi dan software full-stack kepada para pengembang dan peneliti yang membangun gelombang teknologi dan aplikasi AI berikutnya,” jelasnya. (mas)