IBM luncurkan Granite 3.0 penuhi kebutuhan AI perusahaan modern

Ilustrasi (dok)

JAKARTA (IndoTelko) - Baru-baru ini, IBM memperkenalkan Granite 3.0, lini model kecerdasan buatan (artificial intelligence AI) terbaru yang dirancang untuk kebutuhan bisnis dengan performa tinggi, menawarkan transparansi, dan meningkatkan keamanan. Granite 3.0 menunjukkan kinerja yang unggul atau setara dengan model berukuran serupa dari penyedia model terkemuka yang memiliki benchmark terbaik.

Peluncuran ini menandai permulaan era model AI berukuran kecil dengan performa tinggi yang ketika diintegrasikan dengan data perusahaan, mampu memberikan kinerja optimal untuk melakukan tugas-tugas spesifik yang setara dengan model yang lebih besar, namun dengan biaya yang jauh lebih rendah.

Ada 9 pembeda utama nya, antara lain :

1. Kemampuan Beradaptasi

Dirancang agar dapat disesuaikan dengan data perusahaan yang unik dan belum dimanfaatkan sebelumnya dengan InstructLab, sehingga mudah diintegrasikan ke berbagai skenario atau alur kerja perusahaan.

2. Biaya

Menawarkan performa spesifik yang dapat bersaing dengan model yang lebih besar, dengan biaya berkisar antara 3 hingga 23 kali lebih rendah dibandingkan model frontier yang besar.

3. Transparansi

IBM memberikan informasi tentang dataset yang digunakan untuk melatih model Granite, termasuk rincian langkah-langkah filtrasi, data cleansing, dan kurasi yang diterapkan.

4. Indemnitas Hukum

IBM menyediakan indemnitas kekayaan intelektual (Intellectual Property Indemnity) pada platform watsonx.ai yang memungkinkan perusahaan klien untuk menggabungkan data mereka ke model Granite dengan aman secara hukum guna mengembangkan aplikasi AI mereka sendiri.

5. Keamanan Siber

Model Granite Guardian 8B dan 2B menyediakan perangkat yang sangat komprehensif dalam mengidentifikasi risiko dan bahaya yang telah ada di pasar saat ini.

6. Tanggung Jawab

Model Granite Guardian mampu mengidentifikasi dimensi berbahaya seperti bias sosial, kebencian, toksisitas, kata-kata kasar, kekerasan, jailbreaking, dan lainnya, serta melakukan pemeriksaan spesifik RAG (Retrieval Augmented Generation) yang unik seperti keterhubungan, relevansi konteks, dan relevansi jawaban.

7. Performa

Secara keseluruhan, kinerja Granite 3.0 8B Instruct menunjukkan rata-rata yang lebih unggul dibandingkan performa terbaik dari model open-source berukuran serupa dari Meta dan Mistral pada tugas inti perusahaan, seperti Retrieval Augmented Generation (RAG). Model ini juga unggul di semua dimensi keamanan dibandingkan dengan model dari Meta dan Mistral pada tolok ukur keamanan terdepan, AttaQ.

8. Komprehensif

Dilatih menggunakan lebih dari 12 triliun token yang berasal dari data dalam 12 bahasa berbeda dan 116 bahasa pemrograman.

9. Open-source

Dirilis di bawah lisensi Apache 2.0 yang sepenuhnya bersifat permisif, memungkinkan pengembang bekerja dengan aman menuju jalur komersialisasi melalui watsonx yang mendorong inovasi, meningkatkan keandalan, dan memastikan keamanan.

Keluaran model terbaru ini mencakup beberapa ukuran dan tipe, seperti:

•
Model Granite 3.0 8B & 2B Instruct & Base untuk keperluan umum
•
Model Granite Guardian 3.0 untuk memastikan keamanan dan kepercayaan, dan
•
Model Granite 3.0 Mixture-of-Experts untuk inferensi yang efisien dan latensi rendah.

Selanjutnya akan segera tersedia Model Instruct & Guardian di platform watsonx IBM & HuggingFace; pilihan model Granite 3.0 di platform mitra seperti Nvidia NIM Stack, Google Vertexserta melalui mitra ekosistem seperti AWS, Docker, Qualcomm melalui AI Hub, Salesforce, SAP, dan lainnya. Beberapa model Granite 3.0 yang dikurasi juga tersedia di Ollama dan Replicate.

Selain itu, IBM juga memperluas delivery platform bertenaga AI, IBM Consulting Advantage, dengan menjadikan model bahasa Granite 3.0 sebagai model default, memungkinkan konsultan IBM memberikan hasil kerja kepada klien yang lebih baik dan lebih cepat dengan biaya yang lebih rendah. (mas)