📉 Di postingan saya sebelumnya, saya membahas solusi on-prem yang makin masuk akal di tengah pelemahan rupiah terhadap USD, yang per hari ini menyentuh Rp17.980 per 1 USD. Banyak pakar bahkan memprediksi pelemahan bisa menembus Rp20.000. 💸
🧮 Dengan on-prem, biaya pengeluaran bisa dikalkulasi dan dianggarkan secara lebih terukur untuk beberapa bulan hingga beberapa tahun ke depan.
🎯 Solusi on-prem sudah terbukti mengungguli model-model besar dari frontier labs pada kasus spesifik seperti OCR. Contohnya DharmaOCR (https://huggingface.co/blog/Dharma-AI/specialization-beats-scale), model terspesialisasi 3B parameter yang mengalahkan API frontier komersial pada benchmark domain spesifik, cukup kecil untuk berjalan di berbagai edge device.
🔄 Ditambah lagi, ekosistem model lokal terus diperbarui, hampir tiap bulan muncul versi on-prem baru dengan kemampuan reasoning yang lebih advanced dari sebelumnya. Ini menunjukkan on-prem makin menjadi solusi nyata untuk banyak kasus domain spesifik. ✅
💬 Salah satu kebutuhan mendasar bisnis adalah chatbot yang bisa membantu menyelesaikan masalah customer, dengan bahasa yang ramah, sopan, dan human-centric, sehingga user nyaman mengobrol dan berujung pada transaksi. 🤝 Selain itu, otomatisasi pengecekan resi 📦, status order 🛒, product knowledge 📚, dan lainnya bisa dijalankan secara otomatis.