Cerita Di Balik Integrasi AI Local dengan Dify

Setelah beberapa waktu belajar AI Local menggunakan Ollama dan Open WebUI, Om Ahmad mulai mengenalkan aku ke sebuah platform yang namanya Dify.

Awalnya aku belum terlalu tahu Dify itu apa. Yang terpikir saat itu, mungkin Dify cuma tampilan lain untuk menggunakan AI. Tapi setelah dijelaskan sedikit oleh Om Ahmad, aku jadi penasaran dan mulai mencari tahu sendiri.

Aku mulai membuka dokumentasi Dify,sampai membaca pengalaman orang lain yang sudah pernah menggunakannya.

Semakin banyak aku mencari tahu, ternyata Dify bukan sekadar aplikasi untuk chat dengan AI. Platform ini bisa digunakan untuk membangun aplikasi AI, membuat workflow, menghubungkan knowledge base, bahkan mengintegrasikan model AI yang berjalan secara lokal.

Dari situ aku mulai berpikir, “Kalau AI Local yang sudah kubangun ini bisa dihubungkan ke Dify, pasti bakal seru buat dicoba.”

Akhirnya, aku memutuskan untuk mulai bereksperimen.

Memulai Proses Integrasi

Sebelum mulai, aku memastikan dulu AI Local yang kubangun sudah berjalan dengan baik.

Model AI sudah berhasil dijalankan menggunakan Ollama dan bisa menerima pertanyaan melalui API. Jadi langkah berikutnya tinggal mencoba menghubungkannya ke Dify.

Jujur, awalnya aku cukup deg-degan. Soalnya ini pertama kalinya aku mencoba mengintegrasikan dua platform yang berbeda.

Aku sempat berpikir, “Jangan-jangan nanti malah error lagi.”

Untungnya, proses integrasi berjalan lebih lancar dari yang kubayangkan.

Sedikit demi sedikit konfigurasi mulai selesai. Setelah semuanya terhubung, tibalah saat yang paling kutunggu.

Mencoba mengirim pertanyaan pertama.

Saat AI Berhasil Menjawab

Rasanya cukup senang waktu melihat AI akhirnya memberikan jawaban.

Artinya, integrasi yang kulakukan memang berhasil. AI Local sudah bisa menerima pertanyaan melalui Dify dan mengembalikan respons.

Walaupun sederhana, momen itu cukup bikin semangat. Karena sebelumnya aku hanya menggunakan AI Local secara langsung, sedangkan sekarang sudah mulai mencoba platform yang lebih lengkap.

Tapi…

Jawabannya Masih Ngalor Ngidul

Setelah beberapa kali mencoba bertanya, aku mulai menyadari kalau jawabannya masih belum sesuai dengan yang kuharapkan.

Ada yang bener jawaban nya dan ada juga yang melenceng jauh.

Kalo bahasa jawa nya sih ngalor ngidul.

Awalnya aku sempat bertanya-tanya, kenapa ya bisa seperti ini?

Padahal integrasinya sudah berhasil.

Setelah membaca dokumentasi dan berdiskusi dengan beberapa referensi, aku mulai paham kalau Dify sebenarnya hanya menjadi jembatan yang menghubungkan pengguna dengan model AI.

Kalau model AI belum memiliki pengetahuan yang spesifik, tentu jawabannya hanya berdasarkan pengetahuan umum yang dimilikinya.

Di sinilah aku mulai mengenal istilah RAG (Retrieval-Augmented Generation).

Ternyata Integrasi Saja Belum Cukup

Sebelumnya aku mengira kalau setelah AI Local berhasil dihubungkan ke Dify, semuanya akan langsung berjalan sesuai harapan.

Ternyata tidak.

Aku baru sadar kalau integrasi hanyalah langkah awal.

Kalau ingin AI bisa menjawab pertanyaan yang lebih spesifik, misalnya tentang SOP perusahaan, panduan instalasi, atau dokumentasi internal, AI perlu diberi sumber pengetahuan tambahan.

Jadi bukan karena model AI-nya kurang pintar, tetapi karena AI memang belum memiliki informasi yang kita inginkan.

TAK PE, Mari Kita Coba Lagi

Walaupun hasilnya belum sempurna, menurutku percobaan ini tetap SERU!

Setidaknya aku jadi memahami beberapa hal baru.

Aku belajar bahwa membangun AI Local bukan hanya soal menjalankan model AI.

Aku juga belajar kalau platform seperti Dify punya peran yang berbeda dengan Ollama.

Ollama bertugas menjalankan model AI, sedangkan Dify membantu kita membangun aplikasi AI yang lebih mudah digunakan dan memiliki banyak fitur tambahan.

Langkah Selanjutnya

Sekarang AI Local milikku memang sudah berhasil terhubung dengan Dify.

Walaupun jawabannya masih belum sesuai harapan, menurutku ini tetap menjadi sedikit kemajuan buatku.

Justru karena hasilnya belum sempurna, aku jadi punya banyak hal untuk dipelajari.

Rencananya, aku ingin mulai mencoba menambahkan knowledge ke dalam Dify supaya AI bisa memberikan jawaban yang lebih relevan dan tidak terlalu melebar ke mana-mana.

Aku juga ingin mencoba fitur-fitur lain yang ada di Dify, seperti workflow dan integrasi dengan berbagai layanan lainnya.

Okey, segitu dulu cerita hari ini. See you besok guys!!