Akhirnya AI Local-ku Mulai Menjawab Sesuai yang Aku Inginkan
Kalau beberapa waktu lalu aku sempat cerita tentang AI Local yang sudah berhasil terhubung ke OpenClaw dan Telegram, waktu itu sebenarnya masih ada satu hal yang belum berhasil. AI-nya memang bisa menjawab, tapi belum bisa menjawab berdasarkan knowledge yang sudah aku siapkan. Jadi meskipun sistemnya sudah berjalan dari ujung ke ujung, rasanya masih ada yang kurang.
Karena tujuan awalku bukan cuma membuat AI yang bisa diajak ngobrol. Aku ingin AI yang bisa menjawab berdasarkan data yang memang aku berikan. Dan di situlah perjalanan mencari cara menghubungkan RAG dimulai.
Jujur aja, awalnya aku mengira prosesnya bakal sederhana. Tinggal tambahkan dokumen, lalu AI otomatis tahu harus mengambil jawaban dari sana. Ternyata nggak sesederhana itu.
Ada banyak hal yang harus dipahami. Mulai dari bagaimana dokumen diproses, bagaimana AI mencari informasi yang relevan, sampai bagaimana jawaban itu akhirnya dikirim kembali ke Telegram.
Beberapa kali aku merasa sudah menemukan solusinya. Beberapa kali juga ternyata masih mentok. Kadang jawabannya masih mengambil pengetahuan umum dari model AI, kadang berhalusinasi, kadang knowledge yang sudah dimasukkan kayak nggak kebaca. Dan kadang aku malah menemukan masalah baru saat mencoba memperbaiki masalah sebelumnya.
Tapi mungkin memang seperti itu prosesnya. Kadang aku juga greget sendiri, “kok nggak bisa-bisa sih?” wkwk. Semakin dicoba, semakin banyak hal baru yang harus dipahami.
Sampai akhirnya hari ini, setelah beberapa kali mencoba dan mengubah beberapa konfigurasi, aku mulai melihat hasil yang selama ini dicari.
AI-ku mulai menjawab berdasarkan knowledge yang sudah disiapkan.
Aku coba beberapa pertanyaan. Awalnya masih error dan jawabannya masih ngaco. Sampai akhirnya aku menambahkan prompt di file JavaScript supaya AI benar-benar menjawab berdasarkan data dari RAG. Setelah itu aku coba lagi, lalu aku cek jawabannya.
Dan untuk pertama kalinya, jawaban yang muncul benar-benar berasal dari data yang aku masukkan sendiri.
Jujur aja, rasanya cukup puas. Bukan karena semuanya langsung sempurna, tapi karena untuk pertama kalinya aku melihat semua bagian yang selama ini dipelajari mulai terhubung satu sama lain.
AI Local berjalan.
OpenClaw berjalan.
Telegram berjalan.
Dan sekarang knowledge yang sudah disiapkan juga ikut digunakan saat menjawab pertanyaan.
Kalau dipikir-pikir lagi, beberapa bulan lalu aku bahkan belum tahu apa itu Ollama. Sekarang aku sudah bisa melihat AI yang berjalan di server sendiri, bisa diajak ngobrol lewat Telegram, dan mampu menjawab berdasarkan knowledge yang sudah diberikan.
Masih banyak yang ingin aku pelajari setelah ini.
Tapi setidaknya hari ini ada satu hal yang membuatku cukup senyum sendiri.
Karena akhirnya AI Local-ku mulai menjawab sesuai yang aku inginkan.
