Monitor AI dengan Langfuse
Pengen tahu, berapa banyak token yang dipakai tiap request ke AI?
Pengen tahu, apakah ai nya melakukan halusinasi atau ngga?
Kalau dia hit api dkk, pengen tracking, tools apa aja yang dipakai sama AI tersebut dalam 1 request?
Termasuk juga ngelola prompt kita, misal dikasih versioning, jangan sampai habis upgrade prompt, eh ternyata hasilnya jelek, mau balik ke versi sebelumnya ribet banget.
Nah kalau ketemu masalah-masalah di atas, bisa pake langfuse, yang menarik, beberapa fitur yg tadinya cuman Enterprise, sekarang bisa diakses juga di versi Open Source (MIT).
Gimana gas coba?
Bisa coba dulu versi cloudnya, cakep, gratisannya banyak, kalau habis itu mau install server sendiri juga oke.