Jujur saja, setiap kali melihat siapa yang mempromosikan proyek oracle sebagai "masa depan pasti akan seperti ini dan itu", saya secara otomatis mundur — bukan berarti proyek semacam ini sendiri bermasalah, hanya saja saya tidak ingin lagi digigit oleh kepastian saya sendiri.

Sekarang kebiasaan saya berbalik: menganggap setiap infrastruktur sebagai "sistem yang suatu saat pasti akan mengalami gangguan" untuk dievaluasi. Kedengarannya agak pesimis, tapi saya rasa ini adalah sikap yang paling jujur. Bukan melihat seberapa mulus operasinya saat berjalan lancar, melainkan melihat apakah saat gagal, sistem bisa tetap stabil — oracle ini, kerusakan bukanlah kejadian probabilitas kecil, hanya berbeda tingkat keparahannya. Masalah kecil bisa diisolasi, tapi satu insiden besar bisa berakibat fatal.

Mengapa saya mengatakan ini? Karena AI digabungkan dengan oracle, secara langsung memperluas aspek risiko. Oracle tradisional terutama terhambat oleh "sumber harga yang dimanipulasi", tetapi proyek yang mengandalkan data tidak terstruktur ini memiliki beberapa lapisan risiko tersembunyi: informasi itu sendiri bisa tercemar, bukti palsu sudah ada sebelumnya, teks bisa dipancing secara cerdik, bias dari model itu sendiri. Singkatnya, ini tidak hanya lebih mudah diserang, tetapi juga cara menghindar dari jebakan jauh lebih beragam. Jadi logika saya berbalik — jangan buru-buru memuji, bayangkan dulu apa yang bisa salah, lalu lihat apakah mereka mampu menyelamatkan diri.

Pendapat saya adalah, agar oracle bisa bertahan lama, pertahanan terkuat bukanlah seberapa akurat logikanya, melainkan kemampuan respons darurat. Artinya, setelah output salah, apakah mereka mampu segera membatasi kerugian, menuntut pertanggungjawaban, melakukan rollback, melakukan pemeriksaan ulang, dan akhirnya tetap mendapatkan kepercayaan pengembang untuk terus menggunakannya.

Saya menilai ada tiga aspek nyata yang penting:

Pertama, saat bukti di luar rantai bertentangan, apakah mereka berani mengambil keputusan? Saya lebih suka mereka mengeluarkan hasil dengan tingkat kepercayaan rendah, bahkan menolak penyelesaian dan menjelaskan alasannya, daripada memaksakan hasil yang "tegas" demi terlihat "tegas".