Beritanda.com – Terungkapnya penggunaan foto berbasis AI dalam laporan aplikasi JAKI bukan sekadar pelanggaran prosedur, tetapi sinyal awal ancaman baru: teknologi kini bisa memanipulasi realitas dalam sistem pelayanan publik.
Kasus ini bermula dari laporan parkir liar di Jalan Damai, Kalisari, Jakarta Timur, yang dinyatakan telah ditindaklanjuti melalui aplikasi JAKI. Namun, verifikasi lapangan oleh warga menunjukkan kondisi tidak berubah, sementara foto “bukti” justru menampilkan situasi seolah sudah tertangani.
Pemerintah Provinsi DKI Jakarta kemudian memastikan bahwa foto tersebut merupakan hasil rekayasa Artificial Intelligence (AI).
“Sejauh dicek demikian (benar pakai foto AI), sesuai yang ditemukan Diskominfotik dan Biro Pemerintahan.” ujar Wakil Koordinator Staf Khusus Gubernur DKI Jakarta, Yustinus Prastowo.
Ketika AI Masuk ke Birokrasi, Risiko Tak Lagi Teoretis
Selama ini, pembahasan soal AI dalam pemerintahan lebih banyak berfokus pada efisiensi—otomatisasi layanan, chatbot, hingga analisis data. Namun kasus JAKI menunjukkan sisi lain yang jarang dibicarakan: AI sebagai alat manipulasi administratif.
Dengan teknologi generatif yang semakin mudah diakses, membuat gambar “seolah nyata” kini tidak lagi membutuhkan keahlian tinggi. Bahkan, dalam konteks ini, cukup dengan referensi foto asli, sistem AI mampu merekonstruksi ulang adegan dengan perubahan tertentu, seperti menghilangkan objek atau mengubah detail visual.
Yang menjadi masalah, sistem birokrasi belum sepenuhnya siap menghadapi jenis manipulasi ini.
Dalam alur JAKI, foto tindak lanjut berfungsi sebagai bukti utama bahwa laporan telah diselesaikan. Artinya, ketika bukti visual bisa dipalsukan dengan presisi tinggi, maka seluruh rantai validasi menjadi rentan.
Kepala Diskominfotik DKI Jakarta, Budi Awaluddin, mengakui adanya celah dalam proses tersebut.
“Biro Pemerintahan mengakui adanya kekeliruan dalam proses validasi. Selama ini belum pernah ditemukan bukti tindak lanjut pengaduan yang menggunakan foto hasil rekayasa AI.” ujar Budi.
Dari Deepfake ke “Deep Service”: Evolusi Ancaman AI
Fenomena manipulasi berbasis AI sebenarnya bukan hal baru. Dunia sudah mengenal deepfake, video atau gambar yang dimanipulasi untuk menipu persepsi publik.
Namun, kasus JAKI memperkenalkan dimensi baru yang bisa disebut sebagai “deep service”: manipulasi dalam konteks layanan publik.
Berbeda dengan deepfake yang biasanya menyasar figur publik atau informasi politik, “deep service” beroperasi di level operasional, di mana output layanan (seperti foto laporan) menjadi objek manipulasi.
Dampaknya mungkin tidak langsung viral secara global, tetapi sangat signifikan di level lokal:
- Data kinerja instansi bisa menjadi bias
- Evaluasi kebijakan berbasis laporan menjadi tidak akurat
- Pengambilan keputusan pemerintah berisiko salah arah
Dengan kata lain, AI tidak hanya bisa memanipulasi persepsi, tapi juga mengganggu sistem pengambilan keputusan publik.
Respons Pemerintah dan Kebutuhan Sistem Deteksi AI
Menyadari potensi risiko ini, Gubernur DKI Jakarta, Pramono Anung, menegaskan pentingnya kejujuran dalam pelaporan.
“Lebih baik belum selesai ya belum selesai, daripada dilakukan dengan AI yang notabene itu membohongi.” ujarnya.
Pemerintah pun mulai merancang langkah pencegahan, termasuk:
- Larangan penggunaan AI dalam bukti tindak lanjut
- Penguatan proses verifikasi internal
- Koordinasi dengan Inspektorat untuk pengawasan lebih ketat
Namun, pendekatan administratif saja dinilai belum cukup.
Di banyak negara, deteksi konten berbasis AI mulai mengandalkan teknologi forensik digital, mulai dari analisis metadata, pola piksel, hingga model machine learning yang dirancang khusus untuk mengenali gambar sintetis.
Tanpa adopsi teknologi serupa, sistem seperti JAKI berisiko tertinggal dalam menghadapi evolusi AI yang bergerak cepat.
Kasus ini juga membuka diskusi lebih luas: apakah regulasi penggunaan AI di sektor publik sudah cukup jelas? Dan siapa yang bertanggung jawab ketika teknologi digunakan untuk memalsukan layanan?
Di tengah percepatan transformasi digital, satu hal menjadi pasti AI bukan lagi sekadar alat bantu. Ia telah menjadi variabel baru yang bisa menentukan kualitas, bahkan kejujuran, layanan publik itu sendiri.