Beritanda.com – Lebih dari 200 organisasi dan pakar anak mendesak Google dan YouTube bertindak cepat membatasi “AI slop”, jenis konten video berbasis AI yang dinilai berisiko mengganggu perkembangan anak.
AI Slop: Ancaman Baru di Era Konten Massal
Istilah “AI slop” mungkin belum familiar bagi banyak orang tua. Namun dalam satu tahun terakhir, kategori ini diam-diam membanjiri platform video, termasuk YouTube dan YouTube Kids.
AI slop merujuk pada video yang diproduksi secara massal menggunakan kecerdasan buatan—seringkali dengan kualitas rendah, narasi tidak akurat, dan visual yang membingungkan. Konten ini dibuat cepat, murah, dan dalam jumlah besar untuk mengejar algoritma.
Koalisi yang dipimpin organisasi perlindungan anak Fairplay menyebut, risiko dari konten ini bukan sekadar soal kualitas.
“Tidak ada bukti bahwa AI slop aman untuk anak. Justru ada potensi konten ini memikat dan membahayakan mereka,” — ujar pernyataan resmi koalisi.
Masalahnya, konten ini tidak hanya muncul di platform utama, tetapi juga menyasar anak-anak melalui label “Made for Kids” atau bahkan masuk ke dalam YouTube Kids.
Bukan Sekadar “Konten Buruk”, Tapi Risiko Perkembangan
Para ahli menilai AI slop membawa dampak yang lebih dalam dibanding konten hiburan biasa.
Beberapa risiko utama yang diidentifikasi antara lain:
- Distorsi realitas, anak kesulitan membedakan mana yang nyata dan tidak
- Kelebihan beban kognitif, proses belajar terganggu oleh informasi acak
- Gangguan perhatian, anak terpaku lebih lama di layar
- Peniruan perilaku berbahaya, dari makan benda berisiko hingga situasi ekstrem
“Konten ini bisa mengacaukan pemahaman anak tentang dunia nyata dan mengganggu proses belajar mereka,” — ujar koalisi dalam suratnya.
Contoh yang ditemukan pun cukup ekstrem. Mulai dari video bayi yang memakan benda berbahaya, hingga adegan edukasi palsu yang justru menyesatkan.
Dr. Dana Suskind, profesor pediatri dari University of Chicago, bahkan menyebut fenomena ini sebagai risiko serius bagi otak anak.
“Ini bukan konten netral. Saya melihatnya sebagai misinformasi AI untuk balita dalam skala industri, dan itu sangat berbahaya,” — ujar Dr. Dana Suskind.
Industri Besar di Balik Konten “Sampah”
Yang membuat situasi ini semakin kompleks adalah dimensinya sebagai industri.
Data menunjukkan, satu channel AI slop populer bisa menghasilkan hingga 4,25 juta dolar per tahun. Bahkan ada kanal yang mengunggah lebih dari 10.000 video dalam tujuh bulan—atau sekitar 50 video per hari.
Sebagai perbandingan, kanal edukasi klasik membutuhkan puluhan tahun untuk membangun katalog konten berkualitas dalam jumlah yang sama.
Fenomena ini menciptakan paradoks: semakin rendah kualitas konten, semakin tinggi skalanya—dan semakin besar peluangnya direkomendasikan algoritma.
Tak heran jika koalisi mendesak langkah konkret, mulai dari pelabelan wajib konten AI, larangan total di YouTube Kids, hingga penghentian rekomendasi algoritmik untuk pengguna di bawah 18 tahun.
Di sisi lain, YouTube menyatakan telah memiliki standar tinggi dan terus mengembangkan sistem pelabelan serta kontrol orang tua.
“Kami memiliki standar tinggi untuk konten di YouTube Kids dan terus mengembangkan pendekatan kami seiring perubahan ekosistem,” — ujar juru bicara YouTube.
Namun bagi para advokat, langkah tersebut dinilai belum cukup. Mereka melihat AI slop bukan sekadar tren konten, melainkan fase baru dalam krisis digital anak—di mana algoritma, AI, dan ekonomi perhatian bertemu dalam skala yang belum pernah terjadi sebelumnya.