Bicara tentang teknologi, rasanya dunia bergerak lebih cepat dari kemampuan kita mengikuti. Belum kelar adaptasi pakai aplikasi belanja yang baru, eh sudah muncul lagi istilah AI (Artificial Intelligence) generatif, deepfake, sampai suara palsu yang bisa meniru siapa saja. Nah, di tengah rasa penasaran (dan sedikit deg-degan) itu, mewakili Karyapuan yang terkoneksi dengan Kumpulan Emak Blogger saya berkesempatan ikut AI Warrior National Bootcamp 2025 tanggal 18–19 November di Jakarta. Kegiatan ini diselenggarakan oleh Mafindo (Masyarakat Anti Fitnah Indonesia).
Bootcamp ini melibatkan 100 peserta dari berbagai komunitas dan organisasi masyarakat sipil. Tujuannya sederhana tapi penting yaitu membekali masyarakat biar nggak gampang terkecoh di era banjir konten AI. Meskipun acaranya padat tapi suasananya cair dan tetap fun.
AI (Artificial Intelligence) itu mirip pisau dapur. Di tangan Chef Yeon Ji-yeong yang diperankan Yoona dalam drakor Bon Appetit, Your Majesty, pisau bisa jadi alat untuk bikin makanan enak. Tapi di tangan orang yang salah? Bisa bahaya, bisa melukai, bahkan merusak hidup orang lain. Dan ini yang jadi benang merah selama dua hari bootcamp: AI itu alat. Tergantung siapa yang memegang.
AI Warrior: Internet Makin Kencang, Hoaks Makin Liar
Saat sesi Bayu Galih dimulai, banyak peserta langsung “melek” karena beliau membuka dengan satu fakta sederhana tapi menohok yaitu lonjakan pengguna internet Indonesia dalam beberapa tahun terakhir.
Tahun 2018, penetrasi internet kita baru 64,80%. Tapi tahun 2025? Sudah tembus 80,66%. Artinya, 229 juta orang sudah online dari total 284 juta penduduk.
Masalahnya, dari angka sebesar itu, yang benar-benar paham atau memakai AI baru 27,34%, dan hampir 46,56% masyarakat bahkan tidak tahu apa itu AI.
Bila diibaratkan, kondisi ini seperti jalan tol yang dibuka lebar, tapi banyak penggunanya belum bisa mengemudi dengan benar. Orang makin banyak online, tapi belum banyak yang siap menghadapi konten buatan AI.
Di ruang seperti itu, hoaks digital bisa melesat lebih cepat daripada kemampuan publik memeriksanya. Gen Z yang justru paling sering pakai AI akhirnya punya peran penting sebagai “agen edukasi” bagi keluarga dan lingkungannya.
Gelapnya Sisi AI
Dari pemaparan Bayu Galih, beliau menunjukkan bagaimana deepfake dan konten palsu berbasis AI sekarang sudah nyaris tak bisa dibedakan dari yang asli. Gerak bibir, suara, ekspresi, bahkan detail kecil yang dulu biasanya “bocor”, kini bisa disulap jadi sangat meyakinkan.
Bayu juga menyinggung beberapa contoh tragis yang sempat ramai. Dua orang di luar negeri dilaporkan bunuh diri setelah “konsultasi” dengan chatbot AI.
Momen itu seperti menampar kita semua bahwa AI bukan sekadar alat seru buat hiburan atau kreatif-kreatifan. Ada sisi gelap yang bisa berdampak pada manusia sungguhan jika dipakai tanpa pemahaman yang cukup.
AI Ada di Kehidupan Kita
Kalau dipikir-pikir, sebenarnya AI sudah ada di hidup kita jauh sebelum “viral” seperti sekarang. Bukan hanya di film-film seperti I, Robot atau Terminator yang bikin kita ngeri, tapi di hal-hal simpel seperti:
- navigasi Google Maps
- kamera HP yang bisa deteksi wajah
- rekomendasi barang di marketplace
- chatbot layanan pelanggan
- fitur speech-to-text
- sampai Google Lens buat cek tanaman atau terjemahin menu dan scan barcode.
Dan sekarang, ada lagi generasi AI yang lebih “pintar” contohnya LLM seperti Gemini, ChatGPT, dan ratusan AI generator yang bisa nulis, bikin gambar, sampai bikin suara mirip artis. Enak sih dipakai, tapi itu juga artinya, makin gampang dipakai orang buat nipu.
Penyalahgunaan AI: Dari Bercandaan Sampai Kriminal
Penyalahgunaan AI itu ternyata luas sekali bentuknya. Awalnya mungkin hanya dipakai untuk hal-hal ringan: bikin meme, video parodi, atau konten lucu-lucuan dengan filter AI. Tapi dengan sedikit kreativitas ke arah yang salah, muncullah sisi yang meresahkan—mulai dari foto profil palsu, promosi judi online, sampai pesan WhatsApp dari “teman lama” yang sebenarnya dibuat menggunakan AI generator.
Dan yang paling berbahaya, AI dipakai untuk:
- deepfake pornografi dengan wajah orang yang tak bersalah
- menghancurkan reputasi seseorang
- klaim dukungan politik palsu
- manipulasi narasi publik
Empat Bentuk Hoaks AI yang Paling Sering Menjebak
Salah satu tantangan terbesar dari hoaks berbasis AI adalah bentuknya yang makin variatif. Kadang muncul dalam bentuk teks – artikel atau percakapan palsu yang seolah-olah ditulis tokoh tertentu. Ada juga audio, biasanya suara yang dibuat mirip banget sampai orang awam sulit membedakan mana rekaman asli dan mana hasil tiruan.
Di sisi visual, AI bisa menghasilkan foto yang tampak meyakinkan: kulit terlalu mulus, pencahayaan terlalu sempurna, atau detail yang “nggak masuk akal” kalau dipotret kamera biasa.
Dan tentu saja, bentuk yang paling menipu banyak orang adalah video deepfake, yang gerakan, ekspresi, bahkan suaranya bisa dibuat mengikuti orang aslinya.
Semua itu bisa dibuat hanya dalam hitungan menit. Itu sebabnya penyebarannya cepat dan dampaknya bisa luas.
Kenapa Hoaks AI Semakin Sulit Dikenali?
Masalahnya bukan cuma karena kualitas AI makin canggih, tapi karena teknologinya berkembang jauh lebih cepat dibanding alat pendeteksinya. Sementara itu, regulasi di Indonesia masih dalam proses penyusunan, literasi digital belum merata, dan sebagian besar tools pendeteksi deepfake masih berbayar atau belum akurat sepenuhnya.
Ditambah lagi, banyak dari kita belum terbiasa mengasah “insting digital” — kemampuan untuk curiga pada hal-hal yang terlalu sempurna.
Karena itu, kalau kita hanya mengandalkan sistem otomatis, hasilnya sering terlambat. Justru kewaspadaan pribadi dan kebiasaan memeriksa ulanglah yang bisa jadi pertahanan pertama.
Cara Manual Mendeteksi Konten AI
Untungnya, ada beberapa cara sederhana yang bisa dilakukan siapa pun:
- cek foto lewat Google Lens
- telusuri lokasi lewat Google Maps atau Google Earth
- cek konsistensi logika cerita
- cari sumber lain lewat Google Search
- cek metadata kalau memungkinkan
- dan yang paling penting: selalu curiga pada sesuatu yang terlihat terlalu sempurna
Peran Komunitas Itu Penting
Literasi digital itu bukan hanya tugas pakar atau teknisi. Komunitas seperti Kumpulan Emak Blogger punya peran besar yaitu mengerem penyebaran hoaks, jadi role model penggunaan AI yang bijak, sampai membantu orang lain membaca internet dengan lebih cerdas.
Di tengah teknologi yang makin liar ini, manusialah yang perlu tetap waras. AI memang canggih, tapi kita tetap pemegang kendali asal mau belajar, beradaptasi, dan saling mengingatkan.
***
Reportase Diah Woro, anggota Emak2Blogger
Leave a Reply