Indonesia merupakan negara dengan pengguna media sosial yang cukup besar.. Hal ini terbukti dari laporan yang mengatakan terdapat 139 juta pengguna aktif media sosial, atau setara dengan 49,9 persen dari total populasi di Indonesia pada Januari 2024 (Kemp, 2024). Berdasarkan jumlah tersebut, tidak menutup kemungkinan bahwa masyarakat Indonesia mengenal teknologi bernama artificial intelligence atau akal imitasi (AI). Survei dari Katadata Insight Center mengatakan fakta bahwa 83,6 persen masyarakat Indonesia telah akrab dengan perkembangan teknologi tersebut (Maulana, 2025).
Selama 5 tahun terakhir, dunia digital digempur dengan berkembangnya teknologi generative artificial intelligence atau akal imitasi generatif. Salah satu fitur teknologi ini ialah menawarkan untuk memproduksi konten audio visual sesuai permintaan yang diinginkan penggunanya (Rao & Bauschard, 2026). Dari fitur tersebut, AI generatif bisa digunakan untuk membuat sebuah gambar digital dalam sekejap, menciptakan suara suatu individu tokoh bahkan memodifikasi wajah seseorang, dan menghasilkan narasi dalam video yang sebenarnya tidak demikian atau konten deepfake.
Konten hasil rekayasa tersebut banyak bertebaran di media sosial, seperti Facebook, Instagram, X, Tiktok, Youtube, dan lain-lain. Hasil dari AI Generatif ini pun beraneka ragam, seperti meme “Tung-tung-tung sahur!” dan berbagai kawannya (Arsika, 2025). Penggunaan teknologi AI generatif yang digunakan dalam hal tersebut mendapat berbagai respon dan berakhir dengan sebuah fenomena meme brainrot pada kalangan generasi alpha.
Adapun dari berbagai karya hasil rekayasa tersebut, banyak pula yang disalahgunakan oleh pihak yang tidak bertanggung jawab. Pada awal tahun 2026, Grok AI – produk AI yang dikembangkan oleh Elon Musk – menuai kontroversi setelah banyak pengguna sosial media X menggunakannya untuk mengubah foto-foto pengguna sosial media dengan baju terbuka tanpa persetujuan dari pengunggah asli foto. Grok AI telah menghasilkan sekitar 3 juta gambar berbau pornografi dalam waktu kurang dari dua minggu, bahkan 23 ribu gambar diantaranya menyasar kepada anak di bawah umur (Booth, 2026).
Menanggapi isu ini, Kementerian Komunikasi dan Digital atau Komdigi menyatakan bahwa mereka telah menghentikan akses ke aplikasi Grok untuk sementara waktu, setelah beberapa kejadian terkait penyalahgunaan AI dalam pembuatan konten pornografi. Para korban menyebut tindakan ini sebagai ‘solusi cepat’ untuk menghadirkan lingkungan digital yang lebih aman bagi wanita (Hajid, 2026). Dalam langkah tegas untuk menangani kritik internasional yang meningkat terkait penyalahgunaan , X secara resmi telah mengalihkan fitur pembuatan gambar Grok menjadi fitur eksklusif bagi pelanggan tingkat atas. Perubahan kebijakan ini, menghapus kemampuan tersebut dari akun standar (Gold, 2026).
Isu mengenai AI generatif ini pun masih menjadi bahan perbincangan panas pada kalangan seniman dan desainer yang bergerak di dunia digital. Gustati (2025) menjelaskan bahwa banyak model AI generatif dilatih menggunakan web scraping jutaan karya di internet, tanpa izin eksplisit dari pencipta. Hal ini meliputi ilustrasi, lukisan digital, foto, dan karya konseptual yang dilindungi hak cipta. Pelatihannya tanpa verifikasi kepemilikan karya, sehingga model “belajar” dari materi berhak cipta.
Gustati (2025) lebih lanjut menjelaskan bahwa secara hukum, Undang-Undang Hak Cipta Indonesia (UU No.28/2014) hanya melindungi karya konkret pencipta manusia, belum eksplisit mencakup dataset AI. Ahli hukum mencatat bahwa jika gaya khas seorang seniman disalin oleh AI, ini bisa melanggar ekspresi asli dan merugikan pencipta. Para pengamat IP pun mempertanyakan: apakah perusahaan AI memperoleh izin atau membayar lisensi untuk gambar latihannya? Jika tidak, maka “AI telah ‘belajar’ dari materi yang sebenarnya dilindungi hukum”. Akibatnya, artis kehilangan kontrol atas penggunaan karya mereka: tidak mendapat pengakuan, royalti, atau konsistensi citra. Misalnya, tren Ghibli AI (mengubah foto jadi gaya Studio Ghibli) menimbulkan protes karena gaya unik animator dibajak massal tanpa izin.
Perkembangan teknologi AI generatif menghadirkan dua sisi yang tidak dapat dipisahkan. Di satu sisi, teknologi ini menawarkan kemudahan dalam produksi konten digital. Namun di sisi lain, penggunaan yang tidak bertanggung jawab menimbulkan persoalan etika yang serius. Tanpa kerangka etika yang jelas, teknologi yang seharusnya membantu kreativitas manusia justru berpotensi merugikan pencipta asli serta mengancam keamanan dan martabat individu di ruang digital. Oleh karena itu, diperlukan kolaborasi antara pemerintah, perusahaan teknologi, komunitas kreatif, dan masyarakat untuk memastikan bahwa perkembangan AI generatif tetap berjalan secara adil, bertanggung jawab, dan menghormati hak-hak manusia di era digital.
