Saat kita mengira GenAI tidak mungkin merangsek kekaryaan kita… think again.

Data dari MIDiA Research menunjukkan, dalam 9 tahun terakhir Spotify adalah rajanya platform streaming musik, diikuti oleh aplikasi lain seperti YouTube Music dan JOOX. Namun, beberapa tahun terakhir, AI sudah menjadi penyusup dalam algoritma aplikasi-aplikasi ini. 

Bahkan, AI nggak hanya kita temukan di lagu-lagu yang kedengarannya ‘buruk’ atau gak terkenal. Saat isu Kendrick Lamar vs Drake sedang naik-naiknya, Kendrick merilis diss track berjudul ‘BBL Drizzy,’ yang instrumentalnya disampel dari lagu dengan judul yang sama dan dihasilkan AI. Dilansir dari Billboard, ‘BBL Drizzy’ menjadi lagu yang mendapat gelar “the first major producer to use an AI-generated sample.”

Itu baru di koridor musik. Belum di dunia film, mengingat banyak infiltrasi dari akal imitasi ini yang menemukan jalannya ke dalam layar sinema—bahkan di Indonesia sekalipun.

Kita tidak selalu jauh dari ancaman-ancaman AI ini, dan itulah yang dibuktikan oleh Antonia Timmerman dan Rio Tuasikal, jurnalis yang besar fokusnya dituju pada segala hal akal imitasi dan dampaknya terhadap hidup kita, lewat liputan Demam Automasi atau Automation Fever yang didukung oleh Pulitzer Center ini.

Ditulis dalam bahasa Indonesia dan bahasa Inggris, simak temuan Antonia Timmerman dan Rio Tuasikal lewat report yang didukung oleh Pulitzer Center ini.

“Wah, saya baru tahu,” kata Hanung Bramantyo saat kami menunjukkan naskah film yang dibuatnya pada 2013 lalu, Soekarno, terindikasi digunakan oleh perusahaan teknologi seperti Apple dan Anthropic untuk melatih model AI generatif mereka. 

Apa tanggapan mas Hanung? Kami bertanya. Dia melanjutkan kalimatnya dengan hati-hati.

“Bisa jadi yang dihubungi adalah production house-nya: Multivision. Saya harus cek dulu… Kalau misalnya belum, itu bisa kami tuntut,” katanya. “Itu sebuah pelanggaran hak cipta.”

Bukan hanya karya Hanung yang kemungkinan masuk dataset ilegal yang digunakan oleh perusahaan AI. Naskah film buatan Timo Tjahjanto dan Mira Lesmana juga ada di dataset hasil investigasi The Atlantic itu. Termasuk buku-buku karya penulis Indonesia seperti Intan Paramaditha dan Pramoedya Ananta Toer.

Soal AI generatif, pembuat film Ayat-ayat Cinta dan Habibie & Ainun itu sebenarnya agak terbelah. Beberapa menit sebelumnya Hanung mengatakan bahwa “dengan sangat menyesal” dia mungkin akan menggunakan AI generatif untuk memangkas anggaran ketika membuat film sejarah. 

Alasannya, membuat film sejarah di Indonesia kelewat mahal. Karena tak banyak situs sejarah di Indonesia yang terjaga baik, sutradara film harus mengeluarkan dana besar untuk membangun set syuting sama sekali dari nol. 

Dengan begitu total biaya produksi film sejarah bisa mencapai kisaran 50-60 miliar Rupiah. Jika ingin mencetak untung, si film harus menarik paling sedikit dua juta penonton ke bioskop. Ini target yang sangat sulit. 

Di Indonesia, “Film dengan 2 juta penonton itu [biasanya] hanya film drama, komedi, dan horror,” kata Hanung.

AI generatif tampaknya merupakan suatu hal dilematis bagi Hanung. Di satu sisi dia mengakui permasalahan hak cipta yang inheren pada teknologi itu, namun di sisi lain berkeyakinan bahwa dia tak dapat sepenuhnya melarikan diri. Hanung bahkan mulai membayangkan bagaimana pekerjaan sutradara akan berubah di masa depan. 

Mungkin menjadi pengarah sesuatu yang virtual, katanya.

Hanung, seperti kebanyakan orang, paham bahwa cara manusia berkreasi seiring penciptaan perangkat baru memang selalu berubah. Kebanyakan orang juga menerima kenyataan bahwa sedikit penyesuaian terhadap teknologi baru akan selalu ada, jika ingin mendapatkan manfaatnya.

Namun, ketika sebuah teknologi meminta khalayak masuk ke dalam sistem-sistem sangat eksploitatif-–seperti pencurian massal karya untuk melatih sistem AI—beberapa pengamat mulai bertanya: apakah tumbal yang kita berikan sepadan dengan manfaat yang kita dapat?

“Memang saya lebih melihat sampai sejauh ini lebih banyak problem-nya,” kata kritikus film Eric Sasono. Tak hanya masalah hak cipta, Eric juga menyoroti bias dalam sistem AI generatif.

“Kita juga tahulah kesulitan-kesulitan AI ketika harus menggambarkan orang kulit berwarna atau masyarakat adat. Bias itu sudah terpelihara lama sekali beriringan dengan sumber-sumber pengetahuan utama yang dijadikan rujukan,” kata Eric.

Keinstanan AI juga dapat menurunkan nilai ekonomi karya dan pekerja yang terlibat untuk membuatnya, mengancam mata pencaharian dan membanjiri dunia dengan konten yang lebih banyak lagi.

Pada 30 September 2025, OpenAI meluncurkan Sora 2, yang dapat merekayasa video dengan gerakan-gerakan lebih rumit—seperti video anjing berlarian dan bermain, orang naik skateboard dan melakukan kickflip, hingga atlet Olimpiade melakukan gerakan tanpa kesalahan—semua dengan hasil lebih halus dan realistis. 

Kemunculan Sora 2, bersamaan dengan ‘aktor’ AI bernama Tilly Norwood, sudah menggegerkan Hollywood, yang mengkritiknya sebagai ‘insult to artistry’. Di Indonesia, AI juga sudah menggantikan banyak seniman storyboard, VFX, dan voice actors. 

AI generatif adalah babak terbaru dari dominasi Big Tech dua dekade belakangan. Perkembangan AI generatif yang dipimpin OpenAI kini meniru playbook perusahaan-perusahaan teknologi gelombang sebelumnya, seperti Spotify dan Netflix.

Dua platform raksasa itu mengukuhkan dominasi distribusi film yang kita tonton dan musik yang kita dengar dengan AI yang terbenam dalam algoritma mereka. Algoritma itu muncul dalam fitur-fitur rekomendasi atau membuat playlist otomatis.

Meskipun platform digital seperti Spotify dan Netflix menawarkan eksposur lebih tinggi, kemudahan distribusi, dan ruang yang tampak lebih luas bagi eksplorasi kreatif seniman Indonesia, pengamat mengatakan, platform-platform itu juga memasukkan seniman ke dalam sistem di mana mereka memiliki sedikit kendali atas nilai karya dan posisi tawar. 

Sistem-sistem itu berdampak besar pada hak ekonomi seniman, perlindungan kekayaan intelektual, konteks adat seni tradisional, sembari mendirikan pagar-pagar estetika dan selera yang kaku bagi setiap user.

Tanpa disadari, andil besar Big Tech tak hanya terbatas pada distribusi, melainkan juga dalam menentukan selera pasar dan proses kreasi itu sendiri. Dampak lebih luasnya, perkembangan budaya semakin mengikuti ritme algoritma dan kebijakan segelintir raksasa teknologi dibandingkan aspirasi organik manusia. 

Seniman dan produser musik Mardial kehilangan satu klien besar. Sehari-hari, musisi rap, dance, dan electronic ini menggarap musik jingle untuk kebutuhan iklan banyak brand. Tapi tahun ini, salah satu klien dari sebuah brand besar tidak menghubunginya. Mardial menduga, klien itu sudah beralih ke alat penghasil musik otomatis, Suno.

“Pas dengerin (jingle-nya), aku tau itu AI, karena kita udah hapal banget sama vokalisnya yang ada di Suno kan, suara musiknya,” terang Mardial. “Musik yang digunakan sama AI generatif ini sama sekali gak mengutip (separuh bagian) sih. Dia beneran emang plok-plokan ngambil (seluruhnya),” tambahnya.

Kehadiran AI generatif seperti Suno juga telah mengubah proses kreatifnya dengan klien. Dulu, klien memberikan sebuah brief disertai lirik dan referensi yang harus dijawab Mardial dengan orisinalitas dan kreativitas aransemennya sendiri. Sekarang, klien sudah mengirimkan contoh musik yang di-generate oleh Suno. Mardial hanya diharapkan mengikuti contoh musik tersebut. Klien juga jadi sulit mendengar masukan.

“Menurut yang profesional ini musiknya jelek banget, AI banget. Tapi saat kita [menyarankan] ‘mending gini aja’, client-nya bilang ‘kok beda, sih, sama yang kemarin (Suno)’. Akhirnya kita jadi disetir sama mesin,” cerita Mardial.

AI music generators seperti Suno dan Udio memang dapat memproduksi suara, melodi, bahkan gaya musik nama-nama besar seperti the Beatles dan Mariah Carey. 

Namun berdasarkan temuan International Confederation of Music Publishers (ICMP), AI generatif itu dilatih menggunakan katalog musik dunia yang diambil tanpa izin dan kompensasi. Per September kemarin, ICMP menggugat OpenAI, Suno dan Udio dalam apa yang disebut “pelanggaran hak cipta terbesar di dunia”. 

Di Hollywood, Amerika Serikat, dan beberapa negara di Eropa, para aktor, penulis, dan seniman sejak 2023 telah mengorkestrasi berbagai perlawanan dan upaya untuk melindungi hak ekonomi, hak cipta, dan kesempatan kerja mereka dari ancaman AI generatif. Mereka mengadakan mogok kerja, mengorganisasi protes, menulis surat, hingga menyeret perusahaan-perusahaan teknologi yang mereka anggap melanggar hak cipta ke pengadilan. Beberapa seniman juga menciptakan alat-alat tandingan, seperti Nightshade dan Glaze, untuk menyisipkan ‘racun’ di karya digital mereka sehingga tidak dapat diambil oleh bot AI.

Memang, upaya-upaya itu belum sepenuhnya berhasil. Tuntutan di pengadilan masih berlangsung, mogok kerja tak sepenuhnya mengabulkan tuntutan para seniman, dan teknologi proteksi karya tak selalu bekerja efektif. Namun, paling tidak, sebagian besar seniman di negara-negara tersebut telah menyadari adanya eksploitasi oleh perusahaan teknologi, lalu memikirkan cara bersama untuk melindungi diri. 

Kesadaran tentang eksploitasi besar-besaran itu masih minim di Indonesia. Selain itu, ada sedikit keengganan berkomentar yang kami rasakan dari banyak nama besar di Indonesia ketika melakukan wawancara untuk tulisan ini.

“Mohon maaf Ryan tidak bisa berbicara atau memberi komentar lebih lanjut mengenai AI,” kata asisten Ryan Adriandhy, pembuat film Jumbo. Sementara Intan Paramaditha, yang karyanya masuk daftar dataset ilegal yang dipakai oleh perusahaan AI, tidak membalas permintaan-permintaan komentar dari kami. Timo Tjahjanto, juga salah satu sutradara yang naskah film-nya jadi korban scraping perusahaan AI, hanya mengirimkan pesan singkat: “damn”, tanpa reaksi lebih jauh. Beberapa pembuat film lain yang kami hubungi juga tidak membalas pesan sama sekali.

Pandangan terhadap penggunaan AI generatif memang terbelah antara seniman murni dan pekerja seni, menurut Dewan Kesenian Jakarta (DKJ). Iman Fattah, musisi sekaligus teknolog serta pengurus DKJ mengatakan bahwa seniman murni cenderung melihatnya sebagai peluang untuk eksplorasi, ekspresi, dan mempersingkat proses-proses artistik tertentu.

Bagi mantan personil HIVI! Ezra Mandira yang dulu menulis lagu, misalnya, AI bisa mempersingkat ‘prototyping’ sebuah lagu dan proses mixing serta mastering. 

“Tapi setelah prototyping, elo rekam ulang semuanya, so makes it human. Approach-nya bisa kayak gitu, jadi ideation-nya mungkin bisa terbantu. Untuk mixing, somehow itu juga memang sangat bisa digantikan dengan AI,” ujarnya yang kini jadi dosen di SAE Indonesia dan Universitas Bakrie.

Di sisi lain, bagi para pekerja seni yang bekerja untuk komersialisasi industri-industri lain, seperti copywriting dan desain grafis, AI adalah ancaman bagi mata pencaharian. Satu per satu dari mereka mulai kehilangan pekerjaan atau daya tawar. 

“Jadi harganya dikurangi ya, kan, kita bisa nih bikin pakai AI. Jadi korporasi tuh udah mulai nawar [lebih rendah] jasa-jasa seniman yang terkait industri kreatif,” ujar Aquino Hayunta, pengurus DKJ lainnya. 

Dari masa ke masa, seniman memang menggunakan teknologi untuk berkarya dan menjangkau lebih banyak orang. Banyak seniman juga adalah teknolog, dan banyak teknolog adalah seniman, seperti Leonardo da Vinci. Perkembangan teknologi selalu mempengaruhi seni, begitupun sebaliknya. Ada relasi saling menguntungkan di sana. Ada kesamaan akan kecintaan pada penciptaan sesuatu yang baru.

Kamu yang melewati usia remaja pada dekade 2000-an tentu sudah akrab dengan Myspace dan Soundcloud. Tak lama, banyak grup musik — seperti Efek Rumah Kaca, HIVI!, dan TheOvertunes — yang mengunggah video musik mereka ke Youtube pada 2010-an, menarik jutaan views dan melambungkan nama mereka hingga sekarang. Ledakan internet itu membuat toko-toko yang menjual kaset musik dan film fisik mulai tutup.

Namun, dalam perkembangan selanjutnya, dominasi perusahaan teknologi digital sebagai middleman antara pencipta seni dan penikmat karya kian menggelembung. Perusahaan teknologi kini tak hanya berperan sebagai perantara, namun juga produsen karya.

Netflix, misalnya, kini turut memproduksi film-film orisinil, dan seringkali bekerja sama dengan sutradara lokal. Begitupun dengan platform-platform digital lain seperti HBO Max, Amazon Prime, Disney+, dan kompetitor lokalnya, Vidio. 

Sutradara kawakan seperti Hanung Bramantyo menyebut membuat film untuk platform digital menjadi opsi menarik bagi sutradara lokal karena risiko bisnis yang lebih kecil ketimbang membuat film eksklusif untuk layar lebar. 

Data terbaru pada 2022 menunjukkan Netflix menjadi aplikasi video on-demand terfavorit di Indonesia. 

Sementara itu, pada 2015, Apple Music mulai beroperasi di Indonesia, disusul oleh Spotify di tahun berikutnya. Dalam sembilan tahun, Spotify menjadi raja streaming musik di tanah air, yang dipilih lebih dari 50% pengguna aplikasi streaming di Indonesia, menurut survei Populix. 

Karena dominasi luar biasa perusahaan teknologi di ranah distribusi dan produksi ini, relasi saling menguntungkan antara sektor teknologi dan dunia seni sebagian besar mulai bergeser. 

“Jadi ketergantungan distribusi melalui platform-platform ini, tidak hanya untuk si senimannya, tapi juga untuk kita sebagai penonton dan pendengar,” kata advocacy manager Koalisi Seni Indonesia (KSI) Hafez Gumay. “Sesederhana jalur distribusi yang tersedia hanya itu.”

Dominasi distribusi ternyata sangat berdampak besar pada hak ekonomi seniman dan ketersediaan ruang kreatif, yang kemudian, seperti efek domino, berpengaruh pada bentuk serta estetika yang dihasilkan.

***

Bukan rahasia lagi bahwa sebagian besar musisi tidak mengandalkan royalti dari platform digital sebagai penghasilan utama. Para musisi yang kami wawancarai mengatakan pendapatan utama datang dari manggung, brand sponsorship, dan merchandise. 

Spotify, contohnya, tidak membayar royalti musisi menurut tarif per pemutaran, melainkan sistem terbaru dengan nama “stream share” sejak 2024. Pembagian ini dihitung dari total dan proporsi streaming pada bulan tertentu. Hasilnya disalurkan kepada pemegang hak–label rekaman, distributor, dan lain-lain–yang kemudian membaginya dengan musisi sesuai dengan perjanjian masing-masing. 

“Jika Anda adalah label besar dan katalog Anda menyumbang 20 persen dari semua streaming di layanan streaming dalam periode royalti tertentu, maka Anda berhak atas 20 persen dari pool royalti yang memenuhi syarat,” ujar Liz Pelly, yang menulis buku terkait layanan streaming musik Mood Machine. 

Sistem ini tentu tidak menguntungkan musisi indie dari label kecil. 

Penghitungan royalti pun di Indonesia pun lebih rendah dibanding negara-negara lain, menurut pemerintah. Hal serupa terjadi di layanan streaming lain seperti Apple Music, Youtube Music, dan Joox, dengan formulanya masing-masing. 

Tapi apa pun platform-nya, menurut riset Koalisi Seni Indonesia (KSI), potongan kue royalti terbesar sebetulnya lari ke para perantara, bukan ke musisi.

Meski royalti kecil, para musisi yang kami wawancarai mengatakan eksistensi di layanan streaming tetap penting. Menurut Ezra mantan personil HIVI!, musisi dapat melihat analytics untuk lebih memahami basis pendengar, dan karenanya bisa lebih mudah mencari peluang kerjasama brand. Hal ini diamini juga oleh Cholil Mahmud dari dari Efek Rumah Kaca.

“Karena penggunanya banyak, sehingga tetap eksis di Spotify itu, asumsi gue, bisa menjadi ajang marketing,” ujar Cholil Mahmud yang juga juga Pelaksana Tugas Ketua Umum Federasi Serikat Musisi Indonesia (FESMI). 

Pada akhirnya, baik musisi maupun pendengar tidak punya banyak pilihan selain berinteraksi lewat platform digital. 

Dalam ekosistem demikian, perusahaan teknologi-lah yang keluar sebagai pemenang utama dari segi keuntungan material, sementara musisi harus bertarung lebih sengit dan lebih lama demi mendapat eksistensi online yang diharapkan membantu menjaring kesempatan manggung dan brand deals.

Tapi bagaimana caranya biar eksis maksimal di platform? Menurut Aris Setyawan, musisi, peneliti, sekaligus co-founder serunai.co, musisi pun mulai mengubah struktur musiknya agar sesuai dengan algoritma dan kebijakan platform. 

Di sinilah pengaruh Big Tech pada bentuk dan estetika seni terasa. Spotify, contohnya, menghitung satu kali putaran saat seorang user mendengarkan lagu selama paling tidak tiga puluh detik.

“Otomatis itu bikin musisi: ‘Gimana caranya bikin musik yang 30 detik pertamanya catchy?” kata Aris. “Pokoknya 30 detik pertama bagus dulu. Bahkan itu mengubah pola aransemen musik yang biasanya intro doang, terus verse, terus reff, verse, reff, dan lain-lain. [Sekarang] banyak yang langsung reff-nya dulu,” terangnya.

Jika itu dilakukan oleh semua musisi, maka musik yang kita dengar lama-lama akan memiliki kemiripan struktur, dan terdengar seragam.

Di bidang film, cerita serupa terjadi berkat pola-pola baru yang dibawa platform digital. Karena konsumen kerap menyetel Netflix sebagai background noise sambil melakukan aktivitas lain, “…itu membuat ketakutan di kalangan [pembuat film] bahwa karya mereka tidak diperhatikan,” kata kritikus film Eric Sasono.

Akhirnya, para pembuat film mengubah gaya dialog film jadi mirip sinetron di televisi: sang karakter harus selalu mengumumkan apa yang ia rasakan atau lakukan. 

“Kalau misalnya ada momentous scene, menggambarkan tokoh utamanya sedih, aktingnya sedih, musiknya sedih itu tidak cukup. Dia juga harus ngomong: ‘Saya sangat sedih.’” kata Eric. Maka, “…tidak ada momen di mana penonton diminta hening dan menikmati apa yang ada di layar, seperti di bioskop.”

Untungnya, kata Eric, distribusi film di Indonesia belum sepenuhnya dikuasai digital. Orang Indonesia masih suka pergi ke bioskop. Dengan demikian film-film yang dibuat sineas Indonesia masih lebih bebas mengeksplorasi dialog dan gambar yang tidak sync, yang “…sengaja dibikin supaya ada kedalaman emosi,” terang Eric lagi.

Eric Sasono. (Image via Muhammad Zaenuddin)

Algoritma juga kerap mengurung user dalam pagar-pagar selera yang itu-itu saja. Algoritma menyeleksi dan mempertahankan apa yang populer, serta menjadi patokan kreator lain untuk membuat karya. 

Sebuah studi di Indonesia menyimpulkan bahwa lagu-lagu yang sangat populer di Spotify cenderung, antara lain: baru dirilis (atau lagu lama yang diolah kembali), punya tingkat kebisingan (dB) yang lebih tinggi, bukan instrumental, mengandung nuansa musik digital atau elektronik.

Namun sebagian musisi lain yang kami wawancarai mengatakan, lagu-lagu baru mereka susah bersaing dengan lagu-lagu lama yang sudah populer. Ini membuat Cholil Mahmud dari Efek Rumah Kaca bertanya-tanya akan selera pendengarnya. 

“Ini album gue yang baru, jelek atau gimana ya? Emang orang lebih suka yang lama-lama aja, atau karena fiturnya [Spotify]?” kata dia.

Perataan Selera, Hilangnya Efek Discovery, Hak Cipta

Ekosistem kontradiktif yang dibuat oleh platform digital – di satu sisi memungkinkan lebih banyak film dan musik untuk diakses dan diproduksi namun di sisi lain mengurung user dalam gelembung selera – menciptakan sebuah paradoks yang menjenuhkan konsumen dan membingungkan pembuat karya.

Fajar Zakri, seorang pengguna Spotify yang gemar membuat playlist, mengakui kejenuhan akibat rekomendasi algoritma dan oversaturasi pasar ini. Untuk mencari musik baru, dia pun menyambangi situs-situs musik seperti Pitchfork, Consequence, Stereogum, Slant, dan BrooklynVegan ketimbang berserah sepenuhnya pada rekomendasi platform. 

“Sebenarnya kita bisa dan harus mencetak selera kita sendiri. Kita tetap punya otoritas itu sebagai konsumen,” kata Fajar. Untuk mengatasi oversaturasi dan menjaga kualitas musik, Fajar berharap fungsi curatorship bisa hidup kembali di pasaran, alih-alih menyerahkan semuanya pada model hyper-personalization di algoritma saat ini.

Bagi penikmat dan penulis resensi film di Screenpasta, Jeko Iqbal Reza, kondisi oversaturasi pasar dan pagar algoritma menyebabkan pembuat film sedikit “krisis identitas”. Pertama, pembuat film seakan harus terus membuat film yang populer menurut data algoritma – genre horror atau genre yang Jeko sebut sebagai drama “slice of life-nya middle class”.

“Kita terus di spoon-feed dengan genre-genre itu di platform streaming,” kata Jeko.

Lalu, ketika pembuat film kemudian berniat mengatasi batasan-batasan algoritma tersebut namun tetap ingin mendulang basis penonton seluas-luasnya, hasilnya adalah sebuah film mengambang dengan pesan tidak tajam karena target audience menjadi tidak fokus.

“Cinematically top-notch, tapi kualitas ceritanya ga sharp gitu,” kata Jeko.

Di dalam ekosistem kontradiktif demikian, ruang gerak untuk memperkaya ataupun memperdalam estetika dan selera pasar menjadi cukup sempit. Baik user maupun pembuat karya seakan terjebak dalam lubang masing-masing.

“Perusahaan teknologi menganggap selera kita sudah tetap,” kata Eric Sasono. “Saya lihat bahwa orang menjadi semakin fatigue. Banyak orang yang bisa jadi cuma sejam nyari-nyari di Netflix akhirnya tidak nonton,” ujarnya lagi.

Keletihan konsumen bertambah seiring hilangnya unsur ‘kejutan’ dalam ‘menemukan’ musik atau film baru yang kita sukai. Ini adalah paradoks lain dari ekosistem yang di satu sisi menyediakan keberlimpahan (abundance), namun di sisi lain menghilangkan rasa takjub dari discovery effect. 

“Kita dapatkan kenyamanan, tapi kehilangan hal rasa ingin tahu,” ujar Tiffany Ng di MIT Technology Review, yang mengulas tentang discovery effect di musik.

Hingga awal 2000-an, kata Eric, pergi ke bioskop untuk menemukan film baru adalah sebuah ritual. Orang akan pergi ke bioskop tanpa tahu duluan mau menonton apa, melihat-lihat poster, dan membeli tiket tanpa banyak ekspektasi. 

“Kalau sekarang, orang sudah lihat di media sosial film apa. Rilis poster-posternya pun di countdown, dibahas oleh influencer, dianalisis. Jadi sangat cepat, penuh antisipasi, dan ekspektasi,” kata Eric.

Fajar, penikmat musik, pun merasakan hal serupa. 

“Yang membuat format radio atau saluran musik di era rilisan fisik spesial adalah karena ada unsur kejutan – kita tidak pernah benar-benar yakin artis, lagu, atau video apa yang akan dimainkan dan itu yang membuat praktik mendengarkan radio atau menyambangi saluran musik di masa lalu sangat menyenangkan,” kata Fajar.

“Ketika kita sudah tahu lagu atau video apa yang kita ingin dengar atau lihat di Spotify atau YouTube, misalnya, itu mengesampingkan unsur kejutan tersebut dan karenanya selera kita jadi kurang atau tidak berkembang,” tambahnya.

Di dalam situasi pengaruh Big Tech yang luar biasa besar pada distribusi, estetika, dan selera inilah, AI generatif muncul. Maka, menghitung dampak AI generatif pada seni dan budaya harus mempertimbangkan juga dampak yang telah dibuat oleh gelombang digitalisasi konten sebelumnya. 

Apakah ia akan menggali lubang yang makin dalam atau membantu kita keluar darinya?

Mesin AI generatif membutuhkan karya original untuk dapat menghasilkan karya baru. Ketika karya-karya original yang “dimakan” mesin AI generatif mengandung bias, maka bias itu berpotensi teramplifikasi dalam output yang dihasilkan AI generatif.

“Apalagi ketika jumlahnya masal, [bias] ini akan menjadi semakin direproduksi,” kata Eric, kritikus film.

Selain risiko bias yang semakin tinggi, pengamat budaya lain juga mengkhawatirkan apa yang mereka sebut sebagai penyeragaman selera lebih jauh, atau flattening of culture, sebagaimana ditulis oleh jurnalis dan kritikus budaya Kyle Chayka. 

Kondisi ini dapat terjadi ketika semua orang sudah mencipta menggunakan AI generatif. Ketika teknologi ini memakan hasil karya AI generatif sendiri, karya seni akan semakin mirip satu sama lain dan tidak ada kebaruan. 

Kecenderungan similaritas ini sudah terekam dalam riset tahun 2024. Dalam riset tersebut, penulis-penulis yang menggunakan AI tercatat menulis lebih baik secara individu. Namun, ketika karya mereka dilihat secara keseluruhan, ternyata keragaman cerita jadi menyempit. Artinya AI mereduksi kreativitas menulis secara kolektif. Akibatnya karya-karya akan semakin hambar dan membosankan. 

Ketika penghambaran karya bertemu dengan algoritma platform digital yang telah mendisiplinkan selera semua orang, pengamat mengkhawatirkan perkembangan seni dan budaya yang semakin tidak kemana-mana. Pencipta akan semakin mencipta berdasarkan algoritma, pun konsumen akan semakin mengkonsumsi berdasarkan algoritma. 

“Taste kita malah makin gede echo chamber, karena kita malah jadi susah untuk keluar dari algoritma yang udah di-engineer ke profil kita,” ujar Iman Fattah dari Komite Musik DKJ. 

Pertimbangan-pertimbangan itulah yang menyebabkan grup musik TheOvertunes tetap percaya pada kreativitas manusia. Setelah mencoba AI generatif untuk membuat musik dan kecewa dengan hasilnya, grup ini memutuskan untuk kembali membaca sastra-sastra Indonesia untuk membantu menulis lagu. 

“Walaupun mungkin sudah terpengaruhi oleh computational paradigm. Jadi mikirnya, kayak, apa input yang harus kita kasih (untuk menulis). Seakan-akan human sebagai processor gitu kali ya,” ujar personil TheOvertunes Reuben Nathaniel, yang kini kuliah mempelajari AI dan pembangunan berkelanjutan.

Bagi para pencipta, pengamat, dan penikmat, hubungan seni dan teknologi hari ini harus dibaca secara hati-hati. Menurut mereka, jangan sampai seluruh proses artistik diserahkan kepada mesin otomatisasi, karena tanpa proses mencipta, kita bukan lagi manusia. 

“Kalau kita dipisahkan dari ekspresi, yaudah itu mesin aja, mesin belaka gitu,” ujar Aquino dari DKJ.

Para pelaku seni dan pengamat yang kami wawancarai berharap ada proteksi dari negara untuk mengatasi potensi dampak AI pada seni dan budaya. 

“Seperti misalnya di Denmark yang menetapkan bahwa wajah dilindungi copyright sehingga tidak bisa dipakai [AI] begitu saja,” kata Eric. “Visi-visi semacam itu absen di Indonesia.”

Namun membicarakan hak cipta di Indonesia tidaklah mudah. Selain mekanismenya masih belum jelas, upaya penegakkan royalti pada pertengahan 2025 justru menjadi polemik, membuat orang semakin alergi terhadap sistem royalti. 

***

Isu hak cipta dan AI generatif seolah tidak mendapat ruang usai polemik “pemutaran musik di kafe” baru-baru ini. Mungkin ini sebabnya para pelaku seni takut salah bicara. Ini karena di satu sisi, penegakkan hukum hak cipta yang terlalu ketat akan menghambat peredaran suatu karya. 

“Copyright jika dijalankan terlalu ketat sebenarnya justru memberi ruang yang lebih sempit untuk interaksi dengan karya, yang merupakan elemen penting,” kata Aquino dari DKJ. 

Dalam konteks pemutaran musik di kafe, kata Aquino, memang konyol jika setiap kafe harus membayar hak cipta untuk dapat memutar lagu. Namun, AI berbeda karena ada ketimpangan relasi di sana. Perusahaan-perusahaan AI bermodal sangat besar dan menguasai akses informasi.

“Kalau relasinya vertikal gitu… tentu hak-hak para seniman ini harus dipenuhi secara penuh. Setiap karya yang dipakai untuk melatih AI, perlu dibayarkan copyright-nya ke para seniman,” kata Aquino.

Perusahaan-perusahaan AI kerap bersembunyi di balik dalih bahwa mereka menggunakan karya seniman yang tersedia secara publik di internet, dan dilindungi dalam kerangka konsep fair use. Klausul fair use memang berlaku untuk kepentingan penelitian dan pendidikan. Fair use juga berlaku untuk kasus-kasus di mana sebuah karya dikutip atau dimodifikasi oleh fans untuk hiburan pribadi. 

Namun, penggunaan karya oleh perusahaan AI berbeda dari contoh-contoh tersebut, baik dari segi skala maupun dimensi komersial-nya.

“Dia mulai berbisnis dengan mesin tadi. Sehingga seharusnya alasan fair use atau penggunaan yang wajar ini jadi gugur,” ujar Hafez dari KSI. 

Beberapa dari seniman kami wawancarai, seperti Wok The Rock, tak masalah karyanya digunakan untuk melatih model AI asalkan dengan mencantumkan kredit. Ini sejalan dengan aturan Creative Commons, di mana sebuah karya bisa digunakan asal bukan untuk tujuan komersial. 

Sementara mantan personil HIVI! Ezra Mandira dan Reuben Nathaniel dari TheOvertunes lebih sepakat dengan kerangka kompensasi. Namun mereka menyadari bahwa di samping sistem hak cipta di Indonesia yang belum efektif, mekanismenya kompensasi juga rumit.

“Tinggal seberapa besar nih investment-nya si AI company untuk bisa men-secure rights-nya si orang-orang yang sudah ada sekarang untuk di-train gitu,” ujar Ezra. 

“Tricky ya. Kita belum tahu caranya nge-track apakah master recording kita tuh sudah dipakai sebagai training data gitu,” ujar Reuben. 

Gugatan label-label besar terhadap perusahaan AI dinilai sebagai pertanda baik menuju sistem yang lebih adil. Sejumlah pelaku seni yang kami wawancarai berharap ini bisa menahan sistem AI untuk mengambil karya tanpa izin. Label-label besar juga adalah korporasi multinasional yang punya sumberdaya besar untuk bertarung di ranah hukum. 

Namun musisi seperti Mardial justru khawatir, pada akhirnya perusahaan AI akan memburu karya para seniman yang tidak berada di balik label besar.

“Mereka kan pasti carinya dari orang-orang yang gak punya perlindungan hukum. Terutama artis-artis independen,” ujarnya.

Pada akhirnya, pelaku seni dan pengamat yang kami wawancarai menaruh harapan besar kepada edukasi publik tentang AI, agar masyarakat dan pengambil kebijakan semakin menyadari potensi dampak, masalah etik, dan masalah hukum di balik AI generatif. 

Mereka menyarankan pemerintah untuk segera mengembangkan regulasi yang jelas terkait AI, yang melindungi hak ekonomi dan hak moral seniman, termasuk copyright karya dan tubuh kita semua. Regulasi juga sebaiknya mewajibkan perusahaan teknologi memberikan ruang opt-out bagi mereka yang tidak ingin karyanya digunakan untuk melatih model AI. Selain itu, transparansi data juga menjadi keharusan.

“Ini penting bukan hanya di soal kesenian, tapi juga di isu hak asasi secara keseluruhan,” kata Aquino dari DKJ. “Untuk menjamin model AI yang ada itu tidak bias gender, tidak bias kelas ekonomi, tidak bias ras, dan lain-lain. Jadi kita harus tahu, ini data-data ini dapatnya dari mana, sih, dan gimana cara diolahnya,” tambahnya.

Jika perusahaan teknologi tidak dapat melaksanakan pengembangan AI sesuai aturan, pemerintah harus memberikan sanksi.

“Kalau dari sisi seniman kita juga pengen minta ada labelling khusus kalau suatu karya dibuat oleh AI,” tandas Aquino.

---

“I had no idea,” said filmmaker Hanung Bramantyo, when we informed him that the script of his 2013 film Soekarno appeared among materials reportedly used by tech companies like Apple and Anthropic to train their generative AI models. 

When asked how he felt about it, Hanung paused before choosing his words carefully. 

“It’s possible that the production house, Multivision, was contacted. I’ll have to check,” he said. “Otherwise, we can take legal action. That’s a copyright violation.”

Hanung’s film is not the only Indonesian work believed to have ended up in those illegally scraped datasets. The Atlantic’s investigation also listed scripts by Timo Tjahjanto and Mira Lesmana, along with books by Intan Paramaditha and Pramoedya Ananta Toer.

When it comes to generative AI, the director of Ayat-Ayat Cinta and Habibie & Ainun finds himself conflicted. Just minutes earlier, he conceded that, “with great reluctance,” he might one day use AI to cut production costs for historical films.

He explained that making historical films in Indonesia is prohibitively expensive. Because very few heritage sites are well preserved, directors often have to build entire sets from scratch.

Production costs can reach 50 to 60 billion rupiah. To break even, a film would need to attract at least two million viewers to theaters, a target that is extremely difficult to reach.

In Indonesia, “Only dramas, comedies, or horror films ever reach two million viewers,” Hanung said. 

For him, generative AI presents a dilemma. He acknowledges the copyright issues inherent in the technology, yet also believes there is no way to avoid it entirely. He has even begun imagining how the role of a director might evolve in the years ahead.

“Perhaps one day we’ll be directing inside virtual environments,” he mused. 

Like most people, Hanung understands that human creativity has always evolved alongside the invention of new tools. Most also accept that a certain degree of adaptation is inevitable if one wishes to reap the benefits of innovation.

But when a technology demands that the public participate in deeply exploitative systems—such as the mass theft of creative works to train AI models—some observers are starting to ask: is the sacrifice worth the reward? 

“So far, I’m seeing more problems than actual benefits,” said film critic Eric Sasono. Besides copyright issues, he pointed to the deeper biases embedded within generative AI systems.

“We already know how poorly AI performs when asked to depict people of color or Indigenous communities,” he said. “Those biases have long been preserved within the dominant bodies of knowledge that these systems draw from.”

The instant convenience of AI can also reduce the economic value of creative work and those who make it. It threatens livelihoods while flooding the world with even more content.

On September 30, 2025, OpenAI released Sora 2, capable of generating videos with more complex, life-like motion: dogs running and playing, skateboarders landing kickflips, and Olympic athletes performing flawless routines, all rendered with striking realism.

The debut of Sora 2, alongside an AI-generated “actor” named Tilly Norwood, sent shockwaves throughout Hollywood. Industry figures condemned it as an “insult to artistry”. In Indonesia, too, AI has already begun replacing storyboard artists, VFX specialists, and voice actors.

Generative AI marks the latest chapter in Big Tech’s two-decade dominance. Its rise, led by OpenAI, mirrors the playbook of earlier tech giants like Spotify and Netflix.

The two giant platforms cemented their control over the films we watch and the music we hear through algorithms powered by AI. Those algorithms appear in recommendation features and automated playlists.

Although digital platforms like Spotify and Netflix promise greater exposure, easier distribution, and seemingly wider room for creative exploration by Indonesian artists, observers note that they also draw creators into systems where they have little control over the value of their work or their bargaining power.

These systems have a profound impact on artists’ economic rights, intellectual property protection, and the traditional contexts of art-making, while erecting rigid boundaries of taste and aesthetics for every user.

Many fail to realize that Big Tech’s influence goes far beyond distribution. It now shapes what the market desires and how artists create. The result is a cultural landscape that moves to the rhythm of algorithms and corporate policy, rather than to the slow, instinctive pulse of human imagination.

 

Mardial recently lost one of his biggest clients. The rapper, dancer, and electronic artist also makes a living producing jingles for advertisements. But this year, one of the major brands he regularly worked with has stopped reaching out. Mardial suspects the client has switched to Suno, an AI music-generation tool.

“I knew it was AI the second I heard the new jingle,” he said. “I recognized the voice of Suno’s built-in vocalist and the familiar texture of its sound. The AI doesn’t just sample [fragments of a track], it copies the whole thing, down to the last note.”

The rise of generative AI tools like Suno has also changed the way he collaborates with clients. In the past, a client would send a brief, along with lyrics and references, which Mardial would then interpret through his own original and creative arrangement. Now, they send him AI-generated samples from Suno and expect him to replicate them. Clients have also become less receptive to feedback.

“From a professional standpoint, the music sounds awful. It’s unmistakably AI,” Mardial said. “But when we suggest alternatives, the client says, ‘Why doesn’t it sound like the [Suno] version we sent you?’ In the end, it’s the machine calling the shots.”

AI music generators such as Suno and Udio can produce voices, melodies, and even entire tracks in the style of household names like The Beatles or Mariah Carey.

Yet according to findings from the International Confederation of Music Publishers (ICMP), these models are trained on vast global music catalogues taken without consent or compensation. As of September, the ICMP has filed lawsuits against OpenAI, Suno, and Udio, calling it “the largest copyright infringement case in history.”

Since 2023, actors, writers, and artists across Hollywood, the United States, and parts of Europe have mobilized to defend their livelihoods, copyrights, and job security from the rise of generative AI. They have gone on strikes, organized protests, published open letters, and taken technology companies to court. Some have also created counter-tools such as Nightshade and Glaze, which embed “poison” into digital artworks to stop AI bots from scraping them.

These efforts have yet to succeed fully. Court cases remain ongoing, strikes have not met all of the artists’ demands, and protection tools are not always effective. Still, many artists in those countries now recognize the scale of exploitation by tech companies and are beginning to build collective ways to protect themselves.

In Indonesia, awareness of this widespread exploitation remains limited. There is also a notable reluctance to speak publicly about it, a hesitation we encountered when interviewing several prominent figures for this story.

“Unfortunately, Ryan cannot speak nor comment further on AI,” said an assistant to Ryan Adriandhy, director of Jumbo. Intan Paramaditha, whose work appears among the illegally scraped datasets used by AI companies, also did not respond to multiple requests for comment. Timo Tjahjanto, another filmmaker whose screenplay was found in an AI training dataset, sent only a single-word reply: “Damn.” Several other filmmakers we contacted never responded.

According to the Jakarta Arts Council (DKJ), views on generative AI are split between pure artists and creative industry workers. Iman Fattah, a musician, technologist, and DKJ board member, said that pure artists tend to see AI as an opportunity for exploration, expression, and streamlining certain creative processes.

This view is echoed by songwriter and former HiVI! member Ezra Mandira, who believes that AI can shorten the prototyping stage of a song and assist in the mixing and mastering process.

“But after prototyping, you have to re-record everything to make it feel human. That’s one possible approach, where AI helps in the ideation stage. As for mixing, it’s actually something that can easily be replaced by AI,” said Ezra, who also works as a lecturer at SAE Indonesia and Bakrie University.

On the other hand, creative workers in commercial industries such as copywriting and graphic design see AI as a threat to their livelihoods. One by one, they are losing jobs and bargaining power.

“Rates are getting slashed because corporations can now say, ‘We can just make this with AI.’ They’ve started bargaining down the fees of creative workers,” said Aquino Hayunta, another DKJ board member.

Throughout history, artists have embraced technology to create and reach wider audiences. Many artists are technologists, and many technologists are artists: think Leonardo da Vinci. Technology has always influenced art, and art has always shaped technology in return. The two have long shared a symbiotic relationship built on a shared passion for creation and discovery.

If you were a teenager in the 2000s, you probably remember MySpace and SoundCloud. Soon after, bands like Efek Rumah Kaca, HiVi!, and TheOvertunes began uploading their music videos to YouTube in the 2010s, drawing millions of views and launching their careers. The explosion of internet culture spelled the beginning of the end for shops selling cassette tapes and other physical media.

In the years that followed, however, digital technology companies grew dominant as middlemen between creators and audiences. Tech companies became not only distributors but also producers of creative work.

Netflix, for instance, now produces original films, often in collaboration with local directors. The same trend extends to other platforms like HBO Max, Amazon Prime, Disney+, and Indonesia’s own Vidio.

For veteran local directors like Hanung Bramantyo, making films for digital platforms has become an attractive option, offering far less financial risks than making films exclusively for cinemas.

By 2022, data showed that Netflix had become Indonesia’s most popular video-on-demand app.

Meanwhile, Apple Music entered Indonesia in 2015, followed by Spotify a year later. In less than a decade, Spotify has become the dominant music streaming platform in the country, chosen by more than 50 percent of Indonesian users according to a Populix survey.

Because of this extraordinary dominance in both distribution and production, the once-symbiotic relationship between technology and the arts has begun to shift. “The dependence on these platforms for distribution isn’t just for artists, it’s for us as audiences too,” said Hafez Gumay, advocacy manager at the Indonesian Coalition of the Arts (Koalisi Seni Indonesia – KSI). “As simple as it sounds, those platforms are the only distribution channels available.”

This dominance in distribution has had a profound impact on artists’ economic rights and on the availability of creative space, which in turn shapes the forms and aesthetics that emerge.

***

It is no secret that most musicians do not rely on royalties from digital platforms as their main source of income. The artists we spoke to said that most of their earnings come from live shows, brand sponsorships, and merchandise.

Spotify, for instance, no longer pays artists based on a per-stream rate. Since 2024, it has used a new model called “stream share”, which allocates a monthly royalty pool according to each catalog’s share of total streams. The money goes to rights holders—record labels, distributors, and others—who then split it with the musicians according to their individual contracts.

“If you’re a major label and your catalog makes up 20 percent of all streams on a service during a given royalty period, you’re entitled to 20 percent of the eligible royalty pool,” explained Liz Pelly, author of Mood Machine, a book about music streaming platforms.

Naturally, this system puts independent musicians working under smaller labels at a disadvantage.

According to government data, royalty payments in Indonesia are lower compared to other countries. The same pattern applies to other streaming services such as Apple Music, YouTube Music, and Joox, each with its own formula.

But across platforms, a study by the Indonesian Coalition of the Arts (KSI) found that the largest share of royalties goes to intermediaries, not musicians.

Despite the small payouts, the musicians we interviewed said that having a presence on streaming platforms remains essential. Ezra Mandira, formerly of HiVi!, explained that artists can use analytics to better understand their audience and identify opportunities for brand collaborations. This is also echoed by Cholil Mahmud of Efek Rumah Kaca.

“Because Spotify has such a huge user base, I assume that staying active there is a way of marketing yourself,” said Cholil Mahmud, who also serves as acting chair of the Federation of Indonesian Musicians’ Unions (FESMI).

In the end, both musicians and listeners have little choice but to connect through digital platforms.

Within this ecosystem, tech companies remain the clear winners, taking most of the gain while musicians must fight harder and longer to build the kind of online presence that can lead to live shows or brand deals.

So how can artists stay visible on these platforms? According to Aris Setyawan, a musician, researcher, and co-founder of serunai.co, many have begun tweaking their song structures to fit the algorithms and rules set by streaming services.

This is where Big Tech’s influence on artistic form and aesthetics becomes most tangible. Spotify, for instance, counts a stream once a listener has heard at least thirty seconds of a track.

“That automatically makes musicians think, ‘How do I make the first thirty seconds catchy?’” said Aris. “And it changes the arrangement pattern, too. You used to have an intro and a verse before a chorus, and so on. But now, many songs start off with a chorus.”

If everyone follows that logic, he warned, the music we hear will eventually sound the same.

A similar pattern is unfolding in film. Because viewers often keep Netflix playing in the background while doing other tasks, “it creates a kind of fear [among filmmakers] that their work isn’t being watched with full attention,” said film critic Eric Sasono.

As a result, filmmakers have begun writing dialogue that resembles television soap operas, where characters constantly state what they feel or do

“When there’s a big pivotal scene showing the main character’s sadness, acting sad and playing sad music are still not enough. The character also has to declare, ‘I’m so sad,’” Eric said. “The audience is no longer given a moment to pause and take in what’s on the screen, the way they would in a cinema.”

Fortunately, Eric noted, film distribution in Indonesia has not been completely overtaken by digital platforms. Indonesians still enjoy going to the cinema. That gives local filmmakers more freedom to explore dialogue and imagery that are not always in sync, “crafted intentionally to create emotional depth,” he said.

Eric Sasono. (Image via Muhammad Zaenuddin)

At the same time, algorithms tend to trap users within narrow corridors of taste. They keep promoting what is already popular, which becomes the template for other creators to follow.

A recent study in Indonesia found that the most popular songs on Spotify are often newly released (or remixed older tracks), louder in decibel level, non-instrumental, and heavy on digital or electronic sounds.

Even so, several musicians told us that their new songs often struggle to compete with older, already popular hits. The pattern has made Cholil Mahmud of Efek Rumah Kaca question his listeners’ preferences.

“This new album of mine, is it just not good? Or do people simply prefer the older stuff? Or maybe it’s because of [Spotify’s] features?” he said.

The Leveling of Taste, Loss of Discovery, and Copyright Issues

The contradictory ecosystem created by digital platforms, which expands access to film and music while simultaneously trapping users inside taste bubbles, has resulted in a paradox that leaves audiences exhausted and creators disoriented.

Fajar Zakri, an avid Spotify user who loves curating playlists, admits to feeling tired of algorithmic recommendations and market oversaturation. To find new music, he now turns to sites such as Pitchfork, Consequence, Stereogum, Slant, and BrooklynVegan instead of relying solely on what platforms suggest.

“We can and should define our own taste. We still have that authority as consumers,” Fajar said. To curb oversaturation and protect quality, he hopes curatorship will make a comeback in the music scene, rather than leaving everything to today’s hyper-personalized algorithmic recommendations.

For film critic and Screenpasta reviewer Jeko Iqbal Reza, this saturation and algorithmic confinement have pushed filmmakers into an identity crisis. Many feel pressured to create what algorithms predict will sell: usually horror, or what Jeko calls the “middle-class slice-of-life.”

“We are constantly being spoon-fed those genres on streaming platforms,” Jeko said.

When filmmakers try to break free from those algorithmic boundaries while still appealing to the widest audience possible, the result is often a film that looks polished but lacks a clear message.

“Cinematically, it’s top-notch, but the storytelling isn’t sharp,” Jeko said.

In such a contradictory ecosystem, there is little room to enrich or broaden aesthetic range and market sensibility. Both users and creators seem trapped in their own loops.

“Tech companies treat our tastes as fixed, when in fact, people are getting fatigued,” said Eric Sasono. “Many spend an hour scrolling through Netflix and end up watching nothing,” he added

The fatigue grows alongside the loss of the discovery effect, i.e., the thrill of finding a new film or song by chance. It is a paradox of abundance: an ecosystem that offers too many options and, in doing so, dulls our sense of wonder.

“We gain convenience but lose curiosity,” wrote Tiffany Ng in MIT Technology Review, reflecting on the fading discovery effect in music.

Until the early 2000s, said Eric, going to the cinema to discover something new was a ritual. People would show up without knowing what they wanted to watch, briefly scan the posters, and buy tickets with little expectation.

“Now people already know which films are trending on social media. Posters are released in countdowns, discussed by influencers, and analyzed in advance. Everything moves quickly, full of anticipation and expectation,” Eric said.

Fajar, the music enthusiast, feels much the same way.

“What made radio or music channels special in the era of physical releases was the element of surprise. You never knew which artist, song, or video would play next. That unpredictability made listening to the radio or watching music programs exciting,” he said.

“When you already know exactly what you want to hear or watch on Spotify or YouTube, that sense of surprise disappears. As a result, our tastes stagnate or even shrink,” he added.

It is within this environment, where Big Tech wields immense sway over distribution, aesthetics, and taste, that generative AI has entered the scene. Any attempt to measure the impact of generative AI on art and culture must therefore account for the effects of the earlier wave of digitalization. 

Will it deepen the hole we’ve already dug, or help us climb out of it?

Generative AI systems rely on original works to create new ones. When those original works are themselves biased, that bias risks being amplified in the AI’s output.

“And when it happens on a massive scale, [those biases] are reproduced again and again,” said film critic Eric Sasono.

In addition to the growing risk of bias, cultural observers have also expressed concern about what they call a further homogenization of taste, or what journalist and cultural critic Kyle Chaka referred to as the “flattening of culture”.

This could happen once everyone uses generative AI for creative work. When the technology starts feeding on its own outputs, artworks will increasingly resemble one another, leaving little space for originality.

The drift toward similarity has already been documented in a 2024 study. Researchers found that writers who used AI produced better work individually, but when viewed collectively, their stories showed less diversity. In other words, AI improved individual quality but reduced collective creativity, resulting in more bland and monotonous works.

When this creative dulling meets platform algorithms that already shape and discipline public taste, observers fear that art and culture may stagnate. Creators will keep producing to satisfy algorithms, while audiences will keep consuming whatever those algorithms deliver.

“Our tastes are becoming one large echo chamber, because it’s getting harder to escape the algorithms engineered around our profiles,” said Iman Fattah of the Jakarta Arts Council’s Music Committee.

These concerns are part of what keep the band TheOvertunes committed to human creativity. After experimenting with generative AI and feeling disappointed with the results, the group decided to revisit Indonesian literature as inspiration for their songwriting.

“Perhaps we’ve already been influenced by this computational paradigm, that we are starting to think about what kind of input we should give, as if human beings are nothing more than just processors,” said Reuben Nathaniel, a member of TheOvertunes who now studies AI and sustainable development. 

For creators, critics, and audiences alike, the relationship between art and technology must be approached with care. They warn that the artistic process should never be handed over entirely to automation, because without the act of creation, we lose what makes us human.

“Once you strip the expression away from the humans, we become nothing but machines,” said Aquino Hayunta of DKJ.

Artists and cultural observers we spoke with hope that the state will take steps to protect the arts from AI’s potential impact on culture and creativity.

“Denmark, for instance, has ruled that a person’s face is protected by copyright, so it cannot be freely used [by AI],” said Eric Sasono. Unfortunately, “that kind of vision is completely absent in Indonesia.”

However, discussing copyright in Indonesia remains complicated. The legal frameworks are still vague, and when authorities tried to enforce royalty payments in mid-2025, it triggered public backlash that made many even more skeptical of the royalty system.

***

Public discussion around copyright and generative AI has been overshadowed by the recent controversy over music being played in cafés. Perhaps this is why many artists are reluctant to speak up: while copyright protection is necessary, its overly strict enforcement could stifle the circulation of creative works.

“Copyright, when applied too rigidly, actually limits the space for encountering and interacting with art, and that engagement itself is essential,” said Aquino Hayunta of the Jakarta Arts Council (DKJ).

In the case of music played in cafés, Aquino said, it would be absurd to expect every small venue to pay royalties simply for entertaining their patrons. Generative AI, however, is an entirely different matter. The power imbalance is vast: these companies operate with enormous capital, and control access to the very information that fuels their systems. 

“When the power dynamic is that unequal, the rights of artists must be fully respected. Any work used to train an AI model should be compensated with proper copyright payments to its creators,” said Aquino. 

AI companies often justify their actions by arguing that they only use creative works already available to the public online, protected under the legal concept of fair use. The fair use clause indeed applies to research and educational purposes, as well as to cases where a work is quoted or remixed by fans for personal enjoyment.

​​However, the use of creative works by AI companies differs from those cases, both in scale and in commercial intent.

“They are running full-scale businesses using those machines, so the fair use argument should no longer apply,” said Hafez Gumay of Koalisi Seni Indonesia (KSI).

Some of the artists we interviewed, such as Wok The Rock, said they would not object to their work being used to train AI models so long as they receive proper credit. This view aligns with Creative Commons principles, which permit reuse for non-commercial purposes provided attribution is given.

Former HiVi! member Ezra Mandira and Reuben Nathaniel of TheOvertunes, however, prefer a compensation framework. Yet both acknowledge that given Indonesia’s weak copyright enforcement, implementing compensation mechanisms would be a challenge.

“It depends on how much AI companies are willing to invest to secure the rights of artists whose work is used for training,” Ezra said.

“It’s tricky. We still don’t know how to track whether our master recordings have been used as training data,” said Reuben.

The lawsuits filed by major record labels against AI companies are seen as a promising step toward a fairer system. Many artists hope that such actions will deter AI systems from taking works without permission. Major labels, after all, are multinational corporations with the resources to fight prolonged legal battles.

But musicians like Mardial fear that AI companies will eventually prey on artists who lack such protection.

“They’ll probably go after those without legal backing, especially independent artists,” he said.

In the end, the artists and cultural observers we interviewed placed their hopes in public education about AI, so that society and policymakers can better understand the potential ethical, legal, and cultural implications of generative AI.

They also called on the government to establish clear regulations on AI to protect the economic and moral rights of artists, including the copyright of both their works and their likenesses. Such regulations, they said, should require technology companies to provide opt-out mechanisms for creators who do not wish their works to be used for AI training. Transparency in data collection and usage is also essential.

“This is important not only for the arts but for human rights as a whole,” Aquino said. “To ensure that AI models are free from gender, class, or racial biases, among others, we must know where the data comes from and how it is processed.”

If tech companies fail to comply with standards in their AI development, the government should impose sanctions.

“From the artists’ side, we also want mandatory labelling for any work produced by AI,” Aquino added.