Teks: Adinda R. Syam
Foto: OpenAI DALL-E

OpenAI memungkinkan pengguna program DALL-E untuk mengedit gambar dengan wajah manusia. Fitur yang sebelumnya penuh kontra karena takut disalahgunakan, dalam sebuah surat yang dikirim ke lebih dari satu juta pengguna DALL-E, OpenAI mengatakan telah resmi membuka aksesnya. Hal ini diikuti dengan kebijakan yang meningkatkan filternya untuk menghapus gambar yang mengandung konten seksual, politik, dan kekerasan.

Fitur ini akan memungkinkan pengguna mengedit gambar dengan beberapa cara. Pengguna dapat mengunggah foto seseorang dan membuat variasi gambar. Misalnya, atau mereka dapat mengedit fitur tertentu, seperti mengubah pakaian atau gaya rambut seseorang. Fitur ini tidak diragukan lagi akan berguna bagi banyak pengguna di industri kreatif, mulai dari fotografer hingga pembuat film.

Keputusan tersebut merupakan bagian dari negosiasi yang sedang berlangsung antara para pembuat generator di AI dengan pengguna mereka sendiri saat mereka mencoba menavigasi potensi bahaya teknologi. 

Sebagai perusahaan yang didanai dengan baik oleh perusahaan raksasa teknologi seperti Microsoft, OpenAI telah mengambil pendekatan yang relatif hati-hati. Namun, perusahaan ini dikalahkan oleh saingannya, Stable Diffusion, yang mampu memberikan lebih sedikit pembatasan pada pengguna. 

Memang hal Ini mengarah pada pengembangan teknologi yang lebih cepat, tetapi juga membuat aplikasi tersebuh jauh lebih mudah untuk digunakan dalam hal-hal berbahaya. Misalnya, aplikasi saingan tersebut yang sudah digunakan untuk menghasilkan pornographic deepfakes para selebriti.

Materi eksplisit seperti itulah yang seharusnya mudah diblokir oleh OpenAI dengan DALL-E. S&K perusahaan tersebut juga melarang pengguna mengunggah gambar orang tanpa persetujuan mereka (meskipun ini pada dasarnya tidak mungkin untuk diterapkan secara proaktif dengan model aksesnya saat ini). Namun, tidak ada filter konten yang sempurna, dan mungkin ada kasus penggunaan berbahaya yang lebih halus daripada pornografi nonkonsensual.