Detak.media — Apple mengambil langkah tegas dengan menghapus sejumlah aplikasi berbasis kecerdasan buatan (AI) yang memiliki kemampuan menghasilkan gambar telanjang palsu atau dikenal sebagai aplikasi nudify dari App Store. Keputusan tersebut muncul setelah adanya tekanan hukum dari otoritas San Francisco yang menilai aplikasi semacam itu berpotensi membahayakan privasi serta memfasilitasi penyebaran konten eksplisit tanpa persetujuan korban.

Meski tindakan Apple mendapat perhatian positif, kasus ini sekaligus memunculkan perdebatan baru mengenai efektivitas proses seleksi aplikasi di App Store. Pasalnya, selama ini Apple dikenal memiliki sistem peninjauan aplikasi yang jauh lebih ketat dibandingkan berbagai platform distribusi aplikasi lainnya.

Banyak pihak mempertanyakan bagaimana aplikasi dengan kemampuan menghasilkan gambar manipulatif berbasis AI dapat lolos ke toko aplikasi resmi sebelum akhirnya ditarik dari peredaran.

Tekanan Hukum Mendorong Apple Mengambil Langkah Cepat

Kasus ini bermula ketika Jaksa Kota San Francisco mengirimkan surat resmi kepada Apple dan Google yang meminta kedua perusahaan segera menghentikan distribusi aplikasi AI yang dapat menghasilkan gambar telanjang palsu.

Menurut pihak berwenang, aplikasi tersebut membuka peluang terjadinya penyalahgunaan teknologi AI untuk membuat konten eksplisit menggunakan foto seseorang tanpa izin. Selain melanggar privasi, praktik tersebut juga dinilai berpotensi memicu pemerasan digital, pelecehan, hingga pencemaran nama baik.

Setelah menerima laporan tersebut, Apple mengonfirmasi telah menghapus beberapa aplikasi yang dianggap melanggar kebijakan App Store. Tidak hanya itu, perusahaan juga mulai mengevaluasi akun pengembang terkait dan memberikan peringatan kepada sejumlah pengembang lain agar segera memperbaiki aplikasinya apabila masih ditemukan fitur serupa.

Langkah tersebut menunjukkan bahwa Apple berupaya memperketat pengawasan terhadap aplikasi AI yang berpotensi disalahgunakan.

Aplikasi Menyembunyikan Fitur AI di Balik Fungsi Pengeditan Foto

Salah satu tantangan terbesar dalam kasus ini adalah metode yang digunakan pengembang untuk menyamarkan kemampuan aplikasi.

Sebagian besar aplikasi tersebut tidak secara terang-terangan mempromosikan dirinya sebagai aplikasi pembuat gambar telanjang berbasis AI. Sebaliknya, aplikasi hanya dipasarkan sebagai editor foto, aplikasi penukar wajah, atau alat manipulasi gambar yang terlihat biasa.

Fitur pembuatan gambar eksplisit baru muncul setelah pengguna memasang aplikasi atau membuka layanan premium melalui pembelian dalam aplikasi.

Pendekatan seperti ini membuat proses moderasi menjadi jauh lebih rumit karena fungsi sebenarnya tidak selalu terlihat saat tahap peninjauan awal.

Di era AI generatif, sebuah aplikasi dapat memiliki kemampuan yang berubah secara dinamis melalui pembaruan model AI tanpa harus mengubah tampilan antarmuka maupun deskripsi aplikasi.

AI Generatif Membawa Tantangan Baru bagi Moderasi Platform

Perkembangan teknologi AI membuat proses pengawasan aplikasi tidak lagi sesederhana memeriksa kode maupun tangkapan layar.

Model AI modern mampu menghasilkan berbagai jenis konten berdasarkan perintah pengguna. Artinya, kemampuan aplikasi dapat berkembang setelah diinstal tanpa perubahan besar pada struktur aplikasinya.

Inilah yang menjadi tantangan baru bagi Apple maupun Google.

Sistem moderasi kini harus mampu mengidentifikasi kemungkinan penyalahgunaan model AI, bukan hanya memeriksa fungsi aplikasi secara konvensional.

Hal tersebut membutuhkan metode pengujian yang jauh lebih kompleks karena teknologi AI dapat menghasilkan berbagai bentuk konten yang sebelumnya tidak terlihat selama proses review.

Risiko Penyalahgunaan Deepfake Semakin Mengkhawatirkan

Kemajuan AI generatif juga membuat pembuatan deepfake menjadi semakin mudah dilakukan.

Jika sebelumnya proses manipulasi gambar membutuhkan kemampuan teknis tinggi, kini cukup menggunakan satu foto seseorang, AI dapat menghasilkan gambar maupun video yang tampak realistis hanya dalam hitungan detik.

Fenomena ini menjadi perhatian serius karena dampaknya tidak hanya berkaitan dengan pelanggaran privasi.

Korban deepfake sering mengalami tekanan psikologis, perundungan di media sosial, pencemaran nama baik, hingga ancaman pemerasan.

Dalam beberapa kasus yang pernah terungkap, teknologi serupa bahkan digunakan untuk membuat gambar eksplisit anak di bawah umur menggunakan foto yang diperoleh dari media sosial maupun lingkungan sekolah.

Perkembangan tersebut mendorong pemerintah di berbagai negara mulai memperketat regulasi terhadap penggunaan AI generatif.

Apple dan Google Perketat Pengawasan Aplikasi AI

Selain Apple, Google juga mengambil langkah serupa terhadap aplikasi yang menawarkan fitur nudification.

Perusahaan menghapus sejumlah aplikasi dari Play Store sekaligus membatasi pencarian menggunakan kata kunci tertentu yang berkaitan dengan layanan tersebut.

Langkah ini menunjukkan bahwa kedua perusahaan mulai memperkuat kebijakan terhadap aplikasi AI yang berpotensi menimbulkan penyalahgunaan.

Namun sejumlah pengamat menilai kebijakan saja tidak cukup apabila proses moderasi belum mampu mendeteksi kemampuan tersembunyi yang dimiliki sebuah aplikasi.

Ke depan, pengelola toko aplikasi diperkirakan harus mengembangkan sistem pengawasan berbasis AI yang mampu menguji fungsi sebenarnya dari model kecerdasan buatan yang digunakan pengembang.

Pengguna Tetap Menjadi Lapisan Perlindungan Terakhir

Kasus ini menjadi pengingat bahwa perkembangan AI membawa manfaat sekaligus risiko baru yang harus diantisipasi bersama.

Meskipun Apple dan Google terus memperbarui kebijakan keamanan mereka, pengguna tetap perlu berhati-hati sebelum menginstal aplikasi, terutama yang menawarkan kemampuan manipulasi foto atau video berbasis AI.

Memeriksa reputasi pengembang, membaca ulasan pengguna, memahami izin akses yang diminta aplikasi, serta menghindari aplikasi dengan fungsi yang tidak jelas dapat membantu mengurangi risiko penyalahgunaan data pribadi.

Seiring semakin canggihnya teknologi AI generatif, tantangan menjaga keamanan ekosistem aplikasi diperkirakan akan terus berkembang. Karena itu, kolaborasi antara pengembang, operator platform, regulator, dan pengguna menjadi faktor penting untuk memastikan inovasi AI tetap dimanfaatkan secara bertanggung jawab tanpa mengorbankan privasi maupun keamanan digital.