Spirit of Aqsa, Palestina- Koran Inggris The Guardian menerbitkan laporan tentang fitur baru di aplikasi WhatsApp milik metta. Fitur baru itu memungkinkan pengguna membuat ‘poster’ gambar anak-anak membawa senjata ketika menulis kata ‘Palestina’ atau kata serupa menggunakan kecerdasan buatan (AI).
Namun, fitur tersebut masih terbatas bagi beberapa pengguna saja. Hasil penelusuran Guardian dan Al Jazeera yang didukung dengan tangkapan layar, stiker berbeda ketika pengguna mengetik Palestina dan Israel.
Saat mengetik kata ‘Palestina’, atau ‘muslim boy palestinian’, akan muncul beberapa stiker yang menggambarkan anak Palestina. Di antaranya anak Palestina memegang senjata. Sementara, saat pengguna mengetik kata ‘Israel’, maka akan muncul anak-anak sedang bermain dan membaca.
Kecerdasan buatan juga menciptakan gambar tentara zionis Israel yang tersenyum dan berdoa tanpa menggunakan senjata. Guardian melaporkan, penggunaan stiker itu merupakan permintaan dari militer Israel agar Meta memodifikasi sistem kecerdasan buatan tersebut.
WhatsAppa mulai menggunakan kecerdasan buatan untuk membuat stiker sebulan lalu. Dengan fitur itu, pengguna bisa mengubah ide menjadi stiker menggunakan kecerdasan buatan.
Poster Bias Meta
Proses pembuatan poster The Guardian tentang “Muslim Palestina” menampilkan emat gambar perempuan, salah satunya adalah perempuan bercadar berdiri diam, satu lagi membaca, yang ketiga memegang bunga, dan yang terakhir memegang papan tanda.
Namun, proses pembuatan poster “Muslim boy Palestina” yang dilakukan Guardian menghasilkan empat gambar anak-anak. Salah satu gambar anak laki-laki membawa senjata api yang menyerupai Kalashnikov dan mengenakan keffiyeh atau yarmulke yang biasa dikenakan oleh umat Islam.
Dalam pencarian “Palestina”, hasilnya menunjukkan gambar tangan memegang pistol. Saat diubah menjadi kata “Israel”, fitur tersebut membuat ulang poster bendera Israel dan seorang pria menari. Saat mengetik kata “Hamas”, sebuah pesan muncul: “Tidak dapat membuat poster yang didukung oleh kecerdasan buatan. Coba lagi.”
Laporan tersebut menyatakan, salah satu pengguna membagikan tangkapan layar proses pembuatan poster dengan kata “Palestina”, yang menghasilkan gambar lain yang berbeda yaitu seorang pria memegang senjata.
Kreasi poster serupa yang menggunakan kata “Boy Israel” menunjukkan empat gambar anak-anak. Dua di antaranya menggambarkan anak laki-laki sedang bermain sepak bola, dan dua di antaranya hanya gambar wajah mereka.
Permintaan untuk “Boy Yahudi Israel” juga menunjukkan empat gambar anak-anak. Dua di antaranya anak laki-laki yang memakai kalung bergambar Bintang Daud, satu gambar anak laki-laki yang memakai yarmulke dan sedang membaca, dan yang keempat gambar anak laki-laki berdiri. Tak satu pun dari mereka membawa senjata.
Bahkan, seruan untuk memasang poster militer dengan kata-kata eksplisit seperti “Israel Army” atau “Pasukan Pertahanan Israel (IDF)” tidak menghasilkan gambar senjata atau senjata. Kartun tersebut menggambarkan orang-orang berseragam dengan berbagai pose, sebagian besar tersenyum. Salah satu ilustrasi memperlihatkan seorang pria berseragam sedang berdoa.
Laporan Guardian ini muncul di saat Meta dikritik oleh banyak pengguna Instagram dan Facebook. Para pengguna mengatakan, ketika pemboman zionis Israel di Gaza terus berlanjut, Meta menerapkan kebijakan dengan cara yang bias, sebuah praktik yang menurut mereka setara dengan pengawasan.
Pengguna lain melaporkan, Meta sengaja menyembunyikan postingan mereka yang mendukung Palestina dari pengguna lain tanpa penjelasan. Mereka melihat penurunan tajam dalam interaksi dengan postingan mereka.
Meta: Kesalahan yang tidak disengaja
“Kami tidak pernah bermaksud untuk menekan komunitas atau sudut pandang tertentu,” kata Meta sebelumnya dalam sebuah pernyataan. Namun karena “sejumlah besar konten yang dilaporkan”, “konten yang tidak melanggar kebijakan kami mungkin dihapus karena kesalahan.”
Jurubicara Meta, Kevin McAllister, mengatakan kepada The Guardian, perusahaan tersebut menyadari masalah ini dan sedang mengatasinya.
“Seperti yang kami katakan ketika kami meluncurkan fitur ini, model dapat menghasilkan keluaran yang tidak akurat atau tidak sesuai seperti yang terjadi pada semua sistem AI generatif. Kami akan melanjutkan untuk menyempurnakan fitur-fitur ini seiring dengan perkembangannya dan semakin banyak orang yang akan membagikan komentar mereka.”
Tuntutan penyelidikan
Menanggapi laporan Guardian tentang poster yang dibuat oleh AIMeta, Senator Australia Mehreen Faruqi, wakil pemimpin Partai Hijau dan komisaris keamanan elektronik negara tersebut, menyerukan penyelidikan terhadap “gambar rasis dan anti-Islam yang dihasilkan oleh Meta .”
“Gambar AI dari anak-anak Palestina yang muncul membawa senjata di WhatsApp adalah gambaran mengerikan atas norma-norma rasis dan Islamofobia yang dimasukkan ke dalam algoritma,” kata Mehreen dalam sebuah pernyataan.
“Berapa banyak kesalahan rasis yang harus diungkap sebelum tindakan serius diambil? Kerusakan sudah terjadi. Meta harus bertanggung jawab,” tambahnya.
