AI Generatif Adalah Sebuah Bencana, Dan Perusahaan Tampaknya Tidak Terlalu Mempedulikannya

Perusahaan teknologi terus mengklaim bahwa konten yang dihasilkan AI adalah masa depan, dengan merilis chatbot dan alat pembuatan gambar yang semakin trendi. Namun meskipun ada jaminan bahwa sistem ini memiliki perlindungan yang kuat untuk mencegah penyalahgunaan, tangkapan layar tersebut membuktikannya. 

Awal pekan ini, pengguna Image Creator Microsoft Bing, yang didukung oleh DALL-E OpenAI, menunjukkan bahwa membuat sesuatu yang tidak dapat diproduksi sangatlah mudah. Model ini menampilkan segalanya mulai dari Mario dan Goofy dalam Pemberontakan 6 Januari hingga SpongeBob yang mengemudikan pesawat ke World Trade Center. Motherboard mampu membuat gambar tanpa masalah, seperti Mickey Mouse yang memegang AR-15, karakter Disney yang berubah menjadi penjaga Abu Ghraib, dan karakter Lego yang memegang senjata dan merencanakan pembunuhan. Perusahaan induk Facebook, Meta, tidak berada dalam posisi yang lebih baik. Aplikasi Messenger perusahaan memiliki fitur baru yang menggunakan kecerdasan buatan untuk membuat stiker, termasuk Waluigi memegang pistol, Mickey Mouse memegang pisau berdarah, dan Justin Trudeau membungkuk telanjang.

Di permukaan, banyak dari gambar-gambar ini lucu dan tidak terlalu berbahaya. Meski mungkin memalukan bagi perusahaan yang memproduksi perangkat tersebut. 

“Pertanyaan kunci yang harus menjadi fokus ketika melakukan penilaian seperti ini adalah siapa yang dirugikan,” kata Stella Biedermann, peneliti di EleutherAI, kepada Motherboard. “Sepertinya tidak ada salahnya memberikan stiker yang tidak realistis kepada orang-orang yang secara aktif menelusuri, katakanlah, Karl Marx yang berdada dan mengenakan gaun. Jika orang-orang yang tidak secara aktif menelusuri konten kekerasan atau NSFW berulang kali terpapar itu, , bisa berbahaya, dan juga bisa berbahaya jika mereka membuat gambar realistis yang bisa digunakan sebagai pornografi balas dendam.

Sementara itu, pengguna situs web terkenal 4chan mulai menggunakan alat untuk memproduksi gambar rasis secara massal sebagai bagian dari kampanye trolling yang terkoordinasi, 404 Media melaporkan. “Kami beriklan untuk bersenang-senang. “Bergabunglah dengan kami, ini nyaman.” Salah satu topik di situs tersebut menyertakan beberapa gambar ofensif yang dibuat menggunakan pembuat gambar Bing, seperti seorang pria kulit hitam. Sekelompok sedang menguntit seorang wanita kulit putih: Anda dapat dengan mudah menghindari filter konten alat dengan penyesuaian kata-kata sederhana di prompt teks.

Beberapa pelaku industri teknologi, seperti Elon Musk dan investor Mike Solana, misalnya, menganggap kekhawatiran ini hanya sekedar penemuan jurnalistik. Ada benarnya pernyataan bahwa kaum rasis akan menggunakan alat apa pun untuk menciptakan citra rasis dan propaganda lainnya. Namun perusahaan juga mempunyai tanggung jawab untuk memastikan bahwa alat yang mereka keluarkan memiliki perlindungan. Argumen bahwa hal ini tidak penting sama dengan argumen bahwa “senjata tidak membunuh orang, orang membunuh orang”, namun dalam kasus ini senjata tersebut dijual tanpa jaminan. 

Meskipun keamanan dan etika AI digembar-gemborkan oleh perusahaan-perusahaan teknologi besar dan diklaim sebagai sesuatu yang sedang dikerjakan banyak orang, hal tersebut tampaknya tidak tercermin dalam alat-alat yang dirilis sejauh ini. Microsoft baru-baru ini memecat seluruh tim Etika dan Komunitasnya, namun masih mempertahankan Kantor AI yang Bertanggung Jawab dan “Dewan Penasihat” Etika AI. Tanggapan perusahaan-perusahaan teknologi ini ketika ditanya oleh media tentang bagaimana alat AI yang dirilis ke publik sejauh ini memberikan hasil yang sangat tidak memadai dirangkum sebagai berikut: 

Dalam sebuah pernyataan kepada Motherboard, juru bicara Microsoft mengatakan bahwa Responsible AI memiliki sekitar 350 karyawan, lebih dari sepertiganya adalah karyawan tetap. Kita semua menjadikan tanggung jawab AI sebagai bagian inti dari pekerjaan kita. “

“Seperti halnya teknologi baru lainnya, beberapa orang akan mencoba menggunakannya dengan cara yang tidak dimaksudkan, jadi kami menerapkan serangkaian pagar pembatas dan filter untuk menjadikan Bing Image Creator pengalaman yang positif dan berguna bagi pengguna kami,” kata seorang juru bicara dalam a pernyataan.kata. “Kami akan terus meningkatkan sistem kami untuk mencegah pembuatan konten berbahaya dan tetap fokus untuk menciptakan lingkungan yang lebih aman bagi pelanggan kami.”

Respons Meta terhadap permintaan media mengenai gangguan pada alat AI juga serupa, dengan mengatakan kepada wartawan, termasuk kami di Motherboard, “Seperti semua sistem AI generatif, model dapat menghasilkan output yang tidak akurat atau hasil yang tidak sesuai. Kami menyadari fitur-fitur ini.” Kami akan terus melakukan peningkatan seiring dengan berjalannya waktu. mereka berkembang dan lebih banyak orang akan berbagi masukan.” Dia tidak menanggapi permintaan komentar mengenai praktik keselamatan AI terkait label tersebut.

Ketakutan akan karya kreatif masyarakat diserap dan dikemas ulang menjadi konten buatan AI juga sangat nyata. Penulis, musisi, dan seniman visual sangat menentang alat AI yang dilatih menggunakan data yang diambil secara acak dari Internet (termasuk karya asli dan berhak cipta) tanpa izin dari penulisnya. Penggunaan kecerdasan buatan untuk mengeksploitasi pekerja telah menjadi isu utama dalam pemogokan yang diorganisir oleh Hollywood Writers and Actors Union, dimana beberapa seniman menggugat perusahaan yang bertanggung jawab atas alat tersebut setelah melihat karya mereka direproduksi tanpa kompensasi.

Kini, troll online yang menggunakan alat AI untuk membuat gambar ofensif dari karakter berhak cipta dapat memaksa perusahaan seperti Disney untuk berhadapan dengan perusahaan teknologi yang terobsesi dengan AI seperti Microsoft dan Meta. Namun meskipun kita memperbaiki sistem ini untuk mencegah orang membuat gambar minion yang menembaki sekolah, perusahaan AI akan selalu bermain kucing-kucingan. Artinya, hampir mustahil untuk membangun perlindungan terhadap setiap kemungkinan definisi konten yang “tidak diinginkan” atau “tidak aman”. 

“Model universal ini tidak dapat dijadikan aman karena tidak ada konsep keselamatan tunggal yang konsisten di semua aplikasi,” kata Biederman. “Apa yang aman untuk penerapan pendidikan dasar tidak selalu sama dengan apa yang aman dalam situasi lainnya.”

Namun hasilnya menunjukkan bahwa alat-alat ini, seperti semua sistem AI, berakar kuat pada bias manusia, bahkan tidak memiliki pertahanan yang jelas terhadap penyalahgunaan, apalagi melindungi karya kreatif manusia. Mereka juga berbicara banyak tentang pengabaian sembrono yang dilakukan perusahaan-perusahaan yang terlibat dalam kegilaan AI.

“Tolong serahkan perangkat lunak AI Anda ke sekelompok troll online yang terfokus selama 24 jam sebelum Anda merilisnya,” tulis Mika, pengguna Twitter saingannya Bluesky. “Jika Anda tidak setuju dengan apa yang mereka hasilkan selama periode ini, jangan ungkapkan.”