Bisakah Saya Menyembunyikan Wajah Bayi Saya Dari Kecerdasan Buatan?

Ada dua kategori orang tua di TikTok. Orang tua yang memecahkan telur di atas kepala anak-anak mereka untuk mendapatkan klik suka atau like dan orang tua yang mati-matian berusaha memastikan internet tidak mengetahui siapa anak-anak mereka.

Bintang TikTok berusia 35 tahun, yang memposting dengan nama Kodye Elyse, telah berhenti mendaftarkan ketiga anaknya di media sosial karena pengalaman online mereka yang tidak nyaman. Sebuah video yang dia posting tentang putrinya yang masih kecil menari pada tahun 2020 mendapatkan jutaan penayangan dan komentar menakutkan dari pria asing. (Dia meminta New York Times untuk tidak mencantumkan namanya karena dia dan anak-anaknya pernah menjadi sasaran doxing di masa lalu.)

“Ini seperti Pertunjukan Truman di internet,” kata Cody Elise, yang memiliki 4 juta pengikut di TikTok dan memposting tentang pekerjaannya sebagai seniman tato kosmetik dan pengalamannya sebagai seorang ibu tunggal. “Anda tidak pernah tahu siapa yang menonton.”

Setelah pengalaman itu, dia menghapus foto anak-anaknya dari Internet. Saya melacak semua akun online-nya di situs-situs seperti Facebook dan Pinterest dan menghapusnya atau menjadikannya pribadi. Sejak saat itu, dia bergabung dengan kelompok vokal TikTok yang mendorong para orang tua untuk tidak memposting secara publik tentang anak-anak mereka.

Namun pada bulan September dia mengetahui bahwa usahanya tidak sepenuhnya berhasil. Kodye Elyse menggunakan PimEyes, mesin pencari luar biasa yang menggunakan teknologi pengenalan wajah untuk menemukan foto orang online dalam hitungan detik. Ketika saya memposting foto putra saya yang berusia 7 tahun, muncul foto dirinya yang belum pernah saya lihat sebelumnya. Langganan $29,99 diperlukan untuk melihat sumber gambar.

Mantan suaminya mengajak putra mereka menonton pertandingan sepak bola, dan keduanya duduk di barisan depan di belakang gawang dalam foto yang dipublikasikan oleh situs berita olahraga. Dia tahu dia tidak bisa meyakinkan outlet berita untuk menghapus foto-foto tersebut, tapi dia mengajukan permintaan penghapusan ke PimEyes melalui formulir online. Ini karena ketika seseorang menelusuri wajah anak Anda, foto anak Anda tidak akan muncul. . .

Dia juga menemukan foto masa kecil putrinya yang berusia 9 tahun yang digunakan untuk mempromosikan perkemahan musim panas yang dia hadiri. Saya meminta kamp untuk menghapus foto-foto itu dan mereka melakukannya.

“Saya pikir semua orang harus memeriksanya,” kata Cody Ellis. “Ini cara yang bagus untuk mengetahui bahwa tidak ada orang yang menggunakan kembali foto anak Anda.”

Hati-hati dengan ‘berbagi’

Berapa banyak orang tua yang harus memposting tentang anak-anak mereka secara online telah diperdebatkan dan diteliti secara intensif sehingga diberi label “berbagi” yang menjijikkan.

Secara historis, kritik utama terhadap orang tua yang berbagi secara berlebihan secara online adalah pelanggaran privasi anak-anak mereka. Namun kemajuan teknologi berbasis AI menawarkan cara baru bagi pelaku kejahatan untuk mencuri konten online anak-anak.

Risiko baru tersebut antara lain penipuan dengan menggunakan teknologi deepfake yang meniru suara anak-anak dan potensi orang asing mengetahui nama dan alamat anak hanya dengan melihat foto.

Amanda Lenhart, direktur penelitian di Common Sense Media, sebuah organisasi nirlaba yang memberikan nasihat media kepada orang tua, merujuk pada kampanye layanan masyarakat baru-baru ini yang dilakukan oleh Deutsche Telekom yang menyerukan pembagian data anak-anak yang lebih akurat. Dalam video tersebut, aktris tersebut berperan sebagai Ella yang berusia 9 tahun, yang orang tua virtualnya tidak keberatan memposting foto dan video dirinya secara online. Teknologi deepfake menciptakan versi digital kuno Ella yang memperingatkan orang tua virtualnya bahwa identitasnya telah dicuri, suaranya telah disalin dan ditipu sehingga mengira dia telah diculik, dan foto telanjang dirinya saat masih kecil telah disalahgunakan.

Lenhart mendeskripsikan video tersebut sebagai “berat”, namun ia menekankan bahwa “teknologinya sebenarnya cukup bagus.” Orang-orang sudah menerima panggilan dari penipu yang menggunakan salinan suara yang dibuat menggunakan alat kecerdasan buatan untuk meniru orang-orang yang mereka cintai yang berisiko.

Jennifer DeStefano, seorang ibu asal Arizona, tahun ini menerima telepon dari seseorang yang mengaku telah menculik putrinya yang berusia 15 tahun. “Saya menjawab telepon dan berkata, ‘Halo'” Dan di sisi lain, putri saya Brianna menangis dan menangis, “Ibu”. Tuan DeStefano mengatakan hal ini dalam kesaksiannya di kongres musim panas ini.

Saat menegosiasikan pembayaran $50.000 kepada para penculiknya, dia menemukan bahwa putrinya ada di rumah, “beristirahat dengan aman di tempat tidurnya”.

menampakkan wajah seseorang

Teknologi pengenalan wajah, yang kinerja dan keakuratannya telah ditingkatkan dalam beberapa tahun terakhir, dapat memungkinkan foto dan video online yang misterius dikaitkan dengan wajah seseorang. Foto yang diambil di sekolah, tempat penitipan anak, pesta ulang tahun, atau taman bermain mungkin muncul dalam penelusuran ini. (Jika sekolah atau tempat penitipan anak Anda menawarkan pengecualian, silakan menolak.)

“Semakin muda usia anak, semakin besar kendali orang tua terhadap citra dirinya,” kata Debbie Reynolds, konsultan privasi data dan teknologi baru. “Tetapi anak-anak tumbuh besar. Mereka punya teman, pergi ke pesta, dan berfoto di sekolah.”

Reynolds merekomendasikan agar orang tua mencari wajah anak mereka secara online menggunakan layanan seperti PimEyes atau FaceCheck.ID. Dia menambahkan bahwa jika Anda tidak menyukai apa yang Anda lihat, Anda harus mencoba membujuk situs tempat gambar tersebut diposting untuk menghapusnya. (Beberapa akan melakukannya, namun yang lain, seperti organisasi media, mungkin tidak.)

Menurut survei Pew Research tahun 2020, lebih dari 80% orang tua melaporkan berbagi foto, video, dan informasi tentang anak-anak mereka di situs media sosial. Para ahli mengatakan tidak diketahui berapa banyak orang tua yang hanya berbagi foto di akun media sosial pribadi mereka dibandingkan secara publik, namun berbagi foto secara pribadi kini semakin umum.

Saat saya membagikan foto digital putri saya, saya cenderung menggunakan aplikasi perpesanan pribadi dan akun Instagram yang terbatas pada teman dan keluarga. Namun ketika saya mencari wajah mereka di PimEyes, saya menemukan foto umum (bersama dengan cerita yang saya tulis) yang telah saya lupakan ketika putri saya, yang sekarang berusia 6 tahun, berusia 2 tahun. Saya meminta PimEyes untuk menghapus gambar dari hasil dan gambar tersebut tidak lagi muncul dalam pencarian.

Mesin pencari wajah publik dapat menjadi alat yang berguna bagi orang tua, namun juga dapat digunakan untuk tujuan jahat.

“Alat seperti PimEyes dapat dan akan mudah digunakan oleh penguntit seperti halnya oleh orang tua yang bersangkutan,” kata peneliti privasi Bill Fitzgerald. aktivitas. .

Giorgi Gobrunidze, pemilik PimEyes, mengatakan lebih dari 200 akun di situs tersebut dinonaktifkan karena pencarian wajah anak-anak yang tidak pantas.

Mesin pengenalan wajah serupa, Clearview AI, hanya digunakan oleh penegak hukum dan telah digunakan untuk mengidentifikasi korban dalam gambar pelecehan seksual terhadap anak-anak. Kelompok hak asasi manusia juga menggunakan PimEyes untuk membantu anak-anak, kata Gobrunydze. Namun dia cukup khawatir dengan potensi predator anak yang menggunakan layanan sehingga PimEyes sedang mengembangkan fitur untuk memblokir pencarian wajah yang tampaknya dilakukan oleh anak di bawah umur. (Tuan Fitzgerald, peneliti privasi, khawatir bahwa orang tua yang menggunakan alat ini untuk mencari anak-anak mereka mungkin secara tidak sengaja membantu algoritme PimEyes meningkatkan identifikasi anak di bawah umur tersebut.)

Teknologi pengenalan wajah mempersulit berbagi foto anak-anak secara online dengan gembira, kata Mimi Ito, antropolog budaya dan direktur Connected Learning Lab di University of California, Irvine.

“Ada semakin banyak pengakuan bahwa dengan AI kita tidak memiliki kendali atas semua data yang kita kirimkan ke ekosistem media sosial,” katanya.

Hak untuk mengontrol sidik jari online Anda

Penari profesional St. Louis, Lucy dan Mike Fitzgerald, tetap aktif di media sosial untuk mengiklankan karya mereka, memposting foto putri mereka, yang berusia 5 dan 3 tahun, secara online. Harap jangan melakukan hal tersebut dan mintalah teman dan keluarga Anda untuk mengikuti larangan tersebut. . Mereka percaya bahwa anak perempuan mereka harus mempunyai hak untuk menciptakan dan mengendalikan jejak online mereka sendiri. Ada juga kekhawatiran bahwa foto mereka mungkin digunakan secara tidak pantas.

“Sangat meresahkan bagi saya bahwa hanya dengan beberapa klik Anda dapat mencuri foto seseorang dan menggunakannya untuk apa pun yang Anda inginkan,” kata Fitzgerald. “Kami memahami betapa menggodanya memposting foto anak-anak Anda, namun pada akhirnya kami tidak ingin merekalah yang harus menghadapi kemungkinan konsekuensi yang tidak diinginkan.”

Dia menambahkan bahwa Nyonya Fitzgerald dan suaminya bukanlah ahli “yang tahu apa yang ada di bidang teknologi”. Namun dia menambahkan bahwa mereka telah memiliki “perasaan” selama bertahun-tahun bahwa “kemampuan yang tidak dapat diprediksi pada akhirnya akan menimbulkan masalah bagi anak-anak kita.”

Orang tua cenderung mengetahui detail tentang dunia teknologi, termasuk kontraktor NSA yang menjadi pelapor Edward Snowden dan salah satu pendiri Facebook Mark Zuckerberg. Menyembunyikan wajah anak Anda di postingan media sosial publik. Dalam postingan terkait liburan di Instagram, Zuckerberg menggunakan metode emoji yang kikuk dengan menempelkan stiker digital di atas kepala anak-anaknya yang lebih besar, sementara Snowden dan istrinya, Lindsay Mills, menyembunyikan salah satu putra mereka di balik balon. Wajahnya.

“Saya ingin anak-anak saya mempunyai pilihan untuk menampilkan diri mereka kepada dunia dalam bentuk tertentu ketika mereka sudah siap,” kata Mills.

Perwakilan Zuckerberg menolak berkomentar atau menjelaskan mengapa wajah anaknya tidak mendapat perlakuan yang sama dan apakah itu karena teknologi pengenalan wajah tidak bekerja dengan baik pada bayi.

“Hantu Online” kesuksesan masa depan

Banyak ahli mencatat bahwa remaja banyak memikirkan cara mereka membangun identitas digital mereka, dan ada pula yang menggunakan nama samaran secara online untuk mencegah orang tua, guru, dan calon pemberi kerja menemukan akun mereka. Namun, jika akun tersebut memiliki foto publik yang menampilkan wajah Anda, Anda tetap dapat menautkan kembali ke foto tersebut menggunakan mesin pencari wajah.

“Sangat sulit untuk menjauhkan diri dari Internet,” kata Priya Kumar, asisten profesor di Pennsylvania State University yang telah mempelajari dampak berbagi informasi pribadi terhadap privasi.

Dr. Kumar menyarankan untuk melibatkan orang tua dari anak-anak berusia 4 tahun dalam proses pengeposan dan berbicara dengan mereka tentang foto mana yang boleh dibagikan.

Amy Webb, CEO Future Today Institute, sebuah perusahaan konsultan bisnis yang berfokus pada teknologi, berjanji dalam postingan Slate satu dekade lalu untuk tidak memposting foto pribadi atau informasi identitas anak-anaknya yang masih kecil secara online. (Beberapa pembaca menganggap ini sebagai tantangan dan menemukan foto keluarga yang secara tidak sengaja diposting oleh Ms. Webb, yang menunjukkan betapa sulitnya menjauhkan anak-anak Anda dari Internet.) Putrinya, yang sekarang sudah remaja, mengatakan bahwa dia adalah seorang ‘Internet gadis hantu. Dia mengatakan dia menghargai fakta tersebut dan berpikir itu akan membantunya secara profesional.

Dia mengatakan calon pemberi kerja “tidak akan menemukan apa pun karena saya tidak memiliki platform.” “Ini akan membantu saya sukses di masa depan.”

Anak muda lainnya yang tumbuh di era berbagi online juga mengatakan bahwa mereka bersyukur orang tua mereka tidak memposting foto mereka secara online ke publik. Shreya Nalamuthu, 16, adalah siswa sekolah menengah yang penelitiannya tentang influencer anak membantu menghasilkan undang-undang baru di Illinois yang mewajibkan orang tua menyisihkan penghasilan anak-anak mereka jika mereka menampilkannya dalam konten yang dimonetisasi secara online. Dia mengatakan dia “sangat bersyukur” karena orang tuanya tidak mengunggah “momen saya yang sangat memalukan” di media sosial.

“Ada orang di kelas saya yang sangat pandai mencari dan menelusuri halaman Facebook orang tua teman sekelasnya,” katanya. Mereka menggunakan makanan menjijikkan untuk menyembunyikan postingan ulang tahun di Snapchat.

Ariel Geismar, 22, seorang mahasiswa dan pendukung keamanan digital di Washington, D.C., menggambarkannya sebagai “hak istimewa untuk tumbuh tanpa identitas digital.”

“Anak-anak adalah kelinci percobaan bagi teknologi saat ini,” kata Geismar. “Adalah tanggung jawab kami untuk merawat mereka.”