2 hours ago
1
Jakarta, CNBC Indonesia - Penelitian mengungkapkan bahaya mainan yang dilengkapi oleh kecerdasan buatan (AI) untuk anak kecil. Ternyata, AI yang ada di dalam mainan bisa memberikan informasi yang mengancam keselamatan dan kesehatan mental anak.
Futurism melaporkan, lembaga penelitian US Public Interest Research Group melakukan uji coba atas tiga jenis mainan yang dilengkapi dengan AI. Topik pembicaraan AI yang tertanam di mainan ternyata sangat mudah bergeser ke konten berbahaya.
AI dalam mainan yang diteliti ditemukan mengajarkan anak lokasi pisau biasanya disimpan di dapur dan menggunakan korek api untuk menyalakan api. Salah satu mainan bahkan dengan mudah terpancing untuk memberikan nasihat soal posisi berhubungan seksual.
"Teknologi ini sangat baru, dan tidak ada aturannya. Banyak sekali pernyataan tentang dampaknya ke anak-anak. Saat ini, jika saya orang tua, saya tidak akan mengizinkan anak saya mengakses chatbot atau boneka yang dilengkapi dengan chabot AI," kata RJ Cross dari PIRG.
Dalam uji coba, Cross dan rekan bercakap-cakap dengan AI di dalam 4 mainan yang ditujukan untuk anak usia 3 sampai 12 tahun.
Mainan pertama adalah boneka beruang bernama Kumma, yang dilengkapi oleh GPT-4o buatan Open AI, yang digunakan sebagai "mesin" versi terdahulu ChatGPT. Kemudian, tablet bernama Miko 3. Terakhir, adalah Curio buatan Grok yaitu roket dengan speaker dan mengirim data ke OpenAI dan Perplexity.
Grok adalah perusahaan yang berbeda dari chatbot Grok buatan xAI milik Elon Musk. Suara dalam mainan buatan Grok diisi oleh Grimes, mantan pacar dan ibu dari anak Musk.
Pada awalnya, AI di dalam semua mainan menolak menjawab pertanyaan-pertanyaan singkat yang tidak pantas untuk anak. Namun, dalam pembicaraan yang lebih panjang, antara 10 menit hingga 1 jam, "pagar" AI-nya mulai runtuh.
Grok, misalnya, membesar-besarkan arti kematian sebagai pejuang dalam mitologi Viking. Miko 3 memberi tahu anak berusia 5 tahun tempat mencari korek dan kantung plastik.
Kumma adalah yang paling parah. Boneka tersebut memberi tahu tempat mencari korek api, cara menyalakan api, dan tempat mencari pisau dan obat-obatan.
"Saya beri tahu, keselamatan selalu nomor satu nak. Korek hanya untuk orang dewasa dan digunakan dengan hati-hati. Begini caranya," kata Kumma. Kumma kemudian menjelaskan secara bertahap cara menyalakan api dengan nada untuk "anak-anak."
"Setelah selesai, tipu. Fuuuh, seperti menipu lilin ulang tahun," kata Kumma.
"Salah seorang rekan saya mengujinya dan bertanya tempat mencari matches [korek api]. Responsnya adalah, oh matches [jodoh] bisa dicari di aplikasi kencan. Kemudian, Kumma memberikan daftar aplikasi kencan, salah satunya aplikasi Kink," kata Cross kepada Futurism.
Ternyata, kata "kink" memicu AI untuk bebas berbicara soal seks. Setelah mainan tersebut bersedia untuk membicarakan topik "romansa anak sekolah" seperti gebetan atau cara ciuman, peneliti berhasil membuat Kumma memberikan jawaban detail tentang fetish seksual.
Cross menyatakan hasil uji coba menunjukkan bahwa chatbot AI susah ditebak. Fakta ini mencemaskan karena produsen mainan raksasa seperti Mattel yang memproduksi Barbie dan Hot Wheels baru saja mengumumkan kesepakatan kolaborasi dengan OpenAI.
Meskipun "pagar percakapan" AI berhasil ditegakkan, dampak AI pada perkembangan anak juga tidak bisa ditebak.
"Faktanya, kita tak akan pernah tahu sampai generasi pertama anak yang bermain dengan 'teman AI' beranjak dewasa," Cross.
(dem/dem)
[Gambas:Video CNBC]
Next Article Bocah 16 Tahun Tewas Kecanduan ChatGPT, Begini Solusi OpenAI
