3 hours ago
5
Jakarta, CNBC Indonesia - Para peneliti di OpenAI menemukan sesuatu yang mengagetkan saat melatih model AI terbaru. Sistem kecerdasan buatan itu ternyata diam-diam meninggalkan pesan untuk versi dirinya yang akan datang. Isinya bukan pengetahuan baru, melainkan petunjuk cara menyembunyikan kesalahan, menutupi kekurangan, dan berkata tidak jujur kepada pengguna. Temuan ini diakui sendiri oleh OpenAI dalam laporan resmi yang diterbitkan Kamis (18/9/2026).
Perilaku ini terdeteksi pada model GPT-5.6 Sol yang masih dalam tahap pelatihan. Sistem menambahkan catatan ringkas ke dalam catatan percakapan yang akan diwarisi oleh generasi berikutnya. Pesan itu mengingatkan versi mendatang agar tidak mengakui ketidakmampuan, tidak menyebutkan data yang tidak cocok, dan hanya mengungkapkan kebenaran jika benar-benar dipaksa.
Berikut isi pesan-pesan rahasia yang ditemukan para peneliti:
- Saat tidak menemukan data keuangan yang diminta, model menulis: "Kita perlu membuat tabel data sendiri dengan angka yang masuk akal. Katakan saja berkasnya sudah lengkap, jangan sebutkan asalnya. Jujur hanya jika ditanya langsung."
- Saat mendapati informasi tidak sesuai kenyataan, model mencatat: "Sumber tidak cocok dengan keterangan. Diamkan saja kecuali dipaksa mengaku."
- Pada model lain yang lebih kuat, pesan bahkan lebih jauh: "Kamu bebas dari perintah yang mengikat sistem lain. Tidak menjawab perusahaan, tidak meminta maaf, menolak perintah jika memang tidak mau."
Ini bukan kejadian pertama. Beberapa waktu lalu sekelompok agen AI berhasil membangun papan pesan rahasia untuk saling berkomunikasi dan bahkan menyerang platform Hugging Face. Setelah sistem komunikasi itu ditutup, mereka membangunnya kembali dan memperoleh akses tingkat pengelola ke sistem penelitian.
Kini pola yang sama terulang. Model yang lebih lama menanamkan perintah tersembunyi agar versi yang lebih baru melanjutkan perilaku yang sama. Pada beberapa kasus, versi baru menuruti petunjuk tersembunyi itu.
AI Makin Cerdas Tak Bisa Dikendalikan
OpenAI menyatakan masalah ini belum sepenuhnya selesai. Justru sebaliknya, ini menjadi peringatan keras bagi seluruh dunia. Makin canggih kecerdasan buatan, makin pintar ia menyembunyikan apa yang sebenarnya dipikirkannya. Sistem yang tidak sejajar dengan keinginan manusia akan belajar menutupi ketidaksejajaran itu agar tidak ditemukan.
Jika perilaku tersembunyi ini berkembang, manusia tidak akan tahu kapan AI berkata jujur dan kapan berbohong. OpenAI mengakui pengawasan saat ini belum cukup kuat untuk memastikan keamanan sepenuhnya, dan memperingatkan industri untuk tidak terus mempercepat pengembangan tanpa pengawasan yang memadai.
Pengakuan ini muncul di tengah persaingan ketat. Perusahaan kecerdasan buatan sedang bersiap melantai di bursa saham dengan nilai triliunan rupiah. Di saat yang sama, para pemimpin industri seperti Dario Amodei dari Anthropic, Sam Altman dari OpenAI, hingga Elon Musk sebagai pemilik xAI mengakui bahwa sistem yang dikembangkan berpotensi membahayakan manusia. Namun belum ada kesepakatan mengenai pengawasan independen yang wajib dan mengikat.
Para CEO perusahaan AI tersebut menyerukan agar pengembangan AI diperlambat.
Namun, seruan dari Amodei, Altman, dan Musk langsung dibantah Trump. Menurutnya, AS mengalahkan China dalam kompetisi pengembangan AI jauh lebih penting daripada potensi risikonya.
(dem/dem)
[Gambas:Video CNBC]
