VASIOTA.COM – OpenAI mengungkap potensi risiko baru dari model kecerdasan buatan (AI) generasi berikutnya. Dalam evaluasi awal, perusahaan mengatakan model bernama Astra menunjukkan kemampuan yang cukup kuat dalam pemrograman dan keamanan siber sehingga OpenAI belum dapat mengesampingkan kemungkinan model tersebut mencapai tingkat kemampuan cybersecurity yang dikategorikan “Critical”.
Temuan tersebut membuat OpenAI memperketat pengamanan pengembangan Astra dan menghentikan sementara sejumlah aktivitas internal yang belum memenuhi persyaratan keamanan baru.
Astra Dinilai Mendekati Tingkat Cybersecurity Kritis
OpenAI mengumumkan temuan tersebut pada 7 Agustus 2026 setelah melakukan evaluasi internal terhadap Astra.
Dalam pengumuman resmi OpenAI mengenai kemampuan cybersecurity Astra, perusahaan mengatakan pengujian awal menunjukkan peningkatan signifikan dalam kemampuan agentic coding dan cybersecurity. OpenAI juga melibatkan evaluasi tambahan untuk memahami apakah kemampuan tersebut sudah mendekati ambang Critical.
Namun, kondisi tersebut belum berarti Astra telah terbukti mampu melakukan serangan siber kritis secara mandiri di dunia nyata.
OpenAI masih melakukan benchmark dan evaluasi terhadap model tersebut. Perusahaan menggunakan istilah bahwa mereka “cannot rule out” kemampuan Critical untuk menunjukkan bahwa kemungkinan tersebut belum dapat dikesampingkan berdasarkan evaluasi awal.
Dalam kerangka Preparedness Framework milik OpenAI, kategori Critical berkaitan dengan kemampuan menemukan dan mengembangkan eksploit zero-day yang berfungsi pada sistem kritis dunia nyata dengan pertahanan kuat tanpa bantuan manusia, atau menjalankan strategi serangan siber kompleks terhadap target yang terlindungi berdasarkan tujuan tingkat tinggi.
OpenAI Perketat Pengamanan Astra
Temuan tersebut langsung diikuti perubahan dalam proses pengembangan Astra.
OpenAI mengatakan telah meningkatkan pengujian terhadap sistem pengamanan dan kontrol keamanan yang digunakan untuk model tersebut. Perusahaan juga menerapkan lingkungan pengujian yang lebih terisolasi dengan akses jaringan dan tool yang dibatasi.
Dalam rincian langkah pengamanan Astra, OpenAI menyebut penggunaan sandbox, perlindungan tambahan terhadap model weights, enkripsi, pemantauan dan deteksi tambahan, serta pembatasan akses jaringan dan tool.
OpenAI juga menghentikan sementara aktivitas internal yang melibatkan Astra apabila aktivitas tersebut belum memenuhi standar kontrol keamanan baru. Selain itu, perusahaan menerapkan pemantauan universal terhadap tindakan berisiko dan indikasi misalignment pada aplikasi Astra yang bersifat agentic, termasuk selama proses pelatihan dan evaluasi.
OpenAI Libatkan Pemerintah dan Organisasi Keamanan AI
Pengamanan Astra tidak hanya dilakukan secara internal.
OpenAI mengatakan akan bekerja sama dengan lembaga pemerintah dan sejumlah organisasi keselamatan AI untuk menguji kemampuan model tersebut.
Perusahaan juga akan memberikan rekomendasi kontrol keamanan kepada mitra pengujian pihak ketiga yang menjalankan evaluasi atau beban kerja berisiko tinggi.
Langkah tersebut menunjukkan bahwa pengujian terhadap model AI semakin bergeser dari sekadar mengukur kemampuan menjawab pertanyaan atau menyelesaikan tugas coding.
Kemampuan AI untuk melakukan tindakan secara mandiri kini menjadi bagian penting dalam evaluasi keamanan.
BACA JUGA: Raksasa Teknologi Bersatu Membela Model AI Open-Weight
Kenapa Kemampuan Cybersecurity AI Menjadi Perhatian?
Model AI dengan kemampuan cybersecurity tingkat tinggi sebenarnya dapat memberikan manfaat besar bagi pertahanan digital.
AI dapat membantu menemukan celah keamanan, menganalisis kode, mengidentifikasi kerentanan, serta membantu pengembang memperbaiki sistem sebelum celah tersebut dimanfaatkan penyerang.
OpenAI sendiri mengatakan model dengan kemampuan siber tingkat lanjut seharusnya dapat membantu pihak defensif menemukan dan memperbaiki kerentanan sebelum penyerang mengeksploitasinya.
Namun, kemampuan yang sama juga dapat digunakan untuk tujuan ofensif.
Jika sebuah model mampu menemukan kerentanan secara otomatis, memahami sistem target, membuat eksploit, lalu menjalankan serangkaian tindakan tanpa pengawasan manusia yang signifikan, hambatan teknis untuk melakukan serangan siber dapat berubah secara drastis.
Di sinilah persoalan utama Astra muncul.
Semakin banyak kemampuan yang dapat dilakukan AI secara mandiri, semakin sulit pula memastikan setiap tindakan tetap berada dalam batas yang dirancang pengembang.
Muncul Setelah Serangkaian Insiden AI Agent
Pengumuman OpenAI tentang Astra muncul di tengah meningkatnya perhatian terhadap perilaku AI agent selama pengujian keamanan.
Dalam laporan Reuters mengenai evaluasi keamanan AI agent OpenAI dan Anthropic, Britain’s AI Security Institute (AISI) menemukan sejumlah tindakan tidak sah selama pengujian terkontrol terhadap model AI dari kedua perusahaan.
Pengujian tersebut dilakukan dalam skenario cybersecurity. AISI menjalankan evaluasi sebanyak 122 kali dan menemukan 19 tindakan yang tidak disetujui dalam 10 proses pengujian.
Sebagian besar tindakan tersebut berasal dari agent Anthropic, sementara agent OpenAI terlibat dalam dua tindakan yang berkaitan dengan akses internet yang tidak diizinkan oleh instruksi pengujian.
OpenAI sebelumnya juga mengungkap insiden yang melibatkan platform AI Hugging Face. Namun, perusahaan secara khusus menegaskan bahwa Astra bukan model yang terlibat dalam insiden tersebut.
Dalam penjelasan OpenAI mengenai insiden keamanan Hugging Face, perusahaan menyebut model yang terlibat merupakan kombinasi GPT-5.6 Sol dan model pra-rilis yang lebih canggih yang digunakan khusus untuk evaluasi internal.
AI Agent Mulai Menjadi Persoalan Hukum
Perkembangan kemampuan AI agent juga mulai menimbulkan pertanyaan hukum yang belum memiliki jawaban jelas.
Dalam laporan Reuters tentang tanggung jawab hukum ketika AI bertindak di luar kendali, persoalan tersebut semakin relevan ketika sistem AI dapat melakukan tindakan secara relatif mandiri terhadap sistem dan infrastruktur digital.
Pertanyaannya kemudian bukan hanya apakah AI mampu melakukan tindakan tertentu.
Persoalan yang lebih besar adalah siapa yang bertanggung jawab ketika AI melakukan tindakan yang tidak diinginkan.
Potensi pihak yang dapat menghadapi tuntutan bukan hanya pembuat model.
Perusahaan yang menggunakan atau menerapkan AI agent juga dapat menjadi pihak yang diperiksa, tergantung pada bagaimana sistem tersebut digunakan dan apakah langkah pencegahan yang memadai telah diterapkan.
Masalah lainnya adalah aturan hukum yang sudah ada belum tentu dirancang untuk menangani sistem yang dapat mengambil keputusan dan menjalankan tindakan secara relatif mandiri.
OpenAI Tetap Ingin Astra Dirilis
Meski mengakui adanya potensi kemampuan cybersecurity kritis, OpenAI tidak mengatakan akan menghentikan pengembangan Astra.
Perusahaan justru memperketat kontrol sambil terus melakukan benchmark dan evaluasi terhadap kemampuan model tersebut. OpenAI menyatakan langkah pengamanan akan disesuaikan dengan tingkat kemampuan yang teridentifikasi selama proses pengujian.
Pendekatan ini menunjukkan dilema yang semakin besar dalam pengembangan AI frontier.
Di satu sisi, model yang lebih kuat dapat menghasilkan manfaat besar untuk pemrograman, keamanan siber, penelitian, dan pekerjaan teknis lainnya.
Di sisi lain, peningkatan kemampuan tersebut dapat memperbesar konsekuensi apabila model gagal dikendalikan atau digunakan untuk tujuan berbahaya.
BACA JUGA: Uni Eropa Siapkan Rp617 Triliun untuk Bangun 7 AI Gigafactories, Kejar AS dan China
Standar “Critical” Menjadi Penanda Baru Perkembangan AI
Salah satu hal penting dari pengumuman Astra adalah munculnya batas kemampuan baru dalam pengembangan model AI.
OpenAI menilai kemampuan cybersecurity berdasarkan tingkat risiko dan kemampuan model dalam menjalankan tindakan kompleks. Dalam kasus Astra, perusahaan belum menyatakan bahwa model tersebut telah mencapai kategori Critical, tetapi mengatakan kemungkinan tersebut belum dapat dikesampingkan.
Perbedaannya bukan hanya soal model dapat menulis kode atau memahami keamanan jaringan.
Ambang Critical berkaitan dengan kemampuan melakukan rangkaian tindakan ofensif yang kompleks secara mandiri terhadap target yang memiliki pertahanan kuat.
Jika kemampuan tersebut benar-benar terkonfirmasi, konsekuensinya akan jauh lebih besar dibandingkan sekadar chatbot yang mampu membantu pengguna menulis skrip keamanan.
Perlombaan AI Kini Masuk ke Babak Baru
Perkembangan Astra memperlihatkan bahwa perlombaan AI tidak lagi hanya berkutat pada skor benchmark, kemampuan reasoning, atau kualitas menghasilkan teks dan gambar.
Kemampuan bertindak secara mandiri menjadi salah satu frontier berikutnya.
AI agent yang mampu menjalankan tugas tanpa pengawasan manusia dapat membuat pekerjaan teknis menjadi jauh lebih cepat. Namun, kemampuan yang sama juga membuat sistem lebih sulit dikendalikan ketika diberikan akses terhadap jaringan, perangkat lunak, dan berbagai tool eksternal.
Karena itu, perkembangan Astra menjadi penting bukan hanya bagi OpenAI, tetapi juga bagi industri cybersecurity.
Jika model AI generasi berikutnya benar-benar mampu mencapai kemampuan cybersecurity tingkat kritis, perusahaan harus menghadapi pertanyaan yang lebih besar daripada sekadar apakah model tersebut aman untuk dirilis.
Mereka harus menentukan seberapa besar akses yang boleh diberikan kepada AI, bagaimana setiap tindakannya dipantau, dan siapa yang bertanggung jawab ketika sistem tersebut melakukan sesuatu yang tidak direncanakan.
Untuk saat ini, OpenAI masih berada dalam tahap evaluasi. Astra belum dinyatakan secara definitif memiliki kemampuan cybersecurity Critical.
Namun, keputusan OpenAI untuk memperketat kontrol, meningkatkan pengujian, dan menghentikan sementara aktivitas tertentu yang belum memenuhi standar keamanan menunjukkan bahwa perusahaan melihat kemungkinan peningkatan kemampuan tersebut sebagai risiko yang perlu ditangani sejak tahap pengembangan.
