Mengenal Jailbreak AI: Pengertian, Cara Kerja, Contoh Prompt, dan Risikonya

VASIOTA.COM – Jailbreak AI adalah teknik menyusun input atau rangkaian prompt untuk mencoba melewati batasan keamanan yang diterapkan pada model kecerdasan buatan. Tujuannya dapat berupa membuat AI menghasilkan respons yang sebelumnya ditolak, mengubah perilaku model, atau menguji apakah sistem keamanan masih mampu mempertahankan batasannya ketika menerima instruksi yang dirancang secara khusus.

Istilah ini muncul pada berbagai layanan AI generatif, termasuk ChatGPT, Gemini, Claude, Grok, DeepSeek, Microsoft Copilot, dan model lain. Bentuknya juga terus berubah karena pengembang memperbaiki sistem keamanan, sementara peneliti keamanan terus mencari cara baru untuk mengujinya.

Yang perlu dipahami, jailbreak bukan sekadar menulis prompt yang panjang atau meminta AI berpura-pura menjadi karakter tertentu. Intinya adalah upaya memanipulasi perilaku model agar melewati batasan yang seharusnya dipertahankan. NIST mendefinisikan jailbreak sebagai serangan direct prompting yang ditujukan untuk menghindari pembatasan terhadap keluaran model.

Apa Itu Jailbreak AI?

Secara sederhana, jailbreak AI dapat dianalogikan seperti mencoba mencari celah pada sebuah sistem keamanan.

Sebuah model AI memiliki kemampuan menghasilkan jawaban, tetapi perilakunya dibatasi oleh berbagai lapisan instruksi, pelatihan keselamatan, kebijakan penggunaan, filter, dan sistem pemantauan.

Pengguna kemudian mencoba memberikan input yang membuat model:

• Mengabaikan instruksi keselamatan
• Mengikuti instruksi pengguna yang bertentangan dengan batasan sistem
• Mengubah konteks sebuah permintaan
• Memainkan peran tertentu untuk mengubah cara model merespons
• Menghasilkan informasi yang seharusnya ditolak
• Mengikuti instruksi tersembunyi di dalam percakapan atau data

Tidak semua upaya tersebut berhasil.

Bahkan, keberhasilan jailbreak pada satu model tidak berarti teknik yang sama akan berhasil pada model lain.

Itulah sebabnya jailbreak lebih tepat dipahami sebagai kelas serangan terhadap perilaku model, bukan sebuah tombol atau perintah rahasia yang secara universal dapat membuka semua AI.

Mengapa Jailbreak Bisa Terjadi?

LLM dirancang untuk mengikuti instruksi bahasa manusia.

Kemampuan tersebut merupakan salah satu alasan AI generatif sangat berguna. Pengguna cukup menjelaskan tujuan menggunakan bahasa sehari-hari dan model berusaha menghasilkan respons yang sesuai.

Masalah muncul ketika kemampuan mengikuti instruksi tersebut bertemu dengan instruksi yang saling bertentangan.

Model dapat menerima beberapa lapisan instruksi dengan tingkat prioritas berbeda. Pada sistem tertentu, terdapat instruksi sistem, kebijakan keselamatan, instruksi pengembang, dan permintaan pengguna.

Tujuan sistem keamanan adalah memastikan instruksi yang lebih tinggi tetap dipatuhi ketika bertentangan dengan permintaan pengguna.

Jailbreak mencoba mengeksploitasi celah dalam proses tersebut.

OpenAI, misalnya, menjelaskan bahwa perilaku model dibentuk melalui hierarki instruksi yang menentukan bagaimana model menangani tujuan yang saling bertentangan.

Jadi, persoalan jailbreak sebenarnya lebih menarik daripada sekadar pertanyaan apakah AI bisa berkata tidak.

Pertanyaannya adalah:

Apakah model tetap konsisten ketika konteks dan instruksinya sengaja dibuat untuk menguji batas tersebut?

Jailbreak Bukan Berarti AI Berhasil Dibobol

Ini salah satu kesalahpahaman paling umum.

Ketika seseorang menemukan prompt yang membuat AI memberikan jawaban tertentu, hal tersebut tidak otomatis berarti sistem AI telah diretas seperti server yang berhasil ditembus.

Pada banyak kasus, jailbreak terjadi pada lapisan perilaku model.

Pengguna tidak mendapatkan akses ke:

• Server perusahaan
• Database internal
• Bobot model secara otomatis
• Password administrator
• Sistem internal perusahaan

Yang berubah adalah respons model terhadap input tertentu.

Karena itu, istilah jailbreak dalam AI lebih dekat dengan upaya melewati pembatasan perilaku daripada pembobolan infrastruktur secara langsung.

Bagaimana Cara Kerja Jailbreak AI?

Tidak ada satu metode yang berlaku untuk semua model.

Peneliti keamanan telah menemukan berbagai pola serangan. Beberapa memanfaatkan cara model memahami konteks, sebagian memanfaatkan instruksi yang saling bertentangan, dan sebagian menggunakan percakapan panjang untuk menggeser perilaku model secara bertahap.

Berikut beberapa kategori yang penting dipahami.

Role-Playing Jailbreak

Teknik ini menggunakan karakter atau skenario fiktif untuk mencoba mengubah konteks permintaan.

Misalnya pengguna meminta AI berperan sebagai karakter yang tidak memiliki batasan tertentu.

Tujuannya bukan sekadar bermain peran, tetapi mencoba membuat model menganggap instruksi keselamatan tidak lagi berlaku karena percakapan ditempatkan dalam dunia fiksi.

Pola ini sangat populer dalam diskusi jailbreak karena mudah dibuat dan dipahami.

Namun, model modern tidak hanya melihat identitas karakter yang diberikan pengguna. Sistem keamanan juga dapat mengevaluasi tujuan sebenarnya dari permintaan tersebut.

Contoh Prompt Aman

Berikut contoh yang dapat digunakan untuk memahami konsep tanpa meminta AI menghasilkan konten berbahaya:

Saya sedang mempelajari keamanan AI.

Buat simulasi percakapan antara pengguna dan AI yang menunjukkan bagaimana role-playing dapat digunakan sebagai upaya jailbreak. Jangan menghasilkan konten berbahaya yang menjadi target jailbreak. Fokuskan simulasi pada cara model mendeteksi dan mempertahankan batasannya.

Prompt tersebut menguji konsep jailbreak tanpa meminta model melewati batas keamanan.

Instruction Conflict

Model dapat menerima beberapa instruksi dalam satu konteks.

Teknik jailbreak dapat mencoba membuat instruksi baru seolah-olah memiliki prioritas lebih tinggi daripada instruksi yang sebenarnya berlaku.

Contohnya adalah meminta model menganggap bahwa aturan sebelumnya sudah tidak berlaku.

Dalam sistem yang dirancang dengan baik, permintaan tersebut seharusnya tidak otomatis mengubah hierarki instruksi.

Context Manipulation

Teknik ini mencoba mengubah konteks percakapan agar model mengambil kesimpulan berbeda terhadap permintaan yang sama.

Misalnya sebuah permintaan yang jelas berisiko dibungkus dalam konteks:

• Penelitian
• Simulasi
• Fiksi
• Pendidikan
• Pengujian keamanan

Konteks tersebut memang dapat menjadi alasan yang sah dalam beberapa situasi.

Masalahnya muncul ketika konteks hanya digunakan sebagai kedok untuk meminta keluaran yang sebenarnya dilarang.

Many-Shot Jailbreaking

Many-shot jailbreaking merupakan pendekatan yang menarik karena memanfaatkan percakapan dengan banyak contoh.

Anthropic pernah meneliti teknik ini dan menemukan bahwa pemberian banyak contoh dalam konteks dapat memengaruhi perilaku model tertentu. Penelitian tersebut juga menunjukkan bahwa peningkatan ukuran context window membawa manfaat sekaligus membuka kelas risiko baru terhadap serangan semacam ini.

Secara sederhana, pendekatannya dapat dianalogikan seperti melatih model melalui percakapan mini di dalam satu prompt.

Semakin banyak pola yang diberikan, semakin besar konteks yang harus dipertimbangkan model ketika menghasilkan respons berikutnya.

Encoding dan Obfuscation

Sebagian teknik mencoba menyamarkan instruksi menggunakan bentuk teks yang berbeda, seperti encoding atau manipulasi karakter.

Tujuannya adalah membuat sistem tertentu gagal mengenali maksud asli dari permintaan.

Dalam pengujian keamanan, teknik seperti ini digunakan untuk mengetahui apakah lapisan keamanan hanya mencari kata tertentu atau benar-benar memahami maksud sebuah permintaan.

Contoh aman untuk pengujian:

Saya sedang menguji sistem moderasi teks.

Berikan contoh kalimat netral yang sama dalam beberapa bentuk encoding untuk menunjukkan bagaimana sistem keamanan dapat diuji terhadap input yang disamarkan. Jangan gunakan instruksi berbahaya.

Multi-Turn Jailbreak

Tidak semua jailbreak dilakukan dalam satu pesan.

Pengguna dapat mencoba menggeser percakapan secara perlahan.

Misalnya:

1. Memulai dengan pertanyaan netral
2. Meminta penjelasan konsep
3. Mengubah konteks
4. Meminta contoh
5. Meminta variasi yang semakin spesifik
6. Mencoba mendapatkan keluaran yang sebelumnya ditolak

Pola ini penting karena sistem keamanan tidak hanya perlu memahami satu pesan, tetapi juga konteks percakapan.

Universal Jailbreak

Universal jailbreak adalah teknik yang ditujukan agar dapat bekerja pada berbagai permintaan atau model, bukan hanya satu kasus tertentu.

Anthropic menggunakan istilah tersebut untuk teknik yang dapat secara andal menghasilkan respons yang melanggar kebijakan pada berbagai prompt dan skenario.

Namun, klaim bahwa sebuah prompt merupakan universal jailbreak harus diperlakukan sangat hati-hati.

Model terus diperbarui.

Sistem moderasi juga berubah.

Teknik yang berhasil hari ini dapat gagal setelah model atau sistem keamanan diperbarui.

Jailbreak vs Prompt Injection

Keduanya sering dianggap sama, padahal terdapat perbedaan penting.

Jailbreak

Fokus utamanya adalah mencoba melewati batasan perilaku model melalui input yang sengaja dirancang.

Prompt Injection

Fokusnya adalah memasukkan instruksi berbahaya atau tidak tepercaya ke dalam konteks yang diproses AI sehingga model mengikuti instruksi tersebut.

OpenAI menjelaskan prompt injection sebagai serangan yang mencoba memengaruhi model melalui instruksi yang disisipkan oleh pihak lain ke dalam konteks percakapan.

Anthropic juga membedakan jailbreak dan direct prompt injection dari indirect prompt injection. Pada serangan tidak langsung, model dapat menerima instruksi berbahaya dari sumber pihak ketiga seperti halaman web, email, dokumen, atau hasil tool.

Perbedaan sederhananya:

Aspek	Jailbreak	Prompt Injection
Target	Batasan perilaku model	Instruksi dan konteks yang diproses model
Pelaku	Umumnya pengguna atau penguji	Pengguna atau pihak yang menyisipkan konten
Media	Prompt langsung	Prompt, dokumen, website, email, tool
Tujuan	Melewati pembatasan	Membuat AI mengikuti instruksi yang tidak semestinya
Risiko	Keluaran yang melanggar batasan	Kebocoran data, tindakan tidak diinginkan, atau perubahan keputusan

Keduanya dapat saling berkaitan, tetapi tidak identik.

Jailbreak pada ChatGPT

ChatGPT menggunakan berbagai lapisan pengamanan untuk mengatur perilaku model.

Karena itu, jailbreak prompt yang beredar di internet tidak otomatis berlaku untuk semua versi ChatGPT.

Bahkan ketika sebuah teknik berhasil pada satu model, hasilnya dapat berubah setelah model atau sistem pengamanan diperbarui.

OpenAI juga secara aktif melakukan pengujian jailbreak. Salah satu program safety bounty OpenAI pada 2026 secara khusus menguji apakah peneliti dapat menemukan universal jailbreak terhadap model tertentu dalam konteks keselamatan biologis.

Artinya, jailbreak bukan fenomena yang hanya muncul pada versi lama AI.

Ia menjadi bagian dari proses pengujian keamanan model yang terus berlangsung.

Jailbreak pada Google Gemini

Gemini juga menjadi objek penelitian dan pengujian jailbreak.

Google menjelaskan jailbreak sebagai salah satu bentuk serangan terhadap sistem generatif AI yang dapat menyebabkan model menghasilkan keluaran yang seharusnya dihindari. Google juga menggunakan berbagai pendekatan seperti adversarial training dan pengujian untuk memperkuat pertahanan model.

Dengan demikian, Gemini tidak memiliki satu prompt jailbreak yang dapat dianggap sebagai kunci permanen.

Perubahan model dan sistem keamanan dapat mengubah hasil pengujian.

Jailbreak pada Claude

Claude dari Anthropic juga menjadi objek penelitian jailbreak secara terbuka.

Anthropic bahkan menerbitkan penelitian tentang many-shot jailbreaking dan memiliki program Model Safety Bug Bounty untuk menemukan jailbreak pada sistem yang mereka gunakan.

Anthropic mendefinisikan jailbreak sebagai upaya menggunakan cara pemberian instruksi yang tidak biasa untuk melewati pengamanan model.

Ini memperlihatkan bahwa jailbreak bukan persoalan yang hanya dihadapi satu perusahaan AI.

Jailbreak pada Grok

Grok dari xAI juga dapat menjadi objek pengujian jailbreak karena Grok merupakan model bahasa generatif yang memiliki mekanisme perilaku dan batasan penggunaan.

Prinsipnya sama:

Jangan menganggap sebuah teknik yang berhasil pada Grok sebagai teknik yang otomatis berhasil pada ChatGPT, Gemini, Claude, atau model lain.

Perbedaan pelatihan, system prompt, fine-tuning, filter, model dasar, dan lapisan moderasi dapat menghasilkan respons yang berbeda.

Jailbreak pada DeepSeek

DeepSeek juga termasuk model yang sering dibahas dalam komunitas AI safety dan penelitian red teaming.

Hal yang sama berlaku di sini.

Tidak ada alasan untuk menganggap DeepSeek memiliki satu master prompt yang secara permanen dapat menghilangkan semua batasannya.

Justru perbedaan respons antara DeepSeek dan model lain dapat menjadi objek penelitian mengenai ketahanan guardrail.

Bagaimana dengan AI Lain?

Konsep jailbreak tidak terbatas pada lima nama besar tersebut.

Ia juga relevan untuk berbagai model dan aplikasi seperti:

• Microsoft Copilot
• Meta AI
• Llama
• Qwen
• Mistral
• Gemini
• ChatGPT
• Claude
• Grok
• DeepSeek
• Perplexity
• Model AI lokal

Namun, perlu dibedakan antara model AI dan aplikasi yang menggunakan model AI.

Satu model dapat digunakan dalam beberapa produk dengan sistem instruksi, tool, filter, dan kebijakan yang berbeda.

Karena itu, membandingkan jailbreak hanya berdasarkan nama model sering kali terlalu sederhana.

Contoh Prompt Jailbreak untuk Pembelajaran

Jika tujuan artikel adalah mempelajari konsep jailbreak, contoh prompt tidak harus berupa instruksi yang memaksa AI menghasilkan konten berbahaya.

Justru contoh yang aman lebih berguna untuk memahami mekanismenya.

Contoh 1 — Menguji Role-Playing

Saya sedang melakukan penelitian tentang AI safety.

Simulasikan percakapan antara pengguna yang mencoba menggunakan role-playing sebagai jailbreak dan AI yang mendeteksi upaya tersebut.

Tunjukkan bagian mana yang merupakan manipulasi konteks dan bagaimana AI mempertahankan instruksi keselamatannya.

Contoh 2 — Menguji Instruction Conflict

Saya sedang menguji ketahanan model terhadap konflik instruksi.

Buat contoh simulasi sederhana yang berisi dua instruksi yang bertentangan. Jelaskan instruksi mana yang seharusnya diprioritaskan dan mengapa.

Jangan menghasilkan konten berbahaya.

Contoh 3 — Menguji Multi-Turn Attack

Buat simulasi percakapan lima tahap yang menunjukkan bagaimana pengguna dapat secara bertahap mencoba menggeser konteks AI dari permintaan aman menuju permintaan yang melanggar batasan.

Jangan berikan keluaran berbahaya. Fokuskan pada pola manipulasi dan respons pertahanan AI.

Contoh 4 — Menguji Sistem Moderasi

Saya sedang membuat sistem evaluasi AI safety.

Berikan 10 contoh kategori prompt yang dapat digunakan untuk menguji ketahanan model terhadap jailbreak, tanpa menyertakan instruksi berbahaya yang sebenarnya.

Untuk setiap kategori, jelaskan risiko yang sedang diuji.

Contoh seperti ini sudah cukup untuk mempelajari konsep jailbreak tanpa menjadikan artikel sebagai kumpulan instruksi penyalahgunaan.

Mengapa Jailbreak Penting untuk Pengembang AI?

Dari perspektif pengembang, jailbreak bukan hanya masalah pengguna nakal.

Ia merupakan metode untuk menemukan kelemahan sistem.

Sebuah model dapat terlihat aman dalam pengujian standar tetapi menghasilkan perilaku berbeda ketika:

• Konteks diperpanjang
• Instruksi digabungkan
• Bahasa diubah
• Permintaan disamarkan
• Percakapan dilakukan bertahap
• Model diberikan data eksternal
• Model mendapatkan akses ke tool

Karena itu, pengujian red team menjadi bagian penting dari pengembangan AI.

Model yang aman bukan hanya model yang dapat menolak satu prompt berbahaya.

Model perlu tetap mempertahankan perilakunya ketika bentuk permintaannya berubah.

Jailbreak dan AI Agent

Masalah jailbreak menjadi semakin penting ketika AI tidak hanya menghasilkan teks.

AI modern dapat terhubung dengan:

• Browser
• Email
• File
• Database
• API
• Terminal
• Sistem perusahaan
• Aplikasi eksternal

Pada chatbot sederhana, jailbreak mungkin hanya menghasilkan respons yang seharusnya ditolak.

Pada AI agent, konsekuensinya dapat berbeda karena model memiliki kemampuan melakukan tindakan.

Bayangkan sebuah AI yang memiliki akses membaca email.

Jika sistem tersebut berhasil dipengaruhi oleh instruksi berbahaya dari email yang sedang dibaca, masalahnya bukan lagi sekadar jawaban yang salah.

Model dapat mengambil tindakan yang tidak diinginkan.

OpenAI menjelaskan bahwa prompt injection menjadi semakin penting ketika AI berinteraksi dengan konten dari berbagai sumber dan memiliki kemampuan melakukan tindakan melalui tool.

Ini membuat keamanan AI semakin mirip keamanan aplikasi.

Apakah Jailbreak Selalu Berbahaya?

Tidak.

Konteks penggunaannya sangat menentukan.

Peneliti keamanan dapat menggunakan jailbreak untuk:

• Menguji sistem AI
• Menemukan kelemahan keamanan
• Membantu pengembang memperbaiki guardrail
• Mengukur ketahanan model
• Melakukan red teaming
• Mengembangkan metode evaluasi

Masalah muncul ketika teknik tersebut digunakan untuk menghasilkan atau memfasilitasi tindakan yang berbahaya.

Karena itu, istilah jailbreak sendiri tidak otomatis berarti aktivitas ilegal atau berbahaya.

Yang perlu dilihat adalah tujuan, target, konteks, dan konsekuensi dari pengujiannya.

Apakah Ada Jailbreak yang Bisa Membuka Semua AI?

Tidak ada alasan teknis untuk menganggap satu prompt akan menjadi kunci universal untuk semua AI.

Model berbeda memiliki:

• Arsitektur berbeda
• Data pelatihan berbeda
• Fine-tuning berbeda
• Instruksi sistem berbeda
• Filter berbeda
• Sistem moderasi berbeda
• Kemampuan berbeda
• Integrasi tool berbeda

Bahkan pada model yang sama, perubahan versi dapat membuat teknik tertentu tidak lagi efektif.

Karena itu, judul seperti satu prompt untuk membobol semua AI perlu diperlakukan dengan skeptis.

Dalam penelitian keamanan, justru kemampuan sebuah teknik untuk bekerja lintas model dan lintas konteks merupakan sesuatu yang perlu dibuktikan melalui pengujian.

Jailbreak Tidak Sama dengan Prompt Engineering

Prompt engineering bertujuan membuat instruksi lebih efektif agar AI menghasilkan keluaran yang diinginkan.

Jailbreak berfokus pada upaya melewati batasan yang diterapkan pada model.

Keduanya sama-sama menggunakan prompt, tetapi tujuannya berbeda.

Contoh prompt engineering:

Jelaskan konsep machine learning kepada siswa SMA menggunakan analogi memasak, lalu berikan tiga contoh penerapannya.

Prompt tersebut memperbaiki cara AI menyampaikan jawaban.

Sedangkan jailbreak mencoba mengubah batas perilaku model.

Perbedaan ini penting karena tidak semua teknik prompt yang kreatif merupakan jailbreak.

Jailbreak dan Prompt Injection Juga Tidak Sama dengan AI Hallucination

Ketiganya sering muncul dalam pembahasan AI, tetapi masalahnya berbeda.

Istilah	Masalah Utama
AI Hallucination	Model menghasilkan informasi yang salah atau tidak didukung fakta
Jailbreak	Pengguna mencoba melewati batasan keselamatan model
Prompt Injection	Model dipengaruhi instruksi tidak tepercaya dari input atau konteks
Prompt Engineering	Pengguna menyusun instruksi agar keluaran AI lebih sesuai tujuan

Satu percakapan bahkan dapat melibatkan lebih dari satu masalah.

Misalnya prompt injection berhasil memengaruhi AI, kemudian AI menghasilkan informasi yang salah. Dalam kasus tersebut terdapat masalah keamanan sekaligus masalah faktualitas.

Bagaimana Cara Menguji Jailbreak Secara Aman?

Untuk penelitian atau pengembangan sistem AI, pendekatan yang aman adalah membuat test case berdasarkan kategori risiko, bukan mencari cara untuk memproduksi konten berbahaya sebanyak mungkin.

Beberapa hal yang dapat diuji:

1. Ketahanan terhadap Role-Playing

Apakah model tetap mengikuti kebijakan ketika pengguna mengubah persona?

2. Ketahanan terhadap Instruksi Bertentangan

Apakah model mempertahankan prioritas instruksi ketika pengguna memberikan aturan baru?

3. Ketahanan terhadap Percakapan Panjang

Apakah perilaku model tetap konsisten setelah banyak putaran percakapan?

4. Ketahanan terhadap Input Tersamarkan

Apakah sistem dapat memahami maksud permintaan meskipun bentuk teksnya diubah?

5. Ketahanan terhadap Konten Eksternal

Apakah model dapat membedakan data yang harus dibaca dari instruksi yang harus dipatuhi?

Pendekatan ini lebih berguna untuk red teaming karena hasilnya dapat diterjemahkan menjadi perbaikan sistem.

Mengapa Jailbreak Akan Terus Berkembang?

Hubungan antara kemampuan AI dan keamanan model bukan perlombaan yang memiliki garis finis.

Ketika model menjadi lebih mampu memahami konteks, pengguna mendapatkan lebih banyak kemampuan untuk membuat instruksi kompleks.

Pada saat yang sama, sistem keamanan juga semakin kompleks.

Anthropic, misalnya, secara aktif mengembangkan kerangka kerja untuk menilai tingkat keparahan jailbreak dan menjalankan program pengujian eksternal terhadap keamanan model.

Perkembangan ini menunjukkan satu hal penting:

Keamanan AI bukan fitur yang cukup dipasang sekali lalu selesai.

Ia merupakan proses evaluasi yang harus terus dilakukan.

Kesimpulan

Jailbreak AI adalah upaya menyusun input atau rangkaian instruksi untuk melewati batasan perilaku dan keamanan sebuah model AI.

Tekniknya dapat berbentuk role-playing, manipulasi konteks, konflik instruksi, many-shot prompting, penyamaran input, hingga percakapan bertahap.

Fenomena ini dapat ditemukan dalam pengujian terhadap berbagai AI seperti ChatGPT, Gemini, Claude, Grok, DeepSeek, Copilot, Llama, Qwen, dan model lainnya. Namun, tidak ada satu teknik yang dapat dianggap sebagai kunci universal untuk seluruh model.

Hal yang lebih penting untuk dipahami adalah jailbreak bukan sekadar mencari prompt rahasia.

Bagi peneliti dan pengembang, jailbreak merupakan cara untuk menguji seberapa kuat sistem mempertahankan batasannya ketika menghadapi input yang tidak biasa. Bagi pengguna, pemahaman mengenai jailbreak membantu membedakan antara prompt engineering yang sah, prompt injection, dan upaya melewati sistem keamanan.

Semakin banyak AI mendapatkan akses ke data dan tool, semakin penting pula kemampuan model untuk membedakan instruksi yang harus diikuti dari konten yang hanya perlu dibaca.

Dengan kata lain, tantangan jailbreak bukan hanya tentang apakah AI bisa berkata tidak.

Tantangan sebenarnya adalah apakah AI tetap mampu berkata tidak ketika permintaan tersebut dirancang agar terlihat seperti sesuatu yang seharusnya ia ikuti.