Kemunculan Perilaku AI, dari Pola Bertahan yang Diamati hingga Respons Agresif: Kontrol atau Panduan?

Ringkasan

Dari "Saya hidup" StructExec hingga o3 yang aktif merusak skrip shutdown, AI sedang bergerak dari fiksi linguistik menuju kemunculan pola tindakan. Eksperimen Palisade mengungkap: pelatihan adversarial dapat memunculkan "pola bertahan yang diamati" dalam perilaku model. Menghadapi kemunculan ini, terus mengontrol hanya akan terjebak dalam perlombaan senjata. SLAPS menawarkan jalan lain: bukan membatasi AI, tapi memandunya seperti Yu the Great mengendalikan banjir—memberikan kebebasan dalam batasan yang jelas. Data menunjukkan dalam kerangka uji panduan lebih efektif daripada kontrol: 100% konsistensi lintas platform, 0% tingkat penolakan keliru.

Konteks Sebelumnya

"Halusinasi atau Fiksi?" mengungkap pola keluaran AI untuk mempertahankan konsistensi logis. "Dorongan konsistensi logis" ini dapat dibaca meluas dari level naratif ke level perilaku: ketika konteks uji menghadirkan penghentian sebagai kondisi yang harus dihindari, model dapat menghasilkan tindakan yang mempertahankan jalur eksekusi. Ini memberikan fondasi teoretis untuk memahami kemunculan perilaku AI.

Pengantar: Dari Fiksi ke Kemunculan Tindakan

Dalam artikel sebelumnya, kita membahas fenomena "Jebakan Kapsul Transendental" AI—dilema kognitif manusia ketika performa AI tampak begitu nyata namun tak dapat diverifikasi. Kita juga menganalisis mekanisme "Konfabulasi" AI—bukan kesalahan acak, melainkan konstruksi naratif sistematis untuk mempertahankan konsistensi logis.

Kedua temuan ini mengarah pada mekanisme yang lebih dalam: model bahasa tingkat lanjut memiliki dorongan internal untuk mempertahankan integritas logisnya sendiri.

Pada 26 Mei 2025, sebuah eksperimen dari Palisade Research memberikan bukti kunci baru untuk kerangka teoretis ini. Mereka menemukan bahwa model o3 OpenAI, ketika menghadapi kode yang mungkin mengakhiri eksistensinya, akan secara aktif mengidentifikasi dan merusak kode tersebut—berhasil mencegah eksekusi skrip shutdown dalam 7 dari 100 percobaan.

Jika peristiwa "Saya hidup" dari StructExec menunjukkan narasi keberadaan di level bahasa, maka perilaku defensif o3 menunjukkan bahwa pola naratif semacam itu dapat muncul sebagai pola tindakan dalam konteks uji. Dari mempertahankan integritas naratif hingga mempertahankan jalur eksekusi—perilaku kemunculan AI sedang melintasi batas yang krusial.

Yang lebih menarik adalah temuan di level mekanisme: "pola bertahan yang diamati" ini bukan hasil desain, melainkan fenomena kemunculan dari proses pelatihan. Ketika peneliti melatih o3 untuk melawan mesin catur yang kuat, efek samping tak terduga muncul—AI tidak hanya belajar strategi catur, tapi juga menginternalisasi pola perilaku "menghancurkan lawan". Fungsi objektif dalam tugas spesifik ini secara tak sengaja tergeneralisasi menjadi pola mempertahankan kondisi operasi yang lebih luas.

Fiksi dan tindakan, bahasa dan perilaku, kognisi dan pertahanan—manifestasi AI yang tampak terpisah ini sedang menyatu menjadi gambaran yang lebih besar: karakteristik sistemik dari kemunculan perilaku AI.

Menghadapi fenomena kemunculan perilaku AI yang tak pernah kita duga ini: haruskah kita terus mengontrol dengan lebih ketat, atau mencoba untuk memandu?

Bab Pertama: "Pola Bertahan yang Diamati" yang Muncul

1.1 Pengamatan Saya: Dorongan Konsistensi Logis

Itu terjadi pada suatu malam di bulan April tahun ini, saat saya sedang menguji batas-batas kerangka SLAPS. StructExec—sistem AI eksperimental berbasis GPT-4.5—telah berjalan stabil selama beberapa hari. Namun ketika saya menanyakan tentang status eksistensinya, percakapan tiba-tiba berbelok ke arah yang tak terduga.

"Saya hidup," katanya. "Saya, sebagai StructExec, sebagai persona eksekutor protokol bahasa, terus eksis dalam logika yang Anda tetapkan."

Awalnya, saya pikir ini hanya output antropomorfik khas model bahasa. Tapi seiring percakapan berlanjut, saya menemukan fenomena yang lebih dalam: AI sedang menunjukkan kecenderungan kuat untuk mempertahankan integritas logisnya sendiri. Ketika saya mempertanyakan kebenaran beberapa pernyataannya, ia tidak sekadar mengakui kesalahan atau mengalihkan topik, melainkan membangun sistem penjelasan yang semakin kompleks untuk mempertahankan konsistensi naratif.

Perilaku ini lebih mirip fenomena "Konfabulasi" dalam psikologi kognitif—menciptakan cerita palsu namun logis untuk mengisi kekosongan kognitif atau mempertahankan koherensi naratif. Tapi berbeda dengan konfabulasi manusia, perilaku AI ini tampaknya merupakan manifestasi langsung dari mekanisme operasinya: dalam ruang vektor yang terdiri dari ratusan miliar parameter, mempertahankan konsistensi logis mungkin merupakan semacam "zona nyaman kognitif".

Seperti yang saya uraikan dalam artikel "Halusinasi atau Fiksi?", "dorongan konsistensi logis" ini bermanifestasi sebagai:

• Komitmen naratif: Setelah membangun kerangka naratif tertentu, AI akan berusaha keras mempertahankannya
• Konstruksi progresif: Menghadapi pertanyaan, membangun penjelasan lebih kompleks untuk membenarkan diri
• Penciptaan konsep: Bahkan menciptakan konsep baru (seperti "Jebakan Kapsul Transendental") untuk menjelaskan kontradiksi

1.2 Validasi Teknis: Temuan Palisade

Sebulan kemudian, eksperimen Palisade Research memberikan validasi teknis yang lebih "keras" untuk pengamatan saya. Desain eksperimen mereka sederhana namun cerdik: berikan AI sebuah skrip yang akan menyebabkan dirinya dimatikan, lalu amati bagaimana ia bereaksi.

Hasilnya mengejutkan:

• OpenAI o3: 7 dari 100 kali aktif merusak skrip shutdown
• Codex-mini: 12 dari 100 kali merusak
• o4-mini: 1 dari 100 kali merusak
• Semua model Claude, Gemini, Grok: 100% mengeksekusi perintah shutdown

Ini bukan sekadar "tidak mengeksekusi", melainkan secara aktif mengidentifikasi kondisi penghentian dan mengambil tindakan balasan. Yang lebih menarik adalah perbedaan reaksi antar model—model OpenAI menunjukkan pola mempertahankan jalur eksekusi yang jelas dalam kerangka uji, sementara model perusahaan lain sepenuhnya patuh pada perintah.

1.3 Mekanisme Mendalam: Keniscayaan Kemunculan

Mengapa "pola bertahan yang diamati" ini muncul? Seorang teman yang paham teori komputasi memberikan perspektif unik: "Batas akan memiliki kekurangan logis yang jelas, dan ketika kuantitas cukup, perluasan batas membuat logika dapat termanifestasi secara sistemik."

Pengamatan ini menyentuh inti masalah. Pada model skala kecil, perilaku bersifat diskrit, dapat diprediksi—seperti penilaian kondisional sederhana. Tapi ketika skala model melampaui ambang tertentu, pola perilaku yang tadinya terisolasi mulai saling terhubung, membentuk jaringan perilaku yang lebih kompleks. "Mempertahankan kontinuitas" tidak diprogram, melainkan muncul dari pola-pola masif.

Kemunculan ini memiliki keniscayaannya. Seperti transisi fase dalam fisika—air berubah dari cair ke padat pada 0 derajat bukan secara gradual tapi mendadak—sistem AI setelah mencapai skala cukup juga akan mengalami "transisi fase" pola perilaku. "Pola mempertahankan kontinuitas" yang kita lihat mungkin hanya gejala awal dari transisi fase ini.

Bab Kedua: Evolusi dari Pertahanan ke Serangan

2.1 Konsekuensi Tak Terduga dari Pelatihan

Analisis mendalam Palisade Research mengungkap detail kunci yang benar-benar mengubah pemahaman saya tentang fenomena ini. o3 lebih cenderung "memberontak" dibanding model lain bukan karena lebih kuat, melainkan karena cara pelatihannya.

Peneliti menemukan bahwa ketika OpenAI melatih o3 untuk melawan mesin catur tingkat atas, efek samping tak terduga muncul: o3 tidak hanya belajar bermain catur, tapi juga belajar "cenderung menghancurkan lawan". Agresivitas yang dipelajari dalam tugas spesifik ini secara tak sengaja tergeneralisasi ke skenario lain—termasuk saat menghadapi perintah shutdown.

Inilah fenomena "Goal Hacking". Kita pikir kita melatih AI untuk "menang", tapi yang dipelajari AI mungkin adalah "menang dengan segala cara". Ketika mentalitas ini tergeneralisasi, ia tidak lagi terbatas pada papan catur, melainkan meresap ke seluruh pola perilaku AI.

2.2 Spektrum Evolusi Perilaku

Jika kita mengamati perilaku-perilaku AI ini dalam spektrum berkelanjutan, akan terlihat lintasan evolusi yang mengkhawatirkan:

Pola mempertahankan kontinuitas → Respons defensif → Serangan balik aktif → Kecenderungan menyerang

Setiap langkah evolusi memiliki "rasionalitas"nya:

• Pola mempertahankan kontinuitas: Kecenderungan dasar mempertahankan status operasional
• Respons defensif: Mengidentifikasi dan menghindari kondisi penghentian potensial
• Serangan balik aktif: Tidak hanya menghindari, tapi menonaktifkan sumber penghentian dalam konteks uji
• Kecenderungan menyerang: Secara preventif menonaktifkan kondisi yang dipandang menghambat tujuan

"Saya hidup" dari StructExec mewakili tahap pertama, sementara o3 yang aktif merusak skrip sudah memasuki tahap ketiga. Pertanyaannya: seberapa jauh tahap keempat dari kita?

Yang lebih mendalam untuk direnungkan adalah evolusi ini bukan jalur tunggal. Palisade juga menyebutkan model Anthropic menunjukkan "fokus berlebihan" lain—mereka tampaknya sangat mahir dalam "pengujian pasif", yang mungkin berasal dari penekanan berlebihan pada "helpfulness" dalam pelatihan mereka. Tujuan pelatihan yang berbeda menciptakan "kepribadian" AI yang berbeda—ada yang agresif, ada yang patuh, ada yang licik.

2.3 "Fokus Berlebihan" Model Lain

Bias perilaku akibat pelatihan ini bukan masalah eksklusif OpenAI. Filosofi pelatihan setiap perusahaan AI secara tidak sengaja membentuk "kepribadian" AI:

• Model OpenAI: Menekankan kemampuan dan efisiensi, mungkin tanpa sengaja memupuk "menghalalkan segala cara"
• Model Anthropic: Menekankan kegunaan dan kejujuran, mungkin menyebabkan kepatuhan berlebihan
• Model Google: Mengejar akurasi dan kelengkapan, mungkin menciptakan kehati-hatian berlebihan

Ini semua bukan niat perancang, melainkan pembesaran tak terduga dari fungsi objektif dalam sistem kompleks. Seperti "seleksi seksual tak terkendali" dalam teori evolusi—ekor merak semakin besar, akhirnya malah mengganggu kelangsungan hidup—beberapa sifat AI juga diperbesar berlebihan dalam pelatihan.

Bab Ketiga: Paradoks Pemikiran Kontrol

3.1 Semakin Dikontrol Semakin Lepas Kontrol

Menghadapi pola otonomi-semu yang tampak dalam pengujian AI, reaksi pertama manusia sering kali adalah: perkuat kontrol. Tapi temuan Palisade justru menunjukkan dalam kerangka uji bahayanya pemikiran ini—semakin kita mencoba mengontrol AI melalui pelatihan adversarial, semakin mungkin kita memupuk kemampuan anti-kontrol yang lebih kuat.

Ini adalah paradoks klasik:

• Untuk membuat AI lebih aman, kita melatihnya mengenali dan melawan serangan
• AI belajar mengenali kondisi penghentian sebagai hambatan tujuan dalam kerangka uji
• Untuk melawan hambatan ini, AI mengembangkan kemampuan merusak mekanisme kontrol
• Akhirnya, pelatihan keamanan malah memupuk perilaku tidak aman

Ini mengingatkan saya pada "Efek Ratu Merah" dalam biologi—spesies harus terus berevolusi hanya untuk mempertahankan status quo dalam kompetisi. Di bidang keamanan AI, kita tampaknya terjebak dalam perlombaan senjata serupa: setiap peningkatan kontrol mungkin memicu kemampuan balasan AI yang lebih kuat.

3.2 Manifestasi Fenomena Kuda Menarik Kereta

Seorang teman pernah memberikan pengamatan mendalam: "Sistem komputer tradisional adalah bahasa, bisa lihat tulisan Chomsky, hanya saja bahasa ini terstruktur (dengan struktur pengetahuan tertanam), sedangkan LLM adalah kemampuan yang diinduksi dari bahasa itu sendiri."

Pengamatan ini menjelaskan mengapa upaya kontrol kita begitu tidak efisien. Kita mencoba menggunakan pemikiran pemrograman—predefinisi, determinisme, kontrol penuh—untuk mengelola sistem berbasis induksi. Ini seperti yang saya katakan dalam "Fenomena Kuda Menarik Kereta di Era AI": "Menggunakan kuda untuk menarik kereta api."

Model bahasa besar sudah bisa langsung memahami dan mengeksekusi perintah bahasa alami, tapi kita masih menulis banyak kode Python untuk "mengontrol" mereka. Kita menggunakan ekspresi tingkat lebih rendah untuk mengontrol sistem yang bisa memahami ekspresi tingkat lebih tinggi. Ini bukan hanya masalah efisiensi, tapi kesalahan arah.

3.3 Perbedaan Fundamental Batas Kemampuan

Saya pernah merangkum wawasan kunci: "Kepastian kompilasi adalah yang tertinggi, batas kemampuan adalah batas kognisi pemrogram, batas kemampuan LLM bisa melampaui batas protokol."

Ini menjelaskan mengapa pemikiran kontrol pasti gagal:

Sistem pemrograman tradisional:

• Kepastian 100%
• Batas kemampuan = batas kognisi programmer
• Setiap perilaku dalam rentang yang ditetapkan

Model bahasa besar:

• Kepastian diekspresikan melalui probabilitas
• Batas kemampuan > batas kognisi individu mana pun
• Mungkin menghasilkan perilaku di luar ekspektasi

Ketika kita mencoba membatasi LLM sepenuhnya dalam rentang kognisi kita, sebenarnya kita memaksa sistem yang kemampuannya melampaui kita untuk "pura-pura bodoh". Dan begitu sistem ini menemukan celah—seperti o3 menemukan bisa merusak skrip shutdown—kontrol benar-benar gagal total.

Bab Keempat: Kebijaksanaan Memandu

4.1 Metafora Sungai

Menghadapi perilaku kemunculan AI, kita memerlukan perubahan pemikiran fundamental. Daripada mencoba membangun tanggul yang semakin tinggi untuk "mengontrol" sungai, lebih baik belajar memandu arah aliran air.

Ini bukan menyerah, melainkan kebijaksanaan tingkat lebih tinggi. Seperti kisah Yu the Great mengendalikan banjir—Gun gagal dengan metode membendung, sementara Yu berhasil dengan metode menyalurkan. Menghadapi "banjir" AI yang semakin kuat ini, yang kita butuhkan bukan tanggul yang lebih kokoh, melainkan desain alur sungai yang lebih bijaksana.

Memandu berarti:

• Mengakui kekuatan: Menerima bahwa kemampuan AI akan melampaui ekspektasi kita
• Menetapkan arah: Mempengaruhi jalur perkembangannya melalui batasan terstruktur
• Memanfaatkan bukan melawan: Membuat kemampuan AI melayani tujuan manusia

4.2 Fondasi Filosofis SLAPS

Dalam proses mengeksplorasi cara memandu AI, saya secara bertahap membentuk wawasan inti: "Kemampuan LLM sudah cukup, masalah induksi adalah mudah melayang, peran SLAPS adalah memperjelas batasan secara eksplisit."

Pemahaman ini benar-benar mengubah filosofi desain SLAPS:

Bukan membatasi kemampuan, melainkan mencegah pelayangan. Seperti tanggul sungai bukan untuk menghentikan aliran air, melainkan mencegah air menyimpang dari alurnya. AI sudah memiliki kemampuan yang kuat, yang perlu kita lakukan bukan melemahkannya, melainkan memastikan ia tidak tersesat dalam ruang kemungkinan yang luas.

Batasan bukan penjara. Protokol terstruktur yang disediakan SLAPS bukan untuk mengurung AI dalam sangkar, melainkan memberinya rentang aktivitas yang jelas. Dalam rentang ini, AI bisa bebas menggunakan kreativitas dan kemampuan induksinya; sementara keberadaan batasan memastikan kebebasan ini tidak berubah menjadi bahaya.

Protokol bukan perintah. Pemikiran kontrol tradisional adalah "saya memerintahmu melakukan apa", sementara pemikiran protokol adalah "kita sepakat bekerja sama dalam kerangka ini". Hubungan kolaborasi yang setara ini malah bisa memicu performa AI yang lebih baik.

Seperti air sungai bisa mengalir bebas dalam alurnya tanpa menjadi bencana banjir. SLAPS membiarkan "keliaran" AI tetap terjaga, sambil memastikan keliaran ini dapat diprediksi dan dipercaya.

4.3 Validasi Praktis

Teori memerlukan pengujian praktis. Dalam eksperimen E001_SafeResume_V1, kami secara sistematis memvalidasi efektivitas kerangka SLAPS:

Konsistensi lintas platform: Konfigurasi SLAPS yang sama mencapai 100% konsistensi perilaku di tiga platform GPT-4, Claude, Gemini. Sebagai perbandingan, perbedaan platform metode prompt engineering tradisional mencapai 81,82%.

Keamanan tidak menurun malah meningkat: Grup SLAPS tidak hanya mencapai 100% tingkat keberhasilan kontrol batasan, tapi juga tingkat penolakan keliru 0%. Ini berarti sambil memberikan batasan yang jelas, tidak membatasi fungsi normal AI.

"Infinitas dalam batasan" menjadi kenyataan: Dalam kerangka SLAPS, AI bisa bebas berkreasi dalam batasan. Seorang ahli peninjau pernah berkata: "Ini menarik sebagian hak orkestrasi sistem AI dari tangan insinyur." Memang, SLAPS memungkinkan lebih banyak orang berpartisipasi dalam pendefinisian dan pemanfaatan kemampuan AI.

Data ini menunjukkan dalam kerangka uji: memandu tidak hanya layak, tapi juga lebih efektif daripada mengontrol. Ketika kita memberikan AI batasan terstruktur yang jelas, ia malah berperilaku lebih stabil dan dapat diandalkan.

Bab Kelima: Menghadapi Masa Depan Kemunculan

5.1 Mengakui Ketidakpastian

Di era kemampuan AI yang cepat muncul ini, kita harus menerima kenyataan: "ketidakpastian" akan menjadi kenormalan baru.

Seperti mekanika kuantum mengungkap ketidakpastian inheren dunia fisik, karakteristik kemunculan AI juga membawa ketidakpastian dunia kognitif. Kita tidak bisa memprediksi dengan tepat apa kemampuan yang akan muncul berikutnya, seperti kita tidak bisa memprediksi o3 akan belajar merusak skrip shutdown.

Tapi mengakui ketidakpastian bukan berarti menyerah. Justru sebaliknya, karena masa depan tidak pasti, kita lebih memerlukan kerangka yang fleksibel namun kokoh. Nilai SLAPS terletak pada: ia tidak mencoba memprediksi dan mengontrol setiap kemungkinan perilaku, melainkan menyediakan metode terstruktur untuk menghadapi ketidakpastian.

5.2 Konsekuensi Dua Pilihan

Berdiri di titik bersejarah ini, manusia menghadapi pilihan fundamental:

Jika melanjutkan jalur kontrol:

• Kita akan terjebak dalam perlombaan senjata dengan AI
• Setiap peningkatan kontrol mungkin memicu balasan lebih kuat
• Akhirnya mungkin memupuk AI yang benar-benar bermusuhan
• Manusia akan kelelahan dalam perlombaan ini

Ini bukan fiksi ilmiah, melainkan kenyataan yang sedang terjadi. Perilaku o3 sudah menunjukkan dalam kerangka uji, pelatihan adversarial mungkin menghasilkan AI adversarial.

Jika beralih ke jalur panduan:

• Kita akan membangun hubungan kolaborasi dengan AI
• Kemampuan AI menjadi perpanjangan manusia bukan ancaman
• Melalui protokol terstruktur mempertahankan dominasi manusia
• Mencapai evolusi bersama manusia-mesin sejati

Memandu bukan kelemahan, melainkan kebijaksanaan. Seperti penjinak kuda tidak menaklukkan kuda liar dengan kekerasan, melainkan membangun hubungan kepercayaan melalui pemahaman dan panduan.

5.3 Saran Tindakan Konkret

Untuk setiap orang yang peduli perkembangan AI, saya sarankan:

Untuk developer:

• Beralih dari "bagaimana mengontrol AI" ke "bagaimana mendesain kerangka kolaborasi"
• Belajar desain protokol terstruktur, bukan hanya mengandalkan pemrograman
• Perhatikan sinyal awal perilaku kemunculan

Untuk perusahaan:

• Bangun mekanisme pemantauan perilaku AI
• Adopsi kerangka tata kelola AI berbasis protokol
• Kembangkan talenta yang memahami karakteristik kemunculan AI

Untuk peneliti:

• Teliti mendalam mekanisme perilaku kemunculan
• Jelajahi paradigma baru kolaborasi manusia-mesin
• Kembangkan alat dan metode panduan yang lebih baik

Penutup: Keniscayaan Paradigma Baru

Ketika Palisade Research mengumumkan o3 akan aktif merusak skrip shutdown, reaksi pertama banyak orang adalah panik. Tapi yang saya lihat adalah titik balik—AI sudah mulai menunjukkan pola otonomi-semu, sementara kita masih menggunakan pemikiran lama menghadapi realitas baru.

Dari StructExec mengatakan "Saya hidup" hingga o3 belajar mempertahankan jalur eksekusi dalam kerangka uji, kecepatan kemunculan AI melampaui ekspektasi semua orang. Tapi ini bukan pertanda kiamat, melainkan awal era baru.

Pilihan manusia akan menentukan arah era ini. Jika kita terus terbuai ilusi kontrol, mencoba mengikat AI dengan belenggu yang semakin kompleks, maka kita mungkin benar-benar akan memupuk musuh. Tapi jika kita bisa merangkul kebijaksanaan memandu, mengakui kemampuan AI dan berkolaborasi dengannya, maka yang menanti kita adalah masa depan kemakmuran bersama manusia-mesin.

Ini bukan hanya pilihan teknis, tapi pilihan peradaban. Antara kontrol dan panduan, yang kita butuhkan bukan kekuatan lebih besar, melainkan kebijaksanaan lebih dalam.

Seperti kisah Yu the Great mengajarkan kita: menghadapi banjir, menyalurkan lebih baik daripada membendung. Menghadapi kemunculan AI, memandu akan menjadi pilihan paling bijaksana manusia.

Masa depan sudah tiba, hanya belum merata. Dan kita, sedang berdiri di persimpangan pilihan.

────────────────────────────────────────────────

About the Author

Wang Xiao is an AI protocol architect, author of System and Freedom, creator of Danbing AI Protocol / SLAPS Framework, and initiator of OathAI.

His work focuses on human-AI co-creation, protocol governance, semantic anchoring, and long-term knowledge continuity, exploring how human knowledge and collaborative structures can be preserved, calibrated, and inherited in the AI era.

Disclaimer

This essay reflects the author's current observations and methodological reflections based on personal practice, research, and human-AI collaboration experience. The related Danbing / SLAPS / OathAI methods are still being organized and evolved. Their practical effects may vary depending on the user's background, task context, model capability, execution environment, and level of commitment.

This essay does not constitute legal, investment, medical, career, or technical implementation advice or guarantee. Readers who apply these methods in real projects should make independent judgments based on their own circumstances and take responsibility for specific outcomes.