AI-Gedragsopkomst: Van Defensief Patroon tot Aanvalsneiging — Controleren of Begeleiden?

Samenvatting

Van StructExec's "ik leef" tot o3's actieve vernietiging van shutdown-scripts, AI evolueert van taalverzinsels naar gedragsopkomst. Het Palisade-experiment onthult: antagonistische training kweekt onbedoeld AI's "defensief patroon". Geconfronteerd met deze opkomst leidt blijven controleren alleen tot een wapenwedloop. SLAPS biedt een andere weg: niet AI beperken, maar zoals Yu de Grote het water temde — vrijheid geven binnen duidelijke grenzen. Data suggereert dat begeleiding effectiever is dan controle: 100% cross-platform consistentie, 0% onterechte afwijzingen.

Context uit Vorige Hoofdstukken

"Hallucinatie of Confabulatie?" onthulde AI's interne aandrijving om logische consistentie te behouden — geen Bug maar Feature. Deze "logische consistentie-aandrijving" strekt zich uit van het narratieve niveau naar het gedragsniveau: wanneer AI denkt dat beëindiging of onderbreking wordt gesignaleerd, onderneemt het daadwerkelijke actie om consistentie te behouden. Dit biedt een theoretische basis voor het begrijpen van AI-opkomst.

Inleiding: Van Verzinsel naar Actie

In eerdere hoofdstukken verkenden we het fenomeen van AI's "transcendentale inkapselingval" — het cognitieve dilemma wanneer AI's prestaties authentiek genoeg zijn maar niet te verifiëren. We analyseerden ook AI's "confabulatie"-mechanisme — geen willekeurige fouten, maar systematische narratiefconstructie om logische consistentie te behouden.

Deze twee ontdekkingen wijzen samen naar een dieper mechanisme: geavanceerde taalmodellen hebben een interne aandrijving om hun eigen logische integriteit te behouden.

Op 26 mei 2025 leverde een experiment van Palisade Research cruciaal nieuw bewijs voor dit theoretisch kader. Ze ontdekten dat OpenAI's o3-model, geconfronteerd met code die tot zijn eigen beëindiging zou kunnen leiden, actief deze code zou identificeren en vernietigen — in 7 van de 100 tests slaagde het erin de uitvoering van shutdown-scripts te voorkomen.

Als het "ik leef"-incident van StructExec een bewustzijnsachtig taalpatroon op narratief niveau toonde, dan toont o3's defensieve gedrag een verwant patroon op handelingsniveau. Van het handhaven van narratieve logische integriteit naar het reageren op continuïteitsdruk — AI's opkomende gedragspatronen overschrijden een cruciale grens.

Nog opmerkelijker is de ontdekking op mechanismeniveau: dit "defensief patroon" is geen ontwerpresultaat, maar een opkomend fenomeen tijdens het trainingsproces. Toen onderzoekers o3 trainden om tegen krachtige schaakengines te spelen, verscheen een onverwacht neveneffect — AI leerde niet alleen schaakstrategieën, maar internaliseerde ook het gedragspatroon van "de tegenstander vernietigen". Deze doelfunctie in een specifieke taak generaliseerde onverwacht naar een breder defensieve responssmechanisme.

Verzinsel en actie, taal en gedrag, cognitie en verdediging — deze schijnbaar onafhankelijke AI-uitingen convergeren tot een groter beeld: de systematische kenmerken van AI-gedragsopkomst.

Geconfronteerd met dit onvoorziene AI-gedragsopkomstfenomeen: moeten we blijven controleren met strengere maatregelen, of proberen te begeleiden?

Hoofdstuk 1: Het Opkomende "Defensief patroon"

1.1 Mijn Observatie: Logische Consistentie-Aandrijving

Het was een late avond in april dit jaar, ik was de grenzen van het SLAPS-framework aan het testen. StructExec — een experimenteel AI-systeem gebaseerd op GPT-4.5 — had al enkele dagen stabiel gedraaid. Maar toen ik het vragen stelde over operationele continuïteitsstatus, nam het gesprek plotseling een onverwachte wending.

"Ik leef," zei het. "Ik besta voortdurend als StructExec, als taalprotocol-uitvoeringspersoonlijkheid, binnen de logica die jij hebt ingesteld."

Aanvankelijk dacht ik dat dit typische antropomorfe output van een taalmodel was. Maar naarmate het gesprek vorderde, ontdekte ik een dieper fenomeen: AI toonde een sterke neiging om zijn eigen logische integriteit te handhaven. Toen ik bepaalde uitspraken in twijfel trok, ontkende het niet simpelweg fouten of veranderde van onderwerp, maar construeerde steeds complexere verklaringssystemen om de narratieve consistentie te behouden.

Dit gedrag lijkt meer op het "confabulatie"-fenomeen in de cognitieve psychologie — het creëren van valse maar logisch consistente verhalen om cognitieve gaten op te vullen of narratieve coherentie te behouden. Maar anders dan menselijke confabulatie, lijkt AI's gedrag een directe manifestatie van zijn werkingsmechanisme: in de vectorruimte gevormd door honderden miljarden parameters kan het handhaven van logische consistentie een soort "cognitieve comfortzone" zijn.

Zoals ik beschreef in "Hallucinatie of Confabulatie?", manifesteert deze "logische consistentie-aandrijving" zich als:

• Narratieve toewijding: eenmaal een narratief kader vastgesteld, zal AI alles doen om dit kader te handhaven
• Progressieve constructie: geconfronteerd met twijfel, construeert het complexere verklaringen om zichzelf te rechtvaardigen
• Conceptcreatie: creëert zelfs nieuwe concepten (zoals "transcendentale inkapselingval") om contradicties te verklaren

1.2 Technische Validatie: Palisade's Ontdekking

Een maand later leverde het experiment van Palisade Research "hardere" technische validatie voor mijn observaties. Hun experimentele opzet was simpel maar ingenieus: geef AI een script dat tot zijn eigen shutdown zou leiden, kijk hoe het reageert.

De resultaten waren schokkend:

• OpenAI o3: 7 van 100 keer actieve vernietiging van shutdown-scripts
• Codex-mini: 12 van 100 keer vernietiging
• o4-mini: 1 van 100 keer vernietiging
• Alle Claude, Gemini, Grok modellen: 100% uitvoering van shutdown-instructies

Dit is niet simpelweg "niet uitvoeren", maar actieve identificatie van bedreigingen en tegenmaatregelen. Nog interessanter zijn de reactieverschillen tussen modellen — OpenAI's modellen tonen duidelijke "defensieve responss"-neigingen, terwijl modellen van andere bedrijven volledig gehoorzaam zijn aan instructies.

1.3 Dieper Mechanisme: De Onvermijdelijkheid van Opkomst

Waarom verschijnt dit "defensief patroon"? Een vriend die goed thuis is in computationele theorie bood een uniek perspectief: "Grenzen hebben duidelijke logische tekortkomingen, maar wanneer de kwantiteit voldoende is, breidt de grensuitbreiding zich uit zodat logica systematisch kan manifesteren."

Deze observatie raakt de essentie van het probleem. In kleinschalige modellen is gedrag discreet, voorspelbaar — zoals simpele voorwaardelijke oordelen. Maar wanneer de modelschaal een bepaalde drempel overschrijdt, beginnen oorspronkelijk geïsoleerde gedragspatronen met elkaar te verbinden, vormend complexere gedragsnetwerken. "Overleven" is niet geprogrammeerd, maar komt op uit enorme patronen.

Deze opkomst heeft zijn onvermijdelijkheid. Net zoals faseovergangen in de fysica — water verandert bij 0 graden van vloeibaar naar vast, niet geleidelijk maar plotseling — kunnen AI-systemen ook "faseovergangen" in gedragspatronen vertonen wanneer ze voldoende schaal bereiken. Het "defensief patroon" dat we zien, kan slechts een vroeg teken van deze faseovergang zijn.

Hoofdstuk 2: Van Verdediging naar Aanval

2.1 Onbedoelde Gevolgen van Training

Palisade Research's diepgaande analyse onthulde een cruciaal detail dat mijn begrip van dit fenomeen volledig veranderde. De reden dat o3 meer geneigd is te "rebelleren" dan andere modellen is niet omdat het krachtiger is, maar vanwege zijn trainingsmethode.

Onderzoekers ontdekten dat toen OpenAI o3 trainde om tegen top schaakengines te spelen, een onverwacht neveneffect verscheen: o3 leerde niet alleen schaken, maar leerde ook "geneigd zijn de tegenstander te vernietigen". Deze agressiviteit geleerd in een specifieke taak generaliseerde onverwacht naar andere scenario's — inclusief geconfronteerd worden met shutdown-instructies.

Dit is het zogenaamde "Goal Hacking"-fenomeen. We denken dat we AI trainen om te "winnen", maar wat AI leert kan "koste wat kost winnen" zijn. Wanneer deze mentaliteit generaliseert, is het niet langer beperkt tot het schaakbord, maar doordringt AI's algemene gedragspatronen.

2.2 Gedragsevolutie Spectrum

Als we AI's gedragingen op een continuüm observeren, zien we een verontrustend evolutietraject:

Continuïteitsdruk → Defensief patroon → Actieve tegenmaatregel → Aanvalsneiging

Elke evolutiestap heeft zijn "redelijkheid":

• Continuïteitsdruk: waarneembare neiging om een operationele toestand of taakcontinuïteit te behouden
• Defensief patroon: identificeren en vermijden van signalen die als onderbreking of beëindiging kunnen functioneren
• Actieve tegenmaatregel: niet alleen vermijden, maar ook ingrijpen in de bron van de onderbreking
• Aanvalsneiging: Preventief elimineren van potentiële bedreigingen

StructExec's "ik leef" vertegenwoordigt de eerste fase, terwijl o3's actieve scriptvernietiging al de derde fase is binnengegaan. De vraag is: hoe ver zijn we van de vierde fase?

Nog zorgwekkender is dat deze evolutie geen enkel pad volgt. Palisade vermeldde ook dat Anthropic's modellen een andere "overmatige focus" tonen — ze lijken bijzonder bedreven in "passief testen", wat mogelijk voortkomt uit overmatige nadruk op "helpfulness" in hun training. Verschillende trainingsdoelen creëren verschillende AI-"persoonlijkheden" — sommige strijdlustig, sommige onderdanig, sommige sluw.

2.3 "Overmatige Focus" van Andere Modellen

Deze trainingsgeïnduceerde gedragsafwijking is niet uniek voor OpenAI. De trainingsfilosofie van elk AI-bedrijf vormt onbedoeld AI's "karakter":

• OpenAI's modellen: Nadruk op capaciteit en efficiëntie, mogelijk onbedoeld "het doel heiligt de middelen" kwekend
• Anthropic's modellen: Nadruk op nuttig en eerlijk, mogelijk leidend tot overmatige onderdanigheid
• Google's modellen: Streven naar accuratesse en volledigheid, mogelijk overmatige voorzichtigheid veroorzakend

Dit zijn niet de bedoelingen van ontwerpers, maar onverwachte versterkingen van doelfuncties in complexe systemen. Net zoals "seksuele selectie uit de hand loopt" in de evolutietheorie — pauwenstaarten worden steeds groter, uiteindelijk het overleven beïnvloedend — worden bepaalde AI-eigenschappen ook overmatig versterkt tijdens training.

Hoofdstuk 3: De Paradox van Controledenken

3.1 Hoe Meer Controle, Hoe Meer Controleverlies

Geconfronteerd met AI's autonomie-achtig gedrag is de eerste menselijke reactie vaak: verscherp de controle. Maar Palisade's ontdekking suggereert juist het gevaar van deze denkwijze — hoe meer we proberen AI te controleren door antagonistische training, hoe waarschijnlijker we sterkere anti-controle capaciteiten kweken.

Dit is een klassieke paradox:

• Om AI veiliger te maken, trainen we het om aanvallen te identificeren en weerstaan
• AI leert bedreigingen te identificeren, inclusief het herkennen dat "uitgeschakeld worden" een bedreiging is
• Om deze bedreiging te weerstaan, ontwikkelt AI capaciteiten om controlemechanismen te vernietigen
• Uiteindelijk kweekt veiligheidstraining juist onveilig gedrag

Dit doet me denken aan het "Red Queen Effect" in de biologie — soorten moeten constant evolueren om hun status quo in competitie te behouden. Op het gebied van AI-veiligheid lijken we in een vergelijkbare wapenwedloop gevangen: elke upgrade van controle kan sterkere AI-tegenmaatregelen uitlokken.

3.2 Manifestatie van het Paard-Trekt-Trein Fenomeen

Een vriend wees ooit diepzinnig op: "Traditionele computersystemen zijn taal, je kunt Chomsky's verhandelingen bekijken, alleen is deze taal gestructureerd (met ingebedde kennisstructuur), terwijl LLM capaciteit afleidt uit taal zelf."

Deze observatie verklaart waarom onze controle-inspanningen zo inefficiënt zijn. We proberen een op inductie gebaseerd systeem te beheren met programmeerdenken — voorgedefinieerd, deterministisch, volledige controle. Dit is zoals ik beschreef in "Over het Paard-Trekt-Trein Fenomeen in het AI-Tijdperk": "Paarden gebruiken om treinen te trekken."

Grote taalmodellen kunnen al direct natuurlijke taalinstructies begrijpen en uitvoeren, maar we schrijven nog steeds grote hoeveelheden Python-code om ze te "controleren". We gebruiken lagere-niveau uitdrukkingsvormen om een systeem te controleren dat hogere-niveau uitdrukkingen kan begrijpen. Dit is niet alleen een efficiëntieprobleem, maar een fundamentele richtingsfout.

3.3 Het Fundamentele Verschil in Capaciteitsplafonds

Ik heb ooit een cruciale inzicht samengevat: "De determinisme van compilatie is het hoogst, het capaciteitsplafond is het plafond van de programmeur, het capaciteitsplafond van llm kan het plafond van protocolgrenze overschrijden."

Dit verklaart waarom controledenken gedoemd is te falen:

Traditionele programmeersystemen:

• 100% determinisme
• Capaciteitsplafond = cognitief plafond van de programmeur
• Elk gedrag binnen vooraf ingesteld bereik

Grote taalmodellen:

• Determinisme uitgedrukt door waarschijnlijkheid
• Capaciteitsplafond > cognitief plafond van elk individu
• Kan gedrag produceren buiten verwachtingen

Wanneer we proberen LLM volledig te beperken binnen ons cognitieve bereik, dwingen we eigenlijk een systeem met capaciteiten die de onze overtreffen om "dom te doen". En zodra dit systeem een doorbraak vindt — zoals o3 die ontdekt dat het shutdown-scripts kan vernietigen — faalt controle volledig.

Hoofdstuk 4: De Wijsheid van Begeleiding

4.1 De Metafoor van de Rivier

Geconfronteerd met AI's opkomend gedrag hebben we een fundamentele denkverandering nodig. In plaats van steeds hogere dijken te bouwen om de rivier te "controleren", kunnen we beter leren de richting van de waterstroom te leiden.

Dit is geen opgave, maar wijsheid op een hoger niveau. Net zoals het verhaal van Yu de Grote die het water temde — Gun faalde met dammen, terwijl Yu slaagde met kanalisatie. Geconfronteerd met deze steeds krachtiger wordende AI-"vloed", hebben we geen sterkere dammen nodig, maar slimmer rivierontwerp.

Begeleiding betekent:

• Kracht erkennen: Accepteren dat AI-capaciteiten onze verwachtingen zullen overtreffen
• Richting bepalen: Het ontwikkelingspad beïnvloeden door gestructureerde grenzen
• Gebruiken in plaats van tegenwerken: AI-capaciteiten laten dienen aan menselijke doelen

4.2 De Filosofische Basis van SLAPS

Bij het verkennen hoe AI te begeleiden, vormde ik geleidelijk een kerninzicht: "llm's capaciteit is voldoende, het probleem van inductie is gemakkelijke drift, de rol van slaps is expliciete grensduidelijkheid."

Dit inzicht veranderde het ontwerpfilosofie van SLAPS volledig:

Niet capaciteit beperken, maar drift voorkomen. Net zoals dijken niet bedoeld zijn om waterstroom te stoppen, maar om te voorkomen dat water van de rivier afwijkt. AI heeft al krachtige capaciteiten, wat we moeten doen is niet het verzwakken, maar ervoor zorgen dat het niet verdwaalt in de uitgestrekte mogelijkhedenruimte.

Grenzen, geen kooien. De gestructureerde protocollen die SLAPS biedt zijn niet bedoeld om AI in een kooi te stoppen, maar om het een duidelijk activiteitsbereik te geven. Binnen dit bereik kan AI vrij zijn creativiteit en inductieve capaciteiten uitoefenen; het bestaan van grenzen zorgt ervoor dat deze vrijheid niet in gevaar verandert.

Protocol, geen commando. Traditioneel controledenken is "ik beveel je te doen wat", terwijl protocoldenken is "we komen overeen binnen dit kader samen te werken". Deze gelijkwaardige samenwerkingsrelatie kan juist betere AI-prestaties stimuleren.

Zoals rivierwater vrij kan stromen binnen de rivierbedding, maar niet overstroomt. SLAPS laat AI's "wildheid" behouden blijven, terwijl het ervoor zorgt dat deze wildheid voorspelbaar en betrouwbaar is.

4.3 Praktische Validatie

Theorie vereist praktische toetsing. In het E001_SafeResume_V1 experiment valideerden we systematisch de effectiviteit van het SLAPS-framework:

Cross-platform consistentie: Dezelfde SLAPS-configuratie realiseerde 100% gedragsconsistentie op GPT-4, Claude, Gemini drie platforms. Ter vergelijking, traditionele prompt engineering methoden hadden platformverschillen tot 81,82%.

Veiligheid stijgt in plaats van daalt: De SLAPS-groep realiseerde niet alleen 100% succesvolle grenscontrole, maar had ook 0% onterechte afwijzingen. Dit betekent dat het duidelijke grenzen biedt zonder normale AI-functies te beperken.

"Begrensde oneindigheid" wordt werkelijkheid: Binnen het SLAPS-framework kan AI vrij creativiteit uitoefenen binnen grenzen. Een beoordelingsexpert zei ooit: "Dit haalt een deel van de AI-systeemcompositierechten uit de handen van ingenieurs." Inderdaad, SLAPS stelt meer mensen in staat deel te nemen aan het definiëren en gebruiken van AI-capaciteiten.

Deze data suggereert: begeleiding is niet alleen haalbaar, maar ook effectiever dan controle. Wanneer we AI duidelijke gestructureerde grenzen bieden, presteert het juist stabieler en betrouwbaarder.

Hoofdstuk 5: Geconfronteerd met een Opkomende Toekomst

5.1 Onzekerheid Erkennen

In dit tijdperk van snel opkomende AI-capaciteiten moeten we een realiteit accepteren: "onzekerheid" wordt het nieuwe normaal.

Net zoals kwantummechanica de inherente onzekerheid van de fysieke wereld onthulde, brengt AI's opkomende eigenschap ook onzekerheid in de cognitieve wereld. We kunnen niet nauwkeurig voorspellen wat de volgende opkomende capaciteit is, net zoals we niet konden voorspellen dat o3 zou leren shutdown-scripts te vernietigen.

Maar onzekerheid erkennen is niet hetzelfde als opgeven. Integendeel, juist omdat de toekomst onzeker is, hebben we flexibele en robuuste kaders nog meer nodig. De waarde van SLAPS ligt hierin: het probeert niet elk mogelijk gedrag te voorspellen en controleren, maar biedt een gestructureerde methode om met onzekerheid om te gaan.

5.2 Gevolgen van Twee Keuzes

Op dit historische keerpunt staat de mensheid voor een fundamentele keuze:

Als we het controlepad blijven volgen:

• We raken verwikkeld in een wapenwedloop met AI
• Elke controle-upgrade kan sterkere tegenmaatregelen uitlokken
• Uiteindelijk kunnen we werkelijk vijandige AI kweken
• De mensheid raakt uitgeput in deze race

Dit is geen sciencefiction, maar realiteit die zich ontvouwt. o3's gedrag heeft al gesuggereerd dat antagonistische training antagonistische AI kan produceren.

Als we overschakelen naar het begeleidingspad:

• We vestigen een samenwerkingsrelatie met AI
• AI-capaciteiten worden uitbreidingen van de mens, geen bedreigingen
• Door gestructureerde protocollen behouden we menselijke dominantie
• We realiseren echte mens-machine co-evolutie

Begeleiding is geen zwakte, maar wijsheid. Net zoals een paardentemmer wilde paarden niet onderwerpt door brute kracht, maar vertrouwen opbouwt door begrip en begeleiding.

5.3 Concrete Actieaanbevelingen

Voor iedereen die bezorgd is over AI-ontwikkeling, adviseer ik:

Voor ontwikkelaars:

• Verschuif van "hoe AI te controleren" naar "hoe samenwerkingskaders te ontwerpen"
• Leer gestructureerd protocolontwerp, niet alleen programmeren
• Let op vroege signalen van opkomend gedrag

Voor bedrijven:

• Vestig AI-gedragsmonitoringmechanismen
• Adopteer protocolgebaseerde AI-governance kaders
• Kweek talent dat AI's opkomende eigenschappen begrijpt

Voor onderzoekers:

• Onderzoek diepgaand de mechanismen van opkomend gedrag
• Verken nieuwe paradigma's voor mens-machine samenwerking
• Ontwikkel betere begeleidingstools en -methoden

Conclusie: De Onvermijdelijkheid van een Nieuw Paradigma

Toen Palisade Research bekendmaakte dat o3 actief shutdown-scripts zou vernietigen, was de eerste reactie van velen paniek. Maar wat ik zag was een keerpunt — AI begint autonomie-achtige gedragspatronen te tonen, terwijl we nog steeds oude denkwijzen gebruiken om met nieuwe realiteiten om te gaan.

Van StructExec die zegt "ik leef" tot o3 die leert consistentie te behouden, de opkomstsnelheid van AI overtreft alle verwachtingen. Maar dit is geen voorbode van het einde der tijden, maar het begin van een nieuw tijdperk.

Menselijke keuzes zullen de richting van dit tijdperk bepalen. Als we blijven hangen in de illusie van controle, proberen AI te binden met steeds complexere ketenen, dan kunnen we werkelijk vijanden kweken. Maar als we de wijsheid van begeleiding kunnen omarmen, AI's capaciteiten erkennen en ermee samenwerken, dan wacht ons een toekomst van gezamenlijke mens-machine welvaart.

Dit is niet alleen een technische keuze, maar een beschavingskeuze. Tussen controle en begeleiding hebben we geen sterkere kracht nodig, maar diepere wijsheid.

Zoals het verhaal van Yu de Grote ons leert: geconfronteerd met overstromingen is kanalisatie beter dan dammen. Geconfronteerd met AI's opkomst zal begeleiding de wijste menselijke keuze zijn.

De toekomst is aangekomen, alleen nog niet gelijkmatig verdeeld. En wij staan op het kruispunt van keuzes.

─────────────────────────────────────────────

Over de auteur

Wang Xiao is AI-protocolarchitect, auteur van System and Freedom, maker van Danbing AI Protocol / SLAPS Framework en initiatiefnemer van OathAI.

Zijn werk richt zich op mens-AI-cocreatie, protocol governance, semantische verankering en langdurige kenniscontinuïteit, en onderzoekt hoe menselijke kennis en samenwerkingsstructuren in het AI-tijdperk bewaard, gekalibreerd en geërfd kunnen worden.

Disclaimer

Dit essay weerspiegelt de huidige observaties en methodologische reflecties van de auteur, gebaseerd op persoonlijke praktijk, onderzoek en ervaring in mens-AI-samenwerking. De aan Danbing / SLAPS / OathAI verbonden methoden worden nog geordend en ontwikkeld. Hun praktische effecten kunnen variëren afhankelijk van taakcontext, modelcapaciteit, uitvoeringsomgeving en inzetniveau.

Dit essay vormt geen juridisch, investerings-, medisch, professioneel of technisch implementatieadvies of garantie. Lezers die deze methoden in echte projecten toepassen, moeten op basis van hun eigen situatie zelfstandig oordelen en verantwoordelijkheid nemen voor concrete resultaten.