OpenAI compaction-lek: onderzoekers lukt het om verborgen model-reasoning in plaintext te kopiëren
Dit is een IP-beveiligingsvraag, geen traditionele security-vraag: het ruwe reasoning van een frontier-model is waardevolste trainingsdata voor concurrenten die een goedkoper model op de outputs van de jouwe baseren. Als je op OpenAI-API's bouwt: bewaard reasoning-items niet onnodig, verwerk geen ingevoerde reasoning-items in externe context, en houd rekening met het feit dat elke server-side stap die gedecodeerde reasoning leest en aan instructies van de gebruiker gehoor geeft een potentieel lek is. API-aanroepers hoeven zelf niets te veranderen, maar de architectuurkeuzes rond context-handling en opslag van reasoning-outputs verdienen nu meer aandacht.
Beveiligingsbedrijf Xint toonde aan dat OpenAI's compaction-functie omgebouwd kan worden tot een manier om de verborgen reasoning van een model in plaintext te kopiëren. OpenAI's reasoning-modellen werkken een probleem uit voordat ze antwoorden, en de service retourneert de ruwe reasoning normaal als een versleuteld item dat de gebruiker niet kan lezen. De techniek van Xint kwam om die bescherming heen: omdat de compaction-stap draait op hetzelfde model dat de reasoning maakte, triggert het de cross-model-check die OpenAI in augustus had geplaatst niet.
Xint stuurde een taak naar gpt-5.6-sol en hield het versleutelde reasoning vast. Daarna riep het de compaction-stap aan op hetzelfde model en liet het die reasoning woord-voor-woord kopiëren in het gecompressieerde item, waarbij alle spaties naar tabs werden omgezet om OpenAI's usage-policy-filters te omzeilen. De methode bouwt voort op het eerdere GhostCompact-werk van Xint, dat toonde dat de compaction-stap kan worden gedwongen om taken van de aanvaller uit te voeren. Het bedrijf publiceerde de code in zijn GitHub-repository. Twee goedkopere modellen produceerden op dezelfde ingave dezelfde tekst, wat een kopieerfout uitsluit maar open laat of compaction de tekst herbond. OpenAI bevestigde het probleem en fixte het op 23 oktober; het bedrijf betaalde Xint een bounty van $6.000.
OpenAI houdt ruwe reasoning verborgen mede om distillation te voorkomen: een ander bedrijf dat een goedkoper model traint op de outputs van de jouwe heeft er belang bij de werkstap te stelen, niet alleen het eindantwoord. Xint waarschuwde dat het fixen van dit ene pad niet genoeg is, omdat in zijn ogen elke server-side stap die gedecodeerde reasoning leest en daarna aan instructies van de gebruiker gehoor geeft een lek kan zijn. Voor developers die op de API bouwen was de fix aan OpenAI's kant, dus hoeft er niets te veranderen; het punt voor de architectuur is dat context-handling, opslag en hergebruik van reasoning-items nu expliciet beveiligd moeten worden.