416 tests en een 'vernietig alles'-knop: waar agentprojecten haperen

De auteur gebruikt sinds februari 2026 een autonome agent genaamd Groundhog (Surok) in een onderzoekslus met Claude Code en --dangerously-skip-permissions. Vervolgens auditte hij zes van zijn eigen agentprojecten aan de hand van een samengestelde checklist uit zes bronnen (waaronder de AI-DISRUPT PDLC-methodologie van Sber) en ontdekte drie terugkerende faalpatronen: veiligheid wordt alleen in prompts afgedwongen (model kan worden overschreven), onomkeerbare acties zonder bevestiging (bijvoorbeeld een rebuild-commando wist alle verrijkte data) en nul regressietests voor gedragsbugs. De auteur bekeek ook een anoniem groot opensource-agentproject: het had machtigingscontroles op codeniveau en regressietests voor eerdere bugs, maar stuurde nog steeds e-mails onomkeerbaar zonder concept-/bevestigingsstap. Een nieuwer opensource-framework (HarnessX) biedt een interrupt_on-gate, maar die is optioneel en niet standaard ingeschakeld. De PDLC-methodologie van Sber formaliseert veel van de ontbrekende controles: beleid als code, evaluaties als afrondingscontracten, en een R0–R5-machtigingsladder met verplichte abort/rollback voor statuswijzigende operaties op R3+. De auteur bouwde een zevende project waarin enkele geleerde lessen zijn geïmplementeerd: nu worden er voor elke release evaluaties uitgevoerd en worden incidenten named regressietests.