Uitdagingen en Ervaringen bij het Gebruik van AI-agents: Wat U Moet Weten

Sergey Kozlov, directeur van de ontwikkelaar van het CRM-systeem 'Megaplan' en de kennisbank met AI-assistent Collabis, deelt samen met Igor Sukhoverkhov, hoofd van Collabis-ontwikkeling, hun ervaringen met het implementeren van AI-agents. Ze merken op dat de kwaliteit van het werk van de agent sterk afhangt van hoe goed gestructureerd de Kennisbank is: als deze rommelig is, zullen de AI-antwoorden onnauwkeurig zijn. Context is ook belangrijk – simpelweg 'maak het cool' schrijven is niet voldoende; je moet de agent diep onderdompelen in de context van de taak. De moderne benadering van werken met AI is loop engineering, waarbij de sleutelfactor is hoe de agent de taak uitvoert en tools gebruikt. De auteurs waarschuwen dat als de AI de verkeerde kant op gaat, dit tijd en tokens verspilt. Ze geven een voorbeeld: in de taak van een tester ging de agent, in plaats van een kapotte knop aan te wijzen, de code in en probeerde deze te repareren. De meeste modellen doen het goed met eenvoudige en goed gedefinieerde taken, maar complexe meerstapstaken vereisen duurdere modellen – ze kunnen het begin vergeten, net als mensen. Handmatige controle is verplicht: een agent is tegenwoordig als een junior, wiens werk door een senior moet worden gecontroleerd. Ook worden de risico's van het blokkeren van toegang tot buitenlandse modellen genoemd, dus wordt aanbevolen om gegevens op te slaan in een persoonlijke Kennisbank. Het bedrijf 'Megaplan' heeft een MCP-server ontwikkeld voor gegevensoverdracht, en er is ook een Pet-project gebaseerd op GPT 5.6 dat lokaal draait.