Miksi tekoälyagentti ilman muistia on kallis laskin – rakennamme pysyvän muistin

Vladislav Jankovskiy, teknologiajohtaja Cloud.ru-tuotteen Evolution AI Agents -alustalla, kertoo persistentin muistin rakentamisesta tekoälyagenttien käyttöön. Hän huomauttaa, että muistia ei tarvita itsessään, vaan se on seurausta toiminnallisista vaatimuksista: jos agentti voi toimia ilman muistia istuntojen välillä, sitä ei tarvita. Hän mainitsee esimerkkinä agentin Grafanaa varten, joka ei tarvitse muistia, sekä L2-tukitason agentin, jolle muisti on kriittinen. Hän erottaa kontekstin (mallin ikkunassa) ja muistin (mallin ulkopuolella) sekä kaksi muistin ulottuvuutta: elinkaaren (lyhytaikainen, työmuisti, pitkäaikainen) ja sisällön tyypin (semanttinen, episodinen, proseduraalinen). 80 prosentissa tapauksista riittää lyhytaikaisen ja pitkäaikaisen semanttisen muistin yhdistelmä. Hän kuvailee muistin tasoja: taso 0 – yksinkertainen keskusteluhistorian tallennus, joka ei riitä päällekkäisyyksien ja konsolidoinnin puutteen vuoksi; taso 1 – vektorihaku käyttäen pgvectoria, Qdrantia, Milvusia ja Pineconeä; taso 2 – strukturoitu muisti SQL:llä ja graafeilla, esimerkiksi Graphiti. Keskeinen virhe on tallentaa raa'at viestit, kun taas oikea tapa on poimia faktat ja ylläpitää kaksitasoista mallia, jossa on sekä alkuperäiset lähteet että poimitut tiedot.