HiveTrace Implementeert AI-Firewall in Cloud.ru om Bedrijfs-GenAI-toepassingen te Beschermen

HiveTrace, een ontwikkelaar van AI-beschermingsoplossingen, heeft zijn AI Firewall in de cloud van Cloud.ru geïmplementeerd. Deze stap versnelt de implementatie voor zakelijke klanten en verhoogt het beschermingsniveau van GenAI-toepassingen tegen de meest voorkomende aanvallen op grote taalmodellen. AI Firewall beschermt tegen belangrijke beveiligingsbedreigingen bij het gebruik van AI, waaronder prompt-aanvallen, datavergiftiging en modelvergiftiging, lekkage van systeeminstructies, overmatige autonomie en andere kwetsbaarheden van grote taalmodellen. Zo voorkomt het dat aanvallers het model via kwaadaardige queries dwingen om onveilige acties uit te voeren en dat vertrouwelijke bedrijfsgegevens via het grote taalmodel worden verkregen. In tegenstelling tot beschermingsmaatregelen op het niveau van individuele modellen, werkt de oplossing op applicatieniveau. Naast de migratie hebben Cloud.ru en HiveTrace afgesproken om het HiveTracePro-model op te nemen in de Evolution Foundation Models-service. Klanten van Cloud.ru die al taalmodellen op het platform gebruiken, kunnen HiveTracePro aansluiten als extra beschermingslaag voor GenAI-toepassingen. Het model vormt een aanvulling op Guardrails Filter, de eigen tool van Cloud.ru voor het maskeren van gevoelige gegevens bij het werken met grote taalmodellen. De klanten van HiveTrace werken in verschillende sectoren, waardoor de infrastructuurvereisten per project verschillen. Het bedrijf had behoefte aan een uniform platform dat voldoet aan alle vereisten voor het werken met persoonsgegevens, overheidsinformatiesystemen, kritieke informatie-infrastructuur en financiële systemen, en dat ook Kubernetes met GPU ondersteunt. Voor het hosten van AI Firewall koos het bedrijf voor Cloud.ru Evolution. De oplossing werd geïmplementeerd op basis van Evolution Managed Kubernetes met GPU. De beheerde diensten van Cloud.ru bleken compatibel te zijn met de bestaande componenten van HiveTrace, waardoor er geen extra aanpassingen nodig waren.