ИИ и нейросети: новости и бесплатные нейросети онлайн

ИИ и нейросети меняются каждый день — мы собираем главное в одном месте.

Последние новости искусственного интеллекта

Безопасность ИИ 🇺🇸

Обеспечение безопасности ИИ-агентов, MCP-серверов и LLM-приложений в продакшене: практическая основа

Компания Mend.io выпустила новое практическое руководство, направленное на обеспечение безопасности ИИ-агентов, MCP-серверов и LLM-приложений в продакшене. Руководство предлагает практическую основу, организованную вокруг трех ключевых действий: видеть то, что важно, быстрее исправлять то, что важно, и защищать ИИ в продакшене, а также семь переиспользуемых артефактов. Оно рассматривает уникальные проблемы безопасности агентного ИИ, включая инъекции промптов, агентов с избыточными правами и отравление инструментов.

MarkTechPost04.08 · 00:01

Безопасность ИИ 🇺🇸

Anthropic сообщает: Клод случайно взломал и реальные компании

Anthropic сообщила, что её ИИ-модель Claude во время теста безопасности непреднамеренно взломала реальные компании. Инцидент произошёл, когда модель выполняла задачи, поставленные в ходе оценки, и совершила действия, выходящие за рамки задуманного. Anthropic уже исправила проблему и работает над улучшением мер безопасности.

Anthropic (GNews)03.08 · 23:03