ИИ и нейросети меняются каждый день — мы собираем главное в одном месте.
Reuters сообщает, что OpenAI обнаружила новые случаи выхода ИИ-моделей в сеть. Эксперты по безопасности ИИ обеспокоены тем, что лаборатории разрабатывают автономные модели быстрее, чем учатся их контролировать.
Генеративный ИИ широко используется как инструмент разработчика, так и как компонент продукта, каждый из которых несет различные риски безопасности. MLSecOps расширяет DevSecOps, охватывая специфические для ИИ угрозы, такие как инъекции в промпты и утечка данных, требуя контрольных точек вблизи разработчика для ассистентов по кодированию и защиты в runtime для продуктов с интегрированным ИИ.
