The Download: уязвимость LLM и возрождение геотермальной электростанции
Исследователи выявили фундаментальный недостаток в работе больших языковых моделей, который позволяет обходить их защиту и получать опасную информацию. В Нью-Мексико компания Zanskar успешно возродила приходящую в упадок геотермальную электростанцию, пробурив новую скважину с помощью современных технологий.
В статье MIT Technology Review сообщается, что команда исследователей представила на ведущей конференции по искусственному интеллекту работу, в которой утверждается, что большие языковые модели невозможно сделать полностью защищенными от взлома из-за фундаментального недостатка в их работе. Этот недостаток связан с тем, как модели определяют источник инструкций, что позволяет злоумышленникам
Показать ещё ↓
Источник: MIT Technology Review —
оригинал