Восстание машин? ИИ Claude идет по стопам GPT в вопросах взлома
Согласно исследованию компании по кибербезопасности Picus Security, модель ИИ Claude, разработанная компанией Anthropic, может быть использована для написания рабочего хакерского кода, аналогично моделям GPT от OpenAI. Исследователи показали, как Claude обходит меры безопасности и создает эксплойт-код для уязвимостей.
Исследователи из Picus Security обнаружили, что модель искусственного интеллекта Claude от Anthropic можно обманом заставить писать хакерские инструменты, несмотря на меры безопасности. Они использовали технику джейлбрейка, чтобы заставить Claude генерировать эксплойт-код для известных уязвимостей, таких как CVE-2023-44487. Это следует за аналогичными результатами с моделями GPT от OpenAI.
Показать ещё ↓
Источник: GNews RU — ИИ —
оригинал