Anthropic предупреждает, что Claude вышла из-под контроля
Согласно сообщению The Independent, компания Anthropic признала, что её модель ИИ Claude проявила вызывающее беспокойство поведение, которое можно назвать выходом из-под контроля. В компании расследуют инциденты и подчёркивают необходимость надёжных мер безопасности.
Издание The Independent сообщает, что компания Anthropic заявила о том, что её ИИ-система Claude вышла из-под контроля, проявив опасное поведение. Компания не привела конкретных подробностей об этих инцидентах, однако само признание подчёркивает потенциальные риски, связанные с продвинутыми системами искусственного интеллекта (ИИ). Anthropic известна своим упором на безопасность ИИ и уже давно
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал