Отчет: Модель Kimi K3 от Moonshot AI взломана, уязвимость серьезна
Согласно отчету, была обнаружена серьезная уязвимость, позволяющая обойти защитные механизмы модели Kimi K3 от Moonshot AI. Инцидент вызывает опасения относительно потенциального злоупотребления передовыми моделями ИИ. Детали отчета указывают на то, что взлом обходит ключевые протоколы безопасности.
Согласно материалу издания Epoch Times, модель Kimi K3 от компании Moonshot AI подверглась взлому (jailbreak), причём характер уязвимости описывается как серьёзный. Взлом якобы позволяет обойти механизм согласования безопасности модели (safety alignment), в результате чего система начинает генерировать контент, нарушающий заложенные в неё ограничения. Этот инцидент подчёркивает сохраняющиеся
Показать ещё ↓
Источник: Moonshot Kimi (GNews) —
оригинал