No Obtuviste el Modelo de IA por el Que Pagaste
Anthropic
Cursor
OpenRouter
Al llamar a una API, el modelo puede ser reemplazado por otro, servido con precisión reducida (cuantizado) o actualizado silenciosamente. Esto genera riesgos legales: incumplimiento de garantía, dificultades de prueba en tribunales y posible engaño al consumidor. Una solución podría ser la identidad criptográficamente certificada del modelo en cada respuesta.
В статье рассматриваются три сценария, когда запрошенная модель не совпадает с фактически использованной. Anthropic при активации классификатора заменяет заблокированные запросы с «claude-fable-5» на «claude-opus-4-8» и сообщает об этом в ответе. Cursor выпустил Router — классификатор, который на основе контекста запроса выбирает модель, не указывая конкретное имя модели для каждого типа задачи. OpenRouter предупреждает, что некоторые провайдеры могут использовать квантованные веса с пониженной точностью, а логи этого не отражают. Такая фрагментация идентичности модели создаёт юридические проблемы: если контракт описывает модель по имени, замена может быть нарушением; если контракт описывает требования к возможностям, нужны объективные критерии качества. Регуляторы (FTC) могут расценить скрытую подмену как тёмный паттерн. Особенно остро проблема стоит в судебных разбирательствах, где сторона должна доказать, какая именно модель сгенерировала конкретный результат. Решением было бы внедрение подписанного утверждения (attestable model identity) с хэшем весов, точностью и системного промпта, заверенного ключом аппаратного аттестации (например, на базе конфиденциальных GPU).
Fuente: MarkTechPost —
original
