В Arcee заявили, что китайские ИИ-модели с открытыми весами не опаснее обычного open-source ПО

Американская лаборатория Arcee, специализирующаяся на открытых ИИ-моделях, выступила против идеи запрета в США китайских моделей с открытыми весами (open-weight). Технический директор Лукас Аткинс заявил, что распространённое мнение о возможности встраивания скрытых механизмов доступа не соответствует принципам работы больших языковых моделей (LLM): после развёртывания модели в собственной инфраструктуре организации её создатель теряет возможность взаимодействовать с ней. Хотя большинство таких моделей являются open-weight, а не полностью open source, их программный код, загружаемый через площадки вроде Hugging Face, доступен для анализа; недоступны лишь данные и методики обучения. В Arcee также отметили, что крупные компании проводят собственные проверки безопасности, тестируют модели на предвзятость, токсичность и галлюцинации, а затем дообучают их под свои задачи. Несмотря на теоретическую возможность внедрения вредоносного кода через модели, Аткинс подчеркнул, что на практике это крайне сложно, а вероятность использования сгенерированного кода без проверки низка. В компании считают, что основное внимание следует уделять развитию открытой ИИ-экосистемы в США, а не ограничениям китайских моделей, поскольку открытая доступность позволяет изучать подходы и конкурировать за счёт качества, а не запретов.