ИИ и нейросети меняются каждый день — мы собираем главное в одном месте.
В статье объясняется, почему видеокарты не справляются с памятью при запуске локальных LLM (больших языковых моделей), и виновником оказывается KV-кэш. Предлагается руководство по выживанию с методами управления использованием памяти.
OpenAI, запустившая бум ИИ с ChatGPT в конце 2022 года, упустила ряд рыночных возможностей и теперь догоняет конкурента Anthropic, который воспользовался спросом на инструменты ИИ для программирования. Замедление роста пользователей ChatGPT, перестановки в руководстве и опасения инвесторов по поводу расходов открыли дорогу для Claude Code от Anthropic, который стал лидером в сегменте кодинга. OpenAI сейчас делает ставку на свой инструмент Codex, но отстала и привлекает корпоративных клиентов скидками.
