Генеральный директор Ollama Джеффри Морган сообщил, что компания AT&T перевела 40% токенов на использование открытых моделей, поскольку китайские flash-модели и агенты для программирования приводят к 150-кратному росту.
Компании, участвующие в развитии
В этой области работают несколько заметных организаций:
- DeepSeek — компания с оценкой в $45.0B.
- Sakana AI — японская компания с оценкой $2.6B, специализирующаяся на эффективных моделях ИИ, использующих био-вдохновленную эволюцию для создания компактных и мощных фундаментальных моделей.
- AT&T — глобальный телекоммуникационный конгломерат, применяющий ИИ для повышения операционной эффективности и снижения затрат.
Как работает падение стоимости открытых моделей Ollama
Модель сотрудничества предполагает, что партнеры и ассоциаты руководят процессом, где передовые закрытые модели занимаются маршрутизацией и координацией, а армия дешевых открытых моделей выполняет основную работу.
AT&T уже перенаправила 40% потребления токенов на открытые модели, преимущественно американские и европейские веса, при этом китайские модели находятся на стадии оценки. Основные рабочие процессы — это агенты программирования, а также совместные агенты вроде OpenClaw и Hermes, которые автоматизируют длительные задачи в сферах финансов, поддержки, маркетинга и продаж.
Важную роль играет токен-математика. Морган отметил резкий рост еженедельного потребления токенов на одного разработчика с появлением OpenClaw в апреле, увеличение контекстных окон с 128К до более 1 миллиона токенов, а также общий рост облачного потребления токенов на 150 раз с начала года. Модели flash-класса, подобные DeepSeek Flash, разработаны для высоких объемов задач, они достаточно точны для 80% операций, быстры и очень дешевы. Это позволило командам перестать ограничивать себя в использовании токенов и начать связывать модели в цепочки.
Почему это важно и что еще не решено
Для разработчиков избыток токенов создаёт новую проблему — дефицит знаний, координации подагентов и выполнения задач в песочницах становится главным вызовом. Морган оценивает, что 80–90% корпоративных токенов проходят через открытые модели, однако на них приходится только 10–20% бюджета, что обеспечивает более широкий доступ, а не сокращение.
Вопрос безопасности остаётся ключевым. Морган отметил, что возможности моделей класса GLM 4.5 впечатляют, но инструменты безопасности, которые сопровождают закрытые провайдеры, отсутствуют у открытых весов. Предприятия в США и Германии готовы использовать китайские модели при условии запуска в безопасной среде, контролируемой ими. При этом веса проходят строгую проверку, как и любой другой открытый исходный код. Этот вопрос решаем, но ещё требует внимания, а стартапы в области управления безопасностью станут важнее, чем дискуссии о происхождении моделей.
Надежность стоимости открытых моделей Ollama
Стоимость открытых моделей признана легитимной. Морган связывает перемещение предприятий с изменениями цены за токен и цену за задачу, приводя в пример AT&T. Это подтверждается одинаковыми тенденциями потребления в США и Германии на Ollama Cloud.
Безопасность открытых моделей Ollama
Низкая цена не гарантирует безопасность. Открытым моделям не хватает встроенного стека безопасности, который предоставляют закрытые лаборатории. Поэтому покупателям необходимо самостоятельно обеспечивать проверку модели, контролировать хостинг и вести аудит. Те, кто успешно справился с этими задачами, спокойно размещают китайские веса в США и Европе.
Стоит ли использовать открытые модели Ollama
Открытые модели особенно эффективны для задач с большим объемом рутинной работы. Модели flash-класса предоставляют более низкое время отклика и значительно меньшую стоимость за задачу, а также открывают возможности для цепочечных и маршрутизирующих стратегий. Передовые модели используются для самых сложных задач.
Качество открытых моделей Ollama
Они достаточно хороши для поддержки агентов программирования и совместной работы. По словам Моргана, такие модели, как Qwen 3 38B, сопоставимы с Opus 4.6 в задачах программирования и могут быть запущены на компьютерах среднего уровня, таких как Mac Studio или десктопах класса GB300.
Является ли стоимость открытых моделей Ollama мошенничеством
Нет. Преимущество в стоимости возникает благодаря открытым весам, конкурентоспособным провайдерам вывода и аппаратному обеспечению, способному запускать модели от 20B до 128B локально. Нет скрытых комиссий, однако происходит обмен управляемой безопасностью на контроль.
Реальность стоимости открытых моделей Ollama
Стоимость подтверждается измеряемыми потоками токенов. Морган приводит данные о 150-кратном росте облачного использования в текущем году и 5-кратном росте потребления на пользователя после запуска OpenClaw. Разделение нагрузки между локальным и облачным вычислением доказывает, что ситуация зависит от типа рабочих задач, а не является маркетинговым ходом.
Преимущества и недостатки стоимости открытых моделей Ollama
- Преимущества: низкая стоимость, локальный контроль, гибрид облака и локальных вычислений, лучшая адаптация для тестирования безопасности в сферах, где закрытые модели не допускаются.
- Недостатки: фрагментированность инструментов, сложность запуска с первого дня из-за разнородности движков и средств управления, необходимость самостоятельной разработки систем безопасности и памяти.
Итог по стоимости открытых моделей Ollama
Рекомендуется применять открытые модели для 80% задач, где важны скорость и объем, и использовать передовые модели для 20% задач, требующих максимальной интеллектуальной мощности. Победная архитектура, описанная Морганом, — это маршрутизатор, часто реализуемый через оркестрацию в стиле Sakana AI, который комбинирует оба подхода.
Открытые веса не просто стали достаточно дешевыми — они стали достаточно эффективными, так что их игнорирование сейчас обходится дороже.
Прокомментировать в Телеграм: https://t.me/n8nhow
Подписаться на канал обучения n8n: https://t.me/n8ncoaching