о разработке платформы для управления ИИ-системами на всех стадиях их жизненного цикла в компаниях Направление Т1 ИИ, входящее в ИТ-холдинг Т1, разработало платформу «Сайбокс» — инструмент для управления ИИ-решениями в компаниях, которые занимаются созданием, тестированием, внедрением и эксплуатацией приложений и сервисов на основе искусственного интеллекта. Платформа позволяет бизнесу внедрять ИИ-решения, сохраняя существующий ИТ-ландшафт, ускоряет их вывод на рынок, снижает затраты на разработку и поддержку ИИ, к тому же повышает эффективность работы команд, отвечающих за ИИ-системы. О задачах и проблемах, которые помогает решать платформа, о применяемых в ней подходах, а также об истории создания системы и ее сегодняшнем дне рассказывает Дмитрий Соловьев, директор по техническому развитию Т1 ИИ и номинант на премию Data Award.
- Как появилась идея разработать этот ИИ-инструмент?Началось с того, что один банк обратился с запросом из-за слишком долгого внедрения ИИ-систем: от идеи до работающего прототипа уходило до полугода. Это неприемлемый срок для бизнеса, которому необходимо быстро реагировать на рыночные изменения. Анализ ситуации показал, что дело не в качестве отдельных технологий, а в их разрозненности: команды использовали разные среды разработки, данные хранились изолированно, а интеграционные работы занимали больше времени, чем обучение моделей. Чтобы изменить ситуацию, требовалась единая среда, бесшовно соединяющая все этапы работы с ИИ.
Так родилась идея создать унифицированную инфраструктуру ИИ для специалистов по данным, MLOps и бизнес-пользователей — платформу, в которой данные, модели и приложения существуют в едином контуре. Пилотный проект подтвердил: переход на единую платформу дает кратный прирост скорости и существенно повышает прозрачность на всех этапах жизненного цикла ИИ-решений. Этот успешный проект послужил основой для создания коммерческого продукта «Сайбокс».
- На решение каких проблем и задач ориентирована ваша платформа?Она покрывает практически весь спектр вопросов, с которыми сталкиваются компании при масштабировании искусственного интеллекта. Самый критичный из них — слишком долгий путь от идеи до результата. «Сайбокс» сокращает его в разы.
Вторая решаемая проблема — разрозненность инструментов и сред: одна команда работает в одних средах, другая — в альтернативных, данные «гуляют» между системами, а настройка их интеграции съедает немалые ресурсы. Платформа объединяет все этапы в едином контуре — от загрузки данных до мониторинга готовых моделей.
Третья проблема — сложность для бизнес-пользователей: хотя потребность в ИИ растет во всех подразделениях, он остается вотчиной узких специалистов. Имеющиеся в «Сайбокс» средства Low-Code/No-Code дают сотрудникам, не имеющим глубоких навыков программирования, возможность создавать собственные ИИ-приложения.
Четвертый фактор — высокие требования к безопасности: в большинстве крупных компаний передача данных вовне недопустима. Наша платформа может разворачиваться локально внутри закрытого контура предприятия или на базе гибридной схемы, данные и ИИ-модели при этом остаются под контролем компании.
Наконец, отсутствие прозрачности и контроля: когда моделей много, становится непонятно, какие именно их версии работают, кто вносил в них изменения, кто из пользователей и в каком объеме потребляет вычислительные ресурсы и пр. Имеющиеся в составе платформы средства мониторинга, поддержки версионности и биллинга дают полную картину происходящего.
- Почему решение этих проблем имеет важное значение?Современный бизнес не может ждать внедрение ИИ месяцами — нужны решения, позволяющие оперативно реагировать на изменения рынка. Компании, не способные быстро адаптировать ИИ-модели к новым данным или обеспечивать доступность своих сервисов в периоды пикового спроса, неизбежно теряют свои конкурентные преимущества.
Ситуацию усугубляет дефицит специалистов по данным и разрозненность инструментов — компаниям приходится тратить миллионы на преодоление этих проблем либо вообще отказываться от ИИ-гонки. Переход на «Сайбокс» открывает перед компаниями другой путь — разумной автоматизации на основе передовых технологий.
- Каковы ключевые возможности решения?«Сайбокс» — это, по сути, операционная система для ИИ: она обеспечивает управление всеми этапами жизненного цикла ИИ-решений — от приема «сырых» данных до промышленной эксплуатации сложных моделей. Входящий в состав платформы конструктор ИИ-решений позволяет собирать их визуально, как домики из кирпичиков LEGO. Работать с ним могут даже сотрудники, не имеющие технического образования. Платформа легко встраивается в имеющийся ИТ-ландшафт, интегрируясь с корпоративными бизнес-приложениями, IoT‑устройствами, BI‑платформами и другими системами. Ролевая модель доступа, поддержка версионности моделей, мониторинг их «здоровья» в реальном времени обеспечивают контроль и безопасность информационного пространства организации.
Еще одно важное преимущество — гибкость работы с разными типами ИИ‑моделей: платформа поддерживает «классическое» машинное обучение (ML), глубокое обучение (DL) и большие языковые модели (LLM).
- На основе каких технологий реализована ваша платформа?«Сайбокс» построен на базе современного технологического стека, позволяющего решать сложные ИИ-задачи. В основе инфраструктурного ядра — технологии контейнеризации и оркестрации. В качестве инструментов разработки доступны кастомизированные Jupyter, Airflow, MLflow, Label Studio — известные всем инструменты для работы с данными и технологиями машинного обучения.
К платформе можно подключить практические любые ИИ-модели, в том числе LLM, что обеспечивает существенную гибкость разработки. Интерфейсы API совместимы с Hugging Face, что облегчает доступ к открытому репозиторию.
Мониторинг и наблюдение в реальном времени дают полную картину «здоровья» системы — загрузки серверов, качества прогнозов моделей, информации об инцидентах. Эти функции реализованы на базе Prometheus и Grafana.
- Какие данные использует платформа?Она работает с теми данными, которые уже есть у компании и важны для решения ее бизнес-задач: структурированными и неструктурированными, потоковыми и телеметрическими. К платформе можно также подключить корпоративные архивы, базы знаний и различные внешние источники.
- Какие математические методы используются в платформе?Мы используем целый набор математических и алгоритмических подходов — это позволяет решать очень разные бизнес‑задачи с максимальной эффективностью. На базовом уровне активно задействуем «классическое» машинное обучение: например, для сортировки данных применяем методы классификации: деревья решений, SVM или ансамбли алгоритмов. Если нужно предсказать числовые показатели, выбираем разные виды регрессии: линейную, полиномиальную или гребневую. Для поиска закономерностей в больших массивах данных используем кластеризацию: K‑Means, DBSCAN или иерархический подход. А когда требуется упростить модель без потери информативности, на помощь приходят методы уменьшения размерности вроде PCA и t‑SNE.
Для более сложных сценариев у нас есть инструменты глубокого обучения. Сверточные нейронные сети (CNN) отлично справляются с обработкой изображений, рекуррентные сети (RNN и LSTM) — с последовательностями данных, например временными рядами или текстами. Трансформеры позволяют качественно работать с естественным языком. Отдельно выделим большие языковые модели: они умеют генерировать тексты и код, получать краткое содержание документов и отвечать на вопросы пользователей. Чтобы эффективно искать похожие объекты, используем векторные представления — эмбеддинги для текстов и изображений вместе с векторными базами данных. А RAG‑подход помогает комбинировать поиск точной информации с гибкой генерацией ответов.
Дополнительно в платформе реализованы алгоритмы оптимизации: градиентный бустинг, эволюционные алгоритмы и байесовская оптимизация, они помогают настраивать модели и улучшать их точность. Для прогнозирования временных рядов применяем проверенные методы: ARIMA, Prophet и LSTM‑сети.
В результате мы создали гибкий инструментарий с широким спектром возможностей — от простых аналитических средств до продвинутых ИИ‑решений, адаптированных под конкретные потребности.
- Что, на ваш взгляд, реализовано в платформе наиболее удачно?Главная особенность «Сайбокса» в том, что он объединяет две, казалось бы, противоположные вещи: профессиональные инструменты для работы с ИИ и простоту использования для тех, кто далек от программирования. С одной стороны, специалисты по данным получают мощную среду для тонкой настройки моделей и полного цикла MLOps — от экспериментов до развертывания и мониторинга. С другой — сами бизнес‑пользователи могут создавать и запускать ИИ‑агентов с помощью интуитивно понятных средств Low-Code. И все это в рамках единой инфраструктуры, благодаря чему команды не теряют время на интеграцию систем и сохраняют высокую производительность.
Отдельно стоит отметить прозрачность и контролируемость всех процессов. Многие компании, активно внедряющие ИИ, через некоторое время обнаруживают себя в ситуации «ИИ-хаоса»: модели множатся, инфраструктура загружена, но понять, какие ресурсы на что тратятся и где узкие места, практически невозможно. «Сайбокс» предоставляет полную картину использования вычислительных мощностей: какие модели загружают GPU, сколько ресурсов потребляет каждый эксперимент, где наблюдаются пиковые нагрузки, а где мощности простаивают. Компания видит, на что уходят инвестиции в ИИ, где можно оптимизировать затраты, а где, наоборот, требуются дополнительные ресурсы. Это превращает ИИ-инфраструктуру в управляемый и предсказуемый бизнес-актив.
- Каков портрет типичного клиента вашей платформы?Это компании среднего и крупного размера из финансового сектора, промышленности, ретейла, логистики, телекома и госсектора. Их объединяет общий запрос: ИИ-инициативы уже вышли из стадии пилотов, но масштабирование дается с трудом, потому что модели разрабатываются в разрозненных средах, ресурсы (особенно дорогие GPU) расходуются непрозрачно, при этом дожидаться очереди на проверку новой бизнес-гипотезы приходится неделями. К тому же нужно обеспечить необходимую защиту данных и обработку их внутри компании.
Конкретные названия клиентов мы не раскрываем, но готовы делиться результатами. Например, в одном из банков сроки до сдачи ИИ-продуктов в эксплуатацию (time-to-market) сократились втрое, а операционные издержки на ИИ снизились на 40%.
- Какие результаты могут достигаться благодаря использованию вашей платформы?Компании, внедряющие «Сайбокс», могут получить ощутимые и измеримые результаты. Может значительно ускориться цикл разработки и внедрения моделей — в 3–10 раз. Рост производительности команд при этом может превышать 40%, а снижение операционных издержек может достигнуть 40–50%. В результате инвестиции во внедрение ИИ‑решений окупаются гораздо быстрее.
Помимо экономических эффектов, компания получает стратегическое преимущество: высокую скорость создания новых сервисов и возможность внедрения ИИ-инструментов на всех уровнях.
Что также важно, вместе с обновлениями платформы компания автоматически получает новые передовые инструменты, подтверждающие свою эффективность. Самые свежие версии алгоритмов, моделей, улучшенные механизмы обработки данных, новые технологии — все они становятся доступны сразу, как только они появляются, без дополнительных затрат на разработку и интеграцию.
- Каковы успехи вашего продукта на рынке?Платформа активно внедряется в крупных компаниях — в том числе в банковском секторе и промышленности. Клиенты отдельно подчеркивают быструю окупаемость и простоту масштабирования решения. Платформа входит в реестр российского ПО, что позволяет применять ее организациям с высокими требованиями к безопасности данных и эксплуатирующим объекты КИИ.
- В чем вы видите главную роль продукта для рынка?«Сайбокс» решает системную проблему рынка — дефицит доступной и безопасной инфраструктуры для создания и масштабирования ИИ-решений. Платформа обеспечивает бизнесу технологическую независимость от зарубежного ПО и полное соответствие регуляторным требованиям, что критически важно для финансового сектора, госструктур и предприятий стратегического значения. Платформа не просто ускоряет внедрение ИИ, а формирует новую культуру управления ИИ, где эксперименты с моделями становятся рутиной, а контроль над инфраструктурой — понятным и предсказуемым.
- В каком направлении будет развиваться решение?Мы видим, как быстро появляются новые модели и библиотеки с открытым кодом, но корпоративные клиенты не могут использовать их «как есть»: нужно обеспечить безопасность ИИ-систем, поддержку, интеграцию с другими системами, контроль затрат и пр. Поэтому мы будем усиливать работу с инструментами для LLM, адаптируя их для закрытого контура компаний, и развивать инструменты FinOps.
Параллельно продолжим углублять интеграцию с корпоративным ландшафтом (ERP, CRM, документооборот), расширять отраслевые шаблоны в нашем маркетплейсе и наращивать механизмы безопасности под требования новых для нас отраслей — медицины, образования, госсектора.
источник -
здесь
