На "CNews FORUM Кейсы Опыт ИТ-лидеров" директор направления операционного развития искусственного интеллекта РУСАЛа Иван Казарин рассказал о практике промышленного применения больших языковых моделей и о том, как компания выстраивает для этого собственную платформенную архитектуру. По его словам, в мировой индустрии уже сформировался фактический архитектурный стандарт построения систем на базе LLM, который включает уровни управления доступом, оркестрации бизнес-логики, интеграции с внешними системами и работы с моделями.
Архитектурный стандарт и независимость от вендоров
Как отметил спикер, такой подход опирается на открытые интерфейсы и зрелые решения для разных уровней платформы, что позволяет снижать зависимость от внешних вендоров. Прямой контроль над технологическим стеком, по его оценке, дает предприятию возможность лучше управлять рисками, долгосрочной стоимостью владения и получать конкурентные преимущества.
Казарин подчеркнул, что реальная ценность в подобных проектах создается не только на уровне самих моделей, но и на уровне платформы, инфраструктуры и команды, которая ее развивает. При этом отдельные агенты и сервисы на такой платформе можно настраивать, внедрять и заменять в течение нескольких дней или недель.
Корпоративная LLM-инфраструктура
В РУСАЛе, как следует из выступления, уже развернута собственная инфраструктура для работы с LLM, в которую входят уровни управления доступом, оркестрации, векторные базы данных и вычислительные ресурсы. Одним из ключевых элементов этой архитектуры стал единый корпоративный чат, через который сотрудники получают доступ ко всем опубликованным на платформе моделям и сервисам без необходимости самостоятельно настраивать API или разбираться в конфигурации системы.
По словам спикера, каждый запрос на платформе проходит централизованную проверку, включая корпоративную аутентификацию, механизмы работы с чувствительными данными и фиксацию меток потребления. Такой подход, как отметил Казарин, позволяет одновременно обеспечивать конфиденциальность, логирование и прозрачную структуру затрат.
Проектная модель и RAG-сервисы
Отдельно он рассказал о проектно-ориентированной модели работы с RAG-сервисами. Для каждого проекта формируется выделенная рабочая среда с разграничением прав доступа, а ответственные сотрудники могут управлять параметрами инференса, подключением моделей и наполнением базы знаний, что позволяет бизнес-подразделениям получать более точный и прикладной результат.
Сейчас на платформе РУСАЛа эксплуатируется более 20 RAG-сервисов, а также свыше 60 сервисов с настроенной интеграцией. Около 30 из них в среднем отправляют более 100 запросов в сутки, а значительная часть - более 1000 запросов в день, что, по словам спикера, говорит об активном использовании платформы в корпоративной среде.
Агентские сценарии и безопасность
Еще одно направление - создание агентских сценариев и многошаговых процессов в выделенной среде, где сотрудники могут самостоятельно прототипировать новые решения в рамках действующих стандартов безопасности. В компании также разработчики и инженеры проектируют функциональные сценарии, работают с корпоративными документами и подключают внутренние базы знаний.
Казарин отдельно подчеркнул важность строгой изоляции контуров, распределения прав доступа, фильтрации опасных запросов и шифрования чувствительных данных. По его словам, безопасность и управляемость являются обязательными элементами промышленного применения LLM.
Эффект и масштабирование
Отдельную часть выступления спикер посвятил оценке эффекта от использования больших языковых моделей. По его словам, в компании выстроена поэтапная модель, в которой сначала обеспечивается доступность платформы, затем сотрудники начинают использовать ее в ежедневных задачах, после этого фиксируется прикладная полезность, а на следующем этапе рассчитывается экономический эффект конкретных проектов.
Такой подход позволяет РУСАЛу не только масштабировать успешные решения, но и приоритизировать инициативы по объективным данным о нагрузке, стоимости и бизнес-результате. По словам Казарина, компания уже видит у ряда проектов понятный экономический эффект, а средний результат по таким кейсам превышает 20 млн рублей.
Источник: