«Платформикс» спроектировал физический кластер для работы с генеративным ИИ в компании «Северсталь»

Системный интегратор «Платформикс» разработал архитектуру и создал высокопроизводительный вычислительный кластер для работы с большими языковыми моделями в компании «Северсталь».

Кластер предназначен для развертывания генеративного искусственного интеллекта на базе больших языковых моделей, чтобы в дальнейшем использовать его для встраивания в бизнес-процессы компании и решения практических задач. Эксперты «Платформикс» разработали масштабируемую архитектуру вычислительного кластера, обеспечивающего работу ИИ, в соответствии с лучшими практиками ведущих зарубежных компаний.

Спроектированная архитектура обеспечила полную совместимость компонентов, возможность дальнейшего масштабирования и высокую скорость инференса — применения обученных моделей искусственного интеллекта для решения практических задач бизнеса.

Виктория Ефимова, владелец платформы генеративного ИИ «Северстали»: «Для нас данный проект был первым, где потребовалось решить задачу создания крупного физического вычислительного кластера для инференса LLM. Благодаря “Платформикс” мы не только в короткие сроки смогли сделать закупку и настройку оборудования, но и заложили фундамент для будущего масштабирования, которое также реализовываем с этим подрядчиком».

Евгений Илюшин, системный архитектор отдела комплексных решений «Платформикс»: «Проект потребовал применения нестандартных подходов к поиску решения, обеспечивающего достижение целей заказчика. По итогам анализа всех возможных вариантов реализации в кратчайшие сроки было выбрано оптимальное решение».