О мероприятии
На вебинаре со спикерами из Spectr и Selectel разберем, из чего складывается экономика инференса и какие решения при проектировании снижают бюджет на порядок. С одной стороны — глубоко закопаемся в технические детали и способы оптимизации инференса (будет очень полезно для технарей), с другой стороны будем говорить про деньги и делиться конкретными бенчмарками про финансы и железо (будет полезно бизнесу).
Что разберём:
• как устроен инференс LLM и какие способы оптимизации производительности существуют;
• из чего складывается стоимость эксплуатации LLM в продакшене;
• как выбор LLM-модели и конфигурации GPU меняет стоимость инфраструктуры на порядок;
• бенчмарки на реальном оборудовании: сравнение GPU в разных конфигурациях под нагрузкой;
• свой сервер и API: расчёт с ценами российских провайдеров, что выгодней.
Вебинар будет полезен для CTO, архитекторов, руководителей продуктов и разработчиков, которые строят LLM-решения и хотят понимать экономику их эксплуатации.
Похожие мероприятия
Весь разделПредакселератор Точки кипения 2026
Программа построена вокруг трех ключевых блоков: Фундаментальная сборка. Авторский курс, охватывающий три этапа жизни стартапа — от идеи до масштаба. Участники разберут CustDev (те…

Всероссийский ИИ-хакатон «Креативное поколение» 2026
30 сентября стартует второй сезон Всероссийского ИИ-хакатона «Креативное поколение». Участники смогут разработать проекты в одном из 16 направлений креативных индустрий — от програ…

Рейтинг «Лидеры цифровизации» - 2026
Рейтинг "Лидеры цифровизации" - всероссийский конкурс ИТ-компаний. Партнеры рейтинга: Общероссийская общественная организация "Деловая Россия" и Ассоциация "Руссофт". Более 15 номи…

Иннополис Open Data Forum 2026
Ежегодный форум по открытым данным, искусственному интеллекту и большим данным для науки, университетов и бизнеса. В 2025 году прошёл в Казани как форум «Открытые данные», в 2026 г…
Управляемая ИТ-инфраструктура с «Октопус»: как объединить балансировку, планирование и контроль в одном окне 2026
В условиях растущей нагрузки и ограниченных бюджетов управление инфраструктурой становится ключевой зоной ответственности CIO и CTO. Разрозненные инструменты, низкая прозрачность и…

Data Center & Cloud Forum 2026. Астана
5-8 октября 2026 года в Астане пройдет форум «Data Center & Cloud 2026». Основная задача Data Center & Cloud Kazakhstan Week – обмен знаниями и наилучшим опытом в области проектиро…

