EventHub

Под капотом AI⁠-⁠агента: от бизнес⁠-⁠задачи до GPU

29 октябряРоссияОнлайн
IT и информационные технологии
На вебинаре эксперты «Фланта» и Kept разберут как устроен путь AI-агента: инфраструктура → управляемый GPU-ресурс → инференс → AI - агент → бизнес - задача. Спикеры расскажут о роли каждого слоя, границах ответственности платформ и требованиях, которые важно учесть ещё до перехода от пилота к эксплуатации. О чем будем говорить AI - агент выполнил тестовую задачу. Теперь его нужно подключить к корпоративным системам и запустить для нескольких команд. Какую нагрузку выдержит сервис? Как распределить GPU между приложениями? Какие действия разрешить агенту? И где искать причину сбоя — в инфраструктуре, сервисе инференса или логике самого агента? На вебинаре эксперты «Фланта» и Kept разберут всю цепочку снизу вверх: инфраструктура → управляемый GPU - ресурс → инференс → AI - агент → бизнес - задача. Спикеры расскажут о роли каждого слоя, границах ответственности платформ и требованиях, которые важно учесть ещё до перехода от пилота к эксплуатации. Основой разбора станет KeptStore — платформа AI - агентов, перенесённая на Deckhouse Platform. На её примере обсудим, как связаны инфраструктура, работа модели и действия агента в корпоративных системах. Если у вашей компании уже есть агентский пилот или конкретный бизнес - сценарий, регистрируйтесь на вебинар. Обсудим, что нужно сделать, чтобы AI - агент стабильно и безопасно работал в корпоративном контуре. На вебинаре вы узнаете Инфраструктура для агентной системы. Где используются контейнеры, где нужны виртуальные машины и какую роль выполняет Deckhouse Platform. Что учитывать при работе в закрытом контуре: сеть, хранилища, доступы и мониторинг. GPU под требования приложения. Почему одного количества карт недостаточно. Как описывать нужные характеристики ресурса, что даёт DRA и какие возможности зависят от драйвера, оборудования и выбранного режима разделения GPU. Инференс как отдельный сервис. Что требуется между загруженной моделью и подключённым к ней агентом: среда выполнения, API, масштабирование, отказоустойчивость и метрики. Как понять, что сервис справляется с нагрузкой. От обращения к модели — к выполнению задачи. Как в KeptStore связаны цель агента, правила, навыки и инструменты. Как агент использует инференс и взаимодействует с корпоративными приложениями. Доступ и ответственность. Как организовать работу агента с данными, правами и секретами. Какие задачи решаются на уровне инфраструктуры, какие — в агентной платформе, а какие требуют настройки самих корпоративных систем. В завершение свяжем эти уровни в одной схеме: от предоставления вычислительных ресурсов до выполнения прикладного действия. Обсудим, что необходимо проверить перед запуском под рабочей нагрузкой и какие вопросы адресовать инфраструктурной, прикладной и AI/ML - командам. Кому будет полезно CIO CTO CDTO руководителям инфраструктурных, платформенных и AI/ML - команд архитекторам техническим лидерам и инженерам, которые отвечают за запуск AI - систем в корпоративном контуре Спикеры Александр Подмосковный, директор продуктового направления ML/AI, «Флант» Роман Малюга, партнёр, руководитель группы финансовой трансформации и цифровых решений, Kept

Регистрация и подробности — на официальном сайте организатора.

Назад в каталог

Похожие события