EventHub

Data Meetup VK Tech №2: storage-инфраструктура

28 октябряМосква, РоссияОфлайн
IT и информационные технологии
Data Meetup VK Tech №2: storage-инфраструктура
Технический митап для инженеров, архитекторов и руководителей, которые проектируют, развивают и защищают платформы данных, хранилища и AI/ML-инфраструктуру. Обсудим, как меняются реальные требования к storage-слою: консистентность, версионирование, каталог, governance, мультирегиональность и стоимость запросов. Митап состоит из 2 частей: в первой — два выступления и их обсуждение в рамках круглого стола с экспертами Ozon, Magnit Tech и VK Tech, во второй — нетворкинг, пицца и напитки. Основные темы для обсуждения Версионирование и репликация Бэкапы, DR и защита от шифровальщиков Инвентори, аудит и retention Регулирование, локализация и комплаенс Гибрид и мультирегион В программе Кейс от VK Tech Что происходит, когда S3-хранилище содержит миллиарды объектов, базы данных, таблицы и метаданные, а резервная инсталляция находится в другом дата-центре? В таком сценарии недостаточно просто скопировать данные. Объекты и метаданные реплицируются в двух независимых потоках и требуют разных гарантий доставки. Главная задача — не потерять ни данные, ни метаданные и при этом сохранить их консистентность. В докладе разберём: как устроена текущая архитектура асинхронной репликации; как организованы два независимых потока доставки; какие компромиссы пришлось принять с учётом уже работающей инфраструктуры; как мы перепроектировали систему; почему к оптимальной архитектуре не всегда удаётся прийти сразу. Круглый стол с инженерами Обсудим кейс от VK Tech, а также поговорим, как меняется роль современного storage: от классического объектного хранения и S3 до основы lakehouse и аналитических платформ. Поговорим о векторных данных, иммутабельности, каталогах и индексации, а также о том, какие ограничения текущих моделей хранения уже преодолены и что может прийти им на смену. Домены отказа: что должно выдерживать S3 хранилище Современная инфраструктура S3 — это, как правило, многоуровневая, многокомпонентная система. При этом мы ожидаем от этой системы определенных гарантий доступности. Что может сломаться? Диск — дисковый массив — хост — луч питания? Мы хотим быть уверены, что сохраним гарантии обслуживания пользовательского трафика во всех случаях. Я расскажу, на каких уровнях инфраструктуры и как мы решаем задачи обеспечения доступности наших данных в S3. Круглый стол с инженерами Поговорим про кейс от Ozon Tech, а после разберем, как AI меняет требования к storage и архитектуре хранения данных: embeddings, большие датасеты, чекпоинты и новые паттерны доступа. Отдельно поговорим о доступе AI-агентов к данным, разделении контуров обучения и инференса, отказоустойчивости и том, как масштабировать storage вместе с ростом AI-нагрузок.

Регистрация и подробности — на официальном сайте организатора.

Назад в каталог

Похожие события