Зарегистрироваться
DUC meetup #1: приручаем Cilium и строим домашний LLM-кластер на Deckhouse
Бесплатно

20 мая приглашаем DevOps-инженеров, SRE и системных администраторов на первый митап Deckhouse User Community в Москве. Спикеры из «Фланта» и «Московского кредитного банка» расскажут про работу Cilium, а также распределённый инференс LLM с использованием K8s в домашних условиях. После докладов будет расширенная Q&A-сессия, а в конце митапа — время для неформального общения. Приезжайте лично или подключайтесь онлайн!

ИТ и интернет 18+

Программа

Cilium: всё, о чём вы догадывались, но боялись спросить — Дмитрий Попков, «Флант»

В основе работы сетевой подсистемы в Deckhouse Kubernetes Platform лежит модуль cni-cilium. Как несложно догадаться из названия, он основан на проекте Cilium.

Из доклада Дмитрия вы узнаете, что такое Container Network Interface и как Cilium реализует этот стандарт. Мы разберём, как Cilium устроен «под капотом», а также его функциональные возможности и особенности. Отдельно поговорим о процессе обработки трафика и подходах к диагностике и выявлению неисправностей при использовании Cilium в продакшене.

О спикере: Архитектор решений Deckhouse. Начинал карьеру как коренной сетевой инженер, несколько раз добрался до сертификации CCIE, далее ушёл в архитекторы с целью расширить общий кругозор — в этой роли и продолжает работать сейчас. Более 10 лет опыта в сетях, инфраструктуре и в целом в ИТ.

Разделяй и шардируй: бюджетный домашний GPU-кластер для распределённого инференса с vLLM, Deckhouse и Ray — Александр Подмосковный, «Московский кредитный банк»

В своём докладе Александр поделится, как сделать вход в мир ИИ проще и доступнее, нацелившись на запуск крупных языковых моделей без внушительных бюджетов. Используя Proxmox для проброса GPU, Kubernetes-кластер под управлением Deckhouse и инструменты вроде vLLM и Ray Serve, он покажет, как организовать эффективный и масштабируемый инференс, не переплачивая за инфраструктуру. 

Вы узнаете, как подключить удобный веб-интерфейс (OpenWebUI) и обеспечить безопасность через CDN/WAF. А в итоге увидите, что выделить домашний кластер под серьёзные AI-задачи — вполне реальная, захватывающая и экономная авантюра.

О спикере: Руководитель центра компетенций технологий взаимодействия с клиентом. В МКБ с 2014 года. Сначала развивал CRM-направление, затем возглавил отдел разработки. С 2019 года руководит центром компетенций: отвечает за развитие CRM, BPM и SAS. Помимо основных обязанностей, активно внедряет DevOps-практики, участвует в создании отказоустойчивых микросервисных систем, исследует IaaS, PaaS, SaaS, а также внутренние механизмы и модели в сфере ИИ.  

Q&A-сессия

После докладов проведём расширенную сессию вопросов и ответов. Для неё к спикерам присоединятся коллеги из «Фланта» и МКБ: Павел Тишков, технический директор Deckhouse Virtualization Platform, и Александр Шишко, техлид DevOps.

Расписание

18:15 – 19:00 | Регистрация. Сбор гостей

19:05 – 19:35 | Cilium: всё, о чём вы догадывались, но боялись спросить

19:35 – 20:05 | Разделяй и шардируй: бюджетный домашний GPU-кластер для распределённого инференса с vLLM, Deckhouse и Ray

20:05 – 20:30 | Кофе-брейк

20:30 – 21:00 | Расширенная Q&A-сессия

21:00 – 22:00 | Нетворк

Где и когда встречаемся офлайн

Встречаемся 20 мая в лофте «Событие» по адресу Николоямская улица, 28. Ближайшая станция метро — «Таганская». Программа начнётся в 19:00, сбор гостей — с 18:15.

Онлайн-трансляция

Места на офлайн в Москве закончились, но вы можете присоединиться к онлайн-трансляции или ВКонтакте или на YouTube: 

 

Если вы хотите получить письмо-напоминание со ссылкой на трансляцию, зарегистрируйтесь в форме ниже:

Поделиться:

Москва
Николоямская улица, 28
Показать на карте

Уже есть билет
Восстановить

Поделиться:

Связь с организатором

Напоминаем, что для того чтобы восстановить билет организатору можно не писать.

На этот адрес придёт ответ от организатора.

По номеру с вами свяжется организатор

Подпишитесь на рассылку организатора

Восстановление билета

Введите адрес электронной почты, указанный при регистрации на событие

Обращаем внимание на то, что билеты должны были прийти к вам на почту сразу после покупки.

Возврат билета

Если вы хотите вернуть билеты, вы можете сделать это по ссылке из письма с билетами или оформить запрос организатору в вашем  личном кабинете.

Подробнее о возврате билетов