Відео

Больше постов о нагрузке с иллюстрациями на моем канале - t.me/andrey_threads

Имхо, ненадёжно не делать компенсации у последней транзакции, т.к. когда-нибудь появился следующая n+1 транзакция и про n-ую забудут и не реализуют компенсацию

С возвращением!🎉

Очень круто рассказано

полезная информация, ждем больше видео и больше постов!

если при синхронной репликации отдавать пользователю ОК только когда записали во все follower, тогда линеаризуемость вполне будет: следующее чтение, согласно линеаризации, должно происходить после успешной операции предыдущего, то есть уже к моменту завершения репликации

Просто огромнейшее спасибо за подобный материал в открытом доступе. Не поступил в итмо, но могу посмотреть лекции, кайф!)))) Еще вопрос - на каком курсе изучают эти лекции?

как по мне просто отлично, Юрка наверно половину не понял 😁 т.к. таких развёрнутых ответов на собесах не встретишь

Про снапшот конечно смешно, когда человек называет снимок всей таблы хорошим решением... Но он хотя бы говорит свою шизу, а что у остальных в головах - вообще не понятно

Как же тихо...

41:09 а разве фичу с весами нельзя добавить в Rendezvous hasing? например добавив суррогатный ключ? (обозначу его через 's') hash( K + "s1"+ '1') hash( K + "s1"+ '2') hash( K + "s1"+ '3') hash( K + "s1"+ '4') <- добавляем "сильную ноду 4" hash( K + "s2"+ '4') <- добавляем "сильную ноду 4"

в конце подвели итог - всё это знать прикольно, но в общем и не нужно xD

Речь шла про dead letter queue в одном месте, видимо. К сожалению, Kafka не поддерживает DLQ в отличие от AWS SQS, например. Но как отметили это хорошо работает при условии идемпотентности и ассоциативности, иначе начинается пляска с синхронизацией очередей.

О, Нифёдыч в it вкатился

За такое дизлайк по факту видео самореклама а информации по теме нет.

Топ!

Когда-то разбирался с этим вопросом, понял эту теорему совсем по-другому: 1) partitioning tolerance - это свойство переживать разрыв сети. Разрыв сети - это когда все узлы работают, но между ними возник split brain, который потом полечился. Да, сеть имеет свойство пропадать, поэтому распрелеленные системы не способные пережить разрыв сети нам не интересны. 2) availability - это способность сохранять работоспособность пока работает хотя бы один узел 3) consistency - это когда система возвращает одинаковый ответ на одинаковый запрос, независимо от узла, к которому обращаются. И раз P нужна всегда, то речь может идти о CP системах и AP системах. CP - это когда запись в одну ноду сразу дублируется во все ноды. Она не может быть available, т. к. если часть нод временно не ответит, то система должна прекратить обслуживать запросы (иначе с неответившей ноды могут прилететь неконсистентные данные) AP - это большая часть nosql субд: система будет отвечать "до последнего", но иногда данные могут быть устаревшими т. к. мы не синхронизируемся в момент записи и допускаем чтение когда часть нод лежит. На самом деле CA систему тоже можно представить: это зеркало их 2-х реляционных субд с двумя мастерами и синхронной репликацией. Все будет консистентно, умершая нода потом сможет накатить лог транзакций с живой и восстановиться, но вот split brain (когда ноды потеряли связь и продолжили работать не зная что вторая нода жива и тоже что-то пишет) эта схема не переживет.

Очень познавательно, спасибо!

Очень понятное объяснение, спасибо)

СОМНИТЕЛЬНО, но окэй

Отличное видео! Сейчас разбираюсь с метриками, очень такого не хватало.

Крутая лекция, спасибо! Из слайда, объясняющего работу WAL, осталось не очень понятно, что произойдёт, если отключится питание в момент, когда мы записали файл-сегмент с отсортированными данными из in-memory structure, но не успели подать команду discard offer flush. Получается WAL у нас останется заполненным после восстановления? Не произойдёт ли дублирования сегмента?

Отличный разбор. Спасибо! А разве репликация и наличие нескольких нод не подразумевает наличия сети, и соответственно, не допускает ее разделения (сегментации)?

100 партиций на топик это конечно сильно и универсально, такое количество вероятно в любом кластере сделает меньший перформанс - каждая партиция файловый дескриптор, каждая партиция это усложнение этапа ребаланса, увеличивать партиции - норма, и да кафка ничего не сделает, обычно просто предупреждают и потом убеждаются что консюмер группы дошли до конца, а кто нет - его проблемы. К универсальному запасу в 100 и возможному экспоненциальному приросту нагрузки заранее невозможно подготовиться, в теории и со 100 партиций может придется апскейлится, если так страшно - то вы можете перелить данные в новый топик с новым количеством партиций.

Забыл поместить ссылку на курс :) Вот она - it-es-course.getcourse.ru/main. Мои мини-курсы можно увидеть на степике stepik.org/a/202085 и udemy - www.udemy.com/user/andrei-sukhovitskii/

Где комментарий

34:17 "Разобраться с Кибаной - это, наверное, минут 20 составит". Такой смешной лектор. Такие шутки отпускает - ухохочешься. Пусть идет за 20 минут KQL изучит. Приду - проверю.

Это студенты первого-второго курсов?

Кто писал кафку, с вики: Kafka was originally developed at LinkedIn, and was subsequently open sourced in early 2011. Jay Kreps, Neha Narkhede and Jun Rao helped co-create Kafka.

Огонь. Пошел смотреть новую версию по метрикам.

Вы забыли упомянуть, что: 1 нужно решать вопрос консистентности, пока финалтная маленькая транзакция не закомичена, система находится в неконсистентном состоянии, и нужно уметь с зтим жить. 2 процесс отката маленьких транзакций иакде может обломаться, это собственно коррелирует с первыми вопросом. И с жтим также нужно уметь жить.

Распространенные бизнес ошибки - ошибка десериализации или валидации. распространеные технические ошибки - ошибки ввода/вывода при коммуникации с низлежащими сервисами, недоступность низлежащих сервисов, сетевые ошибки типа 502/503/504

Размазали видео почти на час, много воды (верю, что это препод из универа). Лучше идти по сценарию интервью и придерживаться ему.

Андрей, можете сказать пожалуйста название и модель вашего планшета?)

блиии максимально просто максимально кратко но максимально непонятно :) может на курсе расскажете?

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

29:36 В графане есть версионирование бордов! Вкладка Versions в настройках самой борды

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Спасибо за лекцию

Посмотрел на одном дыхании) Будучи джуном, пытался залететь на сеньора и мне задавали аналогичные вопросы. Теперь я более опытен, но все равно не знаю как подать некоторые вещи на собеседовании. А тут все довольно круто изложено и аргументировано: Андрей - вы очень крутой преподаватель и разработчик)