Data Engineer 2022 | Дорожная карта | Александр Савченко | karpov.courses

Поділитися
Вставка
  • Опубліковано 23 січ 2025

КОМЕНТАРІ • 44

  • @Frezer911
    @Frezer911 2 роки тому +8

    Топовое видео в рунете, структурно раскладывающее требования к дата инженеру. В моем случае упорядочило мои знания.

  • @ТаняВ-ц4н
    @ТаняВ-ц4н 2 роки тому +15

    Отличное видео! Спасибо большое! Огромная работа проделана. Поделитесь, пожалуйста, pdf дорожной карты

    • @alexkbit
      @alexkbit 2 роки тому +2

      Добавили все в описание к видео

    • @ТаняВ-ц4н
      @ТаняВ-ц4н 2 роки тому

      @@alexkbit Спасибо!

  • @KirillP-b1v
    @KirillP-b1v 2 роки тому +11

    Спасибо за видео, схемой поделитесь?

  • @habovskiy647
    @habovskiy647 Рік тому +27

    Это не Data Engineer это Data Terminator какой-то....

  • @amondberzal6195
    @amondberzal6195 4 місяці тому

    Сначала подумал "классное видео" ,все по полочкам. Лайкнул и подписался. Глянул до конца-отменил свои действия. Это КАША. Тут вам и тестировщик и девопс и всё на свете...

  • @phoenixgames4244
    @phoenixgames4244 2 роки тому +4

    Это список вопросов для дата инженера на позицию трейни?! O_o

  • @vadimvadim1662
    @vadimvadim1662 2 роки тому +4

    что в 2022 должен знать ds(roadmap)?

    • @alexkbit
      @alexkbit 2 роки тому

      Да я думаю ребята с направления DA/ML тоже позже сделают

    • @vadimvadim1662
      @vadimvadim1662 2 роки тому

      @@alexkbit будем ждать)

  • @Eugene11453
    @Eugene11453 2 роки тому +11

    Это должен 1 человек все знать и уметь? Тут технологий на целую команду: от девопсеров и разрабов до дата-архитекторов

    • @MaruiInfantry
      @MaruiInfantry 2 роки тому +13

      Это больше похоже на схему деливери отдела, а не на базу знаний. Там более 100 листов выходит у этого дерева в итоге. Чувак час перечисляет просто все эти листы и разветвления до них. Перечисляет, Карл, только час. Это скоуп человек на 50-200.

    • @alexkbit
      @alexkbit 2 роки тому +1

      Это дорожная карта, она скорее поможет вам понять какие технологии вам нужны сейчас для ваших задач, и что еще можно развить. Обычно чем больше опыта у человека тем больше будет по ней покрытия.

    • @Eugene11453
      @Eugene11453 2 роки тому +4

      @@alexkbit ну как сказать. Например, я для своей команды брал бы в 1ую очередь, человека хорошо знающего spark, hdfs и sql. А для девопса у нас отдельное подразделение есть, на входе можно ничего не знать, они покажут. Я смотрел видео, чтобы понять, насколько мой опыт в этом релеванитен по рынку, и может, что-то закрыть из гепов. Пока выглядит, что у меня геп = 90% от этой карты и не понятно: 1 за что хвататься, 2 реально ли это все нужно , например, тимлиду/продукт оунеру

    • @Gliderous
      @Gliderous 2 роки тому

      @@Eugene11453 Так ответ выше не противоречит вашей логике. Автор ролика даёт покрытие всей профессиональной области, а вы акцентируете внимание на конкретном стеке из этого покрытия. Тут речь про Общее и Частное. Вы же понимаете, что если у вас в хранилище только реляционные БД, то нет необходимости учить нереляционные.

    • @habovskiy647
      @habovskiy647 Рік тому

      @@MaruiInfantry я смотрел на скорости 1.5. Получилось чуть больше получаса. :D

  • @coopercoin
    @coopercoin 2 роки тому +6

    В одного человека реально это всё запихать? Работаю в Ops просто так тут отдел на em, на unix, на dba etc. Возможно схеме не хватает глубины в качестве одной из метрик, или я просто настолько отстал от жизни

    • @Eugene11453
      @Eugene11453 2 роки тому +3

      Аналогичная мысль. Такое ощущение, что это техстек для команды человек на 10 минимум

    • @KirillP-b1v
      @KirillP-b1v 2 роки тому

      ​ @Alexander Savchenko что думаете?

    • @alexkbit
      @alexkbit 2 роки тому

      У каждого специалиста будет свой взгляд что именно нужно знать о том или ином инструменте. DevOps Eng. скорее будет интересовать как разворачивается инструмент, как делаются бэкапы, восстановление, как масштабируется. У DE Eng. свой взгляд - плюсы/минусы хранения и использования.
      Это дорожная карта, вам не обязательно знать все, вы можете обращаться только к тем инструментам которые нужны.

  • @ВасяИванов-л6э
    @ВасяИванов-л6э 2 роки тому

    Yandex DB можно отнести к MPP ?

  • @dobryialex
    @dobryialex 2 роки тому

    Спасибо за ваш труд !
    И пара вопросов :
    1. В какой последовательности или по какой системе изучать все эти разделы ?
    2. На ваших курсах изучается весь этот объем ?
    Ещё раз спасибо !

  • @alazarn7
    @alazarn7 Рік тому +10

    Не о чем, все свалили в кучу

    • @HelgaPolikova
      @HelgaPolikova 4 місяці тому +1

      не в кучу, а по полочкам, по темам и направлениям, причён неоднократо автор подчёркивал, что не надо во все погружаться с головой - хватит и понимания принципов и возможностей работы этих пунктов. Осваивай глубоко то что нужно по работе и имей понятия о том, что там в этой сфере есть. Не вечно же будешь на одной базе сидеть... А всё кончается внезапною

  • @alexv15310
    @alexv15310 Рік тому

    Это все возможно знать одному живому человеку?

    • @maksimponomarev3610
      @maksimponomarev3610 Рік тому

      Да, фундаменталку в вузе получают и параллельно конкретные технологии сами осваивают

  • @Aquariuz1887
    @Aquariuz1887 2 роки тому +5

    Apache Impala - это не субд, я бы её отнёс к механизму распределённых SQL запросов к Trino, Presto и тд.

  • @daanhelfer1461
    @daanhelfer1461 6 місяців тому

    Гринплюм, гринплан… гринплам!

  • @dmitriyobidin6049
    @dmitriyobidin6049 Рік тому

    Лучше просто разрабом на бэкенд пойти, зарпалаты там побольше.

  • @Slavlotski
    @Slavlotski 2 роки тому +6

    PowerBI нет в блоке визуализации 😱

    • @ivani3237
      @ivani3237 2 роки тому

      ну зато там superset есть

  • @ihorferenets3653
    @ihorferenets3653 2 роки тому

    Отлично, дайте схему )))

    • @karpovcourses
      @karpovcourses  2 роки тому +1

      Лежит в описании к видео! :)

  • @batnasn
    @batnasn 2 роки тому +6

    Воды много

  • @atli4nikk160
    @atli4nikk160 Місяць тому

    greenplume топ