Rafael Arruda
Rafael Arruda
  • 47
  • 92 153
O que é Delta, Data Lake e Lakehouse??
Neste vídeo o nosso Instrutor dos Sparkanos, Wallace Camargo, nos explica a diferença de alguns termos técnicos que tem sido cada vez mais comuns nos projetos de Engenharia de Dados como Data Lake, Delta e Lakehouse.
Quer dar os seus primeiros passos com Apache Spark?
Baixe o nosso Ebook:
ebook.sparkanos.com.br/
Assista o Episódio Completo:
ua-cam.com/video/vT_zXXje5ww/v-deo.html
Muito Obrigado.
Time Arruda Consulting.
Переглядів: 244

Відео

Arruda Cast - EP º01 - Wallace Camago
Переглядів 315День тому
Neste primeiro episódio do nosso Podcast, recebemos o Wallace Camargo, Engenheiro de Dados em Portugal, aonde vive nesse momento. Wallace, também é o Instrutor do nosso projeto dos Sparkanos e autor do nosso Ebook: Instalação Prática do Apache Spark. Nessa conversa descontraida falamos sobre a área de dados e também pudemos conhecer um pouco do Wallace e também da sua História. Espero que goste...
O que é estabilidade pra você na área de TI?
Переглядів 3921 день тому
O que é estabilidade pra você na área de TI?
Estrutura - Projeto Sparkanos
Переглядів 7 тис.Місяць тому
Neste vídeo demonstramos a estrutura que preparamos para os nossos alunos no projeto dos Sparkanos. Tudo que o mercado exige de um Engenheiro de dados em um único lugar. Invista seu tempo em resultados e aprenda a desenvolver um Lakehouse 100% Open Source. Link abaixo: sparkanos.arrudaconsulting.com.br Time Arruda Consulting.
Depoimento - Rafael
Переглядів 35Місяць тому
Nesse vídeo compartilhamos um Feedback incrível do Rafa, nosso aluno dos cursos de Hopbase e também Google Cloud. Quer aprender mais sobre Engenharia de dados então participe do nosso próximo evento que iremos falar sobre Data Lake & Lakehouse com Apache Spark. Link: sparkanoslp.arrudaconsulting.com.br/ Muito Obrigado. Time Arruda Consulting.
Pentaho vs Apache Hop - Mais parecidos que você imagina
Переглядів 1,7 тис.9 місяців тому
Olá, tudo bem contigo? Muito se fala que o Pentaho Data Integration e o Apache Hop são muito parecidos, será verdade? Melhor do que escrever é poder demonstrar, replicamos um mesmo pipeline feito no Pentaho no Apache Hop. Espero que gostem e comentem aqui a opinião de vocês. Muito Obrigado.
Metodologia Canvas - Curso de SQL para Dados - Inscrições até 18/05/2023 - 2ª Turma
Переглядів 2,7 тис.11 місяців тому
Link de Inscrição do Curso: sql.arrudaconsulting.com.br/
Apresentação Curso SQL - Novo Curso da Arruda Consulting - Inscrições até 10/11
Переглядів 1,1 тис.11 місяців тому
Link de Inscrição: sql.arrudaconsulting.com.br/
Metabase Analisando dados agregados e detalhados em segundos
Переглядів 494Рік тому
Aprenda como analisar dados agregados e detalhados em segundos. Gostou? Quer aprender mais sobre Metabase então assista a nossa sobre como criar um BI de forma 100% Gratuita. ua-cam.com/users/liveMMotbMK39jQ Muito Obrigado.
Procv no Pentaho
Переглядів 322Рік тому
Olá, tudo bem contigo? Como replicar o PROCV no Pentaho? Também conhecido como Lookup. É uma estratégia quando precisamos buscar alguma informação entre outra tabela, podemos utilizar o lookup para acessar somente essa informação que precisamos, sem a necessidade de precisar utilizar um Join para isso. Gostou? Então não perca o nosso evento da semana que vem, no dia 08/08 as 19:00. Link: pdiexc...
Automatizando planilhas com Pentaho!!!
Переглядів 1,1 тис.Рік тому
Olá, tudo bem? Neste vídeo demonstramos mais uma abordagem com o Loop, como extrair dados de algumas regiões, por exemplo e gerar um excel por região de forma automática!! Gostou? Gostaria de aprender o passo a passo!!! Então não perca o nosso evento da semana que vem no dia 08/08 as 19:00. Espero vocês lá!! Link: pdiexcel.arrudaconsulting.com.br/?Source_UA-cam&Medium_Organico &Name_Excel_T2&Vi...
Excel + Pentaho + ChatGPT
Переглядів 5 тис.Рік тому
Acredito que muitos aqui já utilizaram o Chat GPT para fazer perguntas, tirarem dúvidas, agora a pergunta e se perguntarmos para o Excel? Como assim? No vídeo abaixo demonstro mais uma automação com Pentaho Data Integration aonde lemos uma pergunta que está dentro de uma planilha e perguntamos para o chat gpt e armazenamos a repostas na mesma planilha. Imagina quantas possibilidades se abrem se...
Loop no Pentaho
Переглядів 2 тис.Рік тому
Loop no Pentaho
Agrupando dados no Pentaho
Переглядів 513Рік тому
Agrupando dados no Pentaho
SubQuery no Pentaho
Переглядів 394Рік тому
SubQuery no Pentaho
Google Sheets com Pentaho
Переглядів 1,3 тис.Рік тому
Google Sheets com Pentaho
Integração near real time com Python e GCP
Переглядів 221Рік тому
Integração near real time com Python e GCP
Orquestrando pipelines com Dagster
Переглядів 381Рік тому
Orquestrando pipelines com Dagster
Apresentação Metabase
Переглядів 898Рік тому
Apresentação Metabase
Trabalhando com API no Pentaho
Переглядів 2,1 тис.Рік тому
Trabalhando com API no Pentaho
Data Wharehouse X Data lake
Переглядів 3072 роки тому
Data Wharehouse X Data lake
Depoimento - Treinamento Google Cloud - Fernando Souza
Переглядів 1312 роки тому
Depoimento - Treinamento Google Cloud - Fernando Souza
Subquery no Pentaho
Переглядів 8992 роки тому
Subquery no Pentaho
Como Instalar o Pentaho Data Integration & Como Conectar o Pentaho no banco de dados Mysql
Переглядів 8 тис.2 роки тому
Como Instalar o Pentaho Data Integration & Como Conectar o Pentaho no banco de dados Mysql
Depoimento - Rayssa - Googl Cloud
Переглядів 1693 роки тому
Depoimento - Rayssa - Googl Cloud
Unboxing - Kleber - Google Cloud
Переглядів 943 роки тому
Unboxing - Kleber - Google Cloud
Depoimento - Rodolfo Barbosa
Переглядів 2083 роки тому
Depoimento - Rodolfo Barbosa
Formación Pentaho - Español
Переглядів 1293 роки тому
Formación Pentaho - Español
Depoimento - Kléber Freitas!
Переглядів 2813 роки тому
Depoimento - Kléber Freitas!
Depoimento - Curso Pentaho - Lorena
Переглядів 2933 роки тому
Depoimento - Curso Pentaho - Lorena

КОМЕНТАРІ

  • @fabriciocruz5273
    @fabriciocruz5273 4 години тому

    Melhor explicação que já ouvi sobre Delta Lake. A aula foi sensacional 🎉

  • @alexsandrorauta
    @alexsandrorauta 11 днів тому

    Gostei muito do Conteúdo. Sugiro uma live ou vídeo sobre o insight do final, falando sobre os custos com os serviços e as máquinas, como isso se daria. Assim facilitaria para nós termos uma ideia de como seria para poder apresentar como proposta de implementação etc. Valeu demais pelo conteúdo!!

    • @arrudaconsulting
      @arrudaconsulting 11 днів тому

      Excelente Sugestão meu amigo!!! já está anotado aqui para temas de futuras Lives!!!

    • @alexsandrorauta
      @alexsandrorauta 10 днів тому

      @@arrudaconsulting show!!

  • @ramonnunes3493
    @ramonnunes3493 11 днів тому

    Muito bom ! 👏👏👏👏👏

  • @wandersonp.medeiros8362
    @wandersonp.medeiros8362 11 днів тому

    Imaginar que estou transitando de carreira, sou DBA, mas aos poucos estou se tornando um engenheiro de dados.

    • @arrudaconsulting
      @arrudaconsulting 11 днів тому

      @@wandersonp.medeiros8362 tem uma excelente base Wanderson!!!! Quem atua como DBA, com BI, com Infra tem uma boa base pra migrar pra engenharia!

  • @MrShockalex
    @MrShockalex 11 днів тому

    ótimo programa!!!

  • @marcelofeliciani
    @marcelofeliciani 12 днів тому

    Grande conteúdo! Abraço

  • @artedosdados
    @artedosdados 12 днів тому

    Rafael, com certeza, seus conteúdos ajudam e ajudarão muita gente, passei para uma vaga que pedia conhecimentos de pentaho/hop, com seus videos e em breve serei aluno dos Sparkanos! Parabéns e muito obrigado! Dois feras, estou aprendendo muito com os conhecimentos do Wallace também e espero aprender muito mais com vocês!

    • @arrudaconsulting
      @arrudaconsulting 11 днів тому

      Que feedback incrível!! Muito feliz que os conteúdos te ajudaram, e será muito bem-vindo nos Sparkanos!! tmj

  • @wallacecamargo1043
    @wallacecamargo1043 12 днів тому

    Foi uma honra poder trocar uma ideia com uma das maiores referências da nossa área!!! Gratidão máxima!!!! Tmj meu brother!!! +1 pra conta!!!

  • @danilocampana
    @danilocampana 12 днів тому

    Vlw, obrigado pelo ebook e top o podcast!!!🤜🤛

    • @arrudaconsulting
      @arrudaconsulting 12 днів тому

      Muito Obrigado pelo Feedback!!!!

    • @danilocampana
      @danilocampana 11 днів тому

      @@arrudaconsulting A live do Spark que você mencionou, poderia compartlhar?

    • @arrudaconsulting
      @arrudaconsulting 10 днів тому

      @@danilocampana segue o link: Live: Transformando o seu Data Lake em um Lakehouse ua-cam.com/users/liveX8ycsV6_Pdg?feature=share

  •  12 днів тому

    Top guerreiro

  • @studio8-br593
    @studio8-br593 26 днів тому

    Eu adorei: Estabelicidade é seu conhecimento!

    • @arrudaconsulting
      @arrudaconsulting 26 днів тому

      Muito Obrigado meu amigo!! Ainda mais na área da T.I!!!

  • @rafaelalexandre5411
    @rafaelalexandre5411 Місяць тому

    Pode explicar melhor como funciona isso , de fazer o ao vivo e ganhar o ead . O ao vivo é todas as lives ?

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      @@rafaelalexandre5411 estamos ao vivo : e vou explicar isso no final da live ua-cam.com/users/liveX8ycsV6_Pdg?si=c3Ax0dKSQDz9u-8S

  • @camilaf365
    @camilaf365 Місяць тому

    Sensacional!

  • @JoãoFabbri-q6i
    @JoãoFabbri-q6i Місяць тому

    Excelente conteúdo, Rafael! Valeu por sempre disponibilizar seus conhecimentos.

  • @douglasposo
    @douglasposo Місяць тому

    Rafa, isso é surreal! É muito conteúdo muita coisa boa. E ainda ensina a parte de deploy como mudar o domínio. Esse curso é fantástico. Vale a pena d+

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      Muito Obrigado por este incrível Feedback meu amigo!!!

  • @vilmarsantos3419
    @vilmarsantos3419 Місяць тому

    Com usar um script python no pentaho?

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      Usa o step shell, este step tua utiliza no Job.

  • @saulocalmon9872
    @saulocalmon9872 Місяць тому

    Dica muito boa... porém a minha consulta é bem complexa e eu precisava do mesmo parâmetro em várias partes da consulta...pelo que vi , não funciona? acho que vou ter que passar ela como coluna e depois usar essa coluna como filtro.

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      veja o nosso vídeo de Loop aqui no canal para ver se ajuda. Obrigado.

    • @saulocalmon9872
      @saulocalmon9872 Місяць тому

      @@arrudaconsulting verei amigo, como estava um pouco sem tempo. Declarei um CTE para receber o valor de ? E depois usei. Uma outra dúvida, eu consigo receber mais de uma coluna da primeira consulta? Tipo ?1 , ?2, ?3...

  • @wallacecamargo1043
    @wallacecamargo1043 Місяць тому

    Dá-lhe Sparkanos!!! Raulllll!!! Raulll!!!

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      @@wallacecamargo1043 que conteúdo incrível meu amigo!! Sorte dos nossos alunos que irão ter acesso ao que existe de mais moderno no mundo Open Source para engenharia de dados!!!

  • @davila1903
    @davila1903 Місяць тому

    Está top demais!

  • @rafaelmarques9067
    @rafaelmarques9067 Місяць тому

    Seria ideal utilizar um sc2 na dimcliente e um sc2 na fato com databaselookup comparando as datas date from e date to da dimcliente com a data da fato, e neste mesmo processo utilizar o exemplo da carga incremental com o merge rows(diff) para a fato? A dúvida seria no cenário de gerar um histórico de mudanças do cliente e levar o registro novo do cliente para os novos registros da fato, mas também realizar nesse mesmo processo somente um incremental da fato.

    • @arrudaconsulting
      @arrudaconsulting Місяць тому

      Olha teria que testar, pois em tese a carga incremental irá inserir novos registros ou irá atualizar caso tenham alterações, para adicionar o conceito de dim scd-2 teria que adicionar essa lógica no merge rows diff, para entender que neste cenário é para inserir um novo registro ao invés de atualizar. No nosso curso, temos mais de 20 aulas somente do módulo do DW, aonde ensinamos todos esses conceitos. Espero ter ajudado!!

    • @rafaelmarques9067
      @rafaelmarques9067 Місяць тому

      ​@@arrudaconsultingObrigado, vou montar um laboratório com todas as possibilidades e testar a melhor opção.

  • @marcelocotinda9486
    @marcelocotinda9486 2 місяці тому

    Show de bola Rafael! Agora me surgiu uma dúvida: O que aprender primeiro, Pentaho ou HOP?

    • @arrudaconsulting
      @arrudaconsulting 2 місяці тому

      Eu vejo ambos como uma coisa só, pois 90% do que se faz em uma ferramenta se faz com outra. Todo o conhecimento que compartilhei nessa live eu aprendi com o Pentaho, para se ter uma ideia, mas se pra quem ta começando eu sugiro começar pelo Hop.

    • @marcelocotinda9486
      @marcelocotinda9486 2 місяці тому

      Muito obrigado Mestre!

    • @marcelocotinda9486
      @marcelocotinda9486 2 місяці тому

      Estou tendo problema na instalação do Hop, saberia me dizer se funciona com a versão 8 do Java jre? Tenho o Windows 10 instalado na minha máquina e não comporta atualização para o 11.

    • @arrudaconsulting
      @arrudaconsulting 2 місяці тому

      @@marcelocotinda9486 somente no java 11, uma opção pra ti é fazer ele funcionar via docker: que foi exatamente o tema da nossa última live: ua-cam.com/users/liveAyr7iQ40tLQ

    • @marcelocotinda9486
      @marcelocotinda9486 2 місяці тому

      Obrigado Rafa!

  • @leonardohenrique7277
    @leonardohenrique7277 2 місяці тому

    Parabéns pelas explicações!!!

  • @marcelocotinda9486
    @marcelocotinda9486 2 місяці тому

    Obrigado Rafael por essa super aula!

  • @priscilamendes8327
    @priscilamendes8327 2 місяці тому

    muito bom, parabéns

  • @glauciosilveira6254
    @glauciosilveira6254 3 місяці тому

    Explicação pefeita!! Muito obrigado pela aula.

  • @braulioventura1017
    @braulioventura1017 3 місяці тому

    Rafael com esta aula percebi que ainda tenho muito o que aprender, e consegui ter uma ideia de onde tenho falhado. obrigado excelente conteudo.

    • @arrudaconsulting
      @arrudaconsulting 3 місяці тому

      Obrigado pelo feedback!!! E sucesso nos estudos!! Caso queira acelerar o teu aprendizado temos o nosso Treinamento do Hopbase que ensinamos a criar um Projeto de BI do zero!!!

  • @rafaeldresch6205
    @rafaeldresch6205 3 місяці тому

    Bom dia Existe alguma forma de não ter que pagar a licença do power BI para cada usuário ?

    • @arrudaconsulting
      @arrudaconsulting 3 місяці тому

      Olha o Metabase é gratuito, no Power BI pesquisa pelo Embbed, talvez possa te atender!!

  • @willian0511
    @willian0511 3 місяці тому

    Metabase entra API

  • @RafaelHirt-tr9fr
    @RafaelHirt-tr9fr 3 місяці тому

    Olá, tudo bem? Tenho uma tabela que quero criar uma média mensal agrupada por ano, porém quando vou na sumarização média ele não traz uma média mensal, poderia me ajudar? Trabalho na Secretaria de Estado da Saúde/GO e precisava gerar essa informação em um relatório. Consegue me ajudar?

    • @arrudaconsulting
      @arrudaconsulting 3 місяці тому

      O ideal é você gerar uma tabela com os dados, e você agrupa no Dataviz: seja Power BI, Metabase ouo outra ferramenta que utilize!!

  • @JoãoFabbri-q6i
    @JoãoFabbri-q6i 4 місяці тому

    Parabéns, Rafael! Ótimo conteúdo, ficou muito fácil de compreender os conceitos. Obrigado pela disponibilidade de sempre dar novas ideias sobre o mundo de dados.