- 56
- 27 521
Maestria Dados
Brazil
Приєднався 22 лют 2020
Nesse canal você vai aprender sobre Engenharia de Dados, Ciência de Dados, Arquitetura e Soluções, navegando em diversos conceitos, estratégias e as melhores práticas do mercado!
Aqui compartilhamos conteúdos gratuitamente e falamos sobre:
- Ciência de Dados
- Big Data
- Inteligência Artificial
- Hadoop
- Desenvolvimentos e Programação
- Plataformas Cloud (AWS, Azure e GCP)
- Dev Ops
- Governança de Dados
- Modelagem de Dados
- ETL
- Data Visualization
- Arquiteturas e Soluções
- Artigos e Estudos
- Livros para Ler
Conteúdos atuais, dinâmicos e didáticos!!
- - - - - - - - - - - - - - - - - - - - - - - - - - - - -
# Você também pode nos encontrar aqui
- - - - - - - - - - - - - - - - - - - - - - - - - - - - -
• Blog » www.maestriadados.com.br
• Facebook » maestriadados/
• Instagram » maestriadados
• Twitter » DadosMaestria
#bigdata #hadoop #dataengineer #datascience #mlops #machinelearning
Aqui compartilhamos conteúdos gratuitamente e falamos sobre:
- Ciência de Dados
- Big Data
- Inteligência Artificial
- Hadoop
- Desenvolvimentos e Programação
- Plataformas Cloud (AWS, Azure e GCP)
- Dev Ops
- Governança de Dados
- Modelagem de Dados
- ETL
- Data Visualization
- Arquiteturas e Soluções
- Artigos e Estudos
- Livros para Ler
Conteúdos atuais, dinâmicos e didáticos!!
- - - - - - - - - - - - - - - - - - - - - - - - - - - - -
# Você também pode nos encontrar aqui
- - - - - - - - - - - - - - - - - - - - - - - - - - - - -
• Blog » www.maestriadados.com.br
• Facebook » maestriadados/
• Instagram » maestriadados
• Twitter » DadosMaestria
#bigdata #hadoop #dataengineer #datascience #mlops #machinelearning
Inovação e Inteligência em Dados
Olá, rede!
Estruturei uma série de 3 aulas, explicando os grandes nuances do mercado e assuntos relevantes para quem está buscando entrar na área de dados e TI.
Essa é a ementa, preparada:
"IMERSÃO EM TI E DADOS", "COMO O MERCADO ESTÁ DEMANDANDO OS PROFISSIONAIS", "PERFIS DE DADOS" E "PLANO DE CAPACITAÇÃO DE ENTRADA".
Nessa terceira aula, eu explano sobre as grandes tendências, assuntos e temas que devem ser buscados como bússola para capacitação e onde essas skills irão ser aplicadas para soluções e estratégias de dados.
Compartilhe esse material para apoiar quem busca entrar na área de TI e de DADOS.
Acredito, esclarecer muitas dúvidas aos aspirantes ou pessoas que estão migrando de carreira.
Desejo muito sucesso e vamos fazer um mundo melhor!
Estruturei uma série de 3 aulas, explicando os grandes nuances do mercado e assuntos relevantes para quem está buscando entrar na área de dados e TI.
Essa é a ementa, preparada:
"IMERSÃO EM TI E DADOS", "COMO O MERCADO ESTÁ DEMANDANDO OS PROFISSIONAIS", "PERFIS DE DADOS" E "PLANO DE CAPACITAÇÃO DE ENTRADA".
Nessa terceira aula, eu explano sobre as grandes tendências, assuntos e temas que devem ser buscados como bússola para capacitação e onde essas skills irão ser aplicadas para soluções e estratégias de dados.
Compartilhe esse material para apoiar quem busca entrar na área de TI e de DADOS.
Acredito, esclarecer muitas dúvidas aos aspirantes ou pessoas que estão migrando de carreira.
Desejo muito sucesso e vamos fazer um mundo melhor!
Переглядів: 54
Відео
Imersão sobre área de TI e Dados - Parte 2
Переглядів 52Рік тому
Estruturei uma série de 3 aulas, explicando os grandes nuances do mercado e assuntos relevantes para quem está buscando entrar na área de dados e TI. Essa é a ementa, preparada: "IMERSÃO EM TI E DADOS", "COMO O MERCADO ESTÁ DEMANDANDO OS PROFISSIONAIS" "PERFIS DE DADOS" E "PLANO DE CAPACITAÇÃO DE ENTRADA". Nesta segunda aula, eu detalho os perfis de dados e como o mercado está demandando conhec...
Imersão sobre área de TI e Dados - Parte 1
Переглядів 85Рік тому
Olá, rede! Estruturei uma série de 3 aulas, explicando os grandes nuances do mercado e assuntos relevantes para quem está buscando entrar na área de dados e TI. Essa é a ementa, preparada: "IMERSÃO EM TI E DADOS", "COMO O MERCADO ESTÁ DEMANDANDO OS PROFISSIONAIS" "PERFIS DE DADOS" E "PLANO DE CAPACITAÇÃO DE ENTRADA". Nessa primeira, eu detalho um pouco do conceitual dos principais assuntos e di...
Python para desenvolvimento: Manipulando arquivos com Python
Переглядів 2182 роки тому
Nessa aula iremos trazer um fluxo que realiza um procedimento muito comum no dia a dia dos desenvolvedores e analistas, a leitura e manipulação de arquivo texto ou mesmo em csv por meio do PYTHON. Iremos realizar as etapas seguintes: • Validar a estrutura do arquivo; • Estruturar o script de Leitura do arquivo; • Validação do objeto em memória com o valor do arquivo; • Manipulação linha a linha...
Case Machine Learning - COVID-19: Aula 3
Переглядів 722 роки тому
Com foco na evolutiva de nosso Case Covid-19, mapeando as causas e prevendo uma possível piora em pessoas de grupo de risco, seguimos para a fase de detalhamento dos processos que foram desenvolvidos em PYTHON, Notebook Jupyter. Nessa aula, demonstramos como foi realizado alguns tratamento sobre os dados, aplicação de regra do coeficiente e contabilidade de sintomas para cada indivíduo. Acessem...
Uma Carreira de Dados - Career Talks - Google DSC Uninter
Переглядів 732 роки тому
Career Talks é uma série lançada pelo DSC UNINTER para trazer os mais diversos profissionais da área da tecnologia para conversar com os alunos sobre carreiras, estudos e possíveis trajetórias no mercado de trabalho. Sabemos que o mundo da tecnologia parece complicado. Há tantas funções, tantas profissões, tanta coisa para estudar. Nós vamos trazer uma série de excelentes profissionais das mais...
Dicas de como se tornar um profissional CLOUD - Maratona EBAC
Переглядів 1082 роки тому
Você sabe o que é a “nuvem” do mundo da tecnologia? Hoje geramos dados em uma velocidade cada vez maior. Logo, o profissional que sabe estruturá-los e extrair todo o seu potencial, operacional e analítico, está cada vez mais requisitado. Neste evento, vamos falar com profissionais experientes de mercado, que vão te ajudar a entender a importância dos serviços em nuvem e como eles ajudam a aumen...
Case Machine Learning - COVID19 - Aula 2
Переглядів 803 роки тому
Case COVID19 - Piora na Pós Confirmação Nessa PLAYLIST eu apresento um case de muita relevância e que apoiou com decisões cruciais no cuidado com a vida. Realizado para, entendimentos das complicações da doença, após a confirmação de contaminação e grupos mais críticos de pessoas. Tópicos abordados na série: 1 - Entendimento do problema; 2 - Mapeamento e Aquisição de Fontes de Dados; 3 - Qualif...
Case Machine Learning - COVID19 - Introdução ao estudo
Переглядів 1343 роки тому
Case COVID19 - Piora na Pós Confirmação Nessa PLAYLIST eu apresento um case de muita relevância e que apoiou com decisões cruciais no cuidado com a vida. Realizado para, entendimentos das complicações da doença, após a confirmação de contaminação e grupos mais críticos de pessoas. Tópicos abordados na série: 1 - Entendimento do problema; 2 - Mapeamento e Aquisição de Fontes de Dados; 3 - Qualif...
8 Etapas de uma análise de Dados
Переглядів 2953 роки тому
8 Passos para realizar uma análise de dados aderente á quaisquer assunto de negócio. Com experiência em uma vasta quantidade de segmentos, assuntos de negócio, demandas AD-HOC ou contínuas, sempre vi o processo de análise crucial para uma entrega de qualidade. Nessa aula é demonstrado técnicas, mecanismos e passos que fazem você realizar uma análise integra sobre os dados, ampliar o conheciment...
Trilha Hadoop - Aula 12 - ETL e Processamento em Batch - HANDS-ON
Переглядів 1 тис.3 роки тому
AULA NOVA - HANDS-ON!!! Em direção ao fechamento da nossa trilha HADOOP, embasado com muita engenharia de dados, boas práticas e conceitos do ciclo de vida dos dados, eu estruturei em 2 principais formatos de PIPELINES, BATCH(LOTE) e STREAMING. Estruturando em 3 etapas principais, INGESTÃO, PROCESSAMENTO e DISPONIBILIZAÇÃO/CONSUMO de dados. Na aula 12, LOTE, eu demonstro fluxos de processamento...
Data Lake, de ponta a ponta!
Переглядів 3453 роки тому
O vocabulário da tecnologia é complexo pra você? Se data lake é um dos termos que te traz dúvidas, venha aprender sobre essa estratégia de dados com David Braga. O especialista te ensinará o fluxo de processos para a solução de problemas com dados. Sobre o que vamos falar? 1. O que é data lake? 2. Por que utilizar essa estratégia? 3. Qual o processo de aplicação? 4. Dicas de carreira em dados #...
Trilha Hadoop - Aula 11 - Ingestões em Batch - HANDS-ON
Переглядів 2663 роки тому
AULA NOVA - HANDS-ON!!! Em direção ao fechamento da nossa trilha HADOOP, embasado com muita engenharia de dados, boas práticas e conceitos do ciclo de vida dos dados, eu estruturei em 2 principais formatos de PIPELINES, BATCH(LOTE) e STREAMING. Estruturando em 3 etapas principais, INGESTÃO, PROCESSAMENTO e DISPONIBILIZAÇÃO/CONSUMO de dados. Na aula 11, LOTE, eu demonstro fluxos de ingestões por...
Trilha Hadoop - Aula 8 - HIVE - HANDS-ON
Переглядів 1,6 тис.3 роки тому
Nesse vídeo eu disponibilizo a nossa aula 8 relativa aos serviço Apache Hive, um dos componentes mais usados no mercado e nas estratégias de dados Big Data. #Hive #Bigdata #HQL 💎 Acompanhe o Maestria Dados 💎 • UA-cam » lnkd.in/db2k7gz • Site » lnkd.in/dAFjHHf • Instagram » lnkd.in/dhXEnhU • Facebook » lnkd.in/da6W2SH • Twitter » lnkd.in/d4u_yaB #engenhariadedados #comunidadededados #compartilha...
Trilha Hadoop - Aula 9 - Hbase - HANDS-ON
Переглядів 9343 роки тому
Nesse vídeo eu disponibilizo a nossa aula 9 relativa a tecnologia Hbase, banco de dados NoSQL de grande consumo no mercado, em diversas soluções e arquiteturas. #Hbase #Hadoop #BigData 💎 Acompanhe o Maestria Dados 💎 • UA-cam » lnkd.in/db2k7gz • Site » lnkd.in/dAFjHHf • Instagram » lnkd.in/dhXEnhU • Facebook » lnkd.in/da6W2SH • Twitter » lnkd.in/d4u_yaB #engenhariadedados #comunidadededados #com...
Aula 8 - Demonstrações de ferramentas e Hands-On 2.0
Переглядів 1113 роки тому
Aula 8 - Demonstrações de ferramentas e Hands-On 2.0
Big Data Analytics - Aula 1 - Dados e o Mercado Financeiro 2.0
Переглядів 3213 роки тому
Big Data Analytics - Aula 1 - Dados e o Mercado Financeiro 2.0
Aula 7 - Mensageria, Replicação e Integracões de Dados 2.0
Переглядів 983 роки тому
Aula 7 - Mensageria, Replicação e Integracões de Dados 2.0
Aula 6 - Hadoop e suas Integrações 2.0
Переглядів 1353 роки тому
Aula 6 - Hadoop e suas Integrações 2.0
Big Data Analytics - Aula 5 - Processos e Desenvolvimentos 2.0
Переглядів 1063 роки тому
Big Data Analytics - Aula 5 - Processos e Desenvolvimentos 2.0
Big Data Analytics - Aula 4 - Arquiteturas de Dados
Переглядів 2273 роки тому
Big Data Analytics - Aula 4 - Arquiteturas de Dados
Trilha Hadoop - Aula 6 - Integrações de segurança
Переглядів 2233 роки тому
Trilha Hadoop - Aula 6 - Integrações de segurança
Trilha Hadoop - Aula 1 - Distribuições
Переглядів 6163 роки тому
Trilha Hadoop - Aula 1 - Distribuições
Trilha Hadoop - Aula 5 - Serviços de Funcionamento Base
Переглядів 2593 роки тому
Trilha Hadoop - Aula 5 - Serviços de Funcionamento Base
Trilha Hadoop - Aula 4 - Infraestrutura Hadoop
Переглядів 3783 роки тому
Trilha Hadoop - Aula 4 - Infraestrutura Hadoop
Trilha Hadoop - Apresentação do Cronograma
Переглядів 4953 роки тому
Trilha Hadoop - Apresentação do Cronograma
Big Data Analytics - Aula 3 - Cases e Aplicabilidades - 2.0
Переглядів 1173 роки тому
Big Data Analytics - Aula 3 - Cases e Aplicabilidades - 2.0
top essa sequencia de vídeos e muito bem explicado, não entendi muito mas essa matéria é aquela que precisa ser mostrada na prática kkkk
Vou usar com base para minha apresentação amanha obg <3
😢
Bom dia. Me tire uma dúvida por favor. Eu posso fazer essa clusterização apenas com uma máquina Master e uma Worker, sendo que essa worker teria a configuração dobrada. Poderia fazer essa configuração?
Existe alguma ferramenta no Hadoop para limpeza de dados? Que identifique os erros e os corrija-os?
Olá, Tudo bem? O Framework, possui uma série de ferramentas, para ETL, Ingestão e Integração, e em contexto de qualidade, teria que ser considerado alguns componentes e possíveis processos de sanitização, onde depende do processo de limpeza esperado. Em contexto geral, alguns serviços integrados, seria possível ter uma gestão de qualidade e linhagens, bem integradas.
Esse Ambari, pelo que vi ele serve para monitorar e controlar o grande volume de dados, correto?
O Ambari é um serviço de monitoramento dos serviços e recursos do ambiente. Envolve algumas funcionalidades para dados, porém seu foco é a administração do cluster.
Adorei esse vídeo. Saberia me informar, qual configuração ideal no caso de uma empresa em relação a big data?
Olá, para uma mensuração produtiva de Big Data, uma estratégia seria avaliar e listar os processos atuais e a partir desse raio-x inicial, projetar configurações que proporcionem escalabilidade para 1 a 2 anos de crescimento. Com isso, as definições de hardware poderão ser avaliadas com os padrões de VMs existentes.
o que a faculdade não ensina
Muito obrigada pelo conteudo. Consegui sair dele melhor do que comecei. Parabéns pela didatica
Show de bola
Estou tentando aprender mais das ferramentas Apache e o conteúdo é muito bom, obrigado.
Muito obrigado pelo feedback! Estamos preparando novas aulas e conteúdos para compartilhar! Vamos revisitar o tema hadoop e trazer novas aulas. Continue nos acompanhando!
Obg pela explicação
Obg pela explicação
Muito legal sua apresentação. Uma dúvida que tive é que qual parte que a Claudera entrou na instalação. É possível chegar até essa etapa usando Hadoop puro?
Olá, muito obrigado pelo feedback!! Esse roteiro é para a instalação do pacote Hortonwork Hadoop. Com a fusão e reestruturação da Cloudera, o modelo de instalação deve seguir em formato de cloudera manager, não utilizando mais o Ambari. Atualmente os formatos possíveis de instalação, seriam, hadoop direto pelo site da Apache, ter uma licença Cloudera ou baixar uma imagem Sandbox da Cloudera e publicar em um VM. Como esse roteiro tem um tempo, eu recomendaria para estudos, o upload de uma imagem SANDBOX.
Boa tarde. Por favor, a interface dele é somente com bancos de dados ou tem interface tb com excel? Pergunto do excel pq atuo em uma empresa onde fiz toda a linhagem de dados de todos os sistemas em excel e agora o sonho é tipo um portal para consulta dessa linhagem. Tem interface com o excel? Obg
Olá, Patrícia. Tudo bem? Respondendo sua pergunta. Integrar com Excel por exemplo em uma rede não é usual, visto que nessa estrutura de arquivos, o Amundsen ou mesmo outra ferramenta de catalogação, não consegue recuperar a estrutura de metadados, que é o que compõe a base do Amundsen. Uma opção seria você estruturar todos os seus arquivos em uma base de dados ou repositório, que viabilize essa gestão de ativo. Dessa forma seria possível realizar a integração com o Amundsen ou outra ferramenta similar.
@@MaestriaDados Vou bem tb. Pensei nisso tb, vou jogar td para uma base, um sql da vida e integrar. Mto obg e valeu pelos vídeos, achei vcs por acaso e qto conteúdo bacana, ja salvei vários. Abs
@@MaestriaDados será q tem integração com o SQL? por um plug etc? No site eu não vi.
@@PatriciaMake Olá, desculpe a demora. Como a tecnologia é dedicada somente a gestão dos metadados, não se disponibiliza uma camada semântica SQL para leituras e querys variadas.
explicação muito boa e detalhada. Obrigado!
Top
Excelente!!
Só uma pequena correçãozinha que não tem a ver com o conteúdo, que está excelente. Quando você fala sobre as linhas do YUM, acredito que vc menciona que gcc e gcc-c++ são bibliotecas do google cloud e na verdade eles são os compiladores de C e C++ para o linux.
Obrigado pelo feedback!
Cara, excelente !! Parabens, vou compartilhar com o pessoal da minha empresa
Parabéns, excelente material
Olá Pedro! Muito obrigado pelo feedback! Estamos preparando muitos outros materias e ficamos à disposição para ouvir suas sugestões de novos assuntos de interesse. Acessa nosso site e manda uma sugestão em nosso contato. Vlw e obrigado pelo apoio!!!
Cara parabéns pelo video. Muito direto e sem enrolação. Vou seguir assistindo a trilha inteira !
Muito clara a explicação, obrigado
Parabéns amigo, sua explicação é perfeita e muito clara. Obrigado pelo vídeo!!
Ótima didática, material muito legal!!!
Wow que qualidade !!! Muito obrigado pela aula !
Excelente didática, você possui algum curso na Udemy para compra? Obrigado
Você disponibiliza os notebooks? Parabéns pelo conteúdo, qualidade maravilhosa!
Olá, muito obrigado pelo feedback. Eu irei atualizar o GITHUB com os códigos das aulas realizadas na TRILHA. Assim que disponibilizado eu aviso!! Vlw!
obg pelo conteúdo! voce é fera
Conteúdo top mano parabens
Muito boa didatica... parabens ...!
E cadê o data mesh? 😞😞
Olá Fernando! Muito obrigado pelo seu feedback, nesse vídeo foi demonstrado algumas infraestruturas de dados que apoiam nas disponibilização e entrega de dados como produto, e nesse primeiro conteúdo, detalhamos as possibilidades e principais pilares. Data mesh é fundamentalmente uma abordagem de consumo de dados que foca em organização por domínios de negócio e habilita mecanismos e integrações para uma arquitetura descentralizada. Por favor, compartilhe suas sugestões para evoluir o conteúdo. Ficaremos felizes em otimizar. Obrigado!
@@MaestriaDadosobrigado pela resposta. Minha sugestão é falar dos conceitos e técnicas de DataMesh, e se possível um case. Penso que a grande mudança que traz o ganho é a mudança de arquitetura e como usamos a stack que você apresentou.
@@fpinheirocampos Excelente! Sua sugestão foi muito boa! Irei validar um case e logo disponibilizaremos. Muito obrigado!
O data mesh são os amigos que fazemos pelo caminho
Parabéns David Braga, ótima apresentação! Esse Over view do Data Lake foi excelente !
Muito bom o conteúdo, obrigado pelos ensinos. É possível você disponibilizar o arquivo. csv? Ou direcionar onde posso encontrar pra acompanhar e conseguir aplicar? Muito Obrigado :)
Olá Higor! Muito obrigado pelo feedback! Na plataforma da Maestriadados estamos estruturando uma área para a disponibilização dos Scripts e Arquivos demonstrados, logo estará utilizável. Temos o GITHUB do Maestriadados, link do notebook e arquivo: github.com/maestriadados/maestriadados/tree/main/8_ETAPAS_DE_UMA_ANALISE_DE_DADOS_DIR
Muita gratidão por esse conteúdo extremamente relevante, me ajudou muito e já vou partir pra consumir os demais! Obrigado!
Demais meu amigo. Seu feedback é essencial para a evolução e continuidade de manter a melhor qualidade nos conteúdos!
Conteúdo de qualidade! Abraço
Todo sucesso, sempre!
Muito obrigado pelo apoio e feedback!
Para os serviços, teremos uma parte conceitual e uma parte prática. Procedimentos realizados hands-on: 1 - Executar comando IMPORT, gravando um arquivo TEXTO 2 - Validar arquivo carregado 3 - Executar comando IMPORT, gravando um tabela HIVE 4 - Validar carga da tabela HIVE 5 - Executar comando EXPORT, carregando tabela criada no MYSQL 6 - Validar carga da tabela MYSQL
Ótimo conteúdo! Estou buscando e consolidando varias informações possíveis para entregar um processo padrão de modelagem conceitual para um grande banco. A ideia é que todos dados que serão introduzidos e consumidos pelo datalake passe por esse processo. Alguma indicação de material? Obrigada.
Olá Juliana, excelente o seu feedback! Mande um email pra maestriadados@gmail.com com os detalhes que eu lhe respondo com um direcionamento mais adequado. Muito obrigado pelo apoio!
Excelente vídeo! Muito difícil achar conteúdo relacionado a dados em português e ainda com uma didática boa. Obrigada por disponibilizar
Muito importante o seu feedback. Muito obrigado e continue acompanhando nosso canal!!
Show de bola! Estou brincando com esse sandbox tbm
Muito bom! Parabéns! Me fez entender alguns pontos que estavam obscuros nesse mundo Hadoop.. Estou no aguardo dos próximos vídeos... Valeu
Olá Cláudio! Muito obrigado pelo feedback e apoio. Sim, nos próximos dias serão disponibilizados a evolução da engenharia da solução apresentada na aula 10. Continue nos acompanhando!
Muito bom!
Gostei
Introdução ficou muito massa! Adorei o vídeo
Tu produz um material de excelência, parabéns!
Tu produz um material de excelência, parabéns!
Tu produz um material de excelência, parabéns!
Tu produz um material de excelência, parabéns!
Tu produz um material de excelência, parabéns!
Muito feliz pelo feedback Marcelo! Estamos trabalhando para gerar diversos outros conteúdos, que agreguem valor e tenham embasamento de negócios reais. Isso motiva ainda mais na geração de conteúdos! Obrigado pelo apoio 🙂!