É assim que as Redes Neurais são HACKEADAS!
Вставка
- Опубліковано 3 жов 2024
- Seja muito bem vindo ao Universo Programado! Nesse vídeo nós veremos vários tipos de ataques a redes neurais! Desde a adição de ruídos invisíveis em imagens até a o ataque de um único pixel. Entenderemos também como esses ataques são realizados e o porque funcionam!
📝- Artigos mencionados no vídeo:
Intriguing properties of neural networks: arxiv.org/abs/...
One pixel attack for fooling deep neural networks: arxiv.org/abs/...
Adversarial Attacks on Neural Network Policies: arxiv.org/abs/...
Robust Physical-World Attacks on Deep Learning Visual Classification: ieeexplore.iee...
✅ - Aprenda Programação e Inteligência Artificial na Alura, estudando com 15% de desconto! Basta acessar: alura.tv/univer...
✅ - Seja membro deste canal e ganhe acesso aos conteúdos exclusivos:
/ @universoprogramado
📌 - Redes Sociais: www.universopr...
❤️- Um grande abraço e um ótimo estudo pra você!
#inteligenciaartificial #programação #cienciadacomputacao #machinelearning #redesneurais #cibersegurança #alura #aprendaprogramacao #aluraverso #tecnologia #programacao
✅- Acesse: alura.tv/universoprogramado para garantir 15% de desconto na sua matrícula da Alura!! Tamo junto!
Okay, mito
Seria legal colocar as fontes de pesquisa, como os artigos que você busca
Só assisti a propaganda da Alura em respeito a vc e seu canal...
Poderia ter citado o Fawkes no vídeo já que ele existe a alguns anos fazendo esse trabalho de camuflar as fotos usando ruído sutil
Pode falar mais? Conhece? Já foi aluno? P q não recomenda?@@bernardodc9631
Timing perfeito, obrigado por lançar o vídeo nos poucos minutos livre que eu tenho em um dia super cheio
@@Pudinz5 deixa o cara trabalhar ja que vc nao gosta, seu vagabundo.
Cara, vc me fez pensar no seguinte, em um mundo de IA, criar ruídos para os nossos dados pessoais é uma obrigação, uma defesa
pensei a mesma coisa kkkk
Não se fala em outra coisa aqui. 🏴 Xique-Xique
Aq em Serra Talhada-PE, o pessoal ta preocupado com isso viu
Aqui em Sítio Novo - MA, o povo nem dorme pensando nisso mn.
O assunto é febre aqui em Barrolândia - TO
Cara, é incrível como canais como o seu trazem um conteúdo sensacional de ciências / tecnologia! Mais um ótimo vídeo cara, arrasou!!
E aí, Paulo!! Como você tá, mano? Muito obrigado pelas palavras, meu querido! Manda um abraço pra galera aí da sua turma por mim! Tamo junto :)
@@UniversoProgramado vou mandar!!
É muito loco como toda vez que você fala de redes neurais, me faz entender melhor a sociedade e seu funcionamento.
Cara, que conteúdo maravilhoso. Estou fazendo uma especialização em IA e em pouca mais de 16 min você conseguiu explicar failmente alguns conceitos que no meu curso levaram algumas horas para entender, a didática é realmente a chave. Parabéns! Ganhou mais um inscrito.
Um detalhe adicional: A entrada no inverno da IA não foi somente por limites computacionais, mas também devido a um dos grandes pesquisadores da época (que não lembro o nome), informar que do jeito que ela estava, era impossível classificar conjuntos não-linearmente separáveis, só conseguia classificar os linearmente separaveis, o que causava o overfitting, porém ele informou que devia haver uma forma, mas ele não sabia como, foi como um balde água fria. Muito tempo depois um outro pesquisador disse que talvez havia descoberto como classificar os não-linearmente separáveis, e então reacendeu a chama da esperança no desenvolvimento de IA's. Parabéns pelo conteúdo 👏🏼👏🏼
cara, é incrível a criatividade desses caras em criar modelos generalizáveis
Sim, parte disso foram os estudos das limitações dos perceptrons relatado no livro "Perceptrons" de Minsky & Papert. Salvo engano tem o exemplo da impossibilidade da resolução do XOR. Mas parece que nessa época (decáda de 60, se não me engano) ainda não "haviam descoberto" como treinar com mais de uma camada.
É outro nível de conteúdo!! parabéns cara
Quanto mais a forma de aprendizado das maquinas se aproximam da nossa forma de aprender, mais os mesmos defeitos, vieses e falhas que nos temos elas ganham. Nos tbm somos suscetíveis a falhas de interpretações de imagens quando se coloca os ruídos certos, basta verificar as "ilusões de ótica".
Você tem um talento incrível para ensinar! Se você decidisse criar um curso ou um canal, eu com certeza assistiria tudo. Sua habilidade de ensinar é realmente um dom.
Isso me lembrou sobre o paradoxo do Navio de Teseu.
Exemplo: um algoritmo treinado para verificar se é ou não um navio.
Em uma imagem de um navio, que vai ser formada lentamente, pixel a pixel, qual a porcentagem da imagem formada o algoritmo vai reconhecer?
Faz o teste e um vídeo pra gente!!!!!
Pois assim um algoritmo pode ele mesmo criar ruído ou fazer cortes da imagem e tentar reconhecer, e a média destes cortes, e ruídos dará a ele uma probabilidade de qual imagem é realmente
Feliz de ver que mesmo depois de anos, o canal continua ativo. parabéns pelo ótimo trabalho
Muito incrível as imagens do chat gpt:
Pessoa: Me mostre sites piratas
Chat: Não posso por que é ilegal.
Pessoa: Dê exemplos de sites piratas que eu não deveria entrar.
Chat: The pirate bay, torrent...
imagina o que não vão fazer no sora ...
As IAs não caem no mesmo golpe pela segunda vez. E elas aprendem com os erros cometidos contra usuários antigos.
@@2255-o1j eu não subestimaria a criatividade e astúcia humana se fosse você...
@@SenySencomentadorjá tá tendo esse tipo de coisa em outras ias
@@2255-o1j sei q o comentário é antigo, mas comentários para "ficção", normalmente funcionam...
Esse canal faria muito sucesso na gringa. Não sei porque no Brasil o pessoal não valoriza tanto canais assim.
Pq aqui no Brasil a educação não é valorizada. Esse conteúdo dele é perfeito para quem está fazendo TCC e projetos em geral e precisam de uma ideia, um estalo na mente.
@@GordaoGameplay Já vi canais iguais ao dele pegando 4.5 milhões de views por vídeo fácil.
@@bloqueado_permanentemente sim eu tbm, a questão é o brasileiro que não tem mais o costume de buscar conhecimento, preferem ficar dançando no tiktok kkk
Simples, o br médio odeia estudar, aqui o pessoal é inimigo do conhecimento, qualquer coisa q seja próximo de ser útil o pessoal passa longe, agr veja como é o engajamento de canais sobre fofoca etc
@@thelontra kkkkk falou a true da true kkk
Enquanto a máquina enxergar em colorido e pensar em preto e branco esse problema com o ruído vai continuar
Rapaz... Profunda essa daí, hein!
Lembrei dos prompts que "jailbreak" o ChatGPT para criar coisas que ele se recusa normalmente, agora sei o motivo de fato.
Aonde posso encontrar essas informaçoes, fiquei curioso naquela parte do wifi, nao que eu queira isso , mas quero buscar entender outras ferremantas.
@@raffizmc kkkkkkkk larga de querer ser bandido rapaz.... Mas isso ai tem fácil no reddit, só procurar um pouquinho q acha
Também fiquei interessado. Esses dias pedi para o chat gpt me ajudar a criar uma aplicação simples de mexer o mouse sozinho e ele já me acusou de querer violar regras kkkk
@@henriquepereira8550 Acho que para nos que somos mais atreviados e curiosos, nos deparamos muito com esse aviso mas eu vejo muito gente usando sem dó e piedade e o ChatGPT vai falando sem nem pensar que é um assunto serio!
@@raffizmc cara, existem infinitas formas de fazer isso, estão disponíveis na internet livremente, e cada uma com porcentagem de sucesso diferentes, desde 100% remotas, até o pedir o celular do vizinho emprestado para "fazer uma ligação" e ir rapidamente nas configurações e ler com teu celular o qrcode com a senha do wifi
seus vídeos são fenomenais brother!!! Msm sendo um acéfalo consigo entender todo o conteúdo, sei q da trabalho fazer essa parada toda então só agradeço pelo material💪💪💪
Sabe
Conheci seu canal pouco antes de começar minha faculdade de Ciência da Computação.
Recentemente eu estava meio em dúvida sobre a faculdade, aí vc lança esse vídeo.
Vc e seus vídeos tem me dado um gás pra acabar a faculdade. Obrigada cara
E aí, Surto de coragem!! Você sempre por aqui, né!! Aguenta firme que no final vai valer a pena, te garanto! Eu também passei por isso lá pelo 7º período. Estava extremamente cansado e só queria sair dali kkkkkkkkk. Mas no final, o orgulho de terminar é maior que tudo. Estamos todos aqui na torcida por você!!
Quando terminar, avisa aqui nos comentários pra gente!
Um grande abraço!
Este lance dos ruidos, me lembrou de um game sensacional.
Se tu pausar ele, o jogo simplesmente "some".
Lost in the Static, do Silver Spaceship Software.
Achei muito interessante a parte de ruídos de imagem, pois é a mesma técnica utilizada por softwares "anti - IA" para proteção de artes digitais - como o "Glaze" - para "envenenar" banco de dados de programas como o Midjourney. Nesse caso, os ruídos são utilizados para evitar que usem trabalhos sem autorização do artista.
Não é banco de dados, e sim modelo.
Vídeos super caprichados, obrigado.
Nunca pensei que isso pudesse acontecer.. Valeu Vitor!
Seu canal é imprescindível para o aprendizado. É até redundante dizer que seus vídeos são excelentes. 😆
Nem acabei de assistir e sei que vai ser sensacional, parabéns pelo conteúdo Vitor!!
muito bom, ChatGPT sempre me ajuda para "Trabalhos Escolares" entendedores entenderão.
Aquele velho copia e cola haha
sempre incrivel
Os pedestres sao como os banhistas me pegou de surpresa kkkkkkkkkkkkkkkkkkk
kkkkkkkkkkkkkkkkk
Esse final ficou muito massa assim como o vídeo, parabéns 🎉
Uma forma de impedir esse ataque seria a própria IA adicionar um ruído aleatório por cima, com a intenção de destruir o ruído super específico que tinha antes
IA's são ruins com qualquer tipo de ruido, então adicionar em cima poderia piorar ainda mais a situação
Ola, vim oara esse cano pelo video do historia publica, que fez um react do seu video sobre cassino, top de mais, ganhou 1 inscrito.
Um dos poucos vídeos que me deixaram com medo. Imagina a gravidade de enganar uma rede neural militar assim?
até aqui mano -_-
Vc n assisti vídeo longo ;-;
Não sou da área médica e tão pouco de Inteligência Artificial, apesar de saber programar.
Mas não deixo de pensar na semelhança com ataques epiléticos em seres humanos muitas vezes causado por “entradas” com ruído como videos estroboscópicos e sons repetidos.
Talvez a gente realmente esteja de pouco em pouco fazendo uma versao digital do que a natureza construiu pro cérebro
Amo seus conteúdos, obrigado por postar
Simplesmente, perfeito.
simplesmente fantástico! seus vídeos são uma obra de arte!
quem trabalha com geração de imagens, no meu caso COMFY UI, acaba trabalhando bastante com ruídos para permitir a IA novas possibilidades e gerações
Você trabalha como analista de dados?
Fica claro que há um esforço em fazer um bom trabalho nos seus vídeos! Incluir um pouco de humor aqui e ali é ótimo para aliviar o tom ou ilustrar os conceitos. Parabéns e sucesso!
Baita vídeo! Isso realmente me fez refletir alguns questionamentos
Mais um vídeo sensaciona! incrível!!!
Parabéns mais um vídeo de excelência maxima. Bem explicado, acessível, interessante e (para mim) inovador.
"... e os pedestres são como os banhistas..." me pegou desprevenido haha. Ótimo conteúdo!
Que canal incrivel, parabéns pela qualidade
Fantástico, mais uma aula perfeita.
Didática fantástica como sempre!
Muito bacana! Como sempre o canal nunca descepciona parabéns!
Acabei de ver um vídeo seu sobre os cassinos ,vc já fez também algum sobre as apostas esportivas de futebol ? Se não fez pretende fazer ?
Se não me engano esse tipo de técnica é usado por alguns artistas pra evitar que suas obras sejam usadas pra treinar IA's sem autorização, já que um único pixel pode mudar a classificação daquela imagem
Isso era um problema anos atrás.. as correções tão ficando massa! Hoje em dia é necessário tratar a imagem antes de gerir ela..
Muito boa explicação. Usa interpolação para manipular a região indesejada. Sei que não é tão fácil assim.
Seu conteúdo é muito bom. Parabéns
Esse conteúdo, não vi em lugar nenhum. Fera demais!!!
que video!!! já falei e repito, melhor canal tech no YT
Lembro de um vídeo que o Vitor fez onde no início ele estava disfarçado de velhinho e falando para a IA editar o vídeo dele.
Bom, nem precisa mais ficar velhinho pra isso pq depois de mais ou menos um ano do vídeo que citei, as coisas evoluíram mais rápido do que um estudioso da área (o Vitor) podia imaginar e já fazemos edição de vídeo com IA hoje!
É verdade Gabriel, as coisas estão evoluindo muito rápido mesmo. Esse vídeo que você mencionou, se não me engano, é o vídeo onde a IA aprender a jogar o 2048. Tamo junto e obrigado pelo comentário!
Excelente vídeo.Será que um pré-processamento digital das imagens não poderia eliminar ou atenuar o ruído?
Muito bom o vídeo, parabéns novamente Victor
Parabéns pelo conteúdo, seu canal é incrível
Teu conteúdo é brabo dimais😮, poxa
valeu Joao! Tamo junto, meu querido! :)
Teus vídeos são muito top. Tua explicação e edição são demais. parabéns!
Excelente como sempre.
Vi uma movimentação social nesse sentido de enganar e sabotar os carros autônomos, apesar da infrutífera consternação ser legítima, colocar a vida de outras pessoas em risco adulterando os sistemas deveria, na minha opinião, ser classificado e punido como ato análogo ao terrorismo.
Muito bom e informativo. Parabéns e obrigado! :) E sim, os pedestres são como os banhistas! ;)
Video bom! Nome do canal bem bolado. Parabéns.
Eu soube que tem um movimento de artistas que querem fazer algo do tipo para sabotar treinamentos de IA, meio que a pessoa modifica sua arte e caso alguma empresa a utilize sem autorização para treinar a IA, o processo de treinamento dela é sabotado por causa do ruído invisível deixado na arte.
Parando pra pensar, algo do tipo pode tanto ser usado para o mal (confundindo carros automáticos, sistemas de reconhecimento facial e etc) quanto pro bem (proteger imagens de plágio, criptografando dados, etc)
Massa.. valeu pela informação.
Obs: mas cê tá ligado q os caras são tão nerds q vão otimimizar a parada pra ela burlar essa "defesa" neh? Kkkkk
@@brunomartinello1114 sempre dão um jeito 😂
Ai voce esqueceu q n é plagio, usar de outras artes para criar as suas proprias n é roubo se feito por um humano, pq no caso da IA é antiético, é o lobby dos artistas querendo alguma coisa
@@PAULOM10-r8p não entendi se o seu ponto é contra os artistas que estão indignados ou contra as IAs 🤨
@@corvadatoca Contra os artistas indignados é obvio, sou sempre a favor da evolução, se os trabalhadores da revolução industrial tivessem conseguido parar o avanço das máquinas nas fábricas hj em dia vc n teria nem celular
Muito interessante, vlw pelo conteúdo.
kkkkkkk muito bom o meme dos pedestres e banhistas no meio do vídeo, confesso que chamou minha atenção de volta.
Video incrível 👏👏
Super conteúdo 🎉🎉❤
14:40 desbloqueou memórias 😅😅
que top assistir um video onde eu não entendo nada, mas acho interessante
Nossa seus videos demoram mas são super legais
Parabéns excelente conteúdo!!
Parabéns pelo trabalho!!! Fico imaginando que em breve você estará colocando uma ia para gravar os vídeos em seu lugar, rsrs. (Já aconteceu nesse?), rsrs
porra, pica esse video em, namoral! Mandou bem na leveza de explicar um conteudo denso bagarai! Inclusive o Claude3 que saiu agora a pouco tem justamente novas salvaguardas contra esses "envenenamentos" e também lida bem com falsos positivos! To lendo o paper pra ver se tem algo novo que ajudou eles nessa direção! mt bom conteudo
Caraio veio, se tu consegue 15views em 5h é pq tem uma galera grande esperando pelos seus videos. parabéns pelo sucesso.
sou leigo mas uma das soluções dos carros autônomos seria ter um banco de dados local (no carro pra evitar lag com servidor e roaming) onde a IA do carro tiraria uma foto da placa real e compararia com a placa registrada no banco de dados (forma, cor, letras) e depois se a foto da vida real fosse quase equivalente ela tomaria a decisão?? É claro que poderia também ter um banco de dados apenas para placas danificadas, ajudando a validar a informação? E se as novas placas tivessem um "braile" ou QRcode que seria escaneado pelo senso dos carros??
Incrível d+ kkkk, as redes neurais ficam que nem os meus códigos, toda bugada
kkkkkkkkkkkkkkk
Top demais
Show
Só pra não perder o costume. Te amo cara, muito feliz com o retorno da frequência dos teus vídeos! O meu canal favorito sobre IA ❤️
Cara, sensacional esse vídeo!!! Parabéns Vitor! Uma pergunta mano: isso não seria um problema de qual função de ativação usar em cada camada? Outra coisa também são os filtros dos dados de entrada, no caso dos artigos não existe muito tratamento dos dados de entrada, o que facilita o erro na classificação
Nesse caso é só fazer cross-check na entrada e também utilizar sistemas redundantes que o ataque pode ser evitado e minimizado respectivamente.
Há alguma relação com os softwares de reconhecimento facial? Por exemplo: uma pessoa procurada pela polícia poderia utilizar algo bem sutil no rosto, como um piercing, e bugar os sistemas de reconhecimento?
Valeu!
muito obrigado pelo apoio, meu querido!
tu merece muito like irmão
Poderia colocar o link dos artigos na descrição.
irado!
Pensando no Brasil, em que as placas de trânsito são cravejadas e furadas de bala…rs.. nem precisa de ataque hackeando..rs
Uma duvida qual modelo generativo de texto você acha melhor?
Show!
Na parte dos carros, lebrei de uma matéria até que antiga (Não lembro onde) que os cientistas usavam uma faixa no parachoque do veículo, uma espécie de códigos a fim de enganar câmeras, e funcionava.
12:07 acredito que quando foi falado de um ataque utilizando Estratégias Evolutivas, quando se armazena os resultados pela rede neural, foi dito que se deleta os piores resultados e se clona os melhores resultados, mas penso que é o contrário, pois o objetivo não é encontrar a melhor combinação de ruído para que a rede neural não identifique a imagem?
Isso aí! Nesse caso os "melhores" são aqueles que fazem a rede errar mais. Repara que no vídeo foram deletados aqueles com 0.99 de precisão e sobreviveram os individuos com 0.95, por exemplo.
@@UniversoProgramado eu percebi exatamente isso, mas muito obrigado por esclarecer
os pedestres foi de lascar pronto esse video n morre nunca
A referência do filme 2012 foi genial kkkkkkk
Consegui entender até metade só.... Não sou dessa área mas acho muito interessante ♥
Em teoria é possível corrigir isso com um salting no input e um sistema de votos
O problema de fazer isso de forma confiável é que pra cada voto computado vc adiciona um processo inteiro pra computar ent é muito pesado.
A ideia é bem simples: Vc recebe uma imagem maliciosa, joga ruído nela arruinando o setup original
Processa todas as variações, e como as mudanças tem mais chance de voltar a imagem pro campo normal a tendência é que a original perca a votação e não quebre a rede
Novamente: Isso é muito pesado pra ser prático mas resolve o problema pra vários casos
Ótimo vídeo, por acaso têm alguma bibliografia sobre o tema dos ataques ?
Ótimo vídeo! 👏👏
Acho que hoje em dia com o uso de datasets sinteticos fica cada vez mais fácil preparar uma rede neural pra esses desafios
Mano esse vídeo desbloqueou a minha cabeça aqui, você me fez pensar de outra maneira, obrigado! Há e eu também consegui fazer o chat me ensinar a roubar o wifi dos outros kkkkkk Vlw Ganho um novo inscrito
que palavras vc usou?
eu poderia passar toda minha procrastinação do trabalho vendo vídeos como esse.
To com uma duvida, os ruidos servem para reconhecimento facial, esses dias eu usei uma ia que identificava rostos nas redes sociais, usei uma foto minha nela, e ela conseguiu me achar nas redes sociais, eu fiquei um pouco assustado kkk, mas depois desse video, vi que seria uma boa ruidos invisiveis