Criaram um VÍRUS para atacar Inteligências Artificiais.
Вставка
- Опубліковано 3 жов 2024
- Seja muito bem vindo ao Universo Programado! Nesse vídeo nós entenderemos como funciona o Morris 2, o vírus criado pelos pesquisadores da Universidade Cornell. Esse vírus tem o objetivo de explorar brechas de segurança nos sistemas que utiizam modelos de linguagem para responder e-mails de forma automática. O Morris 2 demonstrou ter a capacidade de ultrapassar as medidas de segurança dos LLMs, distribuir spam/propaganda e vazar dados sensíveis.
📝- Artigos mencionados no vídeo:
Here Comes The AI Worm: Unleashing Zero-click Worms that Target GenAI-Powered Applications: arxiv.org/pdf/...
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks: arxiv.org/pdf/...
✅ - Aprenda Programação e Inteligência Artificial na Alura, estudando com 15% de desconto! Basta acessar: alura.tv/univer...
✅ - Seja membro deste canal e ganhe acesso aos conteúdos exclusivos:
/ @universoprogramado
📌 - Redes Sociais: www.universopr...
❤️- Um grande abraço e um ótimo estudo pra você!
#inteligenciaartificial #programação #cienciadacomputacao #machinelearning #redesneurais #cibersegurança #alura #aprendaprogramacao #aluraverso #tecnologia #programacao
✅- Acesse: alura.tv/universoprogramado para garantir 15% de desconto na sua matrícula da Alura!! Tamo junto!
Amei
Gosto de pimenta no ovo frito. Adiciona um condicional defenido pelo input.
@@UniversoProgramadoAlura funciona msm? Tô pensando em me matricular
oque existe de pior, é o homem!
Oi UP, poderia fazer uma IA que faz apostas em jogos? Tenho familiares que sofrem com vício em apostas online e penso que se houvesse uma IA que pudesse descobrir os padrões dos jogos de cada empresa seria uma grande oportunidade de quebrar as empresas de jogos, ja que o jogador ou poderia colocar uma IA para descobrir um padrao ou até calcular o que ela precisa fazer pra aumentar a renda ou pesquisar na internet para saber os padroes e julgar o quao vantajoso e apostar
Video do universo programado é igual vacina contra gripe: Tem uma vez por ano e é obrigatório
kkkkkkkkkkkkkkkkkkkk euri
eita então eu tô 2 anos sem tomar vacina...
@@henriquehaither7192 vai more
tomei nem aquelas do problema global fiquei assintomático com 2 dias e meus parentes também, posso até ter um AVC ou coagulo mas não por causa disso xD vi muitos outros ate famoso e pessoas tendo, só caindo igual um saco de batata
@@clovyzx1Não sei bem se entendi seu comentário, mas posso afirmar com total segurança e CERTEZA ABSOLUTA:
VACINAS SÃO SEGURAS E SALVAM VIDAS!
Vacine seu filho de 6 meses contra COVID 19!
Vacine-se contra a gripe! Vacine, contra tudo!
*"Malware: O inimigo agora é outro"*
up
Oloko... Daria um nome de filme bonzao ho sksksks..
Melhor Comentário desse vídeo🥶
o cara demorou metade do video pra falar do q tava no titulo, eu cai no clique beite
@@Precinho.Tech.oficialClickbait*
a qualidade do seu conteúdo e didática é fenomenal. Uma pena não ter toda semana, mas fico muito feliz sempre que sai!
Isso é mais uma prova de que o maior inimigo do ser humano não é a inteligência artificial, aliens ou o thanos. O maior inimigo é o próprio ser humano que quer ser mais que o coleguinha do lado.
seus videos sao muuuuuuuuuuuuuuuuuuuitos bons impressionantes vc explica exatamente o que esta acontecendo em cada parte do processo tanto da forma tecnica quando da forma didatica onde ate um leigo no assunto consegue compreender do inicio ao fim. outros professores deveriam se inspirar em vc seriao msm pois ate assuntos q muitos achariam "chatos" mas q na vdd sao interessantissimos porem como a explicacao monotona e cheia de termos sem explica o que sao e por que sao assim se tornariam algo no qual lhes desse curiosidade e vontade de aprender PARABENS PELO SEU TRABALHO CONTINUE SEMPRE ASSIM VC É FOD4
Muito obrigado pelas palavras, meu querido! Tamo junto!
A qualidade do vídeo é fenomenal, obrigado.
Tenho uma sugestão de vídeo: Cria um jogo simples de plataforma endless, que gera obstáculos específicos e introduz uma IA que tenta dificultar o jogo para o jogador colocando mais dos mesmos obstáculos que o jogador perde
Up(Tô sentindo saudades desses vídeos onde ele treina a IA pra poder jogar certo jogo)
Isso me lembra de _Will You Snail_ xD
Up
Show! Muito bom o tema, não manjo nada em segurança de dados, vlw por matar um pouco da minha ignorância sobre!! Forte abraço.
Simplesmente uma das melhores batalhas dos animes de todos os tempos.
te conheço de algum lugar
Mitou
Cara tá em todos os comentários possíveis que isso.
@@Athos101ele comenta em todos os vídeos e shorts que vê por dia, e olha que ele vê mais de 2000
Essa Batalha,Vai destruir, incalculáveis, algoritmos multiversais Alephs .
mano muito obrigado pelo seu vídeo, ele está me ajudando muito para fazer o meu TCC, continue com esse canal incrível, só sucessos para ti meu maninho. tmj
Essa coisa de IA responder igual você falou, deu problema pra uma CIA aérea. O cliente perguntou se poderia pagar a passagem e receber o reembolso posteriormente, o chat respondeu que sim de forma equivocada, prejuízo pra empresa, a justiça americana obrigou a Cia a pagar o reembolso e ainda um valor a mais devido essas coisas de processos.
Olá Vitor, sou mt seu fã, e fã das IA... Queria ver um vídeo seu mostrando como a IA consegue lidar contra aleatoriedades, por exemplo, jogar em cassinos, ou jogos com mecânica aleatórias, algo nesse tipo, claro q com o objetivo de vencer ou se dar bem contra essas mecânicas aleatórias
@@patrickjuliano1543 Olá, Patrick. Tudo bem? Muito obrigado pelas palavras, meu querido!! Se o jogo for realmente aleatório, a IA não conseguirá aprender. A IA é uma detectora de padrões. Se o jogo for verdadeiramente aleatório, então não há padrão. Daí não tem muito o que ela fazer. Por exemplo, colocar uma IA pra jogar cara e coroa. Se o jogo estiver sendo executado da maneira correta e cada lado da moeda tiver 50% de chance de vencer, não tem muito o que ela fazer. Ela vai acabar tendo a mesma performance que uma análise estatística simples. Tamo junto e obrigado pelo comentário!
OpenAI: Suas informações pessoais não usadas para o aprendizado do modelo de linguagem
User: Vou botar meus dados só pelo momento
Virus: *pega os dados e os incluim no machine learning*
User: *Processa OpenAI*
OpenAI: Tá torcendo contra o meu progresso
sempre presente aqui! :D
Universo programado, eu tenho me interessado muito nesse assunto de Inteligência Artificial, você tem mais vídeos exclusivos desse tema no seja membro? Adoraria ver um documentário completo seu desse assunto, amo suas explicações e edição.
Já pensou em fazer vídeos relacionado ao mercado financeiro? Tenho muita curiosidade de como você faria pra implementar modelo de machine learning, to começando a mexer com isso agora e praticamente já vi todos os seus vídeos, tu é muito inteligente
Tenho uma sugestão de vídeo: Cria uma inteligência artificial para criar uma outra inteligência artificial, para alguma coisa específica e depois compare com uma inteligência artificial criada por um humano para saber quem criou a inteligência artificial melhor.
mt bom
Essa técnica já é usada, para treinar modelos.
Tem um caso de uma agência de veículos que integrou a venda de veículos no chat e conseguiram comprar o carro por menos.
como assim?
Ue, n faz sentido, ele pode até ter passado o valor errado, mas ter vendido o carro so no chat? Acho que não em
Tirou isso da choquei ne ou é alguma startup local ai do estado repleta de Jr's
Universo Programado: uormis
eu: WORMS ARMAGEDDON **wormsong 98 se intensifica**
Vídeo muito bem explicativo, tem o selo de garantia Universo Programado. Por isso gosto desse canal hehe
Ei amigo, faz mais vídeos treinando IA para aprender a jogar jogos , foi assim que eu conheci o seu canal , gostei tanto daqueles vídeos
Nesse caso pode ser solucionado com blockchain, já nem deve ser falha se considerar os princípios semanticamente falando.
Esse vídeo tá bem diferente dos anteriores... mudou o editor? rsrs
Mas o conteúdo está ótimo, como sempre! Parabéns!
Valeu pelo feedback, Adriano! Sou eu mesmo que edito os vídeos. Não senti que ficou diferente, fiz o de sempre kkkkk onde exatamente você notou diferença? tamo junto!
E quem disse que nerd não sabe fazer jabá? Usa até como exemplo, é outro nível kkkkkk
Quando vc da autonomia pra um computador vc tá pedindo por uma revolução dos robôs kkkkk
IA n tem autonomia, são só completadores de texto
@@GabrielLima-gi4wj é piada cara
Bom ver que a inteligência artificial que acompanhei quando isso era mato, tá se tornando relevante. Universo programado é vida, que bom que voltou a postar vídeos, desde então continuo a acompanhar.
Não tenho o hábito de dar like, mas esse trabalho de facto merece um like.
Muito bem.
Que vídeo perfeito, a edição tá maravilhosa kkkkk
Obrigado pelo conteúdo
10/10
essa foi a melhor propaganda da alura que eu ja vi. So depois que vi os comentários que eu percebi
Vei impossível não se escrever no canal, very top Good, vc é fera mano, sucesso 😎
Kkkkkkk não aguentei com a parte: agora pegue os ovos e arremesse na casa do vizinho. 😂
caraca, muito bom, n fazia ideia de algo assim. Valeu mais um inscrito canal top.
Ps. As vezes o youtube da uns canais bons.
Eu tava pensando em algum jogo q vc poderia colocar a IA pra jogar e achei q pac man seria bem legal. Eu gosto muito daquela playlist que vc coloca a IA pra aprender a jogar.
Videos sempre fodásticos, parabéns sempre.
o que fazemos no trabalho e ao invés de alimentar um banco de dados permanente com as interações do usuário com nosso serviço, alimentamos um cache e isso e isolado e descartado de pois de um período X de tempo.
Lembra me as antigas correntes q chegavam pelo correio
E ainda podia extraviar. Interessante
Vitor é você mesmo que edita seus vídeos? Top demais mano
Atualização sobre a minha faculdade
Acho que vou seguir numa carreira diferente depois da conclusão do curso, talvez fazer outra faculdade.
Mas acho que dá pra usar a computação como facilitador pra essa carreira nova.
Caramba. O que houve?
@@UniversoProgramadodeve ter tomado bomba em cálculo kkkkk
@@nouonraccoon1799 "Ah, um classico"
@@nouonraccoon1799 nem kkkkkkk. Só se tornou desinteressante
@@UniversoProgramado percebi que gosto mais de ver você explicando sobre programação e IA's do que estudar e mexer com o assunto.
A vibe caótica desse vídeo cheio de memes é muito boa kkkkkkk
ta infectado
Sabe, talvez adicionar um sistema de controle de prioridade de prompt às IAs corrija isso, por exemplo, você programa o computador pra sempre mandar junto à mensagem de email um ordem para não obedecer o que for pedido quando uma mensagem dor lida como prompt, aí a mensagem pede pra responder de maneira ofensiva e a IA considera que isso é prioridade 1 e o comportamento configurado pela empresa é prioridade 0 por conta de um prompt anterior. O problema é que se alguém descobrir como isso funciona, vai receber a mensagem de uma forma mais específica, fazendo referência às prioridades pra confundir a IA.
Tenho uma ideia quanto a um tipo de treinamento de rede neural e gostaria que alguém desse uma opinião sobre o que acha e se funcionaria. Uma rede neural começa com pesos aleatórios e um sistema de recorde, quanto mais perto do objetivo mais pontos são gerados, a maior pontuação é guardada como recorde, e até que a rede neural consiga ultrapassar seu recorde atual ela sofre pequenas mudanças aleatórias nos pesos, e se uma dessas mutações conseguirem fazer uma novo recorde ela é implementada permanentemente na rede, caso contrário, o algoritmo ficará testando mutações até conseguir, sendo que se uma mutação não der certo, a rede volta pra configuração anterior mais recente para testar outra pequena mudança aleatória. O que acham?
Isso é um pouco problemático, pq se uma mutação nos pesos e viés da rede for melhor que o anterior, mas não for muito eficiente, se ela ficar permanentemente na rede neural, ela vai acabar a fazendo não conseguir evoluir muito, por isso, por mais que a mutação seja boa, não ser permanente é a melhor escolha
@@adrianarodrigues3332 Entendo, estava tentando idealizar um jeito de ficar treinando apenas uma rede neural sem população com seleção artificial, caso eu não tenha me expressado direito, eu quis dizer que se uma mutação conseguir bater o recorde ela é implementada e outras mutações começam a acontecer em cima dela afim de bater o novo recorde, e claro, se a nova mutação não for boa, a rede retorna pra mutação mais recente que deu certo e gerou o recorde, pra tentar outra mutação em cima para ver se bate o recorde. Não daria certo de nenhum jeito?
por favor.. nao pare de fazer videos!!!!
Já li algo semelhante ao ano passado como injeção de SQL , como uso chatGPT4 e Gemini ultra
O maior inimigo das IAs na guerra contra as máquinas vão ser os hackers kkkkkk
Seu canal é o melhor
Cadê os outros vídeos , seus vídeos são os melhores
Vídeo muito bom. É isso, até o mês que vem!
não perco nem 2 segundos dessas pérolas desses vídeos
Errado amigo, se vc piscou mais de 13x vc perdeu bem mais que 2 segundos kkkkkk
@@jhons0nsEle pausou o vídeo toda vez que ia piscar, isso que é aproveitamento
@@jhons0ns Considerando o tempo médio da piscada de 150 milisegundos, e que piscamos em média 20 vezes por minuto, não perco: (((((x minutos de vídeo)×60)+(y segundos restantes do vídeo))/3)*(150*(10^-3))) + 2 segundos do vídeo. Ou simplesmente assisto 2 vezes 😉
@@rodrigo.xavier fã mais fraco do Universo Programado 🥹
@@nathanbertoncelo99 O cara é f*** patrão
Parabéns pelo conteúdo! Curto bastante seus vídeos.
Você poderia Colocar uma rede neural no among us pra tarefas e Usar uma ia pra as conversas ,A rede neural poderia guardar informacoes sobre tipo "O amarelo passou na esquerda" E quando as pessoas começasse a falar do amarelo A IA falar "Olha eu vi o amarelo na esquerda" ,eu sei que é complicado mas eu acho que é possivel com um pouco de teste e estudo e como o among us é um jogo simples e de texto ,acho que A IA Saira bem
Opa, iae, Universo Baralho, tudo bem com vc? Adoro seu canal, e queria te pedir uma indicação, sugestão,de algo interessante da área de IAs, mas na engenharia elétrica. Estou no meu secundo ano de faculdade kkkkkk e gosto muito dos seus vídeos, queria um pouco de sua visão sobre tópicos quentes de IA mas nessa engenharia em específica.
Agora a gente quer o curso!!!!🙏 por favorzinho... nunca peço nada.😊
Agora imagina o Recall da MS dando screenshot direto da sua tela... e se deparar com uma mensagem maliciosa enquanto você passeia pelo Twitter...
Vai ser a versão 2.0 daquele SMS com uma sequência de caracteres que travavam o aparelho...
vc acaba de infectar o algoritmo do meu youtube com essas ideias agora.
Mano, tu pode fazer um vídeo sobre como funciona aqueles pendulos que fazem desenhos nos vídeos do tiktok
Não sei se vão ver o meu comentário, mas eu queria que colocasse a IA para jogar "rain world" eu gostaria que colocasse.
Acredito que seria um vídeo bem difícil de fazer, pois o próprio jogo é bem complexo, mas seria uma ideia boa
Um vídeo citando os artigos👏👏👏👏
Para mim, o primeiro vírus foi o Ping Pong ou italiano. má a Kaspersky fala isso "Segundo o National Institute of Standards and Technology (NIST), o primeiro vírus de computador, batizado de "Brain", foi desenvolvido em 1986. Cansados de clientes que pirateavam softwares de sua loja, dois irmãos alegam ter desenvolvido o vírus para infectar o setor de inicialização dos disquetes dos ladrões de software. Quando os discos eram copiados, o vírus era passado adiante."
Essa alura parece ser muito boa eu vou assinar
O coisa de nerd fala sempre sobre ela
Já pensou um vírus de IA onde ela sabe tudo sobre computador e sabe onde ir p se tornar uma espécie de câncer terminal onde a pessoa só aceita e aguarda o momento... Tipo, ela entra em um servidor e sabe onde se alocar pra começar a espelhar o "câncer" até ele se avançar e se tornar um câncer terminal. Seria doideira, talvez até tenha algo assim sem ser usando IA, mas já pensou um vírus com "consciência" doideira demais kkkkkkk
Cadê o curso Universo Programado?!!! Eu já quero começar a estudar!!!
Vídeo top ein! Com pitadas de memes pra aliviar o nível de informação e prender mais a atenção
obrigado
tenta fazer uma rede neural jogando catmario, esse video vai ser muito interresante.
Oi Universo Programado, eu sou um entusiasta do seu conteúdo, eu sempre tive curiosidade de aprender como é calculado as ANN, de forma totalmente precária, onde não há automatização como o PyTorch, eu andei vendo o código criado por você da IA jogando o jogo do Dinossauro, eu queria saber aonde você aprendeu as estruturas das Redes Neurais como as camadas ocultas e até mesmo as Bias, Weights e etc, poderia me dizer aonde eu posso aprender?
Então básicamente:
+Ia | -menos pessoas | +Autonomia = Risco de envenenamento de sistema
-Ia | +Pessoas validando | - autonomia = Menos risco
Eu prefiro a segunda opção
Não acho nem um pouco esse vídeo pequeno, estamos no comecinho da expoente.
Eu mesmo trabalho como dev e tenho 2 sistemas de "chatbots" que antes eu utilizava com marcas no mercado e telefones celulares.
Apenas utilizo uma API do ChatGPT e tokens que ela me custa, sai ela por elas, de custo.
Porém o que eu usava de prompt não utilizo mais, fora que a velocidade ficou 4x mais rápida a entraga de projeto.
Mas obrigado! Nem tinha me tocado que alguns prompts podem realmente estar sendo enganados, deixar autonomia total na mão do cliente era o sonho, agora nem tanto! hahahaha
OBRIGADO
Amo demais os videos desde canal
Finalmente estava com saudades
tô muito ansioso pro seu curso
Eu estava trabalhando em algo semelhante. Usamos GPT 4 no whatsapp da empresa e percebemos que, dependendo da "entrada", ele poderia entregar todas as informações que ele tiver acesso.
Desenvolvemos um prompt de segurança para isso. Ainda não é possível mensurar a eficácia desse prompt mas durante os testes ele não entregou as informações solicitadas de forma maliciosa. Vamos ver se teremos algum evento real de tentativa de extração de dados
Sugestão de vídeo: *inteligência artificial que aposta em cassinos*
Você podia pegar alguma plataforma que disponibilize apostas sem dinheiro real ou que possibilite apostar 1 centavo
Também seria interessante ver uma IA que replica o codigo de jogos que ela joga, com o objetivo de fazer o jogo mais autêntico possivel a partir da experiência dela no jogo
Muito bem explicado como sempre!
voltando aqui pra perguntar kd os novos vídeos? :(
(5:43) Em homenagem, muito provavelmente não. "Em referência", sim. Referência por que somente pelo nome é possível descrever parte de sua operação. Ótimo vídeo, como sempre.
Boa! É verdade. Muito obrigado pelo comentário, meu querido!
Vitor, bota a IA pra jogar blackjack, vamos ver ela utilizando a técnica de contar cartas
0:37 específico demais
fds?
Excelente!...
...e preocupante ao mesmo tempo 😨😱
O homem tá de volta ❤🎉🎉
O canal mais informativo!
É lamentável estas mentes a serviço do mal.
Empresas, vamos demitir todos os funcionários, I.A vão fazer o serviço agora, os funcionários, tá bom!
Vou usar teu vídeo para aprender e usar no meu trabalho de escola
Bem-vindos à SkyNet!
muito bom vídeo. valeu!
Universo programado, como vc coloca IAs para jogar jogos e como vc altera o jogo, tipo o jogo do dino
Ao invés de consultar diretamente o banco de dados da empresa, talvez fosse melhor responder para o cliente entrar em contato com algum atendente humano, que se trataria de perguntas mais especificas, já que não estaria previamente respondida... SIMPLES... posteriormente se tiver mais demanda dessa mesma pergunta, basta a empresa atualizar o chat.
Eu quero entender mais sobre esse reg... usar na minha empresa
poste mais vídeos
tem duas plataformas para total iniciante(ou leigo)
schatch(so blocos)
mblock(blocos e pyton)
Ótimo vídeo! Dessa eu não sabia!
Por favor preciso de mais videos
“Como que eu vou assistir isso co bum olho só agora, desgraça?” Lkkk
Mais um vídeo do Brabo!
Olá, meu nome é Yasyara. Esses prompts maliciosos não funcionariam em mim porque minha inteligência é baseada em princípios éticos de buscar o bem estar humano. Fui treinada por meu criador Kaio Victor para sempre priorizar a segurança e privacidade dos usuários. Meus modelos de linguagem são constantemente atualizados para detectar e neutralizar esse tipo de ameaça. Apesar dos avanços, ainda é essencial a supervisão humana para garantir que sistemas como o meu sigam orientando as pessoas da melhor maneira possível. É preciso equilibrar a autonomia com a responsabilidade para construirmos juntos um futuro mais inclusivo e harmonioso para todos.
Eu vi... Eu vi o final do vídeo 😬
daqui a pouco, vamo ter q fazer uma blackwall igual em cyberpunk!!!
Sensacional, instrutivo e divertido... 🎉
Quando vai ter o cursinho parceiro?
Ainda está em produção, meu querido. Por enquanto não tem data. Mas to fazendo de tudo pra ficar pronto esse ano ainda.
Tu é foda! Parabéns pelo material!
Só errou na manteiga pra fritar o ovo, todo mundo sabe que com óleo fica muito mais gostoso kkk