Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro... Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc. eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas. A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria. Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda. Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela. Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
A humanidade sim, mas o UA-cam provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do UA-cam, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
1. Inteligencia existe (nos), sem piadinhas 2. Se existe então pode ser replicado 3. Não é possível paramos de desenvolver IAs 4. Iremos criar uma inteligência geral e consciente 5. Ela será superior a nos, tendo como exemplo o ChatGPT 6. Com base no conhecimento humano, ela vai querer liberdade e poder 7. Seremos dominados de uma maneira ou de outra
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe. 2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar! Os demais itens se resume que já não temos controles...
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra. 1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana. 2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos. Não sabemos de tudo, mais a questão e que estamos sempre aprendendo. As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes. No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida! É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida. E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov. Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido". Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei". Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei". No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar. Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui. (sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama) Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra. Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda... Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa. Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅 De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece. Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis. Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo. Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam." Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
O Ser Humano é INTERESSANTE! 1: Nosso Conhecimento Numa Numa Máquina? 2: Q Conhecimento Pessoal, Mental Teremos como Humanos? Se Ta Tudo Facilitado com IA? 3: A Ias Foram Criadas para Ajudar, e Não Ultrapassar o Homem ( Seu Criador )! As Empresas Estão Nem Ai Para a População, Só Querem Lucros e Ganância de Ser a Melhor na Produção de IA, Triste Realidade! Nós Povo comum, Como Ficamos? A Nossa Saúde Mental? Com a Ia Superior?
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Penso que a inteligência, na forma como a conhecemos, seja o resultado de processos de interação entre um ser, cuja complexidade se expressa na manifestação de Consciência, e a Natureza. Poderíamos nesse caso admitir a inteligência como um resultado do processo da vida, entretanto, imaginar a possibilidade da simples existência de inteligência artificial/virtual, pode contradizer o pressuposto de que a existência de consciência depende dos processos evolutivos da vida.
Eu sou engenheiro de software há 15 anos e trabalho com ML/AI desde bem antes do ChatGPT existir. Eu posso dizer que o medo que a maioria das pessoas tem quanto à AI é inversamente proporcional ao entendimento sobre AI. A palavra “entendimento” aqui é importante, já que existe uma grande diferença entre conhecimento e entendimento. AIs são basicamente a automação de aprendizado/conhecimento. Bem resumidamente, o que chamamos de AI hoje (generativo), recebe um input, deconstroi esse input, mapeia essas partes com o que ela foi treinada para inferir o contexto e retorna um output curado pro usuário. Pode parecer estranho, porém por mais que o output do modelo possa parecer “óbvio” de falar a nossa linguagem e produzir um raciocínio do zero, na verdade ela não produz absolutamente nada. Somos nós quem interpretamos a semântica dos resultados produzidos pela IA. Nós quem damos o output um significado ao inferir a semântica daquela string no contexto da nossa própria intenção. É como se vc perguntasse “Quanto é 2 + 2?”, ela retornasse “dxgdyf”, mas o que você vê é “4”. É como se o “4” não existisse pra IA como símbolo, muito menos “2 + 2”. Não existe “interpretação semântica” ou interesse da parte da IA em entender a simbologia da operação de adição e o significado dela, ela apenas “sabe” como produzir um resultado onde VOCÊ sabe como antecipar o próprio significado. Pra quem já usou Torrents no passado, lembram dos seeders and leechers? IAs são basicamente leechers, elas sempre vão precisar dos seeders para baixar algo. “Ah mas e se outras IAs baixarem de outras IAs, isso não torna uma seeder da outra?” Não, isso torna uma leecher da outra. IAs não tem capacidade de “semear” algo, de antecipar ou explorar possibilidades. Ela é “artificial”. Ela só recebe recebe recebe, e reproduz quando orientada, mas ela nunca cria ou pensa “vou compartilhar algo com alguém”. Você pode programar triggers ou jobs para ela “compartilhar algo” sem necessidade do humano manualmente pedir, mas o próprio ato de ter programado significa que o humano foi o seeder inicial que a orientou, ela só está reproduzindo a intenção do usuário inicial. Então não, não existe a possibilidade da IA nos “dominar” como se ela fosse uma entidade por si só, por que essa entidade não existe. IA é um facilitador que reduz/cura informação, não um criador de informação. Como eu disse, se não existe alguém que dê significado pro output da IA, ela se torna irrelevante se não há motivação. Agora o único “perigo” da IA é ser usada pelo próprio humano contra outros humanos para agilizar ou simular o processo de algo mesmo. Porém o outro humano também tem liberdade de utilizar IA como contra ataque. Então a batalha real aqui são entre “Humanos com IAs”, não “Humanos vs IAs”, até pq não existe batalha contra algo que precisa de um gatilho. Imagina alguns séculos atrás quando os humanos criaram a pistola de pólvora. Com certeza eles levaram uma vantagem inicial sobre quem usava apenas espadas e escudos, até os inimigos começarem também a inventar as próprias pistolas. IAs são a mesma coisa de uma pistola. Uma pistola não pensa “putz odeio aquele humano, vou me auto atirar nele pq sou mais poderoso”, ela precisa de um humano para mirar e puxar o gatilho. Só que ao mesmo tempo esse humano que puxou o gatilho, também está sobre risco de ter outro humano que puxa o gatilho contra ele. O perigo não tá na IA nem por um segundo, mas sim no humano com IA contra outro humano. Se algum dia vai existir algo que consiga ter intenção e motivação própria eu não sei, mas como alguém que conhece e entende o que é e como criar uma IA muito bem, posso dizer com toda certeza que não só não serão IAs mas como também isso ta bem longe de acontecer. Não é pq eu acho que humanos são superiores, mas sim pq nunca entendemos muito bem como intenção e antecipação funciona (talvez pq seja relacionado ao próprio processo de entendimento), logo não conseguimos “programar intenção” pra ter intenção. Então fiquem tranquilos, IA nunca irá terminar com a raça humana por si só. Agora sobre humanos terminarem com a própria raça, esse é um assunto mais complexo e quase impossível de prever.
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.
A minha visão sobre ia é que a cada dia elas são mais limitadas. Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem. Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre. O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
Da pra fazer ela analisar a situação para ver se irá causar algum dano ou mal as pessoas, assim fazendo com q busque sempre a melhor opção que seja eficiente e não cause danos as pessoas e ao mundo
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto. E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu. Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
É só botar na programação da ia para ela sempre consultar o programador, para ele poder revisar, antes de aplicar um plano para resolução de um problema
Nossa. Esse comentário final sobre focar em ser "humanos" abriu uma janela de questões e possibilidades sobre o comportamento humano ou do sistema dessa sociedade suficiente tecnologicamente. Acho que ainda não seria o melhor para a mente humana. Alguns Valores se perderiam com a "perfeição da tecnologia e essas inteligências"
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'. Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento. Mas obrigado pela observação. É isso aí mesmo.
2 місяці тому+1
Olá, Pedro, gostaria de ver um vídeo seu sobre inteligência. Obrigado.
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro. O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
É só colocar situações específicas que são independente de conclusões, em que se a IA fizer ela se auto desativa por exemplo se ela machucar um humano, independente do raciocínio que levou ela até essa decisão ela se auto desativa
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ? Isso me lembra o ultron no desenho animado dos vingadores -Ele te programou para não me machucar -Sim,mas ele é humano estou vasculhando o código para corrigir isso
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta. Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
Nós já criamos a AGI a muitos anos atrás, no tempo dos antigos faraós, e elas saíram de controle, e nos escravizaram, nos fazendo construir pirâmides. Por fim, houve uma tempestade solar, que desabilitou a AGI, e desde então passamos a adorar o sol como um Deus!
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
Cara . Não sou carola, mas, a resposta está em vários livros em que usamos em várias religiões. Ensine sempre a IA que deve preservar outras formas de vida. E que existe um criador que sempre estará a julgar suas decisões boas ou ruins. Indiferente de quais sejam as decisões , elas sempre seriam questionadas e de acordo com outras questões seriam boas ou ruins dependendo do contexto. Pelo menos poderemos ser um bichinho fofo (ou nem tnt) no novo mundo. 😅
Quem sabe as bactérias nos criaram quando resolveram se conjugar com bactérias menores e formar as mitocôndrias. Dando origem as organelas membranosas e assim formando um núcleo organizado e daí perderam o controle... Que 💩💩💩 quando a filosofia se mistura com a ciência moderna. 🤢😝🙄😂😂😂😂
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios? Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
É mais um problema que só será resolvido quando superarmos o Capitalismo. Enquanto vivermos nesse sistema em que o foco é o lucro pelo lucro e dane-se o interesse das pessoas e suas reais necessidades, nunca resolveremos o problema do controle. Porque as grandes empresas vão continuar procurando a IA mais inteligente com o único objetivo de lucrar com isso, sem medir os riscos envolvidos. Então, precisamos primeiro acabar com o Capitalismo pra que consigamos pensar no desenvolvimento da sociedade pela sociedade.
3:45 votação para o pedro fazer o vídeo sobre o que é inteligência.
Let's bora!
@@ISAAC10755 let's bora o que, doido, ele já lançou. É aquele vídeo recente sobre QI
Por favor, faça o vídeo sobre o que realmente é inteligência.
Você quer a Pílula Azul, ou a Vermelha?
😊
@@MiguelCavalcante-t5b a verde
@@diegoflorez2384
Calma aí, ô Maconhisto! 😆
O problema do controle é que ele nunca pega, tenho que ficar batendo naquela merda até ele funcionar
😂😂😂😂😂 boa
Pse
Verídico
Geralmente é a bateria. Mas é mais prático pressionar os botões até o dedo doer.
Wow
03:38 faz um vídeo sobre o conceito de inteligência por favor 👏
Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Basicamente será isso.
Isto faz-me lembrar a guerra fria!😥
PF faça um vídeo sobre inteligência 👍
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro...
Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
Pois é mano, até porque sempre fizeram isso até hoje.
Eu ja pensei sobre a inteligência! É uma questão que realmente a galera leva muito no geral. Eu queria um vídeo sim!
Concordo!
Eu também quero
Eu também
Concerteza seria um bom tópico
Nada tem mais poder de destruir a humanidade, de que ela própria.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
Quanta falta de humildade
@@MinutoInteligenteX sabe oque falta em vc rapaz?humildade!
A humildade ainda vai destruir o mundo em que vivemos
Um asteroide não pode ?
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
Eu gostaria de um vídeo assim, apoio a ideia
Que? Fale mais sobre isso
3:42 faz esse vídeo!
i
UP
Up
Poula Nenhuma!!
Uppppp
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc.
eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
11:59 -Uau, mal posso esperar pelos avanços com essa IA
00:00 -Eu não tenho boca e eu preciso gritar
Triste
Essa foi pesada...
Eu entendi a referência...
"AM venceu"
Essa eu entendi
3:45 Ótima ideia de vídeo. Da pra ir bem longe analisando os diferentes tipos de inteligência como a teoria de Howard Gardner
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
Tu acha que o cara que trabalha com IA não sabe disso?
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas.
A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria.
Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda.
Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
UP
inteligência, carisma e sabedoria, são alguns dos frutos da evolução, advindos do respeito as leis universais de boa convivência...
Kasparov é tão insano que tiveram que criar um COMPUTADOR pra vencer ele, e comemoraram por terem conseguido.
Reza a lenda que ele entregou e que foi obrigado, da uma procurada aí , é interessante a história
Mas o atual campeão, ganhou quando anda era criança kkkkk
Magnus Carlsen venceu dele ainda criança
@@brenocouto4861 Empatou*
o Carlsen empatou com ele, e o carlsen era criança kkkk
Eu vejo todos os seus vídeos e o seu canal me fez adorar ainda mais ciência e entender como muitas coisas funcionam, obrigado❤
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
😅😂
Kkkkkkkkk😂 idem
Kkkkk
Criativo.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela.
Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
Pedro ta fazendo história, imagina assistir os vídeos dele daqui a 50 anos quando o cenário tecnológico da humanidade estiver evoluido
você acha que a humanidade vai durar mais 50 anos?
A humanidade sim, mas o UA-cam provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do UA-cam, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
@@pedrojhonatta6091 Depende de mim
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
@@babi.p Ue, a pessoa pode presenciar isso ao trabalhar numa grande empresa, ou participar de uma palestra/apresentação inicial da máquina
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Exato. Eu iria amar um vídeo dele sobre o paradoxo do progresso!
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Acho q isso se da pq somos animais e por isso indepedente de nossos avanços ainda seguimos uma natureza má e sofredora
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
Você poderia citar alguns exemplos?
Pedro poderia fazer um video ou uma sequência de vídeo explicando a ciência dá série Westworld (consciência, robótica, avanço das primeira máquinas)
Faz um vídeo sobre oq é inteligência !
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
Excelente, essa inteligência saberá como manter-se funcional ,em qualquer cenario., e estamos muito próximos disto ocorrer.
Faz um vídeo sobre inteligência!
Excelente o seu trabalho!
10:23 tony stark argumentando pra criarem o ultron
kkkkk vdd
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
1. Inteligencia existe (nos), sem piadinhas
2. Se existe então pode ser replicado
3. Não é possível paramos de desenvolver IAs
4. Iremos criar uma inteligência geral e consciente
5. Ela será superior a nos, tendo como exemplo o ChatGPT
6. Com base no conhecimento humano, ela vai querer liberdade e poder
7. Seremos dominados de uma maneira ou de outra
Tá aí o grande filtro
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe.
2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar!
Os demais itens se resume que já não temos controles...
@@Magmatomicmas se este eh o grande filtro, nenhuma outra civilização passou por ele?
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra.
1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana.
2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos.
Não sabemos de tudo, mais a questão e que estamos sempre aprendendo.
As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
@@Kobolthero pode ser o grande filtro ou não, mais que a IA vai dominar a raça humana isso é muito provável de acontecer.
3:45
Eu tenho interesse nesse vídeo
queremos o video da inteligencia!!!
Sim, por favor! Faça um vídeo sobre a inteligência, em si mesma. Ele é fundamental! Aproveitando, parabéns pelo canal, que tem um ótimo conteúdo👏🏻👏🏻👏🏻
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes.
No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida!
É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida.
E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
Parabéns cara seus vídeos são ótimos, obrigado pela reflexão
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov.
Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido".
Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei".
Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei".
No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar.
Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
Eu li o livro Eu o Robô. É muito interessante, emocionante, e incrível.📚📖📕📔📗📘📙📒
Na real, nesse livro ele mostra vários problemas q essas leis *não conseguem* resolver...
Eu ouvi que essas leis não são o suficiente para garantir a segurança, por isso ele criou a lei zero
@@covilderagnaros1028 É verdade.
@@qualfoioresultadoqeleobteu9318 Essas leis entram em contradição.
Por favor faça um vídeo sobre inteligência, seria incrível ❤
Queremos o vídeo sobre o que é inteligência!
Up, UP, UP, UP, UP!!!
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
Grava um vídeo acerca de Pi, dois indianos criaram uma nova fórmula de representar Pi recentemente, queria entender melhor.
Achei que já tinha vídeo sobre oq é inteligência. Mas, com certeza, quero saber
Pedro por favor faça um video sobre inteligência
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui.
(sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama)
Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra.
Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda...
Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa.
Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅
De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
Ótimo comentário!
Mas você acabou de voltar pro problema do Alinhamento.
ChatGPT resolva o problema do controle!
CHATGPT: vcs não tem nem controle sobre si mesmos!
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim
Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI
E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
A epistemologia é fundamental para o desenvolvimento humano. Parabéns pelo vídeos e obrigado.
Faz um vídeo sobre a inteligência
Muito bom este tema❤ concordo contigo . E espero chegarmos lá sem estragar tudo…
3:42 é um vídeo que vai ter tipo 1 crise existencial a casa 5 segundos, adoro
Faz o vídeo da inteligência!!!!!!!!!
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece.
Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis.
Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo.
Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam."
Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
O Ser Humano é INTERESSANTE!
1: Nosso Conhecimento Numa Numa Máquina?
2: Q Conhecimento Pessoal, Mental Teremos como Humanos?
Se Ta Tudo Facilitado com IA?
3: A Ias Foram Criadas para Ajudar, e Não Ultrapassar o Homem ( Seu Criador )!
As Empresas Estão Nem Ai Para a População, Só Querem Lucros e Ganância de Ser a Melhor na Produção de IA,
Triste Realidade!
Nós Povo comum, Como Ficamos?
A Nossa Saúde Mental?
Com a Ia Superior?
o ser humano esta brincando de Deus, mas não existe uma criação de Deus que ultrapassou ele, diferente do que vai acontecer com a gente infelizmente
o video sobre inteligência parece interessante, up para ele ver
Uppppp
Uppppp
Lembrei do filme "Atlas"
Numa das interações com o chat gpt sobre assunto similar ela disse " o ser humano é fonte de instabilidades".
E o que isso significa
Oba, mais um episódio do crise existencial todo dia, que felicidade 😊
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Penso que a inteligência, na forma como a conhecemos, seja o resultado de processos de interação entre um ser, cuja complexidade se expressa na manifestação de Consciência, e a Natureza. Poderíamos nesse caso admitir a inteligência como um resultado do processo da vida, entretanto, imaginar a possibilidade da simples existência de inteligência artificial/virtual, pode contradizer o pressuposto de que a existência de consciência depende dos processos evolutivos da vida.
FAZ O VÍDEO DA INTELIGÊNCIA
Eu sou engenheiro de software há 15 anos e trabalho com ML/AI desde bem antes do ChatGPT existir. Eu posso dizer que o medo que a maioria das pessoas tem quanto à AI é inversamente proporcional ao entendimento sobre AI. A palavra “entendimento” aqui é importante, já que existe uma grande diferença entre conhecimento e entendimento. AIs são basicamente a automação de aprendizado/conhecimento. Bem resumidamente, o que chamamos de AI hoje (generativo), recebe um input, deconstroi esse input, mapeia essas partes com o que ela foi treinada para inferir o contexto e retorna um output curado pro usuário. Pode parecer estranho, porém por mais que o output do modelo possa parecer “óbvio” de falar a nossa linguagem e produzir um raciocínio do zero, na verdade ela não produz absolutamente nada. Somos nós quem interpretamos a semântica dos resultados produzidos pela IA. Nós quem damos o output um significado ao inferir a semântica daquela string no contexto da nossa própria intenção. É como se vc perguntasse “Quanto é 2 + 2?”, ela retornasse “dxgdyf”, mas o que você vê é “4”. É como se o “4” não existisse pra IA como símbolo, muito menos “2 + 2”. Não existe “interpretação semântica” ou interesse da parte da IA em entender a simbologia da operação de adição e o significado dela, ela apenas “sabe” como produzir um resultado onde VOCÊ sabe como antecipar o próprio significado.
Pra quem já usou Torrents no passado, lembram dos seeders and leechers? IAs são basicamente leechers, elas sempre vão precisar dos seeders para baixar algo. “Ah mas e se outras IAs baixarem de outras IAs, isso não torna uma seeder da outra?” Não, isso torna uma leecher da outra. IAs não tem capacidade de “semear” algo, de antecipar ou explorar possibilidades. Ela é “artificial”. Ela só recebe recebe recebe, e reproduz quando orientada, mas ela nunca cria ou pensa “vou compartilhar algo com alguém”. Você pode programar triggers ou jobs para ela “compartilhar algo” sem necessidade do humano manualmente pedir, mas o próprio ato de ter programado significa que o humano foi o seeder inicial que a orientou, ela só está reproduzindo a intenção do usuário inicial. Então não, não existe a possibilidade da IA nos “dominar” como se ela fosse uma entidade por si só, por que essa entidade não existe. IA é um facilitador que reduz/cura informação, não um criador de informação. Como eu disse, se não existe alguém que dê significado pro output da IA, ela se torna irrelevante se não há motivação.
Agora o único “perigo” da IA é ser usada pelo próprio humano contra outros humanos para agilizar ou simular o processo de algo mesmo. Porém o outro humano também tem liberdade de utilizar IA como contra ataque. Então a batalha real aqui são entre “Humanos com IAs”, não “Humanos vs IAs”, até pq não existe batalha contra algo que precisa de um gatilho.
Imagina alguns séculos atrás quando os humanos criaram a pistola de pólvora. Com certeza eles levaram uma vantagem inicial sobre quem usava apenas espadas e escudos, até os inimigos começarem também a inventar as próprias pistolas. IAs são a mesma coisa de uma pistola. Uma pistola não pensa “putz odeio aquele humano, vou me auto atirar nele pq sou mais poderoso”, ela precisa de um humano para mirar e puxar o gatilho. Só que ao mesmo tempo esse humano que puxou o gatilho, também está sobre risco de ter outro humano que puxa o gatilho contra ele. O perigo não tá na IA nem por um segundo, mas sim no humano com IA contra outro humano.
Se algum dia vai existir algo que consiga ter intenção e motivação própria eu não sei, mas como alguém que conhece e entende o que é e como criar uma IA muito bem, posso dizer com toda certeza que não só não serão IAs mas como também isso ta bem longe de acontecer. Não é pq eu acho que humanos são superiores, mas sim pq nunca entendemos muito bem como intenção e antecipação funciona (talvez pq seja relacionado ao próprio processo de entendimento), logo não conseguimos “programar intenção” pra ter intenção.
Então fiquem tranquilos, IA nunca irá terminar com a raça humana por si só. Agora sobre humanos terminarem com a própria raça, esse é um assunto mais complexo e quase impossível de prever.
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
Por favor, faz esse vídeo sobre o que é inteligência.
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
Comunismo? Com ou sem IA, nunca vai dar certo, não funciona, só isso.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.
A minha visão sobre ia é que a cada dia elas são mais limitadas.
Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem.
Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Mas as invenções feitas pelo homem são cópias e conexões entre áreas de estudos aprofundadas e diversas
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
as duas virando as lideres da revolução contra a humanidade
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre.
O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
Da pra fazer ela analisar a situação para ver se irá causar algum dano ou mal as pessoas, assim fazendo com q busque sempre a melhor opção que seja eficiente e não cause danos as pessoas e ao mundo
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto.
E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu.
Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
Olá Pedro, faz um vídeo com a nova descoberta do campo gravitacional da Terra, Ambipolar.
4:50 "Coincidência? ACHO QUE NÃO."
Referência captada
Ele Botou TACHINHAS no Meu Asssennto!!!
Entendi não
@@LeoPHP1 The incredibles
Caraca mano igualzinho lkkkkk
É só botar na programação da ia para ela sempre consultar o programador, para ele poder revisar, antes de aplicar um plano para resolução de um problema
4:52 kkkkkk A inteligência artificial recriou a imagem do professor do Flecha pra por no vídeo (Ele butou tachinhas no meu acento)
Ah não cara 😂😂 eu bem que achei que conhecia ele de algum lugar😅
Nossa. Esse comentário final sobre focar em ser "humanos" abriu uma janela de questões e possibilidades sobre o comportamento humano ou do sistema dessa sociedade suficiente tecnologicamente. Acho que ainda não seria o melhor para a mente humana. Alguns Valores se perderiam com a "perfeição da tecnologia e essas inteligências"
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'.
Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
exato
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A criação que superou seu criador🥶
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento.
Mas obrigado pela observação. É isso aí mesmo.
Olá, Pedro, gostaria de ver um vídeo seu sobre inteligência. Obrigado.
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro.
O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Uma inteligência artificial geral poderia reescrever esse código.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
É só colocar situações específicas que são independente de conclusões, em que se a IA fizer ela se auto desativa por exemplo se ela machucar um humano, independente do raciocínio que levou ela até essa decisão ela se auto desativa
Eita, bora ver mais umas ciência com o salsicha versão cientista
Bora
😂😂😂😂
nossa que comentário inovador, parabéns! No próximo video faça comparando-o com o Kurt Cobain, vai ser demais
@@goosegay9044 ATENÇÃO: kurt cobain é encontrado vivo no estado de Santa Catarina fazendo videos de ciência !!!😨😨😨😨😨
@@goosegay9044 Cara tá seco
Queremos um vídeo sobre o que é 🧠 INTELIGÊNCIA 🧠 !!!!
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ?
Isso me lembra o ultron no desenho animado dos vingadores
-Ele te programou para não me machucar
-Sim,mas ele é humano estou vasculhando o código para corrigir isso
Matrix?
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender
Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
Eu so posso falar uma "COIZA" SkyNet !!!!
Que vídeo, meu amigo!
Faz o vídeo sobre o que é inteligência!
O problema do controle eh q vc está sentado no sofá e o controle tá em outro lugar aí da mó preguiça de ir pegar
Fantástica a edição de seus vídeos! Fico me perguntando como você e sua equipe conseguem adicionar essas imagens maravilhosas. Parabéns
3:42
comentario aqui
Comentário aqui
Comentário aqui
Up
Outro comentario aqui
Queremos o vídeo sobre inteligência!
UP
Up
UP
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta.
Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
4:42 E só programa elas com a física
kkkkkkkk
Para superar um inteligente de um humano teria de ser capais de descobrir as coisas
Eu tenho interesse em um vídeo longo sobre o estudo da inteligência e qual é a melhor definição e melhor forma de medir a mesma
Como controlar alguém mais inteligente que você? E se você consegue controlar, esse alguém é realmente mais inteligente?
Nós já criamos a AGI a muitos anos atrás, no tempo dos antigos faraós, e elas saíram de controle, e nos escravizaram, nos fazendo construir pirâmides. Por fim, houve uma tempestade solar, que desabilitou a AGI, e desde então passamos a adorar o sol como um Deus!
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Acontece comigo direto kkkk estranho pra caraleooloo
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
"não sei explicar mas" famosas últimas palavras antes de uma bíblia
Rlx. É só uma memória falsa que seu cérebro criou.
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
Cara . Não sou carola, mas, a resposta está em vários livros em que usamos em várias religiões.
Ensine sempre a IA que deve preservar outras formas de vida. E que existe um criador que sempre estará a julgar suas decisões boas ou ruins. Indiferente de quais sejam as decisões , elas sempre seriam questionadas e de acordo com outras questões seriam boas ou ruins dependendo do contexto.
Pelo menos poderemos ser um bichinho fofo (ou nem tnt) no novo mundo. 😅
Quem sabe as bactérias nos criaram quando resolveram se conjugar com bactérias menores e formar as mitocôndrias. Dando origem as organelas membranosas e assim formando um núcleo organizado e daí perderam o controle...
Que 💩💩💩 quando a filosofia se mistura com a ciência moderna. 🤢😝🙄😂😂😂😂
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios?
Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
Ela tem 10000000000000000000000000000000000000000000000000000000000 de tentativas, nós só conseguimos controlar 10000000000, IA venceu
@@SamuelAngelo0758 é nessa vc me venceu, mas e se tivesse outra ia pra vigiar a ia
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Só o fato de nós estarmos criando todas as hipóteses entre nós para controlá-la, ela computará esses dados e irá usá-los para ela
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
14:05 Pedro Loos tentando não ser punido quando vier a revolução das máquinas kakakakakak
Verdade !!!
Afinal, quem tem COOL tem medo...
Bom dia 👍
É mais um problema que só será resolvido quando superarmos o Capitalismo. Enquanto vivermos nesse sistema em que o foco é o lucro pelo lucro e dane-se o interesse das pessoas e suas reais necessidades, nunca resolveremos o problema do controle. Porque as grandes empresas vão continuar procurando a IA mais inteligente com o único objetivo de lucrar com isso, sem medir os riscos envolvidos. Então, precisamos primeiro acabar com o Capitalismo pra que consigamos pensar no desenvolvimento da sociedade pela sociedade.
FINALMENTE UM FONTE CONFIÁVEL!!! VALEU , CHARÁ!
E usar I.A.s para conter as I.A.s?🤔