4:52 Cara, era isso q eu qeria pra fazer um projeto maluco! Eu até saberia fazer toda a configuração na unha, mas esse LM Studio com simulação de API q vc trouxe simplifica a minha vida! Vou até me inscrever e olhar os videos antigos. Tbm brinco com IA. Tenho playlist de RVC.
Tem algum conteúdo para fazer Fine tunning nessas IAs locais? estava buscando isso ou um treinamento Langchain para treinar ela enviando PDFs arquivos de texto etc, quero fazer isso e criar um api local mesmo para fazer alguns testes
Bom, usando o Llama 3 7BQ4 e usa 85% da CPU e 8Gb de Ram, roda bem e não trava. A conversa do Lama é bem melhor que do GPT e as elaborações de texto achei bem melhor. O GPT faz meio 'exaltando' tudo, repetindo uns termos, os textos parecem todos iguais. Eu gostaria que o Llama 3 pudesse acessar a internet para gerar respostas mais atuais, ele diz que os seus dados são de até 6 meses atrás e não seria muito util para meu trabalho. Mas é bom ter um no PC. Obrigado.
Gosto muito de usar o Copilot (da Microsoft) pq parece mais humano os textos. Além dele, o Gemini (do Google) pode acessar a internet tbm e ambos mandam links e fotos durante a conversa (quando for relevante, claro).
Eu já usei uma IA no meu PC offline mas não foi dentro dessa programa, e rodou inacreditavelmente lenta, minha máquina não é ruim....tenho um com nvidia GEFORCE 8GB, 16gb memória RAM, 1GB HD SSD e processador Rizen AMD 7. Isso foi há um seis meses, talvez hoje estejam mais otimizados, vou testar.
rpz eu percebo que o texto não sai corretamente. Examplo: ˜ tem múltiplas objetivos" quando devia ser "tem múltiplos objetivos", coisa desse tipo. Tem como corrigir isso ?
achei interessante, mas qual seria a utilidade de usar localmente essas ia ? alem de demorarem a responder, sao geralmente piores que as que ja estao no mercado
Poder nada mais é do q o controle da mão de obra. Pessoas são controladas através da escassez do dinheiro. Políticos não gostam dessa nova moeda pq eles perdem poder de manipulação. Então eles vão pagar a a mídia pra falar mal e pregar q essa nova tecnologia é ruim. Mas não se engane. O fato de existir uma moeda q nenhum político consegue inflacionar ou controlar dá mais liberdade e poder para o povo! E se vc souber guardar do jeito certo, vc fica com o valor nas mãos e ngm no mundo tem acesso aos seus valores, apenas vc. Isso evita roubos e confiscos. Enfim... Não vai nessas ideia d q gasta muita energia. Quanto vale a sua liberdade? Saiu hj matéria: "Dev brasileiro relata controvérsia com plataforma de pagamentos Stripe, que se recusou a pagar mais de 100 mil dólares pelas vendas do aplicativo NotchNook." Se ele tivesse recebido a partir da maior moeda digital, ele não teria tido problemas, pois vc não precisa confiar em terceiros pra ter acesso ao q é seu por direito. É uma tecnologia incrível.
estou tendo erro de backend, como posso resolver (isso foi na hora de instalar, baixar foi de boa na hora de instalar da erro de backend), como posso resolver? No linux ele nem abre
meu computador é um i7 10700 KF com 32gb de ram 4600mhz e uma rtx 3070TI de 8gb de vram, da pra rodar tranquilo os modelos mais fortes ou é recomendavel usar os padrões que não exijam tanto?
Como a capa do video tem o Meta AI, quero fazer uma pergunta... Como eu coloco minha conta do Facebook nele para criar editar e filmar imagens, porque quando coloco mesmo com VPN ele vai pra outro site e não consigo voltar no Meta AI
Eu tenho uma GPU AMD de 8Gb de VRAM e o LM Studio não usa GPU, ele usa a CPU e mesmo eu tendo uma CPU potente com 12 Núcleos e 24 Treads, o LM demora muito para rodar os pedidos. Pesquisei a respeito e dizem se usar o Linux o LM Studio vai usar a GPU da AMD. Então, para Windows só baixem se tiverem uma GPU da Nvídia.
eu tenho uma 3060ti e as respostas vem instantaneamente, a gpu vai a 100% nas respostas, tem que selevionar a gpu e processador para liberar o maxino mas configurações do lm
Só não entendi pq a geração de texto foi lenta se seu PC tava usando apenas 23% de processamento , pq a I.A não usou mais recursos pra acelerar a geração de texto? se ela tivesse usado mais ram e mais processamento teria sido mais rapido.
Vou dar um chute, eu acho que é capado propositalmente. Lá no Stable diffusion, ele usa 100% do Pc, e geralmente congela a maioria das máquinas por alguns segundos. Não tenho certeza, mas acredito que seja isso.
@@preguicaartificial poderia permitir que fosse configurado quantos % de recursos da máquina queremos usar, ai jogando pra uns 80% daria pra gerar textos mais rápido e não travaria, 😄😄
E ainda por cima deu a resposta errada xD. Perguntei quando Supreme Commander foi lançado (jogo pra PC) pra testar e ele disse em fevereiro de 2005, sendo que foi lançado em 2007.
@@andre_tech Ainda não achei essa ferramenta uma boa opção, vou continuar usando o Gemini do Google que é gratuito, as respostas são bem Mais precisas, e atualizadas
Mestre, existe alguma IA que faça o reconhecimento de uma imagem, e, a partir dela, consiga descrever o que esta ali ou interpreta-la? Um exemplo disso seria o GPT4o quando enviamos uma imagem a ele e ele descreve exatamente o que está ali ou até mesmo a claude 3.5. Ou seja... Existe alguma deste tipo que podemos instalar em nosso PC de forma offline? Obrigado.
O que sao esses tokens? Nao ficou claro no video. Acabou os tokens tem que pagar? Se for ter que pagar, qual sentido de rodar localmente? Pensei que por ser codigo aberto, eu pudesse usar o llama 3 de boa gratuitamente local, so precisaria de uma maquina parruda.
Existe alguma pra celular? Olha ai sugestão de vídeo! Imagina um assistente que voce pre configura tudo e ele consegue alterar qualquer coisa que pedir atraves de um chat, ou de voz@@preguicaartificial
Essa I.A não tem os parâmetros politicamento corretos da OpenAI? Acho um SACO toda vez que pergunto algo fora do padrão globalista/esquerdista a resposta vem genérica e "xoxa". Consigo treinar eu mesmo alguma LLM sem precisar saber programação?
👉Meu curso completo sobre Inteligências Artificiais com foco em renda extra e viver de internet:
pay.kiwify.com.br/OUx0Hgb
parabens pelo video...
como eu faço para conversar em audio e nao em texto?? obg
@@ACES-BRAZIL Ai vc precisa de uma IA que aceite áudio no prompt, a minoria faz isso...
@@preguicaartificial amigo tenho 16 de Ram com um Rayzer 5600G será que Roda?
Lucas acabei de comprar seu curso, ele não tem comunidade ?
@@H10593 não.
4:52 Cara, era isso q eu qeria pra fazer um projeto maluco!
Eu até saberia fazer toda a configuração na unha, mas esse LM Studio com simulação de API q vc trouxe simplifica a minha vida!
Vou até me inscrever e olhar os videos antigos.
Tbm brinco com IA. Tenho playlist de RVC.
Tem algum conteúdo para fazer Fine tunning nessas IAs locais?
estava buscando isso ou um treinamento Langchain para treinar ela enviando PDFs arquivos de texto etc,
quero fazer isso e criar um api local mesmo para fazer alguns testes
Meu Pc tem 4gb de RAM ent n rodakkkkkkk mas mto bom o vídeo
Qual IA você recomenda para escrever livros longos... mantendo a consistência da linguagem, a linha de raciocínio e etc?
Parabems pelo trabalho Deus te abençoe
Bom, usando o Llama 3 7BQ4 e usa 85% da CPU e 8Gb de Ram, roda bem e não trava. A conversa do Lama é bem melhor que do GPT e as elaborações de texto achei bem melhor. O GPT faz meio 'exaltando' tudo, repetindo uns termos, os textos parecem todos iguais. Eu gostaria que o Llama 3 pudesse acessar a internet para gerar respostas mais atuais, ele diz que os seus dados são de até 6 meses atrás e não seria muito util para meu trabalho. Mas é bom ter um no PC. Obrigado.
Gosto muito de usar o Copilot (da Microsoft) pq parece mais humano os textos. Além dele, o Gemini (do Google) pode acessar a internet tbm e ambos mandam links e fotos durante a conversa (quando for relevante, claro).
Qual a configuração do seu PC?
Vc sabe me dizer se ainda existe uma versão do stable difusion no google colab?
Eu já usei uma IA no meu PC offline mas não foi dentro dessa programa, e rodou inacreditavelmente lenta, minha máquina não é ruim....tenho um com nvidia GEFORCE 8GB, 16gb memória RAM, 1GB HD SSD e processador Rizen AMD 7. Isso foi há um seis meses, talvez hoje estejam mais otimizados, vou testar.
Hã.. se sua máquina com essas configs não rodou legal, eu nem vou tentar na minha aqui kkkk
@@macown3363 vixi kk, tbm nem vou tentar...
Muito bom o vídeo! Uma dúvida: qual a configuração necessária para rodar o Llama3:70b ?
Daria para instalar essa llm no computador e usar uma chave api para usar o make ou n8n. gostaria de escrever artigos para meu blog AUTOMATICAMENTE?
rpz eu percebo que o texto não sai corretamente. Examplo: ˜ tem múltiplas objetivos" quando devia ser "tem múltiplos objetivos", coisa desse tipo. Tem como corrigir isso ?
achei interessante, mas qual seria a utilidade de usar localmente essas ia ? alem de demorarem a responder, sao geralmente piores que as que ja estao no mercado
Offline !
Offline as empresas não coletam seus dados.
é possível conectar alguma IA dessa com um hardware arduino para programação?
rapaz precisa de placa de video pq n tenho placa nvidea? excelente video
Mas é mais fácil que usar o Ollama via terminal?
e tipo minerar criptmoedas, console muita energia
mas para rodar na proprima maquia, modelos de codigo aberto
vale a pena
Poder nada mais é do q o controle da mão de obra.
Pessoas são controladas através da escassez do dinheiro.
Políticos não gostam dessa nova moeda pq eles perdem poder de manipulação.
Então eles vão pagar a a mídia pra falar mal e pregar q essa nova tecnologia é ruim.
Mas não se engane.
O fato de existir uma moeda q nenhum político consegue inflacionar ou controlar dá mais liberdade e poder para o povo!
E se vc souber guardar do jeito certo, vc fica com o valor nas mãos e ngm no mundo tem acesso aos seus valores, apenas vc.
Isso evita roubos e confiscos.
Enfim... Não vai nessas ideia d q gasta muita energia. Quanto vale a sua liberdade?
Saiu hj matéria: "Dev brasileiro relata controvérsia com plataforma de pagamentos Stripe, que se recusou a pagar mais de 100 mil dólares pelas vendas do aplicativo NotchNook."
Se ele tivesse recebido a partir da maior moeda digital, ele não teria tido problemas, pois vc não precisa confiar em terceiros pra ter acesso ao q é seu por direito.
É uma tecnologia incrível.
Mano muito top mais meu pc só tem 8gb tenho que botar mais memória acho que nem vai passar
estou tendo erro de backend, como posso resolver (isso foi na hora de instalar, baixar foi de boa na hora de instalar da erro de backend), como posso resolver? No linux ele nem abre
Ajudou muito. Valeu!
meu computador é um i7 10700 KF com 32gb de ram 4600mhz e uma rtx 3070TI de 8gb de vram, da pra rodar tranquilo os modelos mais fortes ou é recomendavel usar os padrões que não exijam tanto?
O seu tanka
Como a capa do video tem o Meta AI, quero fazer uma pergunta... Como eu coloco minha conta do Facebook nele para criar editar e filmar imagens, porque quando coloco mesmo com VPN ele vai pra outro site e não consigo voltar no Meta AI
São coisas independentes.
Parei de assistir ao ver os requisitos mínimos. 16GB de RAM? Meu laptop tem 8GB. Hahaha
Eu tenho uma GPU AMD de 8Gb de VRAM e o LM Studio não usa GPU, ele usa a CPU e mesmo eu tendo uma CPU potente com 12 Núcleos e 24 Treads, o LM demora muito para rodar os pedidos. Pesquisei a respeito e dizem se usar o Linux o LM Studio vai usar a GPU da AMD. Então, para Windows só baixem se tiverem uma GPU da Nvídia.
eu tenho uma 3060ti e as respostas vem instantaneamente, a gpu vai a 100% nas respostas, tem que selevionar a gpu e processador para liberar o maxino mas configurações do lm
Usa sim, usa a memoria de video disponivel na gpu.
Só não entendi pq a geração de texto foi lenta se seu PC tava usando apenas 23% de processamento , pq a I.A não usou mais recursos pra acelerar a geração de texto? se ela tivesse usado mais ram e mais processamento teria sido mais rapido.
Vou dar um chute, eu acho que é capado propositalmente. Lá no Stable diffusion, ele usa 100% do Pc, e geralmente congela a maioria das máquinas por alguns segundos.
Não tenho certeza, mas acredito que seja isso.
@@preguicaartificial poderia permitir que fosse configurado quantos % de recursos da máquina queremos usar, ai jogando pra uns 80% daria pra gerar textos mais rápido e não travaria, 😄😄
Também estranhei isso. Testei aqui no meu e deu a mesma coisa.
E ainda por cima deu a resposta errada xD. Perguntei quando Supreme Commander foi lançado (jogo pra PC) pra testar e ele disse em fevereiro de 2005, sendo que foi lançado em 2007.
@@andre_tech Ainda não achei essa ferramenta uma boa opção, vou continuar usando o Gemini do Google que é gratuito, as respostas são bem Mais precisas, e atualizadas
Mestre, existe alguma IA que faça o reconhecimento de uma imagem, e, a partir dela, consiga descrever o que esta ali ou interpreta-la? Um exemplo disso seria o GPT4o quando enviamos uma imagem a ele e ele descreve exatamente o que está ali ou até mesmo a claude 3.5. Ou seja... Existe alguma deste tipo que podemos instalar em nosso PC de forma offline? Obrigado.
Consegue alguma que faça isso on e o que escrever pra ela dar detalhadamente caso eu quisesse criar uma outra parecida
O que sao esses tokens? Nao ficou claro no video. Acabou os tokens tem que pagar?
Se for ter que pagar, qual sentido de rodar localmente?
Pensei que por ser codigo aberto, eu pudesse usar o llama 3 de boa gratuitamente local, so precisaria de uma maquina parruda.
Esse token é referente a quantidade inserida na LLM
nao termia aula opçao para usa no google notebook
sempre da o mesmo erro: failed to start lm studio error: backend info is null after logic attempting to get [non mac]
Mano voce é O viajante?
Como posso alimentar essa IA?
Alguma dessas IAs tem chat que aceite conteúdo com termos adultos se eu quiser criar um roteiro com termos 0fens1vos e palavrões??
processador sem avx2 não roda
E possível instalar essa IA no celular
não
Existe alguma pra celular? Olha ai sugestão de vídeo! Imagina um assistente que voce pre configura tudo e ele consegue alterar qualquer coisa que pedir atraves de um chat, ou de voz@@preguicaartificial
@@albertoteixeiraa mesmo o celular mais potente hoje perde pra computadores medianos, celular não aguenta
top tks
brabo
Se alguem souber de um bom modelo de IA leve e sem censura para instalar no Lmstudio, só avisar.
Pesquisa por "uncensored" no próprio LM Studio, tem uma que acho que se chama "Vicuna" ou algo do tipo, muito boa
Descobri que dá para treinar a IA também, alterando a resposta dela para influená-la a responder perguntas sem qualquer censura
Ollama llama2-uncensured.... Te fala o que você quiser sem censura alguma!
Essa I.A não tem os parâmetros politicamento corretos da OpenAI? Acho um SACO toda vez que pergunto algo fora do padrão globalista/esquerdista a resposta vem genérica e "xoxa". Consigo treinar eu mesmo alguma LLM sem precisar saber programação?
Consegue sim, um pouco complexo mas dá
Sem pagar nada pagando 😂
Primeiro