Video fantastico! Grazie per aver condiviso questa guida dettagliata su come utilizzare l'intelligenza artificiale in modo privato. È davvero utile sapere come proteggere la nostra privacy mentre sfruttiamo le potenzialità dell'IA. Continua così!
Finalmente vedo dei contenuti sulla privacy delle AI. Non smettere, complimenti! Una domanda, che tipo di macchina servirebbe per far girare il modello con più parametri disponibile off line?
Ciao Antonio, video molto interessante, grazie. Desidero chiederti se la funzione "chat temporanea" di ChatGPT rispetta la privacy oppure no; la rispetta come llama?
Ciao! Grazie per le belle parole. L’obiettivo delle chat temporaneo se non sbaglio é quello di non memorizzare le info, ma comunque i dati sul server arrivano
Hola. Infomaniak con il servizio gratuito ti permette anche di accedere alle ia open? Al di la del pacchetto gratuito, i modelli che ti mettono a disposizione ti permettono di avere lo stesso livello di chatgpt nella programmazione?
Molto interessante! Personalmente non mi fido di infomaniak (e men che meno delle big tech) e preferirei investire su una macchina sufficientemente performante ma con i miei dati al sicuro!!!
Complimenti per il video! Una curiosità, è possibile addestrare la ai privata ad esempio facendole leggere dei testi o manuali su un determinato argomento?
Complimenti vivissimi. Ottimo video. Una domanda: Quale è il modello più evoluto e di pari efficacia rispetto a Claude 3.5, a chatgpt 4 1o etc? Quale è la dotazione hardware? processore, schede, RAM etc?
Ciao! Sicuramente punterei a LLAMA 3.1 o 3.2 Per la dotazione hardware cambia da Windows a Mac, ti consiglio di chiedere ad ChatGPT che sicuramente saprà consigliarti meglio di me (di hardware ammetto di capirne poco)
Fai proprio una domanda del tipo “questo é il PC che ho, con queste caratteristiche, che modello di intelligenza artificiale è in grado di supportare se utilizzo OLLAMA in locale?”
@@AntonioGuadagnoAI ahahah🤦🏻♂️. Per sbaglio ho scaricato llama 3.1: 70b, ma giustamente non me lo fa runnare nel terminale pk non riesce a supportarlo. Sai dirmi le procedure per disinstallarlo correttamente? Gentilissimo!
Veramente complimenti. Solo una domanda: se nel computer ho collegato tramite USB un HD esterno capiente posso installare il modello più performante o deve rimanere nel SSD M2 interno? Grazie
Complimenti ottimo video. Scusa quando parli di chatgpties e citi la temperatura… cosa significa? Non capisco il riferì,e to alla temperatura al conseguente rendimento della Ai. Inoltre hai fatto video che insegnano l’uso dei ChatGPTies?
La temperatura é un valore che più é alto più le risposte dell’AI sono variabili e creative (quindi meno precise a volte). Qui per i GPTs: ua-cam.com/video/pQ-W3G9ZNDc/v-deo.htmlsi=hiKQ5aUG8iO8Jo5o
Ciao! Se vuoi hai 1 milione di token gratis su Infomaniak per fare tutte le prove che vuoi :) (ho visto che ho postato diverse domande, quindi immagino tu voglia fare test approfonditi)
una IA privata ha certamente una sua utilita ma sarebbe molto piu utile se invece della torta io potessi dargli come base dati tutti i file sul pc, o meglio ancora tutti i file od una share ben precisa, su di un NAS di un gruppo di lavoro e da li mi rispondesse per esempio 'trovami l'utima raccamandata che ho scritto all'amministratore' oppure trovami l'utima fattura che ho emesso, o l'ultima fattura che ho ricevuto per mail... come fare?
Mhhh allora. Andrebbe creato un database vettoriale con le informazioni che ti servono. Ti devi scrivere poi un pezzo di codice in cui utilizzi ollama per andare ad interrogare questa Knowledge Base. Non é semplicissimo ma secondo me chatgpt potrebbe aiutarti molto col codice (soprattutto i nuovi modelli o1)
@@AntonioGuadagnoAI fatto senza una linea di codice Prem Ai e MythoMax-L2-13b, certo non ho potuto collegare i dati direttamente sul NAS ma adesso gia risponde ... correttamente ora é una questione di passarci tempo o aspettare che qualcuno lo faccia perche l'idea mi sembra ottima
Ciao! Dipende dal modello che ti interessa e dal fatto che usi Windows piuttosto che MacOS. Io ti consiglierei di chiedere a ChatGPT se il tuo PC può reggere i vari modelli
Una domanda se posso. Ho notato che llama e un po statica, nel senso che non si ricorda le cose che li dico. Sai come posso fare in modo che si ricordi tutto quello che li dico ? Un po come fa il chatgpt diciamo Grazie del video
Bisogna vedere qual è la context window del modello (ovvero la memoria appunto) e poi se é attiva una sorta di opzione del “ricorda i messaggi precedenti” (mi sfugge il nome in questo momento)
@@AntonioGuadagnoAI Be... in un prossimo video magari ricordacelo... Per me e importante. Vorrei creare una IA in locale che si ricorda tutte le cazzate che io non ricordo. E quando chiedo, mi deve dire cio che chiedo ricordandolo. Grazie
@@AntonioGuadagnoAI bisogna partire dall’inizio ,così ci si perde tra i meandri di questa fantastica invenzione tecnologica . Ma neanche nei film di fantascienza ti fanno assaggiare questo futuro del mondo. Tutte le volte che vi sento descrivere cosa sta avvenendo nel mondo tecnologico sto sempre ad ascoltarvi con molta passione .Non importa se non capisco….capirò. Grazie di tutto
Certo poi quanta ram ci vuole, quanto consuma in termini di CPU non ne hai parlato. A prova a fare una sessione intensa e poi ne parliamo se conviene o meno.
Nel video dico specificatamente che serve un PC performante, tanto che consiglio Infomaniak come alternativa per chi non può. Non ho parlato di specifiche perché dipende da 1) Sistema Operativo 2) Modello usato 3) Necessità di avere altre cose in Background (magari si usa una VM). Non aveva senso dare numeri specifici
Sei un grande. Ti ho scoperto per caso, sempre chiaro, preciso, conciso. Pubblica questi contenuti per aiutarci ad aumentare la nostra produttività.
Grazie mille per le belle parole! Continuerò con i video 😎
Video fantastico! Grazie per aver condiviso questa guida dettagliata su come utilizzare l'intelligenza artificiale in modo privato. È davvero utile sapere come proteggere la nostra privacy mentre sfruttiamo le potenzialità dell'IA. Continua così!
Grazie mille come sempre per il supporto sotto ad ogni video, lo apprezzo moltissimo!
Grande Antonio, sempre video super utili!
Grazie mille Adry! 😎
Eccellente👏👏👏 Grazie mille Antonio 🎉
Grazie mille a te per il commento! 😎
@@AntonioGuadagnoAI I tuoi video sono obiettivi e pieni di contenuto (no fluff) ti meriti molto successo!
Grazie mille! I tuoi video sono sempre chiari e precisi! Grazie per il tuo aiuto!
Daniela, grazie per il supporto sogno ogni video ❤️🙏
Mi sorprendi ogni volta, bravissimo!!
Grazie mille! 🤩
É proprio bello vedere ragazzi giovani competenti e appassionati che condividono le loro conoscenze con noi grandicelli bravo Antonio
Grazie mille per le belle parole! 😍
La privacy è una cosa importante e merita attenzione 👍🏻
Concordo in pieno Stefano! 😁
Complimenti per la chiarezza espositiva. Guide di questo tipo sono di grande utilità, concise, precise e senza fronzoli inutili, 👍
Grazie mille per i complimenti! Apprezzatissimi 🤩
Sempre professionale, tecnologia molto interessante la devo provare
Grazie Antonio, come sempre video molto interessante ed esaustivo :-)
Grazie mille di cuore per il supporto! 💪
Bravo ❤
Grazie mille Davide! 🙏
Direi video impeccabile. Grazie.
Grazie a te Stefano!
Ottimo 🎉
Finalmente vedo dei contenuti sulla privacy delle AI.
Non smettere, complimenti!
Una domanda, che tipo di macchina servirebbe per far girare il modello con più parametri disponibile off line?
Grazie mille Andrea troppo gentile!
ottimo !!
Thanks!
Ciao Antonio, video molto interessante, grazie.
Desidero chiederti se la funzione "chat temporanea" di ChatGPT rispetta la privacy oppure no; la rispetta come llama?
Ciao! Grazie per le belle parole. L’obiettivo delle chat temporaneo se non sbaglio é quello di non memorizzare le info, ma comunque i dati sul server arrivano
Hola. Infomaniak con il servizio gratuito ti permette anche di accedere alle ia open? Al di la del pacchetto gratuito, i modelli che ti mettono a disposizione ti permettono di avere lo stesso livello di chatgpt nella programmazione?
Hai 1 milione di crediti gratis per provare i modelli open che offrono :)
Molto interessante! Personalmente non mi fido di infomaniak (e men che meno delle big tech) e preferirei investire su una macchina sufficientemente performante ma con i miei dati al sicuro!!!
Se la macchina é tua, di dubbi ne avrai 0 per sempre 😎
Complimenti per il video! Una curiosità, è possibile addestrare la ai privata ad esempio facendole leggere dei testi o manuali su un determinato argomento?
Sì puoi fare fine tuning ma é lungo e ti serve una bella GPU
Complimenti vivissimi. Ottimo video.
Una domanda:
Quale è il modello più evoluto e di pari efficacia rispetto a Claude 3.5, a chatgpt 4 1o etc?
Quale è la dotazione hardware? processore, schede, RAM etc?
Ciao! Sicuramente punterei a LLAMA 3.1 o 3.2
Per la dotazione hardware cambia da Windows a Mac, ti consiglio di chiedere ad ChatGPT che sicuramente saprà consigliarti meglio di me (di hardware ammetto di capirne poco)
@@AntonioGuadagnoAI scusami in che senso chiedere a Chatgpt? Come?
Fai proprio una domanda del tipo “questo é il PC che ho, con queste caratteristiche, che modello di intelligenza artificiale è in grado di supportare se utilizzo OLLAMA in locale?”
bellissimo video ho cominciato a seguirti e guarderò altri tuoi video, sai se c'è il modo per scaricare il tutto su un ssd esterno? Grazie
Ciao! Non sono sicurissimo perché qui é questione di eseguire programmi non di semplice storage :(
@@AntonioGuadagnoAI ah va bene grazie dell’informazione
Quindi per programmare quale modello consigli? È performante come gpt o1?
Dipende dal PC che hai, LLAMA 70B é già buono. Nulla é al livello di o1 oggi (che però non é open)
È uscito llama 3.2, ma ha solamente 1B o 3B. È comunque meglio di un llama 3.1 a 8B o 70B o 405B?
Non ho ancora fatto i test però 3B contro 405B, ad occhio, mi sembra una battaglia impari
@@AntonioGuadagnoAI ahahah🤦🏻♂️. Per sbaglio ho scaricato llama 3.1: 70b, ma giustamente non me lo fa runnare nel terminale pk non riesce a supportarlo. Sai dirmi le procedure per disinstallarlo correttamente?
Gentilissimo!
Dovrebbe essere una cosa del tipo
OLLAMA rm llama3.1:70b
Da scrivere nel terminale, ma controlla online per sicurezza
Veramente complimenti. Solo una domanda: se nel computer ho collegato tramite USB un HD esterno capiente posso installare il modello più performante o deve rimanere nel SSD M2 interno? Grazie
Bisognerebbe provare, magari funziona, se lo fai fammi sapere che sono curioso
Si può fare la stessa cosa ma con AI su cellulare?
questa è una bella domanda
Attendiamo la risposta di Antonio 😮
Ciao! Far girare un LLM su uno smartphone secondo me é molto molto difficile per una questione di potenza hardware :(
Complimenti ottimo video. Scusa quando parli di chatgpties e citi la temperatura… cosa significa? Non capisco il riferì,e to alla temperatura al conseguente rendimento della Ai. Inoltre hai fatto video che insegnano l’uso dei ChatGPTies?
La temperatura é un valore che più é alto più le risposte dell’AI sono variabili e creative (quindi meno precise a volte).
Qui per i GPTs:
ua-cam.com/video/pQ-W3G9ZNDc/v-deo.htmlsi=hiKQ5aUG8iO8Jo5o
Si può usare codestral mamba su infomaniak? Potresti fare un video su codestral mamba?
Ciao! Se vuoi hai 1 milione di token gratis su Infomaniak per fare tutte le prove che vuoi :) (ho visto che ho postato diverse domande, quindi immagino tu voglia fare test approfonditi)
Ottimo video. Come posso attraverso un applicazione in react js interfacciarmi con il modello in locale?
Ciao! Bellissima domanda, devo approfondire perché non l’ho mai fatto
Ottimo io mi appoggio aalle api gtp per creare le mie app che isano IA con i vector database
Sarebbe interessante capire, di tutti server di openai, quanti vengono usati per rispondere ad una domanda.
Bella domanda
È possibile interagire con questi llm in locale tramite API?
Non ho capito. Se interagisci tramite API non sei in locale. Intendi averle su un server tuo e usarle con altri PC?
@@AntonioGuadagnoAI No, intendo richiamare le funzioni del LLM all'interno di un altro SW, che sia in locale o su un altro computer è uguale.
Hai un macbook pro? Con che Cpu e quanta RAM?
18 Gb di memoria unificata
una IA privata ha certamente una sua utilita ma sarebbe molto piu utile se invece della torta io potessi dargli come base dati tutti i file sul pc, o meglio ancora tutti i file od una share ben precisa, su di un NAS di un gruppo di lavoro e da li mi rispondesse per esempio 'trovami l'utima raccamandata che ho scritto all'amministratore' oppure trovami l'utima fattura che ho emesso, o l'ultima fattura che ho ricevuto per mail... come fare?
Mhhh allora. Andrebbe creato un database vettoriale con le informazioni che ti servono. Ti devi scrivere poi un pezzo di codice in cui utilizzi ollama per andare ad interrogare questa Knowledge Base. Non é semplicissimo ma secondo me chatgpt potrebbe aiutarti molto col codice (soprattutto i nuovi modelli o1)
@@AntonioGuadagnoAI fatto senza una linea di codice Prem Ai e MythoMax-L2-13b, certo non ho potuto collegare i dati direttamente sul NAS ma adesso gia risponde ... correttamente ora é una questione di passarci tempo o aspettare che qualcuno lo faccia perche l'idea mi sembra ottima
Potresti fare un video in cui esporti il modello su una piattaforma tipo heroku?
Potrebbe essere interessante!
Per girare in modo efficace e senza intoppi sul computer quest'ultimo che requisiti minimi deve avere? Grazie
Ciao! Dipende dal modello che ti interessa e dal fatto che usi Windows piuttosto che MacOS. Io ti consiglierei di chiedere a ChatGPT se il tuo PC può reggere i vari modelli
Una domanda se posso. Ho notato che llama e un po statica, nel senso che non si ricorda le cose che li dico.
Sai come posso fare in modo che si ricordi tutto quello che li dico ?
Un po come fa il chatgpt diciamo
Grazie del video
Bisogna vedere qual è la context window del modello (ovvero la memoria appunto) e poi se é attiva una sorta di opzione del “ricorda i messaggi precedenti” (mi sfugge il nome in questo momento)
@@AntonioGuadagnoAI Be... in un prossimo video magari ricordacelo... Per me e importante.
Vorrei creare una IA in locale che si ricorda tutte le cazzate che io non ricordo.
E quando chiedo, mi deve dire cio che chiedo ricordandolo.
Grazie
quando avvio docker mi esce una finestra con scritto Docker Desktop - Unexpected WSL error
WSL sarebbe sostanzialmente Linux si Windows. Copia-incolla l’errore e mettilo su Google, secondo me ti farà installare WSL
@@AntonioGuadagnoAI ho risolto, era la virtualizzazione da abilitare nel bios della CPU
@@AntonioGuadagnoAI L'unico problema è che non capisco come addestrarlo perchè non mantiene in memoria i dati che gli fornisco, es. il mio nome
il difficile è installare docker....su win ci ho provato un po' di volte ma non riesco a farlo andare :(
Che problemi ti da? Hai provato con un tutorial UA-cam?
però penso che così non potrà mai darti delle risposte aggiornate
Eh purtroppo no perché chiaramente non é connessa ad internet :(
ottimo per la privacy, ma gpt-4 resta comunque il miglior modello
Eh questo è vero, i modelli di OpenAI spaccano
Come è complicato ….e chi riesce a star dietro a tutta sta roba
Eh purtroppo questo specifico tutorial é un po’ più tecnico, é vero, ma é anche il modo più semplice per fare tutto (in base alla mia esperienza)
@@AntonioGuadagnoAI bisogna partire dall’inizio ,così ci si perde tra i meandri di questa fantastica invenzione tecnologica . Ma neanche nei film di fantascienza ti fanno assaggiare questo futuro del mondo. Tutte le volte che vi sento descrivere cosa sta avvenendo nel mondo tecnologico sto sempre ad ascoltarvi con molta passione .Non importa se non capisco….capirò. Grazie di tutto
Certo poi quanta ram ci vuole, quanto consuma in termini di CPU non ne hai parlato. A prova a fare una sessione intensa e poi ne parliamo se conviene o meno.
Nel video dico specificatamente che serve un PC performante, tanto che consiglio Infomaniak come alternativa per chi non può. Non ho parlato di specifiche perché dipende da 1) Sistema Operativo 2) Modello usato 3) Necessità di avere altre cose in Background (magari si usa una VM). Non aveva senso dare numeri specifici