Offline, free and WITH CODE | GPT4All and Python
Вставка
- Опубліковано 12 чер 2023
- Local. Free of charge. Active community. And above all, open. That sounds exciting.
Here are the links:
gpt4all.io/index.html
home.nomic.ai/about
Self learn computer science for free on my website: bootstrap.academy/
* *All my social media portals*:
_ bio.link/themorpheus
Discord:
the-morpheus.de/discord.html
Support me - Thank you!:
www.patreon.com/user?u=5322110
www.paypal.me/TheMorpheus
Super Video, danke! Wäre sehr interessant wie man das Teil:
a) selbst mit eigenen Unternehmensdaten nachtrainieren kann
b) Die Antworten direkt auf deutsch übersetzen kann
jap, da das gesamte Tool noch ziemlich am Anfang steht waren meine Ergebnisse bislang nicht so überzeugend. Sobald ich's hinbekomme, kommt ein Video =)
@@TheMorpheusTutorials ich fänd auch interessant ob man das ding irgendwie auf die GPU lauffähig kriegt, oder wie man die Temperature justiert wenn das überhaupt möglich ist :3
Das wäre der Hammer. Ich habe über 20 Jahre PDF Dokumente auf'm Rechner liegen. Es ließe sich ein Privater Bibliothekar für meine Papierberge Programmieren. Oder allgemein sind solche Anwendungsfälle hochinteressant für Mittelständischen Unternehmen als DMS-System....
Was wirklich sehr spannend ist, zeigt sich in der neuen Funktion, in der man eigene Verzeichnisse einbinden kann und Dokumente durchsuchen lassen kann. Ich habe groovy und snoozy so 20 pdfs reingeworfen und in wenigen Sekunden wird eine Anfrage korrekt beantwortet inklusive des Verweises auf das Dokument. Dafür das ich diese Tests mit ner 3060 12GB mache war ich wirklich erstaunt das es relativ schnell ging.
Hallo,
Vielen Dank für das Video. Wie immer war es hervorragend! 😊
Ich frage mich gerade, ob es möglich ist, die snoozy Variante (oder eine andere Variante) auf einem externen Speicher wie einem USB-Stick herunterzuladen und zu verwenden. Mein Mac hat nur sehr wenig Speicherplatz, und 7 GB sind ziemlich viel.
Vielen Dank im Voraus für deine Hilfe!
Viele Grüße
Werd ich mir aufjedenfall mal anschauen :)
Sehr schön. Funzt im Prinzip wie bei openAI. Toll, dann muss man die msg-Map nicht anpassen.
Könnte man nicht mit dem HTTP-Server workarounden?
Cooles Video. Mich würde interessieren, wie man ein eigens Modell programmieren kann? Wie kann ich GPT4All mit meinen eigenen Daten trainieren? Welches Format müssen meine Daten haben?
da wäre ich auch voll dafür da sucht man sich dum und dusselig oder wie man son transformer komplett schreibt und von null an nen eigendes model baut
was hast du lokal für RAM ? + kann man das theoretisch auch auf gpu laufen lassen ?
64gb und nein, leider noch nicht
Also ich finde das Potential was KI, GPT und LLMs mit sich bringen super spannend. Man gibt ein Problem ein und man erhält innerhalb webiger Minuten dann die Lösung. Jede erste Lösung ist auch erstmal ein Lösungsansatz und muss immer noch angepasst werden.
Mein Problem ist, das mein Englisch nicht das Beste ist und gerade bei Lernvideos fällt es mir umso schwerer englische Videos teilweise zu verstehen.
Es gibt tausende Videos in unterschiedlochen Sprachen, es gibt mittlerweile recht gut klingende Synchro-KIs. Kann man nicht daraus eine neue Art der Übersetzung entwickeln, also tatsächlich die Sprache im Video analysieren daraus Text generieren, diesen übersetzen und eine KI-Stimme in der "neuen" Sprache darübersetzen?
So könnten auch zum Beispiel deutsche Videos für ein breiteres Publikum interessant werden. Denn am besten lernt man in seiner Muttersprache, oder geht es nur mir so? Sollte doch eigentlich möglich sein oder?
Bei mir auch, lief weder auf Win10 noch auf einem Linux..., und mein Mac ist zu alt. Aber werde Updaten (MacOS) die Tage...
Kann man damit gut Codes generieren?
guten Code*
Danke für das Video, aber unschöne schnittfehler zum ende hin.
Danke fürs Feedback! Sorry.
dIE VERSION existtiert garnicht!
Sind nicht die Training/Trainingsdaten das wichtigste?
Ich versteh nicht so 100% das Konzept. Wenn es lokal antrainiert werden muss und die Terabyte an Inputmenge + Prozessorleistung fehlen, bringen die reinen Algorithmen auch nicht soviel.
gibt pretrained models, groovy, snoozy, hermes , ... können direkt in der app geladen werden siehe 2:27
@@JustAn0therSoul Grundsätzlich verstehe ich das mit den pretrained models. Aber normalerweise ist das Modell und das zugehörige Training anwendungsgebunden.
Wenn jetzt die Anwendung lokal und spezifisch ist, muss das ja nicht in einem pretrained Modell abgebildet sein.
@@michaelmueller9635 Korrekt wenn du jetzt fragen zu antiken Schriften stellst und die nicht Teil des Trainings sind gibt es keine Antwort. Man kann aber Dokumente benutzen und ins Program laden und dann dazu fragen stellen.
@@JustAn0therSoul Mir schwebt ein Anwendungsfall vor:
1. Wenn ich ein Programm geschrieben habe und ebenso zu diesem Programm eine ausführliche Benutzer-Dokumentation geschrieben habe.
2. Zudem gibt ist das Programm auf github (mitsamt issue-Section etc. pp.) und es hat eigene Channels und Foren, wo Probleme mit diesem gepostet und gelöst werden
3. Dann könnte ich doch mit 1. und 2. GPT4all trainieren
4. und anschließend dem Programm die trainierten Daten beilegen und eine Schnittstelle zu gpt4all hinzufügen
5. so dass die Benutzer anschließend das Programm mit der gpt4all-Hilfe nutzen können
Oder sehe ich das falsch?
Das funktioniert nicht.
Kurzer Hinweis: Die API hat sich vor kurzem geändert. Dein Code funktioniert nicht mehr, so sieht der aktualisierte Code aus:
import gpt4all
gpt = gpt4all.GPT4All("ggml-model-gpt4all-falcon-q4_0")
output = gpt.generate("Create a recipe for banana frauppucino")
print(output)