Super gut und anschaulich erklärt! Hatte bis hier hin nie von "RAG" gehört - ich bin froh, dass ich diesem Kanal folge, so bin ich immer up to date! Danke!
Sehr interessantes Video! Vielen Dank! Aber würde das nicht den Prompt deutlich vergrößern und so die Bearbeitungszeit auch erhöhen? Also die Verwendung von Vektoren und EInfügen im Prompt. Trainieren mit dem Wissen wäre schneller und nach dem Training wohl auch günstiger, da weniger Tokens bei der Nutzung benötigt werden. Dafür natürlich nicht so anpassungsfähig, wenn sich die Daten ändern. Habe ich das so richtig verstanden?
Hi 👋 vielen Dank erstmal! Ich habe zu deiner Frage gerade ein Video aufgenommen. Kurz gesagt: RAG ist in den meisten Fällen günstiger und sogar besser. Ein Fine Tuning ist sehr teuer nicht nur Compute sondern du muss ja auch Daten haben. RAG Systeme sind mittlerweile auch schnell und kosten nicht viel. Das ist in der Regel die Architektur, die man in den Chat bots und Assistenten sieht. VG
Super gut und anschaulich erklärt! Hatte bis hier hin nie von "RAG" gehört - ich bin froh, dass ich diesem Kanal folge, so bin ich immer up to date! Danke!
Vielen Dank für dein Feedback!
❤❤❤
Thanks :)
Sehr interessantes Video! Vielen Dank!
Aber würde das nicht den Prompt deutlich vergrößern und so die Bearbeitungszeit auch erhöhen?
Also die Verwendung von Vektoren und EInfügen im Prompt.
Trainieren mit dem Wissen wäre schneller und nach dem Training wohl auch günstiger, da weniger Tokens bei der Nutzung benötigt werden. Dafür natürlich nicht so anpassungsfähig, wenn sich die Daten ändern. Habe ich das so richtig verstanden?
Hi 👋 vielen Dank erstmal! Ich habe zu deiner Frage gerade ein Video aufgenommen.
Kurz gesagt: RAG ist in den meisten Fällen günstiger und sogar besser. Ein Fine Tuning ist sehr teuer nicht nur Compute sondern du muss ja auch Daten haben.
RAG Systeme sind mittlerweile auch schnell und kosten nicht viel. Das ist in der Regel die Architektur, die man in den Chat bots und Assistenten sieht.
VG
welches Fine tuned Model würden Sie empfehlen für das LLM? oder welches haben Sie für den Wein-Bot benutzt? vG
Im Moment die ChatGPT API
Grosse Sprachmodelle?
Bitte nicht 🙏🙏 bleiben wir zumindest bei LLMs 😁
😁