Hallo Ich habe gestern auch LocalAI auf einen Mini PC N100 16GB Arbeitsspeicher installiert. Betriebssystem habe ich Debian 12 installiert. Nach der Installation lief auch alles sehr gut. Was ich natürlich nicht so einschätzen kann, ist die Geschwindigkeit bei der Suche(wie schnell oder langsam mein System ist). Heute morgen wollte ich das Programm im Browser öffnen und es funktioniert nicht mehr (Seitenladefehler). Im Terminal kann ich auf LocalAI drauf zugreifen. Wo dran könnte das liegen?
@apfelcast Bei deinen Beispiel , muss doch die KI auf irgendwelche Daten zugreifen? Wo bekommt diese die Infos her obwohl es Lokal ist ? Und das zweite wenn ich die KI "füttere" ,speichert sie das und lernt automatisch daraus ? Oder bleibt die KI auf d. gleichen Level ?
@Daniel, super Video, nur eine Frage: wenn ich in der Nextcloud die KI etwas frage dann wird die Antwort erst beim ausführen des nächste Cron Jobs generiert. kann man das irgendwie ändern so das die KI gleich antwortet? lg
Super Sache. Einzig: Performance innerhalb der Cloud... Direkt über das Interface von LocalAI läuft es der Hardware entsprechend performant. Nicht das gleiche wie Anfragen an OpenAI aber ganz ok. Jemand eine Ahnung, weshalb es dann mit LocalAI innerhalb der Nextcloud 10 x langsamer ist. Ich sehe auch, dass Anfragen den Server nicht ansatzweise auslasten. Direkt über LocalAI haut es mir die CPU auf 95% hoch, via nextcloud tümpelt die CPU mit 2-5% vor sich hin...
Herzlichen Dank für dieses Video! EIne Frage dazu: Du hast einen Reiter mit "Translate", der bei meiner Installation nicht erscheint. Kann ich diese Option irgendwie nachinstallieren?
@@apfelcast Habe Version 29.0.7. Laut Nextcloud ist sie damit aktuell. Sicherheitshalber ein update angestoßen und siehe da, es gibt auch für mich schon die 30er-Version und damit auch die fehlenden Reiter. Vielen Dank!
@Apfelcast Danke für das schon informative Video, aber leider finde ich, bist du etwas zu wenig auf die Server-Skalierung eingegangen (also hättest du wenigsten erwähnen können, welche Ressourcen du der Local AI Maschine gegeben hast und ob du das mit dem Satz geschnitten hast). Auch vermisste ich etwas über die Zugangskontrolle zu erfahren, wenn man es auf einem im Internet erreichbaren Cloud-Server oder Server betreiben möchte, wo man auch nicht eigene extern gelagerte Dienste wie eine n8n-Installation oder Webseiten darauf anbinden kann. Vielleicht kannst du dazu noch ein Video machen?
Danke für dein Hinweis. Mein Ziel war es mit diesem Video einen möglichst einfachen Zugang zu dem Thema KI in Nextcloud zu schaffen. Die von dir erwähnten Punkte sind auf jeden Fall auch wichtig und beachtenswert. Gerne gehe Ich darauf in einem weiteren Video ein.
Hallo Daniel Habe deine Anleitung befolgt aber in der Nextcloud 30.0.0 unter Künstlicher Inteligenz wird mir nur OpenAI angeboten ich kann nicht auf LocalAi umstellen. Was mache ich Falsch? Nextcloud App OpenAi LocalAI ist die Version 3.1.2
Ich hatte dasselbe Problem. Bei mir löste ein reboot der Nextcloud das Problem. Aber Achtung: Mein Setting: Proxmox, LXC, Docker, Portainer - darin laufen alle Container auch die Nextcloud. Ich musste LocalAI natürlich im gleichen Netz laufen lassen wie die Cloud. Dann - wie gesagt - ein re-start des Cloud Containers und LocalAI war da.
Tatsächlich eine Frage für Unternehmen: Kann man der ChatKi Antworten trainieren? So als erste Anlaufstelle für Fragen eines Anwenders? Wo finde ich XYZ, wie kann ich einen PC anfordern, warum wird die Seite XYZ geblockt? Wer aus der Personalabteilung ist für mich zuständig?
Es schetert bei mir schon daran, das sich das Nextcloud Assistant Fenster nicht öffnet... Danke an das Apfelcast Team für die tollen Videos, habe erst gerade Nextcloud 30 mit der Hilfe eures Videos installiert, und dachte, hey, AI nutzen, mal schauen wie das klappt... AI selbst läuft auch, aber in nextcloud lässt sich der nextcloud assitant erst garnicht öffnen. Beim klick auf die Schaltfläsche passiert nicht... nichtmal in den Logs... Und im Nextcloud Forum leider auch keine Reaktion... naja, vielleicht klappts bei der nächsten Installation einer späteren Version
Da kann ich vielleicht weiterhelfen. Unter Safari und Brave öffnet sich das Fenster auch nicht (vermutlich eine Security Einstellung). Mit Firefox funktioniert es bei mir! Grüße
Danke einmal wieder für das super Video. Die Geschichte wo du so locker zeigst, beschäftigt mich jetzt seit einer Woche. Nextcloud (30) läuft bei mir als Docker auf einem Unraid. Bisher probierte ich es mit Ollama und nun aufgrund deines Videos mit LocalAI (Docker ebenfalls auf Unraid) Die LLM's funktionieren auch wenn ich z.B. im Chat unter Local AI o. über openweb UI mit Ollama chate. Antwort kommt aufgrund Nvidia sofort. Ich kann die IP von Ollama o. Local AI in Nextcloud einbinden und es werden mir auch die LLM's angezeigt (Ollama o. LocalAI) Jedoch wenn ich im Assistenten einen Chat starte, erhalte ich keine Antwort. Jetzt kommt das aber. Wenn ich auf meinem iPhone die Nextcloud App öffne, dort unter weiteres die KI Funtkion aufrufe und einen Prompt (Frage) absetze erhalte auch sofort eine Antwort. Heißt ja, Nextcloud kann mit LocalAI, aber gibt mir über den Browser nix aus. Mehrere Rechner und Browser das gleiche Fehlerbild. Hast du evtl einen Tipp? Grüße
Gleiches Ergebnis bei mir allerdings auf Proxmox. Bei Nextclooud im Browser keinerlei Reaktion. Nichteinmal eine Steigerung der Auslastung auf dem LocalAI Server. Hier scheint irgendwie die Anfrage gar nicht erst durchzugehen. In der App (Android) stattdessen erhalte ich Antworten innerhalb von einigen Sekunden. Die Auslastung auf dem Server zeigt das sich die Anfrage, unmittelbar nach der Eingabe, bereits schon im Server befindet. Ausprobiert wurde es in Chrome, Edge und Firefox auf unterschiedlichen Gerätem :/
@@btw. Da bin ich 100% bei dir. Genau das gleiche Fehlerbild Folgendes habe ich bereits ausprobiert - Verschiedene Browser - Ollama und LocalAI im Docker. Anfrage kommt herein (Nachverfolgung im Log Protokoll), wird aber nicht verarbeitet - Nextcloud Docker von Linuxserver o knex666 (offizielles Image), VM Installation mit LAMP (Anleitung von ApfelCast) - Nextcloud APP auf iPhone funktioniert KI Anfragen ohne Probleme. - Modelle laufen einwandfrei und geben mit anderen Chat Tools (z.B. openwebUI) sofort Antwort Ich bin total ratlos. Ich gehe inzwischen von einem Fehler im Assistenten oder der LocalAI Einbindung aus. Ich gebe es jetzt erst einmal auf und hoffe auf Updates, da ich nicht mehr weiß, was ich sonst noch machen soll Aber danke für Rückantwort. Dann weiß ich wenigstens, dass es kein Problem bei mir ist! Grüße
So, Fehler ist gefunden. Hab jetzt Nextcloud 29.0.7 im Docker (offizieles Image) installiert. Dort den Assistenten und LocalAI Integration installiert. Antwort kommt sofort. Fehler liegt also in Nextcloud 30!!!!!!!!!!!!1
4 Buchstaben = GEIL
Danke :)
Hallo
Ich habe gestern auch LocalAI auf einen Mini PC N100 16GB Arbeitsspeicher installiert. Betriebssystem habe ich Debian 12 installiert. Nach der Installation lief auch alles sehr gut. Was ich natürlich nicht so einschätzen kann, ist die Geschwindigkeit bei der Suche(wie schnell oder langsam mein System ist). Heute morgen wollte ich das Programm im Browser öffnen und es funktioniert nicht mehr (Seitenladefehler). Im Terminal kann ich auf LocalAI drauf zugreifen. Wo dran könnte das liegen?
@apfelcast Bei deinen Beispiel , muss doch die KI auf irgendwelche Daten zugreifen? Wo bekommt diese die Infos her obwohl es Lokal ist ? Und das zweite wenn ich die KI "füttere" ,speichert sie das und lernt automatisch daraus ? Oder bleibt die KI auf d. gleichen Level ?
@Daniel, super Video, nur eine Frage: wenn ich in der Nextcloud die KI etwas frage dann wird die Antwort erst beim ausführen des nächste Cron Jobs generiert. kann man das irgendwie ändern so das die KI gleich antwortet? lg
Super Sache. Einzig: Performance innerhalb der Cloud... Direkt über das Interface von LocalAI läuft es der Hardware entsprechend performant. Nicht das gleiche wie Anfragen an OpenAI aber ganz ok. Jemand eine Ahnung, weshalb es dann mit LocalAI innerhalb der Nextcloud 10 x langsamer ist. Ich sehe auch, dass Anfragen den Server nicht ansatzweise auslasten. Direkt über LocalAI haut es mir die CPU auf 95% hoch, via nextcloud tümpelt die CPU mit 2-5% vor sich hin...
Herzlichen Dank für dieses Video! EIne Frage dazu: Du hast einen Reiter mit "Translate", der bei meiner Installation nicht erscheint. Kann ich diese Option irgendwie nachinstallieren?
Welche Nextcloud Version nutzt du denn? Meines Wissens benötigst du dafür Nextcloud in Version 30.
@@apfelcast Habe Version 29.0.7. Laut Nextcloud ist sie damit aktuell. Sicherheitshalber ein update angestoßen und siehe da, es gibt auch für mich schon die 30er-Version und damit auch die fehlenden Reiter. Vielen Dank!
Hallo zusammen
Wie kann ich die LocalKI an Obsidian und Logseq anbinden? Da ist eine API notwendig. Wie finde ich die?
@Apfelcast Danke für das schon informative Video, aber leider finde ich, bist du etwas zu wenig auf die Server-Skalierung eingegangen (also hättest du wenigsten erwähnen können, welche Ressourcen du der Local AI Maschine gegeben hast und ob du das mit dem Satz geschnitten hast).
Auch vermisste ich etwas über die Zugangskontrolle zu erfahren, wenn man es auf einem im Internet erreichbaren Cloud-Server oder Server betreiben möchte, wo man auch nicht eigene extern gelagerte Dienste wie eine n8n-Installation oder Webseiten darauf anbinden kann.
Vielleicht kannst du dazu noch ein Video machen?
Danke für dein Hinweis. Mein Ziel war es mit diesem Video einen möglichst einfachen Zugang zu dem Thema KI in Nextcloud zu schaffen. Die von dir erwähnten Punkte sind auf jeden Fall auch wichtig und beachtenswert. Gerne gehe Ich darauf in einem weiteren Video ein.
Hallo Daniel Habe deine Anleitung befolgt aber in der Nextcloud 30.0.0 unter Künstlicher Inteligenz wird mir nur OpenAI angeboten ich kann nicht auf LocalAi umstellen. Was mache ich Falsch? Nextcloud App OpenAi LocalAI ist die Version 3.1.2
Ich hatte dasselbe Problem. Bei mir löste ein reboot der Nextcloud das Problem. Aber Achtung: Mein Setting: Proxmox, LXC, Docker, Portainer - darin laufen alle Container auch die Nextcloud. Ich musste LocalAI natürlich im gleichen Netz laufen lassen wie die Cloud. Dann - wie gesagt - ein re-start des Cloud Containers und LocalAI war da.
@@ralfrupf1579 vielen Dank für den Hinweis werde ich mal probieren.
Das Docker Images ist zu gross. Bitte noch einen Schritt für Schritt Installation von LocalAI als kleinere Häppchen Installation dass wäre prima.
weise deiner docker vdisk mal mehr Speicherplatz zu. Das hat bei mir geholfen.
Tatsächlich eine Frage für Unternehmen: Kann man der ChatKi Antworten trainieren? So als erste Anlaufstelle für Fragen eines Anwenders? Wo finde ich XYZ, wie kann ich einen PC anfordern, warum wird die Seite XYZ geblockt? Wer aus der Personalabteilung ist für mich zuständig?
Es schetert bei mir schon daran, das sich das Nextcloud Assistant Fenster nicht öffnet...
Danke an das Apfelcast Team für die tollen Videos, habe erst gerade Nextcloud 30 mit der Hilfe eures Videos installiert, und dachte, hey, AI nutzen, mal schauen wie das klappt... AI selbst läuft auch, aber in nextcloud lässt sich der nextcloud assitant erst garnicht öffnen. Beim klick auf die Schaltfläsche passiert nicht... nichtmal in den Logs... Und im Nextcloud Forum leider auch keine Reaktion... naja, vielleicht klappts bei der nächsten Installation einer späteren Version
Da kann ich vielleicht weiterhelfen. Unter Safari und Brave öffnet sich das Fenster auch nicht (vermutlich eine Security Einstellung). Mit Firefox funktioniert es bei mir! Grüße
Danke einmal wieder für das super Video.
Die Geschichte wo du so locker zeigst, beschäftigt mich jetzt seit einer Woche.
Nextcloud (30) läuft bei mir als Docker auf einem Unraid.
Bisher probierte ich es mit Ollama und nun aufgrund deines Videos mit LocalAI (Docker ebenfalls auf Unraid)
Die LLM's funktionieren auch wenn ich z.B. im Chat unter Local AI o. über openweb UI mit Ollama chate. Antwort kommt aufgrund Nvidia sofort.
Ich kann die IP von Ollama o. Local AI in Nextcloud einbinden und es werden mir auch die LLM's angezeigt (Ollama o. LocalAI)
Jedoch wenn ich im Assistenten einen Chat starte, erhalte ich keine Antwort.
Jetzt kommt das aber. Wenn ich auf meinem iPhone die Nextcloud App öffne, dort unter weiteres die KI Funtkion aufrufe und einen Prompt (Frage) absetze erhalte auch sofort eine Antwort.
Heißt ja, Nextcloud kann mit LocalAI, aber gibt mir über den Browser nix aus. Mehrere Rechner und Browser das gleiche Fehlerbild.
Hast du evtl einen Tipp?
Grüße
Gleiches Ergebnis bei mir allerdings auf Proxmox. Bei Nextclooud im Browser keinerlei Reaktion. Nichteinmal eine Steigerung der Auslastung auf dem LocalAI Server. Hier scheint irgendwie die Anfrage gar nicht erst durchzugehen. In der App (Android) stattdessen erhalte ich Antworten innerhalb von einigen Sekunden. Die Auslastung auf dem Server zeigt das sich die Anfrage, unmittelbar nach der Eingabe, bereits schon im Server befindet. Ausprobiert wurde es in Chrome, Edge und Firefox auf unterschiedlichen Gerätem :/
@@btw. Da bin ich 100% bei dir. Genau das gleiche Fehlerbild
Folgendes habe ich bereits ausprobiert
- Verschiedene Browser
- Ollama und LocalAI im Docker. Anfrage kommt herein (Nachverfolgung im Log Protokoll), wird aber nicht verarbeitet
- Nextcloud Docker von Linuxserver o knex666 (offizielles Image), VM Installation mit LAMP (Anleitung von ApfelCast)
- Nextcloud APP auf iPhone funktioniert KI Anfragen ohne Probleme.
- Modelle laufen einwandfrei und geben mit anderen Chat Tools (z.B. openwebUI) sofort Antwort
Ich bin total ratlos. Ich gehe inzwischen von einem Fehler im Assistenten oder der LocalAI Einbindung aus. Ich gebe es jetzt erst einmal auf und hoffe auf Updates, da ich nicht mehr weiß, was ich sonst noch machen soll
Aber danke für Rückantwort. Dann weiß ich wenigstens, dass es kein Problem bei mir ist!
Grüße
So, Fehler ist gefunden. Hab jetzt Nextcloud 29.0.7 im Docker (offizieles Image) installiert. Dort den Assistenten und LocalAI Integration installiert. Antwort kommt sofort. Fehler liegt also in Nextcloud 30!!!!!!!!!!!!1