Neuer lokaler KI-Chatbot auf dem eigenen PC (CC2tv Folge 367)

Поділитися
Вставка
  • Опубліковано 16 лют 2024
  • Website: www.cc2.tv
    Shop: www.cc2.shop
    Spenden: paypal.me/cc2tv
    Wer dachte, dass KI-Chatbots wie ChatGPT nur in großen Rechenzentren laufen, sollte dieses Video nicht verpassen. Wir zeigen ein Sprachmodell, das auf dem eigenen Computer unter allen gängigen Betriebssystemen lauffähig ist und mit den großen Modellen absolut mithalten kann.
    Link zu Llamafile: github.com/Mozilla-Ocho/llama...
  • Наука та технологія

КОМЕНТАРІ • 159

  • @mastersurf6469
    @mastersurf6469 3 місяці тому +5

    Tolles Video Thomas! Du machst das sehr gut, du und dein Vater, ihr seid die besten Moderatoren!! Tolles Retro Look. Weiter so! 👍👍👍

  • @frankhotz2836
    @frankhotz2836 3 місяці тому +5

    Hallo zusammen, als nicht gelernter ITler fand ich das Video sehr informativ.
    Meine Kollegen experimentieren da auch recht kräftig und bekommen in der Tat deutlich bessere Ergebnisse raus als Thomas.
    Das hängt aber natürlich auch von Art und Umfang des eingesetzten Sprachmodells ab und je nach Setting variiert die Ergebnisqualität erheblich und wir tun uns noch sehr schwer das gezielt in Richtung höherwertige Ergebnisse zu beeinflussen.
    Auch hardwaremässig haben wir schon viele „Federn gelassen“, um z.B. unbuntu zur Unterstützung eine speziellen für AI angeschafften Grafikkarte zu bringen. Ich war schon oft überrascht, was die Systeme liefern- in alle Richtungen.
    Ob da am Ende etwas Brauchbares für uns rauskommt, das deutlich über die Vorteile konventioneller Systeme hinausgeht, kann ich noch nicht einschätzen. Auch bei uns reden sich die Kollegen darüber die Köpfe heiß.

  • @thomaskaser1560
    @thomaskaser1560 3 місяці тому +3

    CC2tv, ihr seid die Besten!!!

  • @bistschoda-tk5zv
    @bistschoda-tk5zv 3 місяці тому +4

    KI für arme.Süss.🤩

  • @marvinfarbt5957
    @marvinfarbt5957 3 місяці тому +4

    Sehr interessant Bitte mehr davon.

  • @Hultis-Funkbude
    @Hultis-Funkbude 3 місяці тому +1

    Danke für die geniale Vorstellung! 👍Die Frage mit den verfügbaren Sprachen wurde bei mir ebenso mit Englisch und Spanisch beantwortet. Wieder was zum Spielen gefunden... besten Dank! 🙂

  • @stal1963
    @stal1963 3 місяці тому +3

    Ich forsche selbst an KI-Themen. Deine Einführung in die Materie für „Normalsterbliche“ ist sehr gut gelungen. Die kann ich auch Nichtinformatikern empfehlen. Wer sich damit schon länger beschäftigt, neigt bei der Thematik zu technischen Phrasen, die niemand abholen.
    Das Thema Artificial Intelligence gab es übrigens schon in den 50er und 60er Jahren. Als erstes neuronales Nutz fungierte das Perzeptron.
    Zudem ist der Begriff Künstliche Intelligenz unglücklich gewählt. Heute meint KI schwache Intelligenz (z.B. maschinelles Lernen und statistische Prognosen), während menschliche Intelligenz auch Reflektieren, Bewusstsein, Emotionen umfasst. Diese Fähigkeit sollen in Zukunft auch KI-Technologien erhalten (starke KI).
    An dieser Stelle mal herzlichen Dank für euren sehr gelungenen Kanal. Wenn ich mir etwas wünschen könnte, wäre das eine Sendung mit Vater und Sohn zusammen.

    • @kontoname
      @kontoname 3 місяці тому

      Warum ist der Begriff unglücklich gewählt? Ich finde eher die Adaption Weak / Strong unglücklich.
      Strong umfasst bspw. allgemeine künstliche Intelligenz - allerdings ist allgemein nie stark sondern eben nur generisch.
      Narrow AI empfinde ich sinnvoll - so lässt sich bspw. auch behaupten ein brillianter Neurochirurg ist nicht zwingend ein brillanter Allgemeinmediziner. Seine Intelligenz ist damit Narrow, aber auch Strong in seinem Fachgebiet.
      Allgemeinmediziner hingegen haben garkeine Stärke - wären damit weak.
      Unter künstlicher Intelligenz hingegen verstehen selbst Laien direkt das richtige - wie auch bei künstlicher Zitrone ist klar dass etwas nur nachgeahmt wird und nicht in allen Facetten.
      Was ich eher unglücklich finde ist dass der Begriff seit jeher auf alles mögliche geklatscht wird, selbst wenn es nur einfache if then and or Bedinungen sind - Beispiel wäre "KI bei Computerspielen".

    • @stal1963
      @stal1963 3 місяці тому

      Intelligence (lat. interlegere = erkennen, einsehen, verstehen) assoziiert menschliche Intelligenz. Eine KI kann erkennen, aber weder einsehen noch verstehen. Im Prinzip fungiert ein neuronales Netz als trainierte statistische Funktion zur Mustererkennung. Das definiert Weak AI. Eine Strong AI hätte auch die Fähigkeit, selbständig zu verstehen oder einzusehen, was sie tut. Meiner Meinung nach trägt die heutige Weak AI den Widerspruch in sich, keine Intelligenz zu sein, aber als Intelligenz bezeichnet zu werden. Narrow fände ich übrigens auch passend.

  • @stefanambrozik1202
    @stefanambrozik1202 3 місяці тому +1

    Danke für das Video! Eine einfache Erklärung zu einem komplexen Thema.

  • @pauld.9856
    @pauld.9856 3 місяці тому +4

    "Unterwältigt", das gehört sofort in den Duden. 😁

    • @Ph34rNoB33r
      @Ph34rNoB33r 3 місяці тому

      Stimme ich zu. Gehört schon lange zu meinem Vokabular. Könnte sein, dass ich das direkt aus dem Englischen geklaut habe, von "underwhelmed".

  • @789Holger
    @789Holger 3 місяці тому +1

    Danke für die Empfehlung. genau das habe ich gesucht 😊

  • @strandkaufhaus
    @strandkaufhaus 3 місяці тому +5

    Null Kommentare... Schade. Reflektiert Eure Arbeit keineswegs. -- Wie immer sehr interessant. Danke. Bleibt bitte dabei. :) Zum Thema: es ist gut, wenn die Leute wissen, dass man nicht immer alle persönlichen Daten an irgendwelche Konzerne abgeben muss.

    • @samplissimo3391
      @samplissimo3391 3 місяці тому +7

      Gut, das Video ist erst 20min alt Meister

    • @computerclubzwei
      @computerclubzwei  3 місяці тому +8

      Zwölf Minuten nach Onlinestellung, an einem Samstagmorgen, ist es nicht verwunderlich, wenn die Kommentatoren noch anderweitig beschäftigt sind. ;)

    • @HansPeter.MrUniverse
      @HansPeter.MrUniverse 3 місяці тому

      LOL 😂

    • @HansPeter.MrUniverse
      @HansPeter.MrUniverse 3 місяці тому +1

      Das Video geht über 40 min und wurde vor unter 40 min hochgeladen

  • @kittykatie3003
    @kittykatie3003 3 місяці тому +4

    KI im Bundestag als beratende Tätigkeit wäre mal interessant.

  • @r0b891
    @r0b891 3 місяці тому +1

    Super Video; vielen Dank.

  • @dreiariola4761
    @dreiariola4761 3 місяці тому +2

    Vielen Dank, sehr interessant.

  • @axelurbanski2828
    @axelurbanski2828 3 місяці тому +6

    😂 Unterwältigt das Wort für diesen Monat.

  • @GUISCHOL
    @GUISCHOL 3 місяці тому +8

    mein informatik-lehrer in den 80ern meinte, künstliche intelligenz gibt es nicht, denn das wäre ein computer, der in der lage ist, sich selbst zu programmieren, und sowas gibt es nicht. BASTA !

    • @e1woqf
      @e1woqf 3 місяці тому +1

      Vielleicht traf das damals auch zu. Das heisst aber nicht, dass das heute nicht doch möglich ist.

    • @frankweber6902
      @frankweber6902 3 місяці тому

      @@e1woqf
      Sehr richtig!

    • @whocares281
      @whocares281 3 місяці тому

      Informatiklehrer halt. Stimmt nicht alles, was die so erzählen. Die meisten Konzepte der Informatik sind schon viele Jahrzehnte alt, nur die Hardware war noch nicht ausreichend leistungsfähig um die Konzepte vernünftig umzusetzen.

  • @fortunato1957
    @fortunato1957 3 місяці тому

    Ich werde das mal ausprobieren. Dann sehe ich ja, wie ein etwas größeres Modell auf meiner etwas besser ausgestatteten Maschine läuft.
    Vielen Dank jedenfalls. Mir hat das Video sehr geholfen, den Einstieg in lokale LLM-Nutzung zu finden.

  • @AmonReich
    @AmonReich 3 місяці тому +2

    Geiles Video! Vielen Dank für den Blick hinter die Kulisse. Witzig auf der einen Seite wie z.B. der vergleich mit der Politik oder dem Eichhörnchen. Auf der anderen Seite zeigt es, wie enorm Wichtig eine Regulierung und Überprüfung ist, die weit über Landesgrenzen hinausgeht.

  • @horsthacker9990
    @horsthacker9990 3 місяці тому +1

    rofl.. zuerst dachte ich: "Cool.. KI lokal benutzen"... Dann Ernüchterung im Video irgendwann: "Langweilig..". Und am Ende: "Wird installiert !". Das ganze ist ja doch was zum Lachen :) Danke für den Beitrag.

  • @lutzhaber
    @lutzhaber 3 місяці тому +13

    Entweder sind alle noch im Bett, oder beim Einkaufen.

    • @mia30vh
      @mia30vh 3 місяці тому +2

      richtig erkannt 😊

  • @DerSearge
    @DerSearge 3 місяці тому +2

    Spannendes Thema, schön umgesetzt.

  • @dibooooooo
    @dibooooooo 3 місяці тому +1

    danke für das video thomas! freu mich immer wenn nen neues kommt, und kanns nicht verstehen das mans disliken muss.

  • @MultiElvis999
    @MultiElvis999 3 місяці тому +1

    trotzdem gute Message, ich hab noch nie mit sowas Kontakt gehabt und find es sehr gut vermittelt, um was es geht, äh und nein, ich bin trotz semantischer Fehler keine KI ;-)

  • @mikemyers9401
    @mikemyers9401 3 місяці тому +1

    Hallo Thomas! Tolle Sendung, wirklich informativ! Vielleicht wäre es interessant für dich, "ollama" auszuprobieren. Es erleichtert den Umgang mit lokaler KI erheblich! :)

    • @mikemyers9401
      @mikemyers9401 3 місяці тому +1

      Ollama ist ebenfalls im ArchLinux-Repository verfügbar ;) Du kannst es mit "sudo pacman -S ollama" (für CPU-only) oder "sudo pacman -S ollama-cuda" (für NVIDIA-Unterstützung) installieren.

  • @Anrufbeantworter
    @Anrufbeantworter 3 місяці тому +2

    Mit dem ZX81 konnte man unter BASIC schon ein Programm nutzen, dass das "Heitere Beruferaten" simulieren konnte. Es kannte anfangs nur 2 Berufe, und hat durch Fragen, wie sich die Berufe unterscheiden, selbst weitere nicht geratene Berufe und die zielführenden Fragen hinzugefügt. Auf ähnlicher Basis mit mehreren Auswahlen pro Frage haben wie, ebenfalls unter BASIC, ein Programm zur systematischen Fehlersuche an komplexen Maschinensteuerungen für CP/M80 PCs entwickelt. Später haben die die Steuerprogramme selbst zuerst nur Fehlercodes, und später genaue Fehlermeldungen ausgegeben.

    • @fraktalistaphex
      @fraktalistaphex 3 місяці тому

      oder ne Dating Plattform siehe WDR Archiv

  • @timsalabim5224
    @timsalabim5224 3 місяці тому

    Sprache ist Ausdruck des Willens. Und so wie wir das Sprechen von unserem Umfeld gelernt haben haben wir auch Worte und Definitionen aufgenommen. Der Umgang formt den Menschen. Und wenn ich mich mit etwas beschränktem unterhalte kann ich nicht schlauer werden. Ganz im Gegenteil. Vor allen Dingen wer füttert das ganze. Und womit. Ich will sowas nicht. Trotzdem danke für den Beitrag. Informationen sind immer wichtig. Alles Gute.

  • @Jurtenhund
    @Jurtenhund 2 місяці тому

    Moin, jau habe es auch mal ausprobiert. Ganz nett als Zeitvertreib. Das die Modelle alle wohl etwas schwindeln ist klar, selbst ChatGPT erfindet Sachen, wenn es nicht weiter weiß. Manchmal ist es recht lustig was die KI's sich so alles ausdenken.

  • @sdafsdf9628
    @sdafsdf9628 3 місяці тому +4

    Danke. :-) Was passiert, wenn man mit 2 PC und somit auch mit 2 KIs diese miteinander sprechen lässt?

    • @dibooooooo
      @dibooooooo 3 місяці тому +1

      da gabs mal nen gerücht das man das schon machte,.die beiden hätten dann ne art eigene sprache entwickelt, so die entwickler das muffensausen bekamen und es ausgeschaltet haben. keine ahnung was davon stimmt, oder obs ne "urban myth" ist. mich würds auch interessieren

    • @fortunato1957
      @fortunato1957 3 місяці тому +1

      KI1: Wie ist das Wetter bei dir?
      KI2: CapsLock.
      (Shift ohne Ende)

  • @peter_s4196
    @peter_s4196 3 місяці тому +3

    Die beste Stelle bei 27:54 "... dann wird er wieder zum Politiker..." 🤣🤣🤣

  • @derhofsklave3458
    @derhofsklave3458 3 місяці тому

    Das erste Sprachmodell, das auf meinem Rechner läuft. Langsam zwar, aber es läuft!👋
    ChatGPT kann wesentlich besser rechnen. Auch Quadratwurzeln stellen für diesen Bot kein Problem dar.
    Das benutzte LLama Model ist ja ziemlich klein mit 4 GB.

  • @hra4242
    @hra4242 3 місяці тому +1

    Huhu,
    Vlt möchtest du dir mal Ollama anschauen, dort gibt es Programm das sich Ollama Web UI nennt, in der Theorie kannst du dir Ollama API auf einem beliebigen Gerät laufen lassen und die Web UI dann auf einem PI oder Mini PC!

  • @b-h-t
    @b-h-t 3 місяці тому +2

    Also anhand der gezeigten Beispiele würde ich sagen, dass das Modell noch deutlich nicht auf gpt3.5 Niveau ist.

  • @justston188
    @justston188 3 місяці тому +1

    Douglas Adams hatte doch recht, wenn sein erfundener Computer mit der Antwort 42 behauptete, man müsse erst einmal die richtige Frage formulieren.

  • @mikeforester3963
    @mikeforester3963 3 місяці тому +1

    20:00 Na wenigstens antwortet es im ganzen Satz ;D

  • @benary5620
    @benary5620 3 місяці тому

    Hallo CC2, ich hatte Euch im letzten Jahr eine Autogrammanfrage per Post geschickt (inkl. Rückumschlag). Später dann noch mal per Email nachgefragt, aber leider keine Antwort erhalten...
    Ist das noch in Bearbeitung, oder gebt Ihr generell keine Autogramme? Würde mich über eine kurze Rückmeldung freuen :)

    • @Puretea4711
      @Puretea4711 3 місяці тому

      Autogramme? Was stimmt denn mit dir nicht

    • @webfreezy
      @webfreezy 3 місяці тому

      @@Puretea4711 Gen Z?

  • @saschapurner9579
    @saschapurner9579 3 місяці тому

    Wir haben schon vor Jahren mit Sprachmodellen experimentiert und geforscht und eben auch erkannt, das es noch nicht so weit ist, das man sich darauf verlassen kann, das solche Modelle selbst bei den kleinsten Anforderungen zuverlässig arbeiten.

    • @kontoname
      @kontoname 3 місяці тому +1

      Also kein Unterschied zu Menschen, Internetforen etc. - wenn man gewissenhaft arbeiten möchte muss man sowieso eine Beweisführung durchführen.
      Allerdings sehe ich bei Sprachmodellen keinen deutlichen Unterschied mehr, der in sinnvollen Usecases eine starke Varianz zur Befragung bspw. in einem Forum aufweisen würde.
      Wie so oft im Leben liegt die Qualität der Antworten dort oft maßgeblich an der Qualität der Fragestellung.

    • @saschapurner9579
      @saschapurner9579 3 місяці тому

      @@kontoname Vollkommen Richtig. Allerdings ist bei uns als Menschen eher zu erwarten, das die Ergebnisse weniger Abstrakt ausfallen, weil wir eben sowas wie Intelligenz besitzen und der Computer nicht. Mit der Zeit werden die Modelle natürlich immer Fähiger, aber wenn es wie in unserem Projekt am Ende um das Geld (verteilen) geht, traue ich keinem Computer und muss es selbst prüfen. Das wiederum ist in unserem Projekt quasi Unmöglich mit Menschenkraft alleine zu Verwirklichen. Mal sehen, wie das alles in einigen Jahren aussehen wird. Ich bleibe Neugierig und offen für Alles. So oder so, Leben wir in hochinteressanten Zeiten.

  • @Anrufbeantworter
    @Anrufbeantworter 3 місяці тому +1

    Letzte Woche hatte ich eine tote Ratte fotografiert und konnte aber nicht sicher bestimmen, ob es eine Ratte oder eine große Maus war. Das Bild habe ich in Google-Lens hochgeladen, und Lens hat das Tier auf dem Bild als Ratte erkannt. Auch von deinem Bild habe ich einen Ausschnitt-Sceenshot gemacht, und Google-Lens befragt. Das Bild habe ich zur Vorsicht "Autobus" genannt, damit keine Rückschlüsse aus dem Titel möglich sind. Lens hat es als Wanderratte erkannt.

    • @psxtuneservice
      @psxtuneservice 3 місяці тому

      Wir haben über Tiere in Englisch gesprochen, ich vergasz den Tiername....Flaches Tier im Meer im Süden Thailands, Beine auf der Unterseite. Aussehen ähnlich wie ein Insekt. Blut wird i der medizinischen Forschung verwendet. Horseshoe crab.....ohne der AI haette ich sicher eine stunde rumgesucht

  • @Genesis56457
    @Genesis56457 3 місяці тому +1

    Finde das Thema sehr interessant. Nutze manchmal aus Spaß Gemini von Google und stell dem blöde Fragen oder frag ihn nach Rezepten. Aber momentan sehe ich für mich persönlich keinen großen Nutzen

    • @uli1956
      @uli1956 3 місяці тому

      Mach ich mit ChatGPT ganz genauso. Um sich zu amüsieren und etwas Zeit totzuschlagen, ist es ganz OK, doch ernsthafte Probleme (oder auch nur Textaufgaben wie in der Schul-Mathematik) kann es kaum lösen, und vor allem selten wirklich richtig.

  • @heinrichsonnenreiter703
    @heinrichsonnenreiter703 3 місяці тому +3

    Ganz plötzlich und seit kurzem da, auf gar keinen Fall. Chatsbots gab es schon länger. Ich erinnere an die AIM Modelle. Ganz bekannt war Xandra ein Webseiten chatbot und viele andere doch war dies damals noch die Pionier Zeit. Lange nicht so ausgereift wie heute und die Dialoge damals im Vergleich zu heute eher Mager, aber das Training Prinzip das Gleiche nur heute sehr viel komplexer da die Speicherung viel effektiver da geringe Kosten für Hardware im Vergleich zu früher.

  • @michaellichter4091
    @michaellichter4091 3 місяці тому

    Jetzt muss ich mir erst mal die Tränen abputzen, einfach köstlich dieser Beitrag. Mal sehen wo die Reise hingeht, das kann noch spannend werden. Da sage mal einer Technik kann nicht lustig sein. 😂🤣😂🤣

  • @DWuk
    @DWuk 3 місяці тому

    Bei Windows ist aber erstmal nur das "LLaVA model" Möglich. Dies liegt an der 4 GB Grenze für ausführbare Dateiem. Zum Glück es es knapp drunter.

  • @theMeissullo
    @theMeissullo 3 місяці тому +9

    Grundsätzlich finde ich eure Videos super. Dieses jedoch finde ich persönlich unterwältigend....
    Ich betreibe selber LMMs auf meinem System mit viel besseren Ergebnissen. Die präsentierten Modelle sind absolut nicht state of the art (3b oder 7b). Vergleichbar in etwa wie wenn ein Fiat 500 auf einmal in der Formel 1 mitfahren müsste. Ein Mixtral 7x8b oder auch andere 34b finetunes liefern in allen Belangen viel bessere Ergebnisse und können (teilweise) logische Rätsel oder gar komplexere mathematische Aufgaben lösen. Sogar Schach können diese spielen. Dann der ganze Bereich für "roleplay" finetunes, welche durchaus in der Lage sind, Cleopatra glaubhaft zu imitieren.... Aktuell ist es mit Opensource LLM noch so, dass diese für spezifische Tasks optimiert sind (Im Gegensatz zu GPT4).
    Zudem laufen sehr interessante Forschungen, welche in Kommentaren bereits erwähnt wurden, um mathematisches Verständnis in solchen Modelle nutzbar zu machen (Q*). Ich denke diese Entwicklungen werde die Menschheit in grösserem Masse verändern als das Internet selber...

    • @robertmalert5799
      @robertmalert5799 3 місяці тому +1

      Ging es nicht darum das Prinzip, an einer vereinfachten Maschine, zu veranschaulichen?

  • @mikeforester3963
    @mikeforester3963 3 місяці тому

    36:35 Jetzt fühle ich mich aber um erstklassigen Internet-Trash-Content betrogen. Das klingt fast wie der sog. "Pitch" zu einem siebtklassigen Marvel-Film XDD

  • @xantrillja
    @xantrillja 3 місяці тому +1

    Diese Models kommen mir vor, als wären sie vor 15 Jahren erstellt worden.

    • @webfreezy
      @webfreezy 3 місяці тому

      Vor 15 Jahren war die Technik noch gar nicht so weit.

    • @xantrillja
      @xantrillja 3 місяці тому

      ​@@webfreezy sicher konntest du vor 15 Jahren schon mit einen Chatbot schreiben.

  • @xorxeloco8708
    @xorxeloco8708 3 місяці тому +1

    das eichhörnchen thomas hat mir sehr gut erklärt wie das llama in der llava versinkt. bitte fragen sie nicht weiter. ich kann davon kein bild malen

  • @heizenbergone
    @heizenbergone 3 місяці тому +1

    Schade dass in diesem Video nur ein recht altes und kleines Modell von September 2023 gezeigt wurde. Hier wurde sozusagen ein Kleinkind vorgeführt.👎
    Die Zahl neuer speziell für den jeweiligen Einsatz trainerter Modelle wächst täglich. Mit genügend RAM können auch deutlich größere Modelle lokal betrieben werden, deren Antworten qualitativ den cloudbasierten Diesten ähneln oder gar besser sind.

  • @fabianh.5848
    @fabianh.5848 3 місяці тому +5

    Trotzdem weiß niemand, wie diese Systeme wirklich funktionieren

    • @GamsbatOdelia-mj8gx
      @GamsbatOdelia-mj8gx 3 місяці тому

      Lustig ist das sie rumspinnen (konfabulieren) machen Menschen auch.

    • @Nordlicht05
      @Nordlicht05 3 місяці тому

      ​​@@DuDarfstMichSiezen Moin sehr interessant. Gpt über die Bing Suche habe ich mal gefragt nachdem es sagte es habe sich vertippt, wie das sein kann mit dem tippen.
      Grund war das ich ein monatliches Durchschnittsgehalt wissen wollte. Es kam ein Ergebnis von ~3,50€. Nachdem ich angemerkt habe das dies falsch sei kam zwar sofort das korrekte Ergebnis aber dann war ich angefixt . Ich wollte wissen wie das mit dem sogenannten vertippen funktioniert. Ich könnte 2-3x nachhaken dann wurde das Gespräch beendet mit "ich glaube wir sollten das Gespräch beenden"

    • @fabianh.5848
      @fabianh.5848 3 місяці тому

      @@DuDarfstMichSiezen Ja, das erklärt aber nicht, wie das System funktionierende Computer-Programme schreiben kann und das zugrundeliegende Problem versteht. Das ist der Part, den ich gruselig finden. Musterkennung etc., kann ich mir schon vorstellen

    • @242Gorch
      @242Gorch 3 місяці тому

      Die Antwort würde sie nur verunsichern

    • @sven2529
      @sven2529 3 місяці тому +1

      Ich könnte versuchen es dir zu erklären, aber das würde viel zu lange dauern, deshalb nenne ich dir nur mal ein paar Stichworte, die du recherchieren kannst.
      - künstliche neuronale Netze
      - Deep Learning
      - Vektoren
      - LLMs (Large Language Models)
      - Prompts
      ChatGPT und ähnliches sind nicht intelligent, die können nichts begreifen und selbstständig verknüpfen. Das Training der Modelle ist extrem aufwändig und Menschenverachtend. Für einen Hungerlohn sitzen Inder etc. für Google etc. 8 Stunden rum und sichten die Trainingsdaten. Da werden Milliarden von Bildern unf Texte getaggt usw. Die KI, auch wenn ich das Wort hasse, versteht keinen Kontext. Das basiert alles lediglich auf Stochastik und dem vergleichen von Vektoren. Ganz vereinfacht gesagt.

  • @alimente67
    @alimente67 3 місяці тому +3

    Salam! Zu deiner Info. Bären haben keine Schwänze. Zumindest keine langen, sondern eher Stummelschwänzchen😂😂😂😂😂 Danke für das Video! ✌️👋

  • @242Gorch
    @242Gorch 3 місяці тому

    Muss man erstmal die genaue Hardware ham 😢

  • @kensaiix
    @kensaiix 3 місяці тому

    1:50 wow, volle Kanone Marketing-bullshit-bingo

  • @GNU_Linux_for_good
    @GNU_Linux_for_good 3 місяці тому +2

    21:44 Ja.. nee - 'Hey, du Viech' ist wahrscheinlich nicht der preisgekrönte Weg, um zur richtigen Antwort zu kommen _(vielleicht: liebes Lama..)_

    • @vmfox2152
      @vmfox2152 3 місяці тому +4

      Man muss "danke - hast du toll gemacht" sagen. Nicht dass sich Skynet das merkt und dann den Terminator vorbei schickt 😂

    • @GNU_Linux_for_good
      @GNU_Linux_for_good 3 місяці тому

      @@vmfox2152 ha.. ha..

  • @stko9164
    @stko9164 3 місяці тому

    Wie heißt's doch in Fachkreisen so schön:
    KI = Kaputte Intelligenz, denn: ALLE KI-Modelle neigen zum "Halluzinieren", und das nicht zu wenig,
    und vor allem umso mehr, wenn sie Fragen beantworten sollen, auf die sie noch nicht oder halt auch
    erst sehr wenig bzw. nur "am Rande" trainiert wurden.
    Aber eben auch nicht NUR DANN, und deswegen ist für mich noch laaaaange NICHT der Augenblick
    gekommen, an dem ich mich vor einer KI aus Ehrfucht verneigen würde, definitiv nicht.
    Nicht mal ansatzweise.
    Und dennoch, oder auch gerade deshalb : DANKE vielmals für diesen informativen Beitrag !!

  • @Niko-hz9ct
    @Niko-hz9ct 3 місяці тому +1

    ... und Ihnen bei bei helfen, Ihre Fragen zulösen ...
    Mann darf die Ausgabe der KI noch nicht blind übernehmen.

  • @joanarling
    @joanarling 2 місяці тому

    Hmm. Meine erste Sitzung mit Llama:
    Joan: Hello Llama! Nice to meet you.
    Llama: Hi
    Joan: What do I need to make tomato soup?
    Llama: Here's a recipe for homemade tomato soup, it should help you get started:
    Ingredients:
    - 2 tablespoons of olive oil
    - 1 large onion, chopped
    - 3 cloves garlic,
    Diese Session läuft seit über vier Stunden und mein System ist jetzt noch nicht sooo alt (4 CPUs, 8MB RAM, GPU nicht zugeschaltet, system load schwankt zwischen 5 und 9). Ich werde den Rechner heute Nacht durchlaufen lassen. Aber um damit Freude am Spiel zu haben, muss man wohl doch ziemlich tief für die Hardware in die Tasche greifen.

  • @karlbesser1696
    @karlbesser1696 3 місяці тому

    4 GB sind schon etwas dürftig für KI. Ein Emulator einer CPU muss mindestens 10x so leistungsfähig sein, wie diese selbst. Auf menschliche Dim. hochgerechnet, bräuchte man ziemlich viel Computer Power. Und trotzdem könnte man damit keine intelligiblen Probleme lösen.

  • @felixalexander945
    @felixalexander945 3 місяці тому +19

    Es ist beachtlich, wie viele Schlafschafe es auch hier in den Kommentaren bzw. unter Ihren Zuschauern gibt, Herr Rudolph. Man kann es nicht oft genug sagen: Wer beginnt, Cloudlösungen zu nutzen, kann sich auch gleich völlig in jeglicher Öffentlichkeit entblößen. Vor 10 Jahren war man noch viel kritischer, heute merkt man die Spuren, die Big Tech hinterlassen hat, leider sehr. Machen Sie weiter so und lassen sie sich nicht von den gehirngewaschenen Kommentaren verunsichern!

    • @andreeopthof376
      @andreeopthof376 3 місяці тому +9

      Mist, die Coronaleugner sind jetzt auch hier unterwegs. Verdammt!

    • @RudeAppel
      @RudeAppel 3 місяці тому +3

      @@andreeopthof376 Na, wie viele Nadeln haben se dir in die Muskeln gejagt?

    • @Ole-vu9yj
      @Ole-vu9yj 3 місяці тому +4

      User: Welche Personengruppe liebt den Begriff 'Schlafschafe'?
      Llama: Es ist schwer zu sagen, welche Personengruppe am häufigsten den Begriff "Schlafschäfer" oder "Shepherd" verwendet. Allerdings gibt es einige Gruppen wie zum Beispiel die Schafhirten in einigen Teilen der Welt, die diesen Beruf ausüben und möglicherweise den Begriff oft verwenden. Es ist jedoch wichtig zu beachten, dass dies nur eine Vermutung ist und es auch andere Personen geben könnte, die den Begriff regelmäßig verwenden.
      Na warte, bis die KI das mal herausbekommen hat... :D

    • @RudeAppel
      @RudeAppel 3 місяці тому +1

      ​@@MaxiMus91426Geh bitte einfach gegen Rechts demonstrieren. Da gehörst du hin 🎉

    • @wutzebus
      @wutzebus 2 місяці тому

      @@RudeAppel Um Nullen eine größere Bedeutung zu verleihen, müssen sie rechts stehen.

  • @Dr._Spamy
    @Dr._Spamy 3 місяці тому +1

    Wieso sollte das Rechenleistung kosten ? Ist doch einfach nur ein selbstverherrlichender Standard-Bettelbrief, in dem in die Kopfzeile der Name "Technikmagazin" eingefügt wurde.

    • @frankhotz2836
      @frankhotz2836 3 місяці тому +1

      Naja, um die Dinger lokal vernünftig zum Laufen zu bringen braucht es schon einige tausend Euro an Hardware. Ich habe das in verschiedenen Leistungsstufen getestet und ohne vernünftige Grafikkarten-Support macht das selbst auf leistungsfähigen Basissystemen keinen Spaß. Ich spende jedenfalls wieder. Ob man das tut oder nicht, ist ja jedem selbst überlassen, genau wie die Entscheidung, ob man diese Beiträge schaut oder nicht…

  • @uwzo8644
    @uwzo8644 3 місяці тому +1

    Ich verstehe es nicht. Warum soll ich mir das Ganze auf meinen PC laden? Ich kann es doch bequem Online ausführen.

    • @psxtuneservice
      @psxtuneservice 3 місяці тому +3

      Weil nicht jeder seine daten an die ganze welt senden will. Vor allem Firmen

    • @frankhotz2836
      @frankhotz2836 3 місяці тому +2

      Genau, wenn Di hochwertigen und ggf. auch vertraulichen Content hast, willst Du ihn vielleicht nicht irgendwohin hochladen …

    • @sven2529
      @sven2529 3 місяці тому

      Genau diese Frage ist das Problem

    • @robertmalert5799
      @robertmalert5799 3 місяці тому +1

      Lass sie machen. Lass sie alle mal machen. Denn sie wissen nicht, was sie tun.
      Grüße

    • @whocares281
      @whocares281 3 місяці тому

      ​@@robertmalert5799Sagt jemand, der u.a. einen Kanal über "Free Energy" abonniert hat. Ich lach mich schlapp.

  • @autingo6583
    @autingo6583 3 місяці тому +6

    schade, herr rudolph, dass sie, anders als ihr vater damals, zu seinen besten zeiten im computer club 1, 80er jahre, so sehr in der vergangenheit kleben geblieben sind und sich nicht für aktuelle technik begeistern können. ich bin wahrscheinlich so alt wie sie, beschäftige mich tiefgreifend mit der aktuellen ki-forschung der top-labore (dank viel open-source, arxiv und huggingface kein problem) und liebe trotzdem retro-technologie bis herunter zu röhrentechnik (youtube-tipps: usagi electric und curious marc).

    • @autingo6583
      @autingo6583 3 місяці тому +2

      da sie sich so abschätzig zu (grundlegendem) verständnis in diesen maschinen äußern... was mich interessieren würde: sind sie mit dem sparks-of-agi-paper von bubeck et al. vertraut? kennen sie die forschungsergebnisse zu empathie in llms ( = fortgeschrittene modellierung menschlicher psyche als emergentes phänomen in llms, die lediglich an äußerst signalarmen daten = text trainiert sind)?

    • @frankweber6902
      @frankweber6902 3 місяці тому +2

      @autingo6583
      Ich stimme Ihrem Kommentar hier zu.
      Zumal es erst zu einem „Thema“ geworden ist, nachdem man solche ersten Modelle, wie hier gezeigt, offline nutzen kann.
      Bloß nicht in der „Cloud“ arbeiten ...
      Meine Güte, einige meiner Kunden sind Anwälte und selbst die arbeiten mit ChatGPT und anderen LLMs wie zB. Claude online.
      Allerdings gibt es für Anwälte Anleitungen zum Gebrauch von LLMs.
      Zum Beispiel lernen die da, anonym Anfragen zu stellen, um Texte erstellen, oder verbessern zu lassen.
      Weiter ist von Anfang an klar, dass LLMs (zurzeit!) noch nicht mit Zahlen rechnen können.
      Wenn man allerdings zB. ChatGPT mit dem Plugin WolframAlpha nutz, ändert sich das dramatisch!
      Nach meiner Meinung werden LLMs in der Zukunft eine sehr, sehr große Rolle spielen!

    • @marlonsommersturm4984
      @marlonsommersturm4984 3 місяці тому +4

      @autingo6583 und @frankweber6902:
      CC2tv hat es eindeutig vorgeführt, was diese sog. KI eigentlich ist: Es ist keine künstliche Intelligenz! Es ist eine Verknüpfung von Daten aus verschiedenen Quellen. Und wenn ich diesen Maschinen eine Frage stelle, die sie nicht beantworten können, kommen hohle Phrasen heraus. Das nützt im Moment Niemanden, da Antworten immer wieder vom Menschen kontrolliert werden müssen.
      Ich erinnere mich noch daran, daß Mitte/Ende der 90er-Jahre die ersten Spracheingabesysteme auftauchten. Funktionierten natürlich alle unter aller Kanone - auf gut deutsch gar nicht. Heute, 30 Jahre später, ist es immer noch nicht perfektioniert. Können Sie gerne ausprobieren, wenn Sie Alexa volllallen, zu leise oder zu laut sprechen, bestimmte Worte weglassen etc.
      Und noch einmal an die vielen KI-Himmelsanbeter: Es gibt die KI "NOCH" nicht. Wenn diese Maschinen öfter in den Datenbanken finden, daß Elefanten rosa sind, dann werden sie dies auch antworten!

  • @erhardpostinger1326
    @erhardpostinger1326 3 місяці тому

    1:33 "... und Sie dabei helfen ..." - einfach mit der Stimme von Verona Feldbusch vorlesen lassen, da werden Sie geholfen ;-)
    1:45 schnell gelernt oder nur Zufallstreffer? Aber die NI ist auch nicht besser, wenn es um das Geschlecht des Systems geht 🙂1:57
    17:30 da steht aber Italiensch und nicht Italienisch !

  • @hans-joachinmueller3657
    @hans-joachinmueller3657 3 місяці тому

    Erstmal verstehen was Algorithmus ist dann was ein Compiler ist dann Kommentar schreiben.

    • @kontoname
      @kontoname 3 місяці тому +2

      Dein Kommentar würde vielleicht Sinn ergeben können wenn du verstündest was eine Antwort ist (und deinen Kommentar als solche postest).
      Ein KI-Chatbot hätte es besser hinbekommen... 😂

    • @hans-joachinmueller3657
      @hans-joachinmueller3657 3 місяці тому

      Mach es!

  • @Semmelbroesel0815
    @Semmelbroesel0815 3 місяці тому +1

    Wenn ich mal so GAR nicht mehr weiß was ich mit meiner Zeit anfangen soll, dann vertue ich sie vielleicht mal mit dem Dummfug 🤷🏻‍♂️

    • @rainerzufall689
      @rainerzufall689 3 місяці тому +3

      Und bis dahin schreibst Du UA-cam-Kommentare? ^^

  • @andreeopthof376
    @andreeopthof376 3 місяці тому +1

    Jesus, das ist ja komplette Zeitverschwendung, sich mit diesen kleinen, lokalen lächerlichen Lösungen zu beschäftigen. Da ist die Cloudlösung mit ihren tausenden Terabyte dann doch etwas sinnvoller... nutz ich trotzdem nicht. Die ersten Spielereien waren auch noch nicht das Gelbe vom Ei für meinen (!) Bereich. Kommt vielleicht noch...