Hocam bir chatbot yapmak istiyordum. ChatGpt den yardım istedim. Ve bana direk katman üzerine eğitim yapabileceğimi söyledi .Yada modeli quantize edip küçültmekten bahsediyor. Örneğin elimde 1 mb diyaloglardan oluşan bir txt var soru cevap olarak bir türlü ne tür bir yol izlenmesi gerektiğini bulamadım. RTX 4090 kartım var bu kart ile ufak çaplı önceden türkçe için eğitilmiş bir modele chatbot özelliği kazandırmak istiyorum. Size göre bunun için en iyi yöntem ne olabilir ?
@@MalikKayaalp Selamlar, oncelikle datan belirli bir konu uzerinde yapilmis bir diyalog ise, burada onceden egitilmis bir turkce model ile rag system kurman daha faydali olacaktir. Finetuning icin yeterli miktarda datan var ise ve ayrica hepsi ayni konu uzerinde ise (ornegin saglik, egitim, vb.) belirli bir chat template formatina getirerek lora, qlora yada dora teknikleri ile finetune etmen senin icin faydali olacaktir fakat mantikli ve buna deger olup olmadigi tartisilir, Gunumuzde api ler daha uyguna gelebiliyor gpu makinelere gore. Bu konuyu senin task ine gore senin degerlendirmen gerekir. Donanim gercekten cok maliyet istiyor gunumuzde. RTX4090 bir LLM'e iyi derecede turkce ogretmek icin yeterli bir kaynak degil. Ollama - GroqAPI'e bakmani tavsiye ederim.
@@mertsengil4697 Teşekkürler... Ollama üzerine yoğunlaştım. Evet 4090 yeterli değilmiş bunuda fark ettim. Sadece hobi olarak bakıyorum. Aslında isteğim çok dar bir konuda mantıklı cevap verdirebilmek. Bilmediği yanıt veremiyeceği konular hakkında da bir uyarı mesajı vermesi.
HOcam merhaba,projemizde e-ticaret sitelerindeki sergilenen ürünlerin title,description,tags vs gibi özelliklerini oluşturma,güçlendirme için fine-tuning özelliğini seçtik.Sizce mantıklı mı ,Birde hocam fine-tuning yaparken sınırları belirlemede zorluk çekiyoruz.Mesela bu farklı bir konudan soru soruyorum datasette ve assistant cevabını "Maalesef sadece ürün içeriğini geliştirmek için kullanılabilirim " tarzı bir cevap veriyorum ancak modeli oluşturduğumuzda yine yanıtını veriyor farklı soruların çözüm öneriniz var mı,Teşekkürler Son olarak hocam fine-tuning datasetindeki max token miktarı şuan 4096 ,OpenAI kütüphanesinde yüzlerce örnek verebilirsiniz diyor ama max 10-15 örnek verilebiliyor bu boyutla.Ama varolan bir modeli bir veri seti ile yenisini oluşturabiliyoruz.Acaba bu yöntemlemi arttırmak gerekiyor girdi miktarını, teşekkürler :)
Daron hocam selam. Ai ye ilgileniyorum 1 senedir. Kafamdaki soruya tam cevap aldım bu bideonuzla. Ancak sizin 7 ay önce anlattığınız bilgiye yeni ulaştım. Yani genel çerçevede neler oluyor ihtiyaçlar beklentiler yönelimler ve bunlara sunulan cevaplar konusunda geri kalıyorum. Bizlere ai teknolojilerini profesyonel olarak nelerden takip ettiğinizi ve araştırdığınızı anlatırmısınız. Yani bu işle ilgilenenlerin gözleri nelerin üzerinde olsun? Nerelere el atsınlar? Saygılar.
@@mehmetaliyesilbas3392 murat karakaya düzgün planlı içerik üretiyor. Daron un bu konularda içerik ürtettiğini bilmiyordum. anlatımı karışık geldi. konunun karışıklılığı ile alakası yok anlatım ve sunnum karışıktı.
Yine müthiş bir içerik :) Türkçe olması çok büyük nimet
Sonunda kafamdaki sorulara cevap veren bir üstat buldum :) Teşekkürler saygılar...
Hocam bir chatbot yapmak istiyordum. ChatGpt den yardım istedim. Ve bana direk katman üzerine eğitim yapabileceğimi söyledi .Yada modeli quantize edip küçültmekten bahsediyor. Örneğin elimde 1 mb diyaloglardan oluşan bir txt var soru cevap olarak bir türlü ne tür bir yol izlenmesi gerektiğini bulamadım. RTX 4090 kartım var bu kart ile ufak çaplı önceden türkçe için eğitilmiş bir modele chatbot özelliği kazandırmak istiyorum. Size göre bunun için en iyi yöntem ne olabilir ?
@@MalikKayaalp Selamlar, oncelikle datan belirli bir konu uzerinde yapilmis bir diyalog ise, burada onceden egitilmis bir turkce model ile rag system kurman daha faydali olacaktir. Finetuning icin yeterli miktarda datan var ise ve ayrica hepsi ayni konu uzerinde ise (ornegin saglik, egitim, vb.) belirli bir chat template formatina getirerek lora, qlora yada dora teknikleri ile finetune etmen senin icin faydali olacaktir fakat mantikli ve buna deger olup olmadigi tartisilir, Gunumuzde api ler daha uyguna gelebiliyor gpu makinelere gore. Bu konuyu senin task ine gore senin degerlendirmen gerekir. Donanim gercekten cok maliyet istiyor gunumuzde. RTX4090 bir LLM'e iyi derecede turkce ogretmek icin yeterli bir kaynak degil. Ollama - GroqAPI'e bakmani tavsiye ederim.
@@mertsengil4697 Teşekkürler... Ollama üzerine yoğunlaştım. Evet 4090 yeterli değilmiş bunuda fark ettim. Sadece hobi olarak bakıyorum. Aslında isteğim çok dar bir konuda mantıklı cevap verdirebilmek. Bilmediği yanıt veremiyeceği konular hakkında da bir uyarı mesajı vermesi.
@@MalikKayaalp rica ederim iyi calismalar
HOcam merhaba,projemizde e-ticaret sitelerindeki sergilenen ürünlerin title,description,tags vs gibi özelliklerini oluşturma,güçlendirme için fine-tuning özelliğini seçtik.Sizce mantıklı mı ,Birde hocam fine-tuning yaparken sınırları belirlemede zorluk çekiyoruz.Mesela bu farklı bir konudan soru soruyorum datasette ve assistant cevabını "Maalesef sadece ürün içeriğini geliştirmek için kullanılabilirim " tarzı bir cevap veriyorum ancak modeli oluşturduğumuzda yine yanıtını veriyor farklı soruların çözüm öneriniz var mı,Teşekkürler
Son olarak hocam fine-tuning datasetindeki max token miktarı şuan 4096 ,OpenAI kütüphanesinde yüzlerce örnek verebilirsiniz diyor ama max 10-15 örnek verilebiliyor bu boyutla.Ama varolan bir modeli bir veri seti ile yenisini oluşturabiliyoruz.Acaba bu yöntemlemi arttırmak gerekiyor girdi miktarını, teşekkürler :)
RAG i open source LLM lerle birlikte kullanabilirmiyiz? Evetse hangi modelle daha ii sonuc alabiliriz?
Tabi ki kullanabilirsiniz. Model tercihi duruma göre değişkenlik gösterebilir. Deneyip, test etmek gerek.
Daron hocam selam. Ai ye ilgileniyorum 1 senedir. Kafamdaki soruya tam cevap aldım bu bideonuzla. Ancak sizin 7 ay önce anlattığınız bilgiye yeni ulaştım. Yani genel çerçevede neler oluyor ihtiyaçlar beklentiler yönelimler ve bunlara sunulan cevaplar konusunda geri kalıyorum.
Bizlere ai teknolojilerini profesyonel olarak nelerden takip ettiğinizi ve araştırdığınızı anlatırmısınız. Yani bu işle ilgilenenlerin gözleri nelerin üzerinde olsun? Nerelere el atsınlar?
Saygılar.
Selam Mehmet Ali senden ay sonra ben de aynı sorunun cevabını arıyorum. Soruna bir cevap bulabildiysen yardımcı olabilir misin Teşekkürler
@ Maalesef herkesi herşeyi takip etmeye çalışıyorum dostum. Şansa öyle gidiyor daha sağlam birilerini bulamadım.
@@mehmetaliyesilbas3392 murat karakaya düzgün planlı içerik üretiyor. Daron un bu konularda içerik ürtettiğini bilmiyordum. anlatımı karışık geldi. konunun karışıklılığı ile alakası yok anlatım ve sunnum karışıktı.
Öncelikle size de merhabalar hocam, konu ile alakasız fakat mobbing ile ilgili ne düşünüyorsunuz?
(Karşılaşırsak ne(ler) yapabiliriz)
Teşekkürler
Bire bir ornek verme sansin var mi davranis konusunda? Ozelden de ulasabilirsin. Twitter / Linkedin nereden istersen.
@@daronyondemTR akşama dm kutunuzda olur