Yapay Zeka(!) | Bilgi Kirliliği ve AGI Magazinciliği - [Detaylı Blog Post Açıklamada]
Вставка
- Опубліковано 21 сер 2024
- Detaylı anlattığım blog post: www.kaanbicakc...
Özellikle ChatGPT gibi modellerin popüler olmasından sonra yapay zeka üzerine çok fazla bilgi kirliliği oluştu. 10 dakikada bunlara değinmeye çalıştım. Biraz parodi biraz bilgi verdiğim bir video oldu.
DK Efekti: tr.wikipedia.o...
İletişim: Kaan.Bicakci@wtwco.com
LinkedIn: / kaanbicakci
GitHub: github.com/Fri...
-----------------------------------------------------------------------------------------------------------------------------------------------------------------
"Hela Destroys Mjolnir" - Thor: Ragnarok (2017)
Fair use.
Copyright Disclaimer Under Section 107 of the Copyright Act 1976, allowance is made for "fair use" for purposes such as criticism, comment, news reporting, teaching, scholarship, and research. Fair use is a use permitted by copyright statute that might otherwise be infringing. Non-profit, educational or personal use tips the balance in favor of fair use. No copyright infringement intended.
-----------------------------------------------------------------------------------------------------------------------------------------------------------------
Benzer bir mantığı beynimizdeki elektriksel ve kimyasal sinyaller için de kurabiliriz. Bir nörondan diğerine aktarım sağlayan nörotransmitterler bilinçli olabilir mi? Aksonlardan ya da miyelin kılıftan geçen elektrik sinyalleri bilinçli olabilir mi? Tek tek parçaları inceleyerek bütünü anlamaya çalışmak belirli bir ölçeğin altında mantıklı değildir. Nörobilimi bırakıp kuantum fiziği alanında düşündüğünüzde de benzer bir çıkmazla karşı karşıya kalırsınız. Elektron gibi atomaltı parçacıklar için süperpozisyon söz konusu iken atomaltı parçacıklardan oluşan makro bir nesne için bu durum yerine tek bir pozisyon geçerli hale gelir. Ölçek büyüdüğünde olasılıklardan değil oluşlardan söz etmeye başlarız. Şeyler biraraya geldiklerinde kendilerinde olmayan özellikler kazanabilirler. "Parça bütündür, bütün de parçadır" yaklaşımı bu boyutlarda geçerli değildir. Onun dışında şuanki modellerin bir bilinç oluşturabilme olasılığının çok düşük olduğunu ben de kabul ediyorum. Ancak dediğim gibi bu konuda kesin yargılarda bulunmak çok da mantıklı değil.
Selam, değerli yorumunuz için teşekkür ederim :) Burada daha çok insanların yazdıklarını şeyleri göstermiştim fakat dediğiniz gibi bu konuda farklı düşünceler var. Bilinç kısmının felsefik kısmı da mevcut aslında ve bu kavram benim için gizemini koruyor.
AGI ile aslında zekayı taklit etmek istiyoruz, bilinç kavramı nasıl olur kesin bir şey demek mümkün değil tabi ki, çooook uzun süreler üstüne konuşabiliriz 🙂
daha fazla detay mükemmel olurdu. eline saglik
İşin içinden birinin bu magazin fırtınasına karşı gerçekleri söyleme zamanı gelmişti. Teşekkürler....
Eline sağlık abi bazı kendi bildigini zanneden cahilleri iyi gömmüşsun 😂
tamamen daha iyi dediğimiz model çıktı, antrophic Claude 3.5 Sonnet. Eleştirel bir bakış sunup gene yarım yamalak bilgiler ile konuşan birisi. Deep Learning ile agi birbirine ters???
GPT-3 ve GPT-4 arasındaki farkları düşünürsek, Claude 3.5 Sonnet ile GPT-4o arasındaki farkın o kadar büyük olmadığını görürüz. Benchmarklarda bazı başlıklarda %3 ile %5 arasında iyi olması tamamen daha iyi olduğu anlamına gelmiyor, o şekilde değerlendirirsek GPT 4o'nun da iyi olduğu konular bulabiliriz.
Deep learning'in çok sorunu var, en büyüğünü ben söyledim zaten. DL dediğimiz bir fonksiyonu optimize eden araçtır, genellemenin konseptine terstir. Yani train edildiği uzayın dışına çıkamaz.
AGI, DL ile çözülecekse fikirlerinizi duymak isterim
@@kaanbicakciDerin öğrenme bir fonksiyonu optimize etmek değil, ilgili uzayda fonksiyona yaklaşmaktır. Yapay genel zekaya bir sınıflandırma problemi olarak yaklaşıp; bir sınıflandırma problemine yaklaşacak şekilde eğitim tasarlamak mutlak suretle hedefe ulaşmayacaktır. Yapay genel zeka olarak kastettiğin şeyi insan zekası olarak ele alıyorum. Sutskever'in üzerinde çalıştığı SSI'ı es geçiyorum. İnsan zekası tabiki tek bir fonksiyondan oluşmamakta, aldığı kararlara çok sayıda parametre etki etmekte, çoklu fonksiyonların bileşeni olarak tahminleme! yapmakta. Burada da işin içerisine diferansiyel denklemler girmekte. Peki yapay öğrenme ile kurgulanan sinir ağları diferansiyel denklemlere yaklaşıyor mu? Difüzyon modelleri ile buna başladık. Modellerin adım sayısını azaltmak(Rectified FLow, PFODE vb.) için kullandığımız akış kontrolü ile başlayan, sonrasında ise aynı yöntemin model çıktısı kontrolünde (BKZ: Recrifid) kullanılması ile beraber adım adım yapay genel zekaya yaklaşıyoruz. Hinton'ın emekli olduktan sonra Sutskever'in büyük model - büyük veri iyidir, bir sonraki kelimeyi tahminlemek iş yapar bakış açısı tabiki bir yere götürmeyecek. Dil modelleri ile fiziksel dünyayı anlamlandırmayacağız. Burada Yann Lecun'un bahsettiği hiyerarşik planlama tek çıkış yolu fakat statik olarak tasarlanacak bir hiyerarşik planlama sınırlı kalacaktır. Bu sebeple DPM tabanlı çoklu girdi modelleri (ses, görüntü, derinlik vb.) yapay genel zekaya ulaşmamızın aracı olacaktır.
Atladığın nokta akıllı varlıkların genellemesi kendi deneyimleriyle sınırlıdır.
@oguzhanercan4701 Selam yorumunuz nedense çıkmamış, ben yapıştırıyorum:
--
"@kaanbicakci Derin öğrenme bir fonksiyonu optimize etmek değil, ilgili uzayda fonksiyona yaklaşmaktır. Yapay genel zekaya bir sınıflandırma problemi olarak yaklaşıp; bir sınıflandırma problemine yaklaşacak şekilde eğitim tasarlamak mutlak suretle hedefe ulaşmayacaktır. Yapay genel zeka olarak kastettiğin şeyi insan zekası olarak ele alıyorum. Sutskever'in üzerinde çalıştığı SSI'ı es geçiyorum. İnsan zekası tabiki tek bir fonksiyondan oluşmamakta, aldığı kararlara çok sayıda parametre etki etmekte, çoklu fonksiyonların bileşeni olarak tahminleme! yapmakta. Burada da işin içerisine diferansiyel denklemler girmekte. Peki yapay öğrenme ile kurgulanan sinir ağları diferansiyel denklemlere yaklaşıyor mu? Difüzyon modelleri ile buna başladık. Modellerin adım sayısını azaltmak(Rectified FLow, PFODE vb.) için kullandığımız akış kontrolü ile başlayan, sonrasında ise aynı yöntemin model çıktısı kontrolünde (BKZ: Recrifid) kullanılması ile beraber adım adım yapay genel zekaya yaklaşıyoruz. Hinton'ın emekli olduktan sonra Sutskever'in büyük model - büyük veri iyidir, bir sonraki kelimeyi tahminlemek iş yapar bakış açısı tabiki bir yere götürmeyecek. Dil modelleri ile fiziksel dünyayı anlamlandırmayacağız. Burada Yann Lecun'un bahsettiği hiyerarşik planlama tek çıkış yolu fakat statik olarak tasarlanacak bir hiyerarşik planlama sınırlı kalacaktır. Bu sebeple DPM tabanlı çoklu girdi modelleri (ses, görüntü, derinlik vb.) yapay genel zekaya ulaşmamızın aracı olacaktır.
Atladığın nokta akıllı varlıkların genellemesi kendi deneyimleriyle sınırlıdır."
---
Cevap:
Şu konuda ortada buluşabiliriz, uzayda ilgili fonksiyona yaklaşırken modelin parametrelerini optimize ederiz. AGI dediğim zaman az örnekle on-the-fly genelleme yapabilen zeki (biraz sonra açıklıyorum) hipotetik modelleri kastediyorum. Şuanki kullanılan DL yöntemlerinin ileride AGI içinde rol oynayacağını düşünmüyorum, dönüp dolaşıp konu fonksiyon optimizasyonuna geliyor. Spesifik alanlardaki gelişmeler mevcut modellere gelişme sağlıyor olabilir, benim fikrim bunların bir rol oynamayacağı yönünde. Diffusion vb. modelleri de zeki olmayan modeller kategorisine koyuyorum. AGI dediğimde DL'in yapamayacağı işleri güvenli bir şekilde yapabilecek modelleri kastediyorum, FSD, cerrahilik gibi.
Şuanki modellerin yaptığı interpolasyon'un sahte bir generalization örneği olduğunu düşünüyorum. Gerçek anlamda genellemenin ise tamamen farklı bir şey olduğunu düşünüyorum, out-of-distribution'ı kendi içinde halletmiş oluyor. Gerçek anlamda genellemeyi henüz kimse tam olarak bilmiyor ve tahminimce DL bu iş için yanlış bir model.
Aslında güzel bir yere değinmişsiniz, fiziksel dünyayı anlamdıramayacağız diye, buna katılıyorum. Aynı anda Neuroscience gibi çoklu disiplinler de çalışmaya çalışıyorum, bulgularım bana şunu söylüyor ki AI Community'si diğer dalları görmezden gelerek bir şeyler deniyor. Belki de en büyük eksik bu :hmm: Yapay "öğrenme" derken bile orada tam olarak bir "öğrenme" olduğunu sanmıyorum.
"Burada da işin içerisine diferansiyel denklemler girmekte" dediğiniz kısımla ilgili Linkedin veya mail üzerinden makale paylaşabilirseniz sevinirim, yanlış anlamadıysam insan zekasıyla ilgili bir benzetme var, public bir makale varsa okumak isterim.
Vaktiniz olursa 1998 yılında yayınlanmış şu makaleyi okumanızı tavsiye ederim: www.sciencedirect.com/science/article/pii/S0010028598906946
AGI olursa çoklu girdi olacağına ben de katılıyorum, çevreyle etkileşim, zamansal olayların işlenmesi, sadece işe yarar bilginin hatırlanması... gibi çok konular var. Her kim AGI'yi bulursa çok büyük güç sahibi olacağı kesin :D