Yapay Zekâ bir Hoax’mı*, LLM’lerin Geleceğine Bir Bakış

Bu Süreç bir Olgunlaşma Dönemi mi?

Önce bilmeyenler için Hoax ne demektir ? Onu bir yanıtlayalım.
Hoax, Türkçede en yaygın karşılığıyla: asılsız haber, aldatmaca, uydurma bilgi veya bilinçli olarak yayılan yalan anlamına gelir. Bir hoax, insanların yanlış bir şeye inanmasını sağlamak için kasıtlı olarak üretilmiş ve yayılan bilgi, haber, görsel veya iddiadır. Genellikle:

·         Korku yaratmak,

·         Dikkat çekmek,

·         Manipülasyon yapmak,

·         Şaka veya deney yapmak amacıyla ortaya çıkar.

“Büyük dil modelleri acaba hoax’mı ?” yada “bu ilerleyiş sahte bir ilerleyiş mi?” sorusunu her duyduğumda aklıma dev bir maden ocağı geliyor. Yıllardır aynı damarı kazıyoruz. Daha derine indikçe daha güçlü makineler yaptık. Daha büyük kepçeler, daha fazla işçi, daha yüksek enerji. İlk başta sonuçlar muazzamdı. Her bir metre aşağıda yeni bir cevher bulduk. Üretim arttı, verim yükseldi, herkes bu yöntemin doğru bir yöntem olduğuna ve yapay zeka konusunda bu yöntemden başka bir metot olmadığına inandı.

Ama şimdi farklı bir noktadayız. Hâlâ kazıyoruz ama her vuruş eskisi kadar ses getirmiyor. Cevher inceliyor, maliyet artıyor. Kimine göre bu sadece geçici bir sert tabaka; biraz daha bastırırsak kırılacak. Kimine göre artık bu damar tükendi ve önümüzde ya başka bir katmana geçmek ya da tamamen yeni bir saha açmak var. Kimileri ise asıl sorunun derinlik değil, neyi aradığımızı yeniden düşünmek olduğunu söylüyor.

Sisin arkasında ne olduğunu tam olarak bilmiyoruz ama yaklaşık 20 gün önce yaşanan bir gelişme, bu sisin içinden oldukça net bir siluet çıkardı.

Dünyanın en değerli şirketlerinden biri olan, yapay zekâ donanımının tartışmasız lideri Nvidia, tarihinin en yüksek gelirini açıkladı. Tek bir çeyrekte 57 milyar dolar. Bu, ayda neredeyse 20 milyar dolar kazanan bir şirket demek. Buna rağmen borsada ilginç bir şey oldu: Nvidia hisseleri düşmeye başladı. Hatta bazı büyük yatırımcılar Nvidia’daki hisselerini elden çıkardı ve söz konusu pozisyonlarını tamamen kapattı.

Garip değil mi? Şirket rekor kırıyor. CEO Jensen Huang sahneye çıkıp “Blackwell çiplerimiz yok satıyor” diyor. Ama yatırımcılar sanki kötü bir haber almış gibi davranıyor. İşte bu yazıda bu çelişkinin arkasındaki asıl soruya bakmaya çalışacağız. Bu sadece bir borsa hikâyesi değil. Daha derinde, yapay zekânın bugünkü yönüyle ilgili ciddi bir soru yatıyor.

Yapay Zekâ Denince Neden Hep LLM’leri Konuşuyoruz?

Bugün yapay zekâ dendiğinde akla ilk gelen şey büyük dil modelleri, yani kısaca LLM’ler. Bunlar, internetten toplanmış devasa metinlerle eğitilen ve bir sonraki kelimeyi tahmin ederek çalışan sistemler. ChatGPT gibi araçlar bu sınıfa giriyor.

Son beş yılda yapay zekâ dünyasında neredeyse tek bir formül vardı:

• Daha büyük model
• Daha fazla veri
• Daha fazla işlem gücü

Bu üçünden hangisini artırırsanız artırın sistem daha “akıllı olacak gibi” görünüyordu. Bu arada buna ölçekleme yasaları deniyor. Yani sistemi büyüttükçe performansın da düzenli biçimde artması. GPT-2’den GPT-3’e, oradan GPT-4’e geçerken gerçekten de dramatik sıçramalar yaşandı. Bu yüzden birçok kişi bu durumu neredeyse fizik yasası gibi görmeye başladı.

Ama şimdi soru şu: Bu yaklaşımın bir sınırı var mı?

“Veri Yapay Zekânın Fosil Yakıtıdır”

Bu soruyu ilk yüksek sesle dile getirenlerden biri OpenAI’ın kurucu ortaklarından ve uzun süre baş bilim insanı olan İlya Sutskever oldu. Kendisi GPT-3 ve GPT-4’ün mimarlarından biri, yani bugünkü büyük dil modellerinin mutfağında bizzat bulunan isimlerden.

Geçen yıl katıldığı NeurIPS konferansında çarpıcı bir benzetme yaptı:
“Veri, yapay zekânın fosil yakıtıdır” cümlesini kullandı.

Bu ne demek ? Elimizde tek bir internet var. Tweet’ler, blog yazıları, Wikipedia maddeleri, forum tartışmaları… İnsanlığın ürettiği neredeyse tüm dijital metinler bu modellerin eğitiminde kullanıldı. Tıpkı yer altındaki petrol gibi, bu veriler de büyük şirketler tarafından çıkarıldı, işlendi ve yakıldı.

Ama internet sonsuz değil. Artık “yüksek kaliteli” verinin büyük kısmı tüketilmiş durumda.

Sutskever bunu daha sonra katıldığı bir podcast’te daha net ifade etti:
2020–2025 arası bir ölçekleme çağıydı. Ama artık ölçek o kadar büyüdü ki, yüz kat daha fazlasına sahip olsak bile sonuçlar eskisi kadar fark yaratmayacak.

Bu çok önemli bir itiraf. Çünkü bunu söyleyen kişi, “daha büyük yapalım” yaklaşımını mümkün kılan ekibin içinden biri.

 
“Bu Yol İnsan Seviyesi Zekâya Çıkmıyor”

Benzer ama daha sert bir eleştiri de Meta’nın baş yapay zekâ bilimcisi Yann LeCun’dan geliyor. Kendisi Turing Ödülü sahibi; bu ödül yapay zekâ dünyasında Nobel’e en yakın şey.

LeCun’a göre büyük dil modelleri faydalı araçlar olabilir ama insan seviyesinde bir zekâya giden yol değil. Hatta doktora öğrencilerine açıkça “LLM’ler üzerine çalışmayın” diyor.

Neden? Çünkü bu modeller dünyayı anlamıyor. Sadece kelimeler arasındaki istatistiksel ilişkileri öğreniyorlar. Ne kadar büyütürseniz büyütün, yaptıkları şey temelde bu.

LeCun’un verdiği örnek çok çarpıcı:
Bir ev kedisi bile fiziksel dünyayı bugünkü LLM’lerden daha iyi anlıyor. Kapıdan geçip geçemeyeceğini biliyor. Bir nesne gözden kaybolunca yok olmadığını kavrıyor. Ve bunu yaparken karmaşık hareketleri planlayabiliyor.

Bu yüzden LeCun, çözüm olarak “dünya modelleri” dediği bir yaklaşımı savunuyor. Yani yapay zekânın sadece metinle değil, fiziksel dünyayla etkileşerek öğrenmesi gerektiğini söylüyor. Bir bebeğin dokunarak, görerek, deneyerek öğrenmesi gibi.

“Bu Bir Hata Değil, Sistemin Doğası”

Bu eleştirileri yıllardır dile getiren bir başka isim de Gary Marcus. New York Üniversitesi’nde çalışan bir bilişsel bilimci. Yapay zekâ dünyasının en istikrarlı muhaliflerinden biri.

Marcus’a göre LLM’ler azalan getiri noktasına ulaştı. Yani büyütmeye devam ettikçe elde edilen kazanç giderek azalıyor.

En önemli eleştirisi ise şu:
Bu modeller “halüsinasyon” üretmeye mahkûm. Yani olmayan kaynaklara atıf yapabiliyor, yanlış bilgileri büyük bir özgüvenle sunabiliyor. Özellikle hukuk ve sağlık gibi alanlarda bu ciddi risk.

Marcus’un meşhur lafı şu:
“Bu bir bug değil, bir özellik.”
Yani hata değil, sistemin doğasından gelen bir özellik. Çünkü temelde yaptıkları şey gerçekliği anlamak değil, kelime tahmini yapmak.

Peki Nvidia Hisseleri Neden Düştü?

Gelelim baştaki soruya.

Bugün Amazon, Microsoft, Google, Meta gibi şirketler yılda toplam 400 milyar doların üzerinde yapay zekâ yatırımı yapıyor. Bu para veri merkezlerine, çiplere, enerji altyapısına gidiyor.

Yatırımcıların sorduğu soru çok basit:
Bu yatırımların geri dönüşü olacak mı?

Eğer büyük dil modelleri gerçekten ölçeklemenin sınırına geldiyse, bu dev harcamalar nasıl geri kazanılacak?

OpenAI bile 2030’a kadar ciddi bir kâr beklemediğini söylüyor. Nobel ödüllü ekonomist Daron Acemoğlu da “Bu teknolojiyi abartıyor ve gereğinden fazla yatırım yapıyoruz” uyarısında bulunmuştu.

Üstelik son kullanıcıdan gelen gerçek talep de sınırlı. Çoğu kişi ayda 20 dolar ödemeye razı. Daha pahalı abonelikler ise çok küçük bir kesime hitap ediyor.

Balon mu, Olgunlaşma mı?

Bütün bu tabloya baktığımda vardığımız sonuç:

• LLM’ler muhtemelen ölçeklemenin sınırlarına yaklaştı
• “Daha büyük = daha iyi” dönemi sona eriyor
• Bu, yapay zekânın sonu değil
• Ama yeni bir faza geçiyoruz

Araştırmacılar artık farklı yönlere bakıyor:
Çıkarım sırasında daha fazla hesaplama, sentetik veri kullanımı, dünya modelleri, hibrit sistemler…

Piyasaların temkinli olması bu yüzden şaşırtıcı değil. Bu durum dot-com balonunu andırıyor. O balon patladı ama internet ortadan kalkmadı. Aksine, bugünkü dev platformlar o krizden sonra ortaya çıktı.

Bana kalırsa yapay zekâ dünyası artık bir olgunlaşma dönemine giriyor. Yapay zeka ile ilgili “Her şeyi çözecek sihirli değnek” anlatısı zayıflıyor. Yerine, güçlü ama sınırları olan bir teknoloji anlayışı geliyor.

Sutskever’in dediği gibi, belki de yeniden laboratuvarlara dönme zamanı. Ölçekleme çağı bitti, araştırma çağı başlıyor.

Ve araştırma çağları her zaman en ilginç olanlardır.

Belki gerçekten bir duvara hafifçe çarptık. Ama duvarlar aşılmak, dolaşılmak ya da gerektiğinde yıkılmak içindir.

Birinci viteste gidilen o uzun otoyol geride kaldı.
Şimdi vites değiştirme zamanı.