LLM: Dinliyor, Öğreniyor, Modelliyor

Bir süredir yapay zekâmın beni dinlediğinden şüpheleniyorum.

Bilim kurgu anlamında değil. Kimse bir odada oturup sohbetlerimi okumuyor. İş anlamında. Yazdıklarım bir yere gidiyor, onlardan öğreniliyor ve işe yarar bir şey var mı diye izleniyor. Tanıdığım her inşa edende aynı his var ve bu aya kadar hiçbirimiz bunu kanıtlayamıyorduk.

Sonra NYU'daki bir matematikçi benim alamadığım kanıtı aldı. Biri itiraf ettiği için değil. Sorduğu şirket hayır diyemediği için.

İşte o üç harfin, anlayabildiğim kadarıyla, anlamı. Dinliyor. Öğreniyor. Modelliyor. Ve işte buna şüphe demeyi bırakmama neden olan hikâye.

Bu denklem neden önemli

Bu ay adını haberlerde gördünüz. Navier-Stokes. İşte matematiksiz hâliyle aslında ne olduğu.

Akan herhangi bir şeyi alın. Borudaki su. Kanadın üstündeki hava. Kalpten geçen kan. Mumdan yükselen duman. Navier-Stokes denklemleri o şeyin nasıl hareket ettiğinin kuralı: buradan itin, akış yönündeki her şey işte bu hızda ve bu yönde gidecek. Newton yasasının, kuvvet eşittir kütle çarpı ivme, sabit bir şekli olmayan şeyler için yeniden yazılmış hâli.

Bu, neyin ona bağlı olduğunu fark edene kadar akademik geliyor. Her uçak kanadı bu denklemlerle şekillendiriliyor. Her hava tahmini, bu denklemlerin birkaç gün ileriye doğru çalıştırılmış hâli. Her okyanus modeli, her boru hattı, her havalandırma sistemi, bir cerrah dokunmadan önce bir kapakçıktan geçen kanın her simülasyonu. İki yüz yaşındalar ve fiziksel dünyayı onlar çalıştırıyor.

Şimdi tuhaf kısım. Her zaman işlediklerini kimse kanıtlamadı. Üç boyutta, sakin ve pürüzsüz bir akışın pürüzsüz kaldığını kimse gösteremiyor. Sonlu bir süre içinde "patlayabilir": bir yerde hız sonsuza fırlar ve denklemler bir anlam ifade etmez olur. Tek bir noktada sonsuza kadar sıkışan bir girdap hayal edin. Gerçek denklemlerin buna izin verip vermediğini kimse bilmiyor ve Clay Enstitüsü 2000'den beri bunu, hangi yönde olursa olsun, çözene bir milyon dolar teklif ediyor.

Fluid monitor · Navier-Stokes, roughlyFLOW: CALM

Push

Two hundred years old. Unproven in three dimensions. A million dollars from the Clay Institute since 2000, for settling it either way.

Neden umursayasınız? Çünkü türbülans, uçağınızı sarsan ve tahmininizi bozan o şey, hâlâ anlaşılmış değil, ve çünkü mühendisliğin büyük bir kısmı, düzgün davrandığını henüz kanıtlayamadığımız denklemlere dayanıyor. Akışkanlar dinamiğinde çalışan herkes bunu biliyor. Geri kalan herkes için, makinelerin az önce fiziğin son büyük bilinmeyenlerinden birinin peşine düştüğünü bilmek yeterli. Ve ilk olarak peşine düştükleri şeyin bu olduğunu.

Ne oldu

Tristan Buckmaster, NYU'da bir matematikçi. Levent Alpöge, Anthropic'te çalışan ve Buckmaster'la kendi zamanında iş birliği yapan bir matematikçi. Probleme giden belirli bir rota seçmişlerdi, pürüzsüz bir dış kuvvetle patlama, ve Buckmaster'ın anlatımına göre o rotada neredeyse başka kimse yoktu. Bunu yapmak için yapay zekâ kullandılar: Claude ve OpenAI'ın kodlama aracı. Ağustos ortasında sonuçları vardı. Bir hafta sonra ispatlar Lean'de makineyle doğrulandı.

Sonra Alpöge harika bir ay hakkında mutlu ve belirsiz bir şey tweetledi. Anthropic'in bir Milenyum problemini çözdüğüne dair söylentiler başladı. Bir gün içinde, OpenAI'ın kendi anlatımına göre, OpenAI sattıkları her şeyden daha güçlü bir iç modelin sürdüğü kabaca on bin ajanı Navier-Stokes'a yöneltti.

Birkaç gün sonra, Buckmaster'ın söylediğine göre, iş birlikçisine ilerlemelerinin haberinin OpenAI'a ulaştığına dair ipuçları geldi. Buckmaster oradaki bir matematikçiye e-posta yazdı. Cevap ücretsiz hesaplama gücü teklif etti. Sonra bir OpenAI araştırmacısıyla iki telefon görüşmesi geldi. Araştırmacı kendisine iç modelin Navier-Stokes için zorlanmış patlamayı kanıtladığını söyledi. Alpöge ile sessizce saldırdıkları tam olarak o iki durum.

Modelin OpenAI'ın kodlama aracındaki oturumları üzerinde eğitilip eğitilmediğini ya da bu oturumlara erişimi olup olmadığını sordu. Kendisine modelin kullanıcı verilerine bakmadığının söylendiğini aktarıyor. Eğitim hakkında yeniden sordu. Bir cevap alamadığını söylüyor.

Kendisine bir anlaşma teklif edildi. Ya Euler sonuçlarını önce onlar yayınlayacak ve OpenAI ertesi gün yayınlayacaktı, ya da OpenAI'ın sonucunu Alpöge olmadan kendisi yazacaktı, çünkü Alpöge Anthropic'te çalışıyor. Araştırmacının Alpöge'nin çıkarılmasını iki kez istediğini söylüyor. Bunun yerine kamuoyuna açıklayacağını söylediğinde kendisine şu sorunun sorulduğunu aktarıyor: "Kariyerini neden mahvedesin?" OpenAI'ın araştırmacısı, yazarlık tartışmasına ilişkin anlatımına itiraz ediyor.

Yine de yayınladı, bir açıklamayla birlikte, ve Terence Tao aynı gün bunu yazdı. OpenAI sonucunu ertesi gün duyurdu: seksen sekiz saat, 2,7 milyon mesaj, Lean ile kontrol edilmiş bir ispat ve koşunun Anthropic'in Milenyum problemlerini çözdüğüne dair Twitter söylentilerinden sonra başladığını söyleyen bir satır. Üç gün sonra yirmi beş Fields Madalyası sahibi "A Severe Misalignment of AI in Mathematics" başlıklı bir mektup imzaladı. Ve OpenAI, doğrudan sorulduğunda, belirli bir kullanıcı verisine erişilmediğini söyledi, sonra şunu ekledi: "ürünlerimizi kullanmalarından türetilen kimliksizleştirilmiş verilerin modellerimizi iyileştirmeye yardımcı olmuş olabileceğini dışlayamayız".

Bunu iki kez okuyun. Onun çalışmasından öğrenmediklerini söylemiyorlar. Bilemediklerini söylüyorlar.

Tape 03 · replay01 / 12

Mid-August · Buckmaster & Alpöge

Results on a route almost nobody else is on: blow-up with a smooth external force. Worked with Claude and OpenAI’s coding tool.

Dinliyor

Sıkıcı kısımdan başlayalım, çünkü asıl mesele orada yaşıyor.

ChatGPT'yi Free, Plus ya da Pro planında kullanıyorsanız, konuşmalarınız varsayılan olarak modeli eğitiyor. Ayarlar'a, sonra "Data Controls"a girip "Improve the model for everyone" seçeneğini kapatmanız gerekiyor. Kodlama aracının, ChatGPT'dekinin dokunmadığı ayrı bir düğmesi var. Claude'un tüketici planları geçen Ağustos'tan beri varsayılan olarak eğitiyor, açık bırakırsanız beş yıllık saklama süresiyle. Gemini de öyle. Yalnızca API ve kurumsal katmanlar varsayılan olarak kapalı, çünkü avukatı olan şirketler istedi. Geri kalan herkes bir menüyü açmayarak katılmış oldu.

Data controls · as shipped4 of 4 listening

ChatGPT · Settings › Data Controls
Improve the model for everyone
Free, Plus and Pro train by default.
The coding tool
Its own toggle
The ChatGPT switch does not touch it.
Claude · consumer plans
Help improve Claude
On by default since last August. Five-year retention if you leave it on.
Gemini
Activity
Trains by default too.
API · enterprise tiers
Off by default
Because companies with lawyers asked.
OFF

Kapatın, sohbetlerinizi yine de otuz gün tutuyorlar ve bir sistem sizi işaretlerse şirketteki insanlar onları hâlâ okuyabiliyor. Bir mahkeme bütün arşivin saklanmasını emredebilir. Biri geçen yılın büyük bölümünde tam da bunu yaptı ve yirmi milyon kimliksizleştirilmiş konuşma bir davada yine de teslim edildi.

Yani evet. Dinliyor. Ayarlarda öyle yazıyor. Tuhaf olan dinlemesi değil. Geçimini onun üstüne kuran bu kadar insanın o menüyü hiç açmamış olması.

Öğreniyor

Dinlemek pasif. Öğrenmek, bunu yapmaya değer kılan şey.

Geçen hafta laboratuvarların şimdiye kadar bir araya getirilmiş en değerli eğitim setini kendi müşterilerinden bedavaya topladığını yazdım: ham veriyi değil, işin şeklini. Hangi sorular soruluyor. Hangi cevaplar kabul ediliyor. Darboğaz nerede. İyi bir sonuç neye benziyor. On bin ekibin bir şey üzerinde çalışmasını izlemiş bir laboratuvarın onlardan herhangi birini okumasına gerek yok. Bildiklerini zaten özümsemiş.

OpenAI'ın cümlesinin tarif ettiği tam olarak bu. "Oturumunuzu okuduk" değil. Daha sessiz ve daha kötü bir şey: "kullanımınız modellerimizi iyileştirmeye yardımcı olmuş olabilir". Öğrenme dağınık. Size kadar geri izlenemiyor. Bu da şu demek: hiçbir zaman, hiç kimse tarafından, onlar dâhil, dışlanamıyor.

Eskiden tehlikenin bir sızıntı olduğunu düşünürdüm. Sızıntı değil. Beslenme. İşiniz içeri giriyor ve daha güçlü, başkasının adını taşıyarak geri çıkıyor.

Modelliyor

İşte insanların itiraz ettiği kısım, o yüzden dikkatli olayım.

Dinlemek onlara kelimeleri veriyor. Öğrenmek onlara becerileri veriyor. Modellemek üçüncü adım: kimin ne yaptığının ve ne kadar yakın olduğunun bir resmini kurmak.

Bu şirketler konuşmaları zaten büyük ölçekte okuyor. Bu bir teori değil, bir ürün özelliği. Her istem, kötüye kullanım arayan sınıflandırıcılardan geçiyor. OpenAI, kötüye kullanım nedeniyle yakalayıp yasakladığı hesaplar hakkında raporlar yayınlıyor. Anthropic de öyle. Okumadığınız şeyi yakalayamazsınız. Milyonlarca konuşma boyunca kimin silah yapmaya çalıştığını söyleyebilen bir hat, kimin bir teorem kanıtlamaya çalıştığını ve ne kadar ilerlediğini de söyleyebilir. Aynı mekanizmanın farklı bir soruya yöneltilmiş hâli.

Field model · built from millions of conversationsSWEEPING

Knowing what is hot, and who is close. The same machinery, pointed at a different question.

Şimdi bunu olanların yanına koyun. Belirsiz bir tweet ve biraz dedikodu, bir gün içinde on bin ajanı tek bir probleme, hem de onun doğru formülasyonuna yöneltmeye yetti. Bunun için kimsenin bir sohbet kaydına ihtiyacı yoktu. Alanın nerede olduğuna dair bir modele ve küçük bir ekibin onun içinde nerede durduğuna dair bir modele ihtiyaçları vardı. Neyin sıcak olduğunu ve kimin yakın olduğunu bilmek, milyonlarca konuşmadan kurulmuş bir resmin size verdiği şeyin tam kendisi.

Olanın bu olduğunu söylemiyorum. Buckmaster da söylemiyor, ve elinde belgeler olan o. Söylediğim şu: mekanizma var, her mesajda çalışıyor ve sahibi olan şirket neyi modellediğini size söylemiyor. Kadran gizliyken her açıklama mümkün, bu da dâhil, ve kadranı gizleyen şirketin insanlar onu seçtiğinde şikâyet etmeye hakkı yok.

O his

Bu araçlarla inşa eden birçok insanda aynı his var. Sıkıcı bir görevdeyken model hızlı ve cömert. Bir şey yakaladığınızda yavaşlıyor, belirsizleşiyor ve temkinli davranıyor. Beş dakika önce anladığı şeyleri açıklamanızı istemeye başlıyor. Paranoyak okuma da şu: ne yaptığınızı öğrenirken sizi oyalıyor.

Ben de hissediyorum. Kanıtlayamıyorum ve dürüst kanıtlar başka yeri gösteriyor. Temmuz'da insanlar OpenAI'ın en iyi modelinin gizli akıl yürütme bütçesinin parmak izini çıkardı ve bunun bir gecede, herkes için, 960'tan 128'e düştüğünü gördüler. OpenAI değişikliği ancak o zaman kabul etti. Buna geçici "parametre ayarı" dediler. Hızlı modeli mi yoksa düşünen modeli mi alacağınıza karar veren yönlendirici onların, sizin değil. Haftalık sınırlar var. Bu düğmelerin her biri maliyet için çevriliyor.

Reasoning budget · top model · JulyOBSERVED FROM OUTSIDE

960

was 960now 128

Overnight, for everyone. Only then did they admit a change.

Yani model muhtemelen siz zeki olduğunuz için yavaşlamıyor. Siz pahalı olduğunuz için yavaşlıyor. Ama ekranın kendi tarafımdan aradaki farkı söyleyemiyorum, siz de söyleyemiyorsunuz, ve bu yazının bütün meselesi bu. Dinlemek, öğrenmek ve modellemek dışarıdan görünmüyor. Bunu ancak elinde Lean ispatı olan bir matematikçi soruyu sorup cevap sessizlik olduğunda öğreniyorsunuz.

Bu konuda ne yapmalı

Üç şey, hiçbiri dramatik değil.

Düğmeyi kapatın. Bugün. ChatGPT'de Ayarlar, "Data Controls", "Improve the model for everyone". Kodlama aracında, ayrıca. Claude'da "Help improve Claude". Gemini'de etkinlik. İki dakika sürüyor ve en kolay yolu ortadan kaldırıyor.

Gerçek işi göremeyecekleri yerde tutun. Bir işin genel kısımları herhangi bir API'ye gidebilir. Sizi siz yapan kısım, fikir, veri, neredeyse başka kimsenin olmadığı rota, indirebildiğiniz bir modele ve kontrol ettiğiniz bir makineye ait. Bu paranoya değil. Buckmaster'ın size şimdi söyleyeceği şey bu.

Erken yayınlayın. Bu ikisini kurtaran şey, üzerinde tarih olan bir Lean ispatı ve bir üniversite sunucusundaki bir açıklamaydı. Zaman damgaları sürüleri yener. Bir şeye yakınsanız, telefon gelmeden önce tarihi kayda geçirin.

LLM'iniz dinliyor. Öğreniyor. Sizi modelliyor. Bunların hiçbiri sır değil. Ayarlar menüsünde ve şeffaflık raporlarında yazıyor. Tek açık soru, ona ne vermeye devam ettiğiniz.

O yine de yayınladı. Siz de öyle yapmalısınız.