
19 Ekim 20264 min read
Yapay Zekanın Öğreneceği Bir Sonraki Ekran Cebinizde
Paris'te uygulama geliştirme odaklı bir hackathon'da, bir uygulamanın diğer uygulamalarınızdaki görevleri yapabilmesi için iPhone'un duvarlarının çevresinden dolanan bir yol bulduk. Bir boşluğu da gösterdi. Herkes yapay zekaya telefon kullanmayı öğretiyor. Neredeyse kimsenin insanların telefonu nasıl kullandığına dair iyi verisi yok.
Before you readThis page watches how you read it: your taps, your stops, your pauses. It stays in this tab. Nothing is stored, nothing is sent. You get it back in chapter 4.

Her şey bir hackathon'da başladı
Bu fikir, Paris'te yapılan bir uygulama geliştirme hackathon'undan çıktı.
Amaç bir uygulama yapmaktı. Sabah rutini uygulaması alıp rutini sizin yerinize yaptırmaya çalıştık: diğer uygulamalarınızı açsın ve adımları onlarda yapsın.
iPhone'da bu zor. Her uygulama kendi sandbox'ında yaşar, diğer uygulamaları göremeyen kapalı bir kutuda. Başka bir uygulamayı açmak için, yayınlamadan önce onun bağlantısını, yani "URL scheme"ini listelemeniz gerekir. Ulaşmak isteyebileceğiniz her uygulama için bir tane gerekir. Bu çok uzun sürer. Ve liste kullanıcıyla birlikte büyüyemez.
Biz de çevresinden dolandık. Screen Time, bir kişinin gerçekte hangi uygulamaları kullandığını söyler. Uygulamamızın içine küçük bir tarayıcı yaptık ve bu uygulamalar orada web sürümleriyle açılır. Bu tarayıcının içinde uygulamamız bir betik, bir istem ya da düz tarifler alıp görevi sizin yerinize yapabilir.
Vardığımızda insanlar bunun yapılamayacağını söyledi. Sonunda bir yol bulmamıza şaşırdılar.
Paris'te bir uygulama stüdyosu olan MWM, etkinliği kendi ofislerinde ağırladı. Bizimle çok iyi ilgilendiler ve öne çıkan sponsor onlardı. Teknik ekipleri yaptığımızı çok sevdi ve ne kadar hızlı ilerlediğimizden etkilendi. Onlara teşekkürler. Çok güzel vakit geçirdik.
Bu bana daha büyük bir sorunu da gösterdi. İnsanların telefonlarını gerçekte nasıl kullandığına dair çok az veri var.
Bir düşünün. Telefon, dokunduğunuz en çok ekran. Ama insanların onun içinde gerçekte nasıl hareket ettiğini bilmek istediğinizde, elinizle tutabileceğiniz neredeyse hiçbir şey yok.
Ben de araştırmaya başladım. Telefon kullanmayı yapay zekaya kim öğretiyor? Ve insanların telefonu nasıl kullandığını gerçekten kim biliyor?
Meğer iki farklı kalabalık varmış. Neredeyse hiç konuşmuyorlar.
Telefon daha zor bir ekran
Yapay zekanın "bilgisayar kullanımı" masaüstünde başladı. Bu kolay versiyondu. Sırada telefon kullanımı var.
Bir web sayfasında bir ajan kodu okuyabilir ve düğmeyi bulabilir. Telefonda ise uygulamalar kapalı kutular gibidir. Çoğu zaman ajan bir ekran görüntüsü ve kısmi bir "erişilebilirlik ağacı" alır. Bu, ekran okuyucuların kullandığı, ekrandaki öğelerin gizli listesidir. Hepsi bu.
Sonra telefon kendi eğlencesini ekler. Dokunmazsınız, kaydırırsınız, uzun basarsınız, iki parmakla yakınlaştırırsınız ve yenilemek için aşağı çekersiniz. Her hareketin anlamı farklıdır. Düğmeler birkaç milimetre genişliğindedir ve her ekran boyutunda yer değiştirir. Girişler, ödemeler ve güvenlik kodları ise bir görevin ortasında ajanı durdurur.
- Drink waterskipped
- Stretchskipped
- Make the bedskipped
- Go outsideskipped
The glass is asleep, so you can scroll past it.
Exhibit A Touch the glass
Five gestures. Five meanings. One small screen.
Do each one yourself on the glass. Or press a row, and it is done for you.
Ayrıca iki ayrı dünya var. Android, izin verdiğinizde bir uygulamanın ekranı kontrol etmesine izin verir. iPhone ise çok daha kilitli.
Yine de telefon daha büyük ödül. İnsanların yaşadığı yer orası.
Yapay zekaya telefon kullanmayı kim öğretiyor
Çok sayıda kişi. Telefon sahipleri, finanse edilen girişimler ve birçoğu Çin'de olan açık araştırma laboratuvarları.
| Kim | Ne inşa ediyor | Bugün durumu |
|---|---|---|
| İstediğinizi söylediğiniz ve bir ajanın adımları yaptığı bir Android | Bu, Android ekosisteminden sorumlu başkanın Ağustos 2026'da CNN'e verdiği hedef. Halo adlı bir özelliğin bir ajanın ilerlemesini göstermesi bekleniyor. Pixel 11 Pro'nun, Gemini bir komut üzerinde çalışırken yanan bir arka ışığı var. | |
| Apple | Uygulamalar arasında çalışan ve kişisel bilgilerinizi kullanan yeni bir Siri | Eylül 2026'da iOS 27 ile beta olarak çıktı |
| AGI, Inc. | Diğer uygulamalarınızı sizin yerinize kullanan bir Android uygulaması: araba çağırmak, yemek siparişine ekleme yapmak, mesaj göndermek | Ocak 2026'da CES'te özel beta olarak gösterildi. TechCrunch, Menlo Ventures, Anthropic ve diğerlerinden 10 milyon dolar toplandığını ve bildirilen 500 milyon dolarlık bir değerleme olduğunu yazıyor. Şirket, ajanının Ekim 2025'te yalnızca ekran görüntülerinden AndroidWorld testinde %97,4 skor aldığını söylüyor. |
| ByteDance (UI-TARS) | Ekranı gören ve dokunan, kaydıran ve yazan modeller | UI-TARS-1.5 açık. UI-TARS-2 Eylül 2025'te çıktı. |
| Zhipu AI (Open-AutoGLM) | Açık kaynaklı bir telefon ajanı ve 9 milyar parametreli bir telefon modeli | Yaklaşık 26.000 GitHub yıldızı. Giriş ve captcha ekranlarında telefonu size geri verir. |
| Ant Group (UI-Venus) | Ekran görüntülerinden çalışan açık ajanlar ve bir mobil test ölçütü | UI-Venus 1.5 Şubat 2026'da, UI-Venus 2 Ağustos 2026'da çıktı |
| Droidrun, şimdi Mobilerun | Herhangi bir yapay zeka modelinin bir telefonu kullanmasını sağlayan açık kaynaklı bir çatı | Android ve iOS, bulut sürümü de var. Yaklaşık 9.600 GitHub yıldızı. |
| MobileGym | Ajanları eğitmek ve test etmek için 28 sahte uygulamalı sahte bir telefon | Mayıs 2026'da yayımlandı. Yazarlarının test ettiği en iyi model, Gemini 3.1 Pro, görevlerin %58,8'ini tamamladı. En iyi açık telefon modeli %20'yi tamamladı. |
Son satıra, AGI satırının yanına bakın.
Eski testte bir girişim %97,4 skor aldığını söylüyor. Daha yeni ve daha zor bir testte ise yazarlarının test ettiği en iyi model her 10 görevin yaklaşık 4'ünde başarısız oluyor.
A fake phone with 28 fake apps.
Exhibit B A fake phone, ten tasks
Same agent idea, two exams.
58.8%
the best model its authors tested
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
Ten tasks. Watch where it goes.
Yani para var. Yetenek var. Ajanlar yine de kayboluyor.
İnsanların ekrana dokunuşunu kim izliyor
Farklı bir kalabalık. Yapay zeka laboratuvarlarına değil, uygulama ekiplerine satış yapıyorlar.
| Şirket | Ne kaydediyor | Kimler kullanıyor |
|---|---|---|
| UXCam | Oturum tekrarları, dokunma ısı haritaları, "rage tap" (kızgın bir kullanıcının aynı yere defalarca dokunması) ve terk noktaları | Mobil için yapılmış. 37.000'den fazla uygulamada çalıştığını söylüyor. |
| Contentsquare | Oturum tekrarları, ısı haritaları ve ekranın hangi bölümlerinin yerini hak ettiğinin "bölgelendirmesi" | Web'de başladı, bir mobil SDK'sı var |
| Fullstory | Oturum tekrarları, hayal kırıklığı sinyalleri, kullanıcı yolculukları | Web'de başladı, bir mobil SDK'sı var |
Exhibit C Session replay of this page, read by you
Like this. It is yours, since you opened the page.
Each small screen is a chapter of this article. The glow is where you stayed. The rings are your taps. It lives in this tab's memory: nothing is stored, nothing is sent.
Your session
this page, this tab
- Reading
- 0:00
- Stops
- 0
- Longest pause
- 0 s
- Went back up
- 0
- Taps
- 0
- Rage taps
- 0
Keep reading. The heat builds where you stay.
Bu verinin bir değeri var. UXCam'in kendi sitesi, Carrefour'un banka uygulamasında bir ısı haritası nedeni gösterdikten sonra rage tap sayısını %50 azalttığını yazıyor. Bu satıcının kendi sözü, bu yüzden bunu bir satış cümlesi olarak okuyun. Ama uygulama ekipleri bunun için gerçekten para ödüyor.
Bu araçların durduğu yer burası. Ne olduğunu size söylüyorlar. Yeni bir tasarımın yayına almadan önce ne yapacağını söylemiyorlar. Ve öğrendikleri hiçbir şey bir yapay zeka ajanına gitmiyor.
Hackathon'da düştüğümüz boşluk tam olarak bu.
Bir kalabalık yapay zekaya telefon kullanmayı öğretiyor. Diğeri insanların telefon kullanmasını izliyor. Neredeyse kimse ikisini birbirine bağlamıyor.
Fırsatın olduğu yer
Denemek isteyeceğim beş fikir var.
- Gerçek kullanıcılar gibi dokunan sahte kullanıcılar. Ajanları gerçek dokunma örüntüleri üzerinde eğitin. Uygulamanızın yeni sürümünden onları geçirin. Bir insan takılacak ya da rage tap yapacak ekranı, insan oraya gelmeden size göstersinler.
- Ajanlar için UXCam. Ajanlar insanlar adına uygulamaları kullanmaya başlıyor. Uygulama yapanlar hangi oturumların ajan olduğunu, nerede takıldıklarını ve neden bıraktıklarını bilmek isteyecek. Bunun sahibi olan birini bulamadım.
- Ajan hazırlık puanı. Uygulamanız bir ajan için ne kadar kolay kullanılabilir? Net etiketler, sabit düzenler, çıkmaz yol yok. Bir ajan sipariş işini sizin uygulamanızda bitiremezse, işi başka birinin uygulamasında bitirir.
- Lisanslı dokunma verisi. İnsanların uygulamalarda gerçekte nasıl hareket ettiğine dair rızaya dayalı, gizliliği korunmuş veri. Ajan geliştiricilerin buna ihtiyacı var. Bu başlı başına bir ürün.
- Bedavaya erişilebilirlik. Ajana yardım eden temiz etiketler, düşük görüşü olan ya da el hareketi kısıtlı birine de yardım eder. Aynı iş, iki kazanç.
Exhibit D Two crowds, one screen
Bu beş fikirde de iz aynı. İnsanların telefonu gerçekte nasıl kullandığına dair en iyi veriye sahip olan, hem uygulamaları hem de ajanları daha iyi yapar.
Neler ters gidebilir
Birçok şey.
Platformlar bunu kendileri yapabilir. Google ve Apple işletim sistemine sahip. Bedava eklenen her şey bir girişimi silebilir. Daha güvenli bahis, uygulama yapanlara hizmet etmek. Platformların genelde başkalarına bıraktığı müşteri bu.
iPhone büyük ölçüde kapalı. AGI'nin uygulaması şimdilik yalnızca Android için. iOS'a ulaşan açık araçlar bir geliştirici kurulumu gerektiriyor. İşiniz iPhone'a ihtiyaç duyuyorsa, işiniz Apple'a bağlıdır.
Gizlilik. Oturum tekrarı, insanların ekranlarını kaydetmek demektir. Kişisel verileri maskelemeniz ve gerçek rıza almanız gerekir. Dokuzuncu sayfadaki bir onay kutusu yetmez.
Güven. Gallup ve Bentley University, Mayıs 2026'da Amerikalılara işletmelerin yapay zekayı sorumlu biçimde kullanacağına güvenip güvenmediklerini sordu. Yüzde 27'si evet dedi. Şimdi onlardan telefonlarını bir ajana teslim etmelerini isteyin.
Go on. Slide it.
Ve henüz yanıtlayamadığım bir soru var. Ödemeyi ilk kim yapacak? Daha iyi bir uygulama isteyen uygulama yapımcısı mı, yoksa daha iyi bir ajan isteyen yapay zeka laboratuvarı mı?
Bence uygulama yapımcısı. Uygulama yapıyorsanız, yanıldığımı düşünüyorsanız bana söyleyin.
Kaynaklar16
- Google says AI agents could transform how we use smartphones
- Google Develops Android AI Agents to Handle Smartphone Tasks
- AGI Inc.'s Android app can use your phone for you
- AGI, Inc. on AndroidWorld
- UI-TARS-2 Technical Report: Advancing GUI Agent with Multi-Turn Reinforcement Learning
- UI-TARS on GitHub
- Open-AutoGLM on GitHub
- UI-Venus on GitHub
- Mobilerun (formerly Droidrun) on GitHub
- MobileGym on GitHub
- MobileGym: A Verifiable and Highly Parallel Simulation Platform for Mobile GUI Agent Research
- UXCam mobile heatmaps
- UXCam mobile session replay
- Contentsquare
- Fullstory
- Americans cool toward AI (Bentley-Gallup Business in Society)