Optimus Tesla Botu, Kenar Bilişim İçin Güçlü Bir Cihaz Olabilir

Gavin Baker'ın tahminlerine göre, yaklaşık üç yıl içinde (2028-2029 civarı), daha büyük ve daha fazla DRAM'a sahip bir iPhone, Gemini 5 gibi gelişmiş bir yapay zeka modelinin (veya Grok 4.x / ChatGPT eşdeğeri) optimize edilmiş bir versiyonunu cihaz üzerinde 30-60 token/saniye hızında çalıştırabilecek. Bu, ücretsiz, özel ve çoğu kullanıcı için yeterli bir performans sunacak. Bu senaryoda, Apple'ın Neural Engine'i veya eşdeğeri NPU'su ile CPU/GPU'su, budanmış ve düşük bit hassasiyetine indirilmiş (örneğin 4-bit veya altı) bir Gemini 5 sınıfı modelin çalıştırılması hedefleniyor. Mevcut yüksek performanslı telefonlar, daha küçük modellerle zaten 10-50+ token/saniye hızlarına ulaşabiliyor. Baker, Tesla'nın AI5 sınıfı çipinin seri üretimine geçeceğini ve bu sistemlerin yaklaşık 250W güç tüketimiyle çok daha fazla belleğe sahip olacağını belirtiyor. Bu çip, araçlarda ve Optimus robotunda 2027-2028 ve sonrasında kullanılacak. Elon Musk, bu çipin iş yükleri için Blackwell seviyesinde çıkarım performansı sunacağını söylemişti. HW4'e kıyasla hesaplama gücünde 5-8 kat, bellekte 9 kat, bant genişliğinde 5 kat artış ve çok daha yüksek verimlilik bekleniyor. Daha fazla bellek, daha yüksek hassasiyet, daha büyük bağlam pencereleri veya daha az agresif budama imkanı sunacak. Bu sistemlerin, 100 GB'ın üzerinde bellek ve TB/s bant genişliği ile, 20-100+ token/saniye hızlarında etkileşimli ve sohbet odaklı yapay zeka iş yüklerini çalıştırabileceği öngörülüyor.