GPU kıtlığı, GPT-4.5’in gecikmesine neden oldu

KAYNAKDonanım Günlüğü

OpenAI’nin yeni GPT-4.5 modelini kademeli olarak piyasaya sürmesinin arkasındaki ana sebep, GPU çiplerinin tükenmiş olması.

Haberin Devamı

GPU’lar, AI modellerinin eğitimi ve verilerin işlenmesinde büyük rol oynar çünkü paralel işleme yetenekleri, AI’nın matris işlemleri gibi karmaşık hesaplamaları çok daha hızlı ve verimli bir şekilde yapabilmesini sağlar. Bu, CPU’ların sıralı işleme yönteminden farklı olarak, GPU’ları AI hesaplamalarına daha uygun hale getiriyor.

Sam Altman’ın tweet’inde belirttiği gibi, yeni model yalnızca ChatGPT Pro kullanıcıları için mevcut ancak GPU’lar yeniden tedarik edildiğinde, ChatGPT Plus kullanıcıları da bu avantajlardan yararlanabilecek. Ancak GPU’lar tıpkı yazıcı mürekkebi almak gibi kolayca tedarik edilebilecek bir şey değil, bu nedenle OpenAI, kendi çiplerini geliştirmeyi düşünerek bu duruma karşı daha az savunmasız kalmayı hedefliyor.

Altman, GPT-4.5’in “farklı bir zeka türü” sunduğuna ve bunun daha önce hissetmediği bir “sihir” olduğunu belirtiyor. Ancak, bu yeni modelin akıl yürütme kapasitesinin ve yeni ölçüt rekorlarının çok farklı olmayacağını da vurguluyor.

Yine de, GPT-4.5’in maliyetinin son derece yüksek olduğu belirtiliyor: Milyon girdi belirteci başına 75 dolar ve milyon çıktı belirteci başına 150 dolar. Bu, önceki GPT-4o modelinin maliyetinin çok daha yüksek olduğu bir farkı gösteriyor. Örneğin, GPT-4o’nun maliyeti milyon girdi belirteci başına sadece 2,50 dolar ve milyon çıktı belirteci başına 10 dolar.

Haberin Devamı

Bütün bu gelişmeler, NVIDIA’nın son yıllarda ciddi şekilde değer kazanmasının nedenlerinden birini oluşturuyor. AI ve özellikle büyük dil modellerine olan yüksek talep, NVIDIA’nın çiplerine olan ilgiyi artırdı ve bu çiplerin fiyatları ve değerleri de hızla yükseldi. Bu durum, NVIDIA’nın finansal başarısını açıklayan önemli bir etken