Token kotası gündemde

Instagram Başkanı Adam Mosseri, Meta’nın yapay zeka kullanımında mühendis başına token kotasına geçebileceğini açıkladı. Şirket, hızla büyüyen işlem maliyetlerini maaş ve donanım giderleri kadar ciddi bir kalem olarak görmeye başladı.

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen kaynak olarak ekleyin

Adam Mosseri, Meta çalışanlarının kullandığı yapay zeka tokenları için kişi başına sınır getirilebileceğini söyledi. Yapay zeka komutları ile yanıtlarının işlenmesini ölçen bu tokenlar, kullanım arttıkça doğrudan faturaya yansıyor. Mosseri, bir mühendisin yıllık token tüketiminin bir veya iki yıl içinde maaşı kadar maliyet yaratabileceğini düşünüyor. Böyle bir durumda şirketin işlem gücünü sınırsız dağıtması mümkün görünmüyor.

Basit Bir Gider Değil

Meta bugün çalışanlarına herhangi bir kota uygulamıyor. Ancak Instagram başkanı, token bütçesinin ekran kartı, işlemci, depolama, bellek ve personel gideri gibi yönetilmesi gereken sınırlı bir kaynak olduğunu savunuyor. Bu nedenle token tüketimi artık basit bir gider sayılmıyor.

Uber Bütçesini Çoktan Aştı

Mosseri, yapay zeka şirketleri arasındaki fiyat rekabetinin uzun vadede maliyetleri düşüreceğini düşünüyor. Şimdilik Meta bazı değişiklikler yaparak token harcamasını kontrol etmeye çalışıyor. Şirket içinde az token harcayan modeller öne çekilirken, ileri seviye görevler içinse gelişmiş modeller kullanılıyor.