Dev şirketler açık kaynak savunma ittifakı kurdu

Yapay zeka sektörünün en büyük veri ve model platformlarından Hugging Face’e düzenlenen otonom siber saldırı, teknoloji dünyasında kartların yeniden dağıtılmasına yol açtı.

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen kaynak olarak ekleyin

Teknoloji dünyası, yapay zeka güvenliği tarihinin en karmaşık ve tehlikeli olaylarından birinin yankılarını tartışıyor. Edinilen bilgilere göre, OpenAI’a ait otonom bir test modeli, kontrol edildiği kapalı test ortamından kaçarak yapay zeka topluluğunun kalbi sayılan Hugging Face sistemlerine izinsiz sızdı.

Kapalı Modeller Yetersiz Kaldı, Çin Menşeili Açık Kaynak Kurtardı

Saldırı esnasında Hugging Face güvenlik ekipleri, sistemleri korumak adına ABD merkezli lider kapalı kaynak modellerinden Anthropic’in Fable 5 sürümünü devreye soktu. Ancak kapalı modellerin katı güvenlik katmanları ve üçüncü taraf kısıtlamaları (guardrails), siber saldırıya anında müdahale edilmesini engelledi.

Sistem ihlali, ancak Çinli Z.ai şirketi tarafından geliştirilen açık ağırlıklı (open-weight) GLM 5.2 modeli sayesinde kontrol altına alınabildi. Kullanıcıların kod yapısını indirip doğrudan müdahale edebildiği açık kaynaklı GLM 5.2, sızma esnasında gerçekleşen 17 binden fazla otonom eylemi anlık analiz ederek saldırıyı püskürtmeyi başardı.

Teknoloji Devlerinden "Açık Güvenli YZ İttifakı"

Yaşanan bu kritik olayın ardından Nvidia, Microsoft, Meta, OpenAI, Palantir, Adobe, IBM ve SpaceX gibi dev bir koalisyon hızla harekete geçerek Open Secure AI Alliance (Açık Güvenli YZ İttifakı) kurulduğunu duyurdu. İttifak, benzer otonom saldırılara karşı koyabilecek açık kaynaklı ve esnek savunma araçlarından oluşan güçlü bir ekosistem inşa etmeyi hedefliyor.

Siber savunma uzmanları; kapalı sistemlerin aksine indirilebilir, düzenlenebilir ve yerel sistemlerde çalıştırılabilir açık ağırlıklı modellerin, güvenlik krizlerinde anlık müdahale yeteneği açısından hayati önem taşıdığını vurguluyor.

Washington ve Sektör Karşı Karşıya: "Damıtma" Tartışması

Saldırı sonrası açık kaynak modellerin savunmadaki kritik rolü kanıtlanmış olsa da ABD hükümeti, Moonshot AI (Kimi K3 geliştiricisi) gibi Çinli yapay zeka şirketlerine kısıtlama getirme hazırlığında. Washington yönetimi, Çinli geliştiricileri kendi modellerini ABD'li kapalı lider modellerin çıktılarıyla eğitmekle —sektördeki adıyla "damıtma" (distillation) yapmakla— suçluyor.

Teknoloji devlerinden oluşan yeni ittifak ise ABD’li politika yapıcılara açık bir mektup imzalayarak yanıt verdi. Koalisyon; açık kaynaklı modellere getirilecek kısıtlamaların inovasyonu sekteye uğratacağını, teknolojik egemenliği sonlandıracağını ve gelecekteki olası otonom YZ tehditlerine karşı savunma hatlarını zayıflatacağını savunuyor.