OpenAI, yeni bir koruma kalkanını devreye aldı

Kötü niyetli komutlara karşı geliştirilen Lockdown modu sayesinde hassas veriler sıkı koruma altına giriyor.

OpenAI’ın açıklamasına göre Lockdown özelliği, internet sayfalarına gizlenmiş zararlı yönlendirmelere karşı kullanıcılara ekstra bir zırh sağlıyor. Prompt Injection isimli bu sinsi saldırılar sohbet botunu kandırarak sistemdeki önemli bilgileri dışarı sızdırmayı hedefliyor. Yeni geliştirilen güvenlik katmanı ise tam da bu noktada devreye girip veri sızıntısı riskini ciddi oranda düşürüyor.

Bu koruma kalkanı aktif edildiğinde bazı işlevler mecburen kısıtlanıyor. Web araması durduruluyor, sadece önbelleğe alınmış, başka bir deyişle daha önceden hafızaya kaydedilmiş eski içeriklere ulaşılabiliyor. Bunun yanında derin araştırma ve ajan modu gibi beceriler de askıya alınıyor. Ancak kullanıcılar tüm sınırlamalara rağmen yapay zeka ile görsel üretme imkanına sahip.

Kapsamlı önlemlere rağmen Lockdown modu tamamen aşılmaz bir kale değil. OpenAI, mod açıkken bile önceden kaydedilmiş web sayfalarındaki veya yüklenen dosyalardaki gizlenmiş tehlikeli komutların yapay zekayı yanıltabileceğini belirtiyor.

Haberlerimizi Google'da takip edin

En güncel haberlere ve son dakika gelişmelerine Google üzerinden anında ulaşmak için bizi favorilerinize ekleyin.

Google’da tercih edilen kaynak olarak ekleyin

Zaten bu gelişmiş korumanın her kullanıcı için tasarlanmadığının da altı çizildi. Özellik doğrudan kritik verilerle çalışan ve güvenlik duvarını çok daha sıkı tutmak isteyen kurumları hedefliyor. Söz konusu güvenlik güncellemesi şimdilik ChatGPT Business hesapları ile kriterleri karşılayan bazı bireysel kullanıcılara kademeli olarak açıldı.