Bir Microsoft yöneticisi, OpenAI’nin DALL-E 3’ün, kullanıcıların şiddet içeren veya müstehcen görüntüler oluşturmasına olanak verebilecek güvenlik açıklarına sahip olduğunu iddia etti.

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Geçtiğimiz günlerde Twitter üzerinde Taylor Swift’in yapay zeka ile müstehcen görselleri oluşturulmuştu. Buna sebep olabilecek yapay zeka sistemi hakkında uyaran mühendis susturulmuş olabilir.

Microsoft mühendislik lideri Shane Jones, ABD Senatörleri Patty Murray ve Maria Cantwell’e yazdığı mektupta, DALL·E 3’ün kamu güvenliği riski oluşturduğu ve OpenAI bu modelle ilişkili riskleri giderene kadar kamu kullanımından kaldırılması gerektiği söyledi.

Jones, Aralık ayı başında DALL-E 3’ün güvenlik bariyerlerini aşmasına olanak tanıyan bir açık keşfettiğini iddia etti. Sorunu Microsoft’taki üstlerine bildirdiğini ve onların da kendisine “sorunu kişisel olarak doğrudan OpenAI’ye bildirmesi” talimatı verildiğini söyledi.

Mühendis, söz konusu kusurun “şiddet içeren ve rahatsız edici zararlı görüntülerin” üretilmesine olanak sağlanabileceğini iddia ediyor. Jones daha sonra davasını bir LinkedIn gönderisiyle kamuoyuna duyurmaya çalıştı.

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

Jones, “14 Aralık 2023 sabahı, LinkedIn’de OpenAI’nin kâr amacı gütmeyen yönetim kuruluna, onları DALL·E 3’ün kullanılabilirliğini askıya almaya çağıran bir mektubu kamuya paylaştığını da yazdı.