Canlı Yayın
Ersoy Soyer
Bu teknoloji ortaya muhteşem eserler ve sonuçlar çıkaracak olsa da bir başka yönüyle farklı tehditleri de ortaya çıkartabileceği aşikar. Kullanılan yapay zekanın çalışma mantığı; verdiğiniz komut dizisi sonrası, bir görüntü parazitiyle başlayan sürecin, görüntünün daha kararlı ve net bir hale getirilmesi prensibiyle çalışıyor. Süreç her seferinde daha da net bir görüntüye doğru iyileştirme yaparak ilerliyor.
Stability AI’ın açık kaynaklı bir kod olarak halka açık bir kullanıma sunulması; bunu iyi yönde kullanacaklara avantaj sağladığı gibi işin kötücül taraflarını planlayanlarının da önünü açacak gibi görünüyor. Bu algoritma gerçek olandan ayırt edilemeyecek görüntüler oluşturabiliyor ve süreci başlatmak için sadece birkaç kelime ile bir tanımlama yapmanız yeterli.
“Küçük Şirin Bir Kız “ veya “ Masum Bakan Erkek ” Başta bu basit görünen sözcükler bir yapay zeka ile birleştiğinde ne olabilir ki diyebiliriz. Peki ya isminiz, resminiz veya size ait hoş olmayan kelimeler seçerek tanımlamalar veriyor olsaydım? Muhtemelen vereceğim kötü kelimelerle yapay zeka kolayca sizin uygunsuz resimlerinizi de üretebilir.
Stability.AI şirket CEO’su Emad Mostaque her ne kadar oluşturdukları teknolojinin insanlık için yaratıcılığın önünü açtığını iddia etse de işler göründüğü gibi ilerlemeyebilir.
Google’ın Imagen’i henüz halka açık değil, Open.AI kişiler hakkında uygunsuz içeriklerin üretimi konusunda Dell-E2 aracı ile farklı önlemler almaya çalışıyor. Bazı şirketler kendi önemlerini planlarken aslında doğru yöne bakıyorlar. Fakat tamamen açık kaynak kodlu bir görüntü işleme yapay zekasının halka açılmasının, hayatımıza ne gibi olumsuz süreçler getireceğini de iyi hesaplamalıyız. Muhtemelen olumsuz sonuçlarını da birlikte deneyimleyerek göreceğiz.
Deepfake videoları, sosyal medya paylaşımları tarafında sıkça görmeye başladınız, 2019 yılında Sensity.AI tarafında yapılan araştırma sonuçlarına göre; üretilen içeriklerin %96’sı rıza dışı kötücül içerikler olarak raporlanmış durumda. Bu sebeple metinden görüntüye geçişe aracılık eden yapay zeka formları, muhtemelen daha büyük tehlikeleri ve tehditleri oluşturmaya hazır bir şekilde kapımızda bekliyorlar. Kadınların ve özellikle küçük çocukların illegal bir şekilde, yapay zekâ altyapısı kullanılarak oluşturulmuş sapkın görüntülerinin; psikolojik şiddet, tehdit ve şantaj amaçlı kullanılması oldukça olası görünüyor. Açık kaynak kodlu bu altyapıların çok önemli bir eşiği geçtiğini söyleyebiliriz. Bu konuda biz ne yapabiliriz diye düşünmeye başlamak sanırım şimdiden önemli olacak.
Yapay zekâ formlarının negatif kullanımları yaygınlaştıkça, paylaşımlarımızın niteliğini ve işlerin nereye ulaşabileceğini iyi düşünmeli, gençleri, kadınlar ve çocuklarımızı özellikle bu konuda fazlaca bilinçlendirmek zorundayız gibi görünüyor.
Bu teknoloji ortaya muhteşem eserler ve sonuçlar çıkaracak olsa da bir başka yönüyle farklı tehditleri de ortaya çıkartabileceği aşikar. Kullanılan yapay zekanın çalışma mantığı; verdiğiniz komut dizisi sonrası, bir görüntü parazitiyle başlayan sürecin, görüntünün daha kararlı ve net bir hale getirilmesi prensibiyle çalışıyor. Süreç her seferinde daha da net bir görüntüye doğru iyileştirme yaparak ilerliyor.
Stability AI’ın açık kaynaklı bir kod olarak halka açık bir kullanıma sunulması; bunu iyi yönde kullanacaklara avantaj sağladığı gibi işin kötücül taraflarını planlayanlarının da önünü açacak gibi görünüyor. Bu algoritma gerçek olandan ayırt edilemeyecek görüntüler oluşturabiliyor ve süreci başlatmak için sadece birkaç kelime ile bir tanımlama yapmanız yeterli.
“Küçük Şirin Bir Kız “ veya “ Masum Bakan Erkek ” Başta bu basit görünen sözcükler bir yapay zeka ile birleştiğinde ne olabilir ki diyebiliriz. Peki ya isminiz, resminiz veya size ait hoş olmayan kelimeler seçerek tanımlamalar veriyor olsaydım? Muhtemelen vereceğim kötü kelimelerle yapay zeka kolayca sizin uygunsuz resimlerinizi de üretebilir.
Stability.AI şirket CEO’su Emad Mostaque her ne kadar oluşturdukları teknolojinin insanlık için yaratıcılığın önünü açtığını iddia etse de işler göründüğü gibi ilerlemeyebilir.
Google’ın Imagen’i henüz halka açık değil, Open.AI kişiler hakkında uygunsuz içeriklerin üretimi konusunda Dell-E2 aracı ile farklı önlemler almaya çalışıyor. Bazı şirketler kendi önemlerini planlarken aslında doğru yöne bakıyorlar. Fakat tamamen açık kaynak kodlu bir görüntü işleme yapay zekasının halka açılmasının, hayatımıza ne gibi olumsuz süreçler getireceğini de iyi hesaplamalıyız. Muhtemelen olumsuz sonuçlarını da birlikte deneyimleyerek göreceğiz.
Deepfake videoları, sosyal medya paylaşımları tarafında sıkça görmeye başladınız, 2019 yılında Sensity.AI tarafında yapılan araştırma sonuçlarına göre; üretilen içeriklerin %96’sı rıza dışı kötücül içerikler olarak raporlanmış durumda. Bu sebeple metinden görüntüye geçişe aracılık eden yapay zeka formları, muhtemelen daha büyük tehlikeleri ve tehditleri oluşturmaya hazır bir şekilde kapımızda bekliyorlar. Kadınların ve özellikle küçük çocukların illegal bir şekilde, yapay zekâ altyapısı kullanılarak oluşturulmuş sapkın görüntülerinin; psikolojik şiddet, tehdit ve şantaj amaçlı kullanılması oldukça olası görünüyor. Açık kaynak kodlu bu altyapıların çok önemli bir eşiği geçtiğini söyleyebiliriz. Bu konuda biz ne yapabiliriz diye düşünmeye başlamak sanırım şimdiden önemli olacak.
Yapay zekâ formlarının negatif kullanımları yaygınlaştıkça, paylaşımlarımızın niteliğini ve işlerin nereye ulaşabileceğini iyi düşünmeli, gençleri, kadınlar ve çocuklarımızı özellikle bu konuda fazlaca bilinçlendirmek zorundayız gibi görünüyor.
SON DAKİKA
