Reddit’te skandal!

KAYNAKDonanım Günlüğü

Zürih Üniversitesi’nden bir grup araştırmacı Reddit’in popüler topluluklarından birinde aylardır gizli ve izin alınmamış bir deney yaptı.

Haberin Devamı

Reddit’in en popüler subreddit’lerinden biri olan changemyview, modlar tarafından ortaya çıkartılan yapay zeka deneyiyle çalkalanıyor. Zürih Üniversitesi’nde görevli olan bir araştırma ekibi, yapay zeka (LLM/Büyük Dil Modeli) tarafından oluşturulmuş yorumları changemyview topluluğunda kullandı. Amaç yapay zekanın insanları ne kadar etkileyip, fikirlerini değiştirebileceğini araştırmaktı. Fakat topluluk moderatörleri olayın ne olduğunu anladı ve müdahale etti.

Deney ‘farkında olmayan kullanıcılar üzerinde psikolojik manipülasyon’ olarak tanımlanıyor.Changemyview, 3.8 milyon kadar üyeye sahip olan ve sıklıkla Reddit’in ana sayfasında bulunan bir subreddit. Araştırmanın yapılması için ideal bir yer. Moderatörlerin açıklamalarına göre yapay zekayla yapılmış yorumlar cinsel saldırı mağduru, istismar konusunda uzman bir danışman, Black Lives Matter’a karşı olan siyahi bir adam gibi çeşitli sahte kimliklerle yazıldı. Orijinal yorumların çoğu silinmiş olsa da bir kısmı halen 404 Media’nın arşivinde yer alıyor.

Araştırmacılara göre yapay zekanın ürettiği yanıtlar veya yaptığı yorumlar, gönderi sahiplerine göre özelleştirilmiş. Daha açıklayıcı olursak yapay zeka, kullanıcının önceki gönderilerini analiz edip; cinsiyet, yaş, etnik köken, konum ve siyasi görüş gibi kişisel özellikleri elde edip, buna göre cevaplar vermiş. Anlaşılan oldukça detaylı bir iş yapılmış.

Haberin Devamı

Changemyview moderatörleri, araştırmacıların kuralları ihlal ettiğini söyledi. Yapay zeka kullanımının açıkça belirtilmesi gerekiyor, ayrıca bot kullanımı da yasak. Moderatörler, Zürih Üniversitesi’ne resmi şikayette bulunduklarını ve araştırmanın yayınlanmamasını talep ettiklerini açıkladı. Bununla birlikte Reddit yönetimi de yasal yollara başvurduklarını ifade etti. Popüler topluluğun Hukuk Sorumlusu Ben Lee, “Bu deney ahlaki ve hukuki açıdan son derece yanlış. Platformdaki kurallar ihlal edildi. Zürih Üniversitesi ile bağlantılı tüm hesaplar yasaklandı. Sahte hesapları tespit etmek için sistemimizi güçlendireceğiz ve yapay zeka içeriklerinin hepsi kaldırıldı” dedi.

Lee bunlarla birlikte Zürih Üniversitesi ve araştırma ekibine resmi bildirim gönderdiklerini sözlerine ekledi ve gizlice deney yapan ekibin hesap vermesi için ellerinden geleni yapacaklarını vurguladı.

Araştırma ekibi ise Reddit’te ve makale taslaklarında, gerçekleştirilen deneyin üniversite tarafından onaylandığını ve bu tür çalışmaların gelecekte yapay zekanın kötüye kullanımını engellemeye yardımcı olabileceğini savunuyor. Zürih Üniversitesi sözcüsü de gelecekte daha sıkı bir denetim süreci uygulayacaklarını belirtti.