OpenAI bu karar ile şaşırttı

OpenAI bünyesinde amacı insanlığı yapay zekaya karşı korumak olan takım artık yok.

Haberin Devamı

Haberin Devamı

Haberin Devamı

Haberin Devamı

2023 yazında OpenAI, amacı insanlığın yok olmasına yol açabilecek kadar güçlü olabilecek gelecekteki yapay zeka sistemlerini yönlendirmek ve kontrol etmek olan bir “Süper Hizalama” isimli bir ekip oluşturmuştu. Ancak bir yıldan az bir süre sonra o takım artık kapatıldı, yani artık insanlığı koruyacak bir takım yok. OpenAI, Bloomberg’e “şirketin güvenlik hedeflerine ulaşmasına yardımcı olmak için grubu daha da derinlemesine entegre ettiğini” söyledi. Ancak yakın zamanda istifa eden ekip liderlerinden biri olan Jan Leike’nin bir dizi tweet’i, güvenlik ekibi ile büyük şirket arasındaki iç gerilimi ortaya çıkardı.

Cuma günü X’te yayınlanan bir açıklamada Leike, Superalignment ekibinin araştırma yapmak için mücadele ettiğini söyledi. Leike, “İnsandan daha akıllı makineler üretmek doğası gereği tehlikeli bir çabadır” diye yazdı. “OpenAI tüm insanlık adına çok büyük bir sorumluluk taşıyor. Ancak geçtiğimiz yıllarda güvenlik kültürü ve süreçleri parlak ürünlerin gerisinde kaldı.” OpenAI, Engadget’tan gelen yorum talebine hemen yanıt vermedi.

Leike’nin bu haftanın başlarında ayrılması, şirketin baş bilim lideri Sutskevar’ın şirketten ayrıldığını açıklamasından birkaç saat sonra geldi. Sutskevar, Superalignment ekibinin liderlerinden biri olmasının yanı sıra şirketin kurulmasına da yardımcı oldu. Sutskevar’ın hareketi, CEO Sam Altman’ı kovma kararına dahil olmasından altı ay sonra geldi.