Bilim insanları ve önemli teknoloji isimleri AI laboratuvarlarını uyardı…

1.100’den fazla kişi, tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka varlıkları eğitimini en az altı ay sürmeye çağırmayan açık bir mektup gönderdi. Tanınan ve önemli imzalar arasında bilgisayar bilimcilerinin yanı sıra Steve Wozniak, Evan Keskin, Elon Musk gibi teknoloji alanında önemli isimler bulunuyor.

Açık mektup, “insan-rekabetçi zekaya” Sahip modern zeka yapıları toplumumuz için risk oluşturabileceği konusunda uyarıyor. Gerekli olan planlama ve yönetimin eksik olduğunu belirtiyor ve son aylarda yapay zeka laboratuvarlarının, hiç kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin fantezisi veya güvenilir bir şekilde kontrol etmekten daha güçlü dijital zihinler geliştirme ve dağıtmak için kontrol dışı bir yarışa kilitlenmekte” iddiası veriyor: “Çağdaş yapay zeka sistemleri artık genel görevlerde rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda dışarıdan sayıca üstün olabilir, zekaca üstün olabilir, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirebilir miyiz? Medeniyetimizin hazinesini kaybetme riskini almalı mıyız? Bu tür kararları idealmiş teknoloji liderlerine devredilmemelidir.”

Mektup, duraklamanın halka duyurulması, tüm önemli unsurları içermesi ve doğrulanabilir olması gerektiğini söylüyor. Bu noktada, böyle bir duraklama hızlı bir şekilde yasalaştırılmazsa, hükümetin bir moratoryum başlatması gerektiğini de ekliyor. Ayrıca mektup, laboratuvarlardan genel olarak yapay zeka geliştirmelerini duraklatmalarını istemediğini, ancak “sadece tehlikeli yarıştan, yeni ortaya çıkan yeteneklere sahip, her geçecek daha büyük, öngörülemeyen kara kutu modellerinden geri adım atılmasınıdiyerek vurguluyor.

Ayrıca, bekleme süresi yapay zeka laboratuvarı ve bağımsız uzman tarafından iş birliği yapmak ve “gelişmiş yapay zeka tasarımı ve geliştirmesi için görüntülemeler denetlenmiş bir dizi yapıları güvenlik protokolüoluşturmak için kullanılabileceği de belirtiliyor. Mektup, OpenAI’den yapılan bir görüşmenin alıntıları yaparken, imzacılar listesi, kurucu üyeler arasında yer alan Musk dışında araştırma laboratuvarından kimseyi içermiyor.