Kıyameti Tarif Eden Yetkiyi de Topluyor

Görsel: Gezdiren için yapay zekâ ile üretildi.

Bir grup insan yapay zekânın insanlığı yok edebileceğini düşünüyor. Buna karşılık ne yapıyorlar? Metin okuyor, araştırmacı yetiştiriyor, şirket kuruyor, fon dağıtıyor, konferans düzenliyor ve yapay zekâ laboratuvarlarının güvenlik gündemine etki ediyorlar.

New York Times bu çevreye “Silikon Vadisi'nin tekno-dini” dedi. Renkli bir benzetme. Fakat bir tehlikeyi tarif edenler, o tehlike karşısında hangi işin önemli sayılacağını da belirlemeye başlıyor.

Teşhis, yetki üretiyor.

En büyük risk, en büyük önceliği getiriyor

Kaynaklar sınırlıdır. Para, araştırmacı zamanı, hesaplama kapasitesi ve siyasi dikkat aynı anda her probleme ayrılamaz. Hangi riskin daha büyük olduğuna dair hüküm, bu kaynakların nereye gideceğini değiştirir.

Eğer yapay zekânın insanlığı yok etme ihtimalini yakın ve yüksek görüyorsanız, bugünkü birçok sorun gözünüzde küçülür. İş kaybı, telif hakkı, enerji tüketimi, ayrımcı otomasyon veya birkaç şirketin veri gücü önemli olabilir; fakat insan türünün sonuyla kıyaslanınca ikinci sıraya düşer.

Bu mantık kendi içinde tutarlı. Başlangıçtaki ihtimal ise teknik bir ölçümden ibaret değil. Gelecekteki sistemlerin ne kadar hızlı güçleneceği, hangi hedefleri geliştireceği ve denetimden nasıl çıkacağı hakkında bir dizi varsayım içeriyor. Varsayımlar değiştikçe öncelik sırası da değişir.

Büyük risk anlatısı itirazın maliyetini yükseltir. Size “Bu ihtimali fazla büyütüyorsunuz” diyen kişi, yanıldığında kötü bir yatırım yapmış olmayacak; insanlığın sonunu hafife almış olacaktır.

Kıyamet iddiası korkuyla beraber tartışmada ahlaki üstünlük üretir.

Para problemi de seçer

Rasyonalist ve Etkili Özgecilik çevreleri yıllar içinde araştırma laboratuvarlarına, düşünce kuruluşlarına ve eğitim programlarına büyük kaynak aktardı. Lighthaven bugün yaklaşık 30 bin fitkarelik, yani 2.800 metrekare civarında bir kampüs olarak konferanslara ve araştırmacılara ev sahipliği yapıyor. New York Times'ın aktardığı mülk kayıtlarına göre yerleşke yaklaşık 16,5 milyon dolara satın alındı.

Para kirli, fikir temiz gibi bir ayrım kuramayız. Araştırma pahalıdır. İnsan yetiştirmek, toplantı mekânı kurmak ve uzun vadeli güvenlik problemleri üzerinde çalışmak kaynak gerektirir.

Fonlama aynı zamanda alanın sınırlarını çizer. Hangi soru için burs bulunduğu, hangi konferansın düzenlendiği ve hangi kariyer yolunun genç araştırmacıya açık olduğu, “önemli problem” tanımını tekrar tekrar güçlendirir.

Bir çevre önce geleceğin en büyük riskini tarif ediyor. Sonra bu riski çalışacak insanları seçiyor. Ardından onların ürettiği araştırmalar, başlangıçtaki riskin teknoloji dünyasında daha görünür hale gelmesini sağlıyor.

Kapalı bir komplodan söz etmiyorum. Bu kurumların normal çalışma biçimi ve gücü de buradan geliyor.

FTX dersi fikirden önce denetim hakkındaydı

Etkili Özgecilik hareketinin en görünür destekçilerinden Sam Bankman-Fried, FTX müşterilerini milyarlarca dolar dolandırmaktan 25 yıl hapis cezası aldı. 2026'da temyiz mahkemesi mahkûmiyeti onadı.

Buradan “Etkili Özgecilik yanlıştır” sonucu çıkmaz. Bir hareketin kötü bir mensubu felsefi iddiayı çürütemez. Rahatsız edici taraf başka yerde.

İyi amaç denetimin yerine geçtiğinde kötü işaretler daha kolay gözden kaçabilir. Kişi gelecekte çok büyük fayda üreteceğine inanıyorsa bugünkü yöntemlerini geçici kusur sayabilir. Çevresi aynı büyük amaca yatırım yaptıysa şüpheyi ortak projeye yönelmiş bir tehdit gibi algılayabilir.

FTX dosyasında bir felsefe değil, dolandırıcılık yargılandı. Olay yine de “en fazla iyiliği üretme” iddiasının sağlam muhasebe ve dış denetim olmadan güvence sunmadığını gösterdi.

Uzak geleceği hesaplamak, bugünkü kasayı kontrol etmeyi gereksiz kılmıyor.

Tuhaflık bizi yanlış yere baktırıyor

Rasyonalist çevreyle alay etmek kolay. Roko'nun Basiliski, gündönümü şarkıları, Bayes House, insanüstü zekâ ve yok oluş ihtimalleri dışarıdan bakınca bilimkurgu kulübü gibi görünebilir.

Bu görüntü bizi yanlış yere baktırır. Büyük yapay zekâ şirketleri güvenlik yöntemleri geliştiriyor, modellerin tehlikeli yeteneklerini ölçüyor ve güçlü sistemlerin denetimi için yeni kurallar tartışıyor. Risk uydurma değil. Teknoloji tarihinde küçük çevrelerin erken gördüğü birçok problem de sonradan merkeze yerleşti.

Bir çevrenin kendi risk hesabını kamusal kararın yerine koyabilmesi, gündönümü şarkılarından daha ciddi.

İnsanlık adına konuşan her yapı üç soruya cevap vermeli: Risk tahminini kim sınayabiliyor? Kaynak dağıtımına kim itiraz edebiliyor? Bugünün maliyetini kim taşıyor?

Bu sorulara cevap vermeyen bir güvenlik hareketi, bizi yapay zekânın keyfî kararlarından korumaya çalışırken kendi keyfî karar alanını kurabilir.

Yapay zekâ kıyameti gerçekleşmeyebilir. Güç yoğunlaşması içinse beklememiz gerekmedi. Tartışmayı din benzetmesinden çıkarıp yetkiye getirmek gerekiyor.