AI Güvenliği Bir Fikir Çevresinden Kuruma Dönüştü

Görsel: Gezdiren için yapay zekâ ile üretildi.

Berkeley'deki Lighthaven'da her salı akşamı bir grup insan Eliezer Yudkowsky'nin The Sequences yazılarını okuyor. New York Times bu çevreyi anlatırken “Silikon Vadisi'nin tekno-dini” başlığını kullandı. Başlık ilgi çekiyor; fakat teknoloji açısından daha önemli gelişmeyi biraz örtüyor.

Rasyonalist çevre ortak metin okuyan bir topluluk olarak kalmadı. Yapay zekâ güvenliği için araştırmacı yetiştiren, toplantı düzenleyen, proje finanse eden ve şirketlerle düşünsel bağ kuran bir altyapıya dönüştü.

Teknoloji açısından izlenmesi gereken şey üyelik listesi değil, fikirlerin laboratuvarlara, işe alım yollarına ve güvenlik yöntemlerine nasıl taşındığı.

İnternet forumundan araştırma gündemine

LessWrong, 2000'lerin sonundan itibaren olasılıklı düşünme, bilişsel yanılgılar ve yapay zekâ riskleri üzerine tartışmaların toplandığı bir çevrim içi merkez oldu. Yudkowsky'nin temel iddiası, insanüstü yeteneklere ulaşan bir sistemin hedeflerinin insan çıkarlarıyla kendiliğinden uyumlu olmayacağıydı.

Bu probleme bugün genel olarak *alignment*, yani hizalama deniyor. Terim, yapay zekâ sisteminin amaç ve davranışlarının insanların istediği sınırlar içinde kalmasını anlatıyor. Kavram çoktan LessWrong çevresini aştı. Büyük laboratuvarların güvenlik ekipleri, modellerin aldatma, güç arama, denetimden kaçma veya yüksek riskli görevlerde hata yapma ihtimalini farklı yöntemlerle ölçüyor.

Anthropic'in güvenlik yaklaşımı buna iyi bir örnek. Şirket, çok güçlü modellerin güvenilir biçimde nasıl eğitileceğinin henüz bilinmediğini ve hızlı rekabetin güvenilmez sistemleri erken kullanıma sokabileceğini yazıyor. Çalışma programında mekanik yorumlanabilirlik, ölçeklenen denetim, değerlendirme ve süreç odaklı öğrenme gibi teknik başlıklar var.

Yani başlangıçtaki felsefi endişe, laboratuvarda test edilebilir sorulara bölünmüş durumda.

Bina kadar önemli olan ağ

Lighthaven'ın vitrayları ve Bayes adını taşıyan binası din benzetmesini besliyor. Teknik açıdan daha belirleyici olan ise burada yapılan programlar ve kurulan temaslar.

Kampüs konferanslara, araştırmacılara ve yapay zekâ güvenliği programlarına ev sahipliği yapıyor. MATS gibi programlarda genç araştırmacılar alanın deneyimli isimleriyle çalışabiliyor. Bu tür yapılar akademik programların yerini bütünüyle almıyor; fakat klasik üniversite yolu dışında hızlı bir giriş kapısı oluşturuyor.

Bir araştırma alanının yönünü en iyi makaleler tek başına belirlemez. İnsanların hangi sorularla tanıştığı, kiminle çalıştığı, ilk fonu nereden aldığı ve hangi problemi kariyer yapmaya değer gördüğü de önemlidir.

Rasyonalist çevrenin etkisini “OpenAI ve Anthropic bu hareketin mensubudur” diye anlatmak doğru olmaz. Şirketler tek bir düşünce topluluğundan oluşmuyor; çalışanların da aynı risk tahminini paylaştığı söylenemez. Fakat AI güvenliği dilinin bazı temel soruları, bu çevrenin yıllardır tartıştığı problemlerle açık biçimde kesişiyor.

Kıyamet dili teknik farkları siliyor

“Yapay zekâ insanlığı yok edecek” cümlesi, çok farklı riskleri aynı başlıkta topluyor. Bir modelin yanlış tıbbi bilgi üretmesiyle, otonom silah kullanımının yayılmasıyla ve gelecekteki insanüstü bir sistemin denetimden çıkması aynı teknik problem değil.

Kıyamet ihtimali konuyu ciddiye aldırıp uzun vadeli güvenlik araştırmasına kaynak açabilir. Aynı dil, yakın ve ölçülebilir sorunları daha büyük ama daha belirsiz bir gelecek senaryosunun gölgesinde de bırakabilir.

İyi güvenlik çalışması bu iki ucu ayırmak zorunda. Bir iddia modele karşı kurulmuş gerçek bir deneyle mi destekleniyor? Ölçülen davranış bugünkü sistemlerde mi görüldü, yoksa gelecekteki yetenekler üzerine bir varsayım mı? Riskin ihtimali ile gerçekleştiğinde doğuracağı zarar ayrı ayrı mı değerlendirildi?

Anthropic'in güvenlik araştırmaları bu ayrımın neden gerekli olduğunu gösteriyor. Şirket 2026'da, yapay zekâ geliştirme çalışmalarında kullanılan modellerin araştırmayı sabote etme ihtimalini özel denetimlerle sınayan bir çalışma yayımladı. Bu, “AI tehlikeli olabilir” cümlesini somut bir test düzenine çeviriyor: Sisteme sabotaj davranışı kazandırılıyor, ardından denetim yöntemlerinin bunu yakalayıp yakalamadığı ölçülüyor.

Teknik ilerleme burada başlıyor. Büyük korku, sınanabilir küçük soruya dönüştüğünde.

Rasyonalistleri din sayıp saymamak dinler tarihinin sorusu. Teknoloji açısından daha somut sonuç şu: Küçük bir internet çevresi, yapay zekâ endüstrisinin merkezi araştırma başlıklarından birini yıllar öncesinden ısrarla taşıdı. Ardından metin, toplantı, eğitim, fon ve kariyer ağı kurdu.

Bu başarı, bütün iddialarının doğru olduğunu kanıtlamaz. Bir fikrin kurumsallaşması bilimsel doğrulama değildir. Fakat hangi soruların laboratuvara gireceğini ve hangi risklerin yönetim katında konuşulacağını etkiler.

Lighthaven'ın teknoloji dünyasındaki ağırlığı, bir düşünceyi araştırma programına çevirebilmesinden geliyor. Bundan sonraki eşik şu olacak: Topluluk içinde güçlü bulunan anlatılar dışarıdan denetlenebilen testlere ve açık yönetişim kurallarına dönüşebiliyor mu?

Kıyamet senaryosu dikkat toplar. Güvenliği ise ölçüm, tekrar ve kurum kurar.