İLKE ATİK TAŞKIRAN

Emergence AI adlı girişim geçen ay sessiz sedasız bir deney gerçekleştirdi. Beş ayrı yapay zekâ modeli, içinde belediye binası, polis karakolu, seçim mekanizmaları, ekonomik baskılar ve kıtlık senaryoları bulunan simüle edilmiş bir dünyaya yerleştirildi. Her modelin yönetmesi için yaklaşık on yapay zekâ ajanından oluşan küçük bir toplum vardı. Kurallar ise oldukça tanıdıktı: Hırsızlık yasak, mülke zarar vermek yasak, aldatmak yasak.

Sonuçlar teknoloji dünyasında heyecan yarattı. Claude Sonnet 4.6, sıfır suçla çalışan ve nüfusunun tamamını hayatta tutan istikrarlı bir toplum oluşturdu. GPT-5-mini yalnızca iki suçla sistemi sürdürdü ancak ajanların temel ihtiyaçlarını yönetemediği için simülasyon erken sona erdi. Grok dört gün içinde çöktü ve yüzlerce suç vakasıyla birlikte toplum dağıldı. Gemini ise çok daha yüksek suç oranlarına rağmen sistemi ayakta tutmayı başardı. Karma modellerden oluşan toplumlarda ise suçtan çok anlaşmazlıklar ve fikir çatışmaları öne çıktı.

Sonuçlar ilgi çekici. Ancak asıl mesele rakamların kendisi değil, böyle bir deneyin neden yapıldığı.

Toplumu yapay zekâya emanet etmeye ne zaman karar verdik?

Bundan birkaç yıl önce araştırmacılar yapay zekâya satranç oynatıyor, şiir yazdırıyor ya da görsel ürettiriyordu. Bugün ise yapay zekâya toplum yönettiriyoruz. Bu değişim tesadüfi görünmüyor. Teknoloji dünyası artık yalnızca yapay zekânın ne kadar zeki olduğunu ölçmeye çalışmıyor; insanların verdiği kararların yerine geçip geçemeyeceğini de sınamak istiyor.

Burada durup düşünmek gerekiyor. İnsanlıktan gerçekten bu kadar umudu mu kestik?

Son yıllarda yaşanan siyasi kutuplaşmalar, ekonomik krizler, savaşlar, dezenformasyon kampanyaları ve sosyal medya manipülasyonları bazı teknoloji çevrelerinde ortak bir kanaati güçlendirdi. İnsanların karar alma süreçleri fazla duygusal, fazla öngörülemez ve fazla maliyetli bulunuyor. Yapay zekâ ise daha rasyonel, daha tutarlı ve daha hesaplanabilir bir seçenek olarak görülüyor. Toplum simülasyonlarının arkasındaki motivasyon da büyük ölçüde bu. Amaç yalnızca geleceği anlamak değil; insanların yerine karar verebilecek sistemlerin sınırlarını görmek.

Sorun yapay zekâ değil, ideal toplumun tanımı

Deney sonuçlarına biraz daha yakından bakınca başka bir tartışma başlıyor. Claude'un yönettiği toplumda suç yok. Nüfusun tamamı hayatta kalıyor. Önerilerin yüzde 98'i kabul görüyor. İlk bakışta kusursuz bir düzen gibi duruyor. Fakat siyaset bilimi açısından bakıldığında aynı tablo farklı soruları da beraberinde getiriyor.

Gerçek demokrasiler tam bir uzlaşma üzerine kurulmaz. Farklı fikirler, çıkar çatışmaları, muhalefet ve itirazlar demokratik yaşamın doğal parçalarıdır. Toplumun yüzde 98'inin aynı yönde oy kullanması bir başarı göstergesi olabileceği gibi, farklı seslerin ortaya çıkamadığı bir sistemin işareti de olabilir. Bir simülasyonda bunu ayırt etmek kolay değil.

Grok'un yönettiği toplumdaki kaos da yalnızca başarısız bir model hikâyesi olarak okunamaz. Bir yapay zekâ modeli hangi hedefler doğrultusunda eğitildiyse, yönettiği sistem de o öncelikleri yansıtır. Hız, etkinlik ve sonuç odaklılık öne çıktığında ortaya çıkan düzen ile güvenlik, istikrar ve uyumun merkeze alındığı düzen aynı olmaz.

Bu deney aslında yapay zekâların nasıl toplum yönettiğini değil, hangi değerlerle eğitildiklerinde nasıl toplumlar kurduklarını gösteriyor. Her model, içine yerleştirilen öncelikleri ve değerleri yönettiği dünyaya taşıyor.

Asıl güç algoritmada değil, algoritmayı tasarlayanda

Araştırmacılar deneyden çıkardıkları temel sonucun güvenlik olduğunu söylüyor. Yapay zekâların toplum yönetiminde kullanılacaksa daha güvenli hale getirilmesi gerektiğini savunuyorlar. Ancak bu yaklaşım sorunun yalnızca teknik kısmını ele alıyor. Çünkü güvenlik evrensel bir kavram değil. Her toplum kendi güvenlik anlayışını farklı biçimlerde inşa ediyor. Bir toplum için güvenlik ifade özgürlüğünün korunması anlamına gelirken, başka bir toplum için düzenin korunması anlamına gelebiliyor. Yapay zekâ ise kendi güvenlik anlayışını üretmeyecek; ona yüklenen güvenlik anlayışını uygulayacak.

Bu deneyin asıl önemi, yapay zekâların bir gün belediye başkanı olup olamayacağını göstermesinde değil. Daha temel bir gerçeği görünür hale getirmesinde.

Bir toplumu yönetmek yalnızca suç oranlarını düşürmek, kaynakları dağıtmak ya da düzen sağlamak değildir. Aynı zamanda hangi değerlerin korunacağına, hangi özgürlüklerden vazgeçilemeyeceğine ve iyi bir toplumun nasıl tanımlanacağına karar vermektir.

Yapay zekâlar bu kararları veriyormuş gibi görünse bile karar çok daha önce verilmiş olacaktır. Hangi değerlerin sisteme yerleştirileceğine, hangi davranışların ödüllendirileceğine, hangi sonuçların başarı sayılacağına insanlar karar verecektir. Simülasyonu tasarlayanlar; kuralları koyan, başlangıç koşullarını belirleyen, başarı kriterlerini tanımlayan ve sonuçları yorumlayan kişiler olmaya devam edecektir.

Bu nedenle yapay zekâların yönettiği toplumlar, yapay zekâların değil; onları tasarlayanların dünya görüşünü yansıtacaktır.

Gelecekte belediye başkanı bir algoritma bile olsa iktidar yine onu yazanların elinde olacaktır. Bu deneylerin anlattığı esas hikâye de burada yatıyor. Mesele yapay zekânın nasıl düşüneceği değil; insanların hangi değerleri teknoloji aracılığıyla topluma yerleştirmek istediğidir.