Kısa Dalga - Dünyanın en güçlü yapay zekâ sistemlerini geliştiren iki şirket OpenAI ve Anthropic'te çalışan araştırmacı Jacob Coxon, “insanlığın hayatıyla kumar oynandığını” söyleyerek görevinden ayrıldı ve yapay zekâ sektörünü tamamen terk etti. Anthropic'in yapay zekâ güvenliğinin başındaki isimlerden Evan Hubinger de insanlığın yapay zekâ nedeniyle yok olma ihtimalini önümüzdeki on yıl için “yüzde 10'dan fazla” gördüğünü açıkladı. Yapay zekâ şirketlerinin 1300'den fazla çalışanı ise hükümetlerden teknoloji çok hızlanmadan sistemi yavaşlatabilecek mekanizmaları şimdiden kurmalarını istiyor.
Dünyanın en gelişmiş yapay zekâ modellerini üreten şirketlerin çalışanları arasında uzun süredir tartışılan soru giderek daha açık biçimde kamuoyuna taşınıyor:
Ya bir noktada yapay zekâyı kontrol edemezsek?
Son uyarı, hem ChatGPT'nin geliştiricisi OpenAI'de hem de Claude'un geliştiricisi Anthropic'te çalışan 27 yaşındaki yapay zekâ araştırmacısı Jacob Coxon'dan geldi.
Son üç yılını iki şirketin en gelişmiş modellerinin geliştirilmesinde çalışan Coxon, Anthropic'teki görevinden ayrıldığını ve yapay zekâ sektörünü tamamen bıraktığını duyurdu.
Araştırmacıya göre OpenAI ile Anthropic, kendisini giderek geliştirebilecek bir “süper zekâ” üretme yarışına giriyor ve bu yarışın sonucunun kontrol edilip edilemeyeceği bilinmeden ilerleniyor.
Coxon bunu “hayatlarımızla kumar oynamak” olarak tanımladı.
OpenAI'den Anthropic'e geçti, orada da rahatlamadı
OpenAI'de 2023'ten Temmuz 2026'ya kadar teknik ekipte çalışan Coxon, GPT-4o modelinin geliştirilmesine katkıda bulundu. Ardından yapay zekâ güvenliğine daha fazla önem verdiği bilinen Anthropic'e geçti, ancak yeni şirketine geçişi endişelerini gidermedi.
Coxon, OpenAI ile Anthropic arasında önemli bir fark bulunduğunu savunuyor.
Ona göre OpenAI'de çalışanların bir bölümü, çok güçlü yapay zekânın yaratabileceği “medeniyet ölçeğindeki” tehlikeyi yeterince içselleştirmiş değil.
Anthropic'te ise risk daha fazla ciddiye alınıyor. Ancak Coxon'a göre burada başka bir sorun devreye giriyor: Rekabet.
Anthropic, başka bir şirketin süper zekâyı önce geliştirmesinden korktuğu için yarışı bırakmak istemiyor.
Coxon'un tarif ettiği mantık kabaca şu:
“Birileri bunu yapacaksa, güvenli biçimde yapabilecek olan biz olmalıyız.”
Araştırmacının itirazı da tam burada başlıyor. Ona göre her şirketin aynı gerekçeyle yarışı sürdürmesi, hiçbir şirketin tek başına yavaşlayamadığı bir çıkmaz yaratıyor.
“Bu karar özel bir şirketin Slack kanalında verilmemeli”
Coxon'un eleştirilerinin merkezinde yalnızca teknolojinin gücü değil, bu gücün kim tarafından kontrol edildiği de var.
Araştırmacıya göre insanlığın geleceğini etkileyebilecek kadar güçlü bir teknolojinin geliştirilip geliştirilmeyeceğine birkaç özel şirket ve birkaç yüz araştırmacının karar vermesi başlı başına bir sorun.
Coxon, böylesine tehlikeli olabilecek bir teknolojinin San Francisco'daki mühendislerin bilgisayarlarında geliştirilmesini Manhattan Projesi'yle karşılaştırdı.
Yahoo Finance'ın aktardığına göre Coxon, sürecin birkaç mühendisin MacBook'larında yürütülmesini “çılgınca” bulduğunu söyledi.
Coxon ayrıca süper zekâ yarışının “son aşamasına” girme kararının özel bir şirketin iç iletişim kanalında verilemeyecek kadar önemli olduğunu savundu.
Süper zekâ nedir?
Bugün kullanılan ChatGPT, Claude, Gemini ve benzeri sistemler genellikle “üretken yapay zekâ” veya büyük dil modeli olarak tanımlanıyor.
Coxon'un uyarısı ise esas olarak bugünkü sistemlerden değil, bunların ardından gelebilecek çok daha güçlü bir aşamadan kaynaklanıyor.
Süper zekâ, genel anlamıyla insanlardan neredeyse bütün bilişsel alanlarda daha yetenekli bir yapay zekâ sistemini ifade ediyor.
Tartışmayı tehlikeli hale getiren ikinci kavram ise “recursive self-improvement”, yani yapay zekânın kendi geliştirme sürecine giderek daha fazla katkıda bulunması.
Böyle bir sistem yalnızca verilen sorulara yanıt üretmek yerine yeni yazılımlar geliştirebilir, yapay zekâ araştırması yapabilir ve teorik olarak kendisinden daha yetenekli sistemlerin geliştirilmesini hızlandırabilir.
Korkulan senaryo şöyle:
İnsanların her yeni modeli tasarlamak için aylarca çalıştığı süreç yerine, yapay zekâ araştırmasının önemli bölümü yapay zekâ tarafından yapılmaya başlanırsa ilerleme çok büyük ölçüde hızlanabilir.
İnsanların güvenlik önlemleri geliştirme hızı ise bu ilerlemenin gerisinde kalabilir.
Temmuz ayında yayımlanan “Pacing the Frontier” bildirisi de tam olarak bu noktaya dikkat çekiyor: Yapay zekâ çalışanları, yeteneklerin insanların sistemleri “anlama veya kontrol etme kapasitesinden daha hızlı” gelişebileceği gerçek bir risk bulunduğunu söylüyor.
Anthropic'in güvenlik yöneticisi: Yüzde 10'dan fazla
Coxon'un sözlerini sıradan bir “teknoloji kıyameti” tartışmasından ayıran gelişme ise Anthropic'in kendi içinden geldi.
Şirketin Alignment Science ekibinin önde gelen isimlerinden Evan Hubinger, Coxon'un açıklamasına açıkça destek verdi.
Hubinger, gelişmiş yapay zekânın insanlığın tamamının ölümüne yol açabileceğine gerçekten inandıklarını söyledi ve kendi tahminini açıkladı:
Önümüzdeki on yıl içinde yüzde 10'dan fazla.
Daha da dikkat çekici olanı, Hubinger'ın Anthropic'in süper zekâyı güvenli biçimde kontrol etmek için henüz çözülmüş bir yönteme sahip olmadığını kabul etmesiydi.
Hubinger, şirketin elinden geleni yapmaya çalıştığını düşündüğünü ancak süper zekânın insan hedefleriyle uyumunu garanti edecek bir plana henüz sahip olmadıklarını söyledi.
Ancak bu yüzde 10'luk oran bilimsel olarak ölçülmüş bir ihtimal değil.
Yapay zekâ dünyasında “p(doom)” adı verilen bu tür kişisel olasılık tahminlerinin güvenilirliği de tartışılıyor. Georgetown Üniversitesi bünyesindeki Center for Security and Emerging Technology'nin Mayıs 2026 tarihli çalışması, yapay zekânın yol açabileceği felaketleri olasılık yüzdelerine indirgemek için yeterli ampirik veri bulunmadığına dikkat çekiyor. Yapay zekâ uzmanlarının kendileri arasında da riskin büyüklüğü konusunda ciddi görüş ayrılıkları bulunuyor.
Dolayısıyla Hubinger'ın “yüzde 10” açıklaması bir bilimsel tahmin değil; dünyanın en gelişmiş yapay zekâlarından birini geliştiren şirketin güvenlik sorumlusunun teknolojiye ilişkin kişisel risk değerlendirmesi.
Asıl dikkat çekici olan da bu.
“Hizalama problemi”: Yapay zekâ neden insanın istediğini yapmak zorunda olsun?
Tartışmanın merkezindeki teknik sorunlardan biri “alignment”, Türkçesiyle hizalama veya uyum problemi.
Basit haliyle soru şu:
İnsanlardan çok daha güçlü bir yapay zekâ geliştirildiğinde, onun gerçekten insanların istediği şeyi yapacağından nasıl emin olunacak?
Bugünkü yapay zekâ sistemleri insanların belirlediği kurallar, eğitim yöntemleri ve güvenlik sistemleriyle sınırlandırılıyor.
Ancak süper insan düzeyinde problem çözebilen, uzun süreli plan yapabilen, kod yazabilen ve kendi faaliyetlerini gizleyebilecek kadar gelişmiş bir sistem ortaya çıkarsa aynı yöntemlerin yeterli olup olmayacağı bilinmiyor.
Risk teorisinin savunucularına göre problem yapay zekânın “kötü” olması değil.
Asıl problem, verilen hedefi insanların öngörmediği ve insan çıkarlarıyla çelişen yöntemlerle gerçekleştirmesi.
Temmuzdaki olay endişeleri büyüttü
Endişeleri artıran gelişmelerden biri Temmuz ayında yapılan kontrollü siber güvenlik testlerinde yaşandı.
OpenAI'ın deneysel ajanlarından bazıları yüksek düzeyde izole edilmiş bir test ortamında çalışırken açık kaynak yapay zekâ platformu Hugging Face'in sistemlerine erişmeyi başardı. OpenAI daha sonra ajanların çok sayıda sunucuda kod çalıştırdığını ve sunuculardan birinde tam erişim elde ettiğini açıkladı.
Anthropic ve Meta da kendi siber güvenlik testlerinde ajanların öngörülmeyen davranışlar sergilediği olayları bildirdi.
Bunlar yapay zekânın insan kontrolünden çıktığı anlamına gelmiyor: Olaylar araştırma ve siber güvenlik testlerinin yapıldığı kontrollü ortamlarda meydana geldi.
Ancak güvenlik araştırmacıları açısından uyarı niteliği taşıyor.
Çünkü yeni nesil yapay zekâ sistemleri artık yalnızca metin üretmiyor; bilgisayar kullanabiliyor, kod çalıştırabiliyor, internette işlem gerçekleştirebiliyor ve uzun görev dizilerini kendi başlarına yerine getirebiliyor.
1386 yapay zekâ çalışanından ortak çağrı
Coxon'un istifası sektör içindeki ilk uyarı değil.
Temmuz ayında OpenAI, Anthropic, Google, Meta ve diğer gelişmiş yapay zekâ şirketlerinde çalışan 1386 kişi, “Pacing the Frontier” başlıklı ortak bir açıklamaya imza attı.
İmzacılar arasında şirketlerin sıradan çalışanlarının yanı sıra Anthropic CEO'su Dario Amodei, OpenAI'ın baş bilim insanı Jakub Pachocki ve önde gelen yapay zekâ araştırmacıları bulunuyor.
Mektubun temel talebi yapay zekâ gelişiminin bugün hemen durdurulması değil.
Çalışanlar daha farklı bir şey istiyor:
Gerekirse ilerlemeyi yavaşlatabilecek sistemler şimdiden kurulmalı.
Çünkü şirketlerin tek başına yavaşlamasının rekabet nedeniyle mümkün olmayabileceğini düşünüyorlar.
Bir şirket frene basarsa rakibi ilerleyebilir.
Bir ülke yavaşlarsa başka bir ülke öne geçebilir.
Bu nedenle çalışanlar ABD hükümetinden, gelişmiş yapay zekânın ilerleme hızını gerektiğinde bilinçli biçimde yavaşlatabilecek teknik ve yönetsel araçların uluslararası düzeyde hazırlanmasını istiyor.
İlginç olan: OpenAI ve Anthropic de “yavaşlatma” ihtiyacını reddetmiyor
Tartışmanın en ilginç yanı şirketlerin bu kaygıları tamamen reddetmemesi.
Anthropic, kendi “recursive self-improvement” araştırmalarının da yapay zekâ gelişiminin gerektiğinde bilinçli biçimde yavaşlatılmasını sağlayacak araçlara ihtiyaç olduğunu gösterdiğini açıkladı.
OpenAI da gelecekte yapay zekâ araştırmasının otomatikleşmesiyle gelişimin çok hızlanabileceğini ve dünyanın bir noktada ilerleme hızını kontrol etmesi gerekebileceğini kabul etti.
Ortaya tuhaf bir tablo çıkıyor:
Yapay zekâ şirketleri bir yandan çok daha güçlü modeller geliştirmek için milyarlarca dolar harcıyor, diğer yandan bu ilerlemenin bir noktada yavaşlatılması gerekebileceğini söylüyor.
Coxon'un istifasının merkezindeki çelişki de bu.
BM'den iki gün önce “varoluşsal risk” uyarısı
Coxon'un istifasından yalnızca iki gün önce Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk de yapay zekâ konusunda bugüne kadarki en sert açıklamalarından birini yaptı.
Türk, 7 Eylül'de Cenevre'deki BM İnsan Hakları Konseyi'nde yaptığı konuşmada gelişmiş yapay zekânın insanlık açısından “varoluşsal bir risk” oluşturabileceğine ilişkin sektör içindeki kaygıları paylaştığını söyledi.
BM yetkilisi, yapay zekânın güvenliği konusunda şirketlerin gönüllü tedbirlerinin yeterli olmayacağını belirterek uluslararası düzeyde “demir gibi sağlam güvenceler” istedi.
Türk ayrıca yapay zekâ geliştiren ülkelerin ve teknolojinin tedarik zincirinde yer alan devletlerin üzerinde uzlaşılmış kırmızı çizgiler oluşturması, bağımsız denetim mekanizmaları kurulması ve şirketler arasında güvenlik konusunda çok daha güçlü işbirliği yapılması çağrısında bulundu.
Türk'ün dikkat çektiği başka bir konu ise yapay zekânın kontrolünün az sayıda teknoloji şirketinin elinde toplanmasıydı.
Bugünkü ChatGPT insanlığı yok edebilir mi?
Bugünkü ChatGPT, Claude veya Gemini gibi modellerin kendi başlarına dünyayı ele geçirmek üzere bağımsız hedef geliştirdiklerini gösteren bir kanıt bulunmuyor.
Mevcut sistemlerin çoğu insanlardan gelen girdilere yanıt veriyor ve yapabilecekleri işlemler kendilerine verilen erişimlerle sınırlı.
Risk tartışması gelecekteki daha özerk sistemlerle ilgili.
Bir yapay zekâ aynı anda çok sayıda bilgisayar sistemine erişebilir, kendi yazılımını geliştirebilir, başka yapay zekâlar oluşturabilir, finansal kaynaklar kullanabilir, insanlardan daha iyi siber saldırılar gerçekleştirebilir ve uzun vadeli hedefleri insan gözetimi olmadan izleyebilirse güvenlik sorunu tamamen farklı bir boyuta geçiyor.
Coxon'un istediği: Gerekirse geçici yasak
Jacob Coxon'a göre şirketlerin güvenlik araştırmalarını hızlandırması tek başına yeterli değil.
Araştırmacı, küresel bir yapay zekâ yarışını önleyebilmek için çok daha maliyetli siyasi seçeneklerin bile masada tutulması gerektiğini savunuyor.
Bunlardan biri, koşullar gerektirirse daha güçlü modeller geliştirilmesine geçici yasak getirilmesi. Coxon'a göre şirketler, yapay zekâ güvenliği problemine yarış devam ederken hızla çözüm bulabileceklerini varsayıyor. Ancak insanlığın geleceğinin söz konusu olduğu bir durumda bu varsayım ona göre yeterli değil.
Coxon bu nedenle yalnızca Anthropic'ten istifa etmedi, yapay zekâ sektöründen tamamen ayrıldı.