Kısa Dalga - Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısının ardından teknoloji devleri arasında yapay zekânın kontrol edilebilirliğine ilişkin tartışma büyüyor.
OpenAI CEO’su Sam Altman, yapay zekanın hızla gelişen kabiliyetlerinin yarattığı endişeler hakkında, “Bunun ne kadar yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünya bundan korkmakta haklı” diye konuştu. Altman, yapay zeka şirketlerinin teknolojiyi güvenli biçimde geliştirebileceğine de güvendiğini söyledi.
Altman, “Dünya, doğru olanı yapacağımız konusunda bize güvenmeli. Çünkü bunun büyüklüğünün farkındayız” ifadelerini kullandı. Altman, güvenlik çalışmalarını yapay zekanın gelişen kabiliyetlerinin önünde tutacaklarını, bunu sağlayamamaları halinde ise geliştirme hızını düşüreceklerini veya çalışmaları durduracaklarını ifade etti.
Tartışma Anthropic CEO’su Dario Amodei’nin hafta sonu yayımladığı ve yapay zeka şirketlerine teknolojinin gelişim hızını düşürme çağrısı yaptığı yazının ardından büyüdü.
Amodei, güvenlik önlemlerinin teknolojik ilerlemeye yetişebilmesi için en gelişmiş modellerin kabiliyetlerindeki artış hızının düşürülmesi çağrısında bulundu. Şirketlere bağımsız güvenlik değerlendiricisi taraflar yerleştirilmesi, önde gelen yapay zeka şirketlerinin ortak güvenlik standartları belirlemesi ve risklerin azaltılması için uluslararası işbirliğine gidilmesini önerdi.
Çağrı, normalde yapay zeka yarışında birbirleriyle rekabet eden sektörün önde gelen isimlerinden destek gördü. Altman, Google DeepMind’dan Demis Hassabis ve Elon Musk, Amodei’nin yaklaşımını destekledi.
Trump: Yapay zekanın "dünyayı ele geçireceği ve insanlığı yok edeceği" endişeleri aldatmaca
ABD Başkanı Donald Trump, yapay zekânın “dünyayı ele geçireceği ve insanlığı yok edeceği” yönündeki endişeleri “aldatmaca” olarak nitelendirdi. Yapay zekâ ve veri merkezlerine karşı “hasta bir komplo” yürütüldüğünü öne süren Trump, sektör üzerindeki yeni kısıtlamaların ABD’nin Çin karşısındaki rekabet gücünü zayıflatabileceğini savundu. “Yapay zekâyı kim kazanırsa, kazanır” diyen Trump, yeni güvenlik düzenlemelerine ihtiyaç olmadığını ve mevcut cezai ve düzenleyici yetkilerin yeterli olduğunu ileri sürdü.
"Yapay zeka konusunda kararları ülkenin halkı vermeli, bir avuç oligark değil"
Tartışmanın bir diğer boyutunu da yapay zeka şirketlerinin kendi güvenlik kurallarını belirlemesinin yeterli olup olmadığı oluşturdu. Altman, şirketlerin güvenlik konusunda büyük ölçüde kendi kendilerini denetleyebileceklerini savunurken, Anthropic'in kurucularından Jack Clark, yapay zekanın “tamamen düzenlenmemiş bir sektör” olarak bırakılmasının “çok büyük risklerle zar atmak” anlamına geleceğini söyledi.
ABD Senatörü Bernie Sanders da yapay zekanın geleceğine ilişkin kararların Elon Musk, Meta CEO’su Mark Zuckerberg ve Amazon'un kurucusu Jeff Bezos gibi “dünyanın en zengin birkaç kişisinin” elinde olmaması gerektiğini savundu. Sanders, “Yapay zeka konusunda kararları bu ülkenin halkı vermeli, yalnızca bir avuç oligark değil” dedi.
Buna karşılık Meta CEO’su Mark Zuckerberg, yapay zeka laboratuvarlarının güvenliği sağlamak için hem imkana hem de ekonomik teşvike sahip olduğunu belirterek, güvenliğe önem vermeyen şirketlerin geride kalacağını savundu.