İLKE ATİK TAŞKIRAN

Geçen yıl ABD'de yapay zekâ destekli ses dolandırıcılıklarının yol açtığı ekonomik kaybın 68 milyar dolara ulaştığı tahmin ediliyor.

Bu rakamın büyüklüğünü anlamak için tek başına dolara bakmak yetmiyor. Yaklaşık 2,7 trilyon liradan söz ediyoruz. Türkiye'de birçok bakanlığın yıllık bütçesini geride bırakan, yüzlerce okul ya da hastane yapılabilecek bir kaynak, birkaç dakikalık telefon görüşmeleriyle insanların elinden çıktı. Üstelik ortada klasik anlamda bir banka soygunu ya da büyük bir siber saldırı da yoktu. İnsanlar yalnızca telefonda duydukları sese güvendikleri için paralarını kaybetti.

Bir anne, ağlayan kızının sesini duyduğunu sandı. Bir şirket yöneticisi patronundan geldiğini düşündüğü ödeme talimatını yerine getirdi. Bir yaşlı adam torununun yardım istediğine inanarak hesabındaki birikimini gönderdi. Ortak nokta şuydu: Hiçbiri aslında konuştukları kişinin gerçekten o kişi olmadığını anlayamadı. Çünkü artık birkaç saniyelik bir ses kaydı, yapay zekâ tarafından gerçeğinden ayırt edilmesi neredeyse imkânsız biçimde kopyalandı.

Asıl çarpıcı olan ise bunun kimse için sürpriz olmaması. Yapay zekâ şirketleri yıllardır geliştirdikleri modellerin sesi, görüntüyü ve metni gerçeğe çok yakın biçimde üretebildiğini anlatıyor. Teknolojinin sınırlarını en iyi bilenler de yine onu geliştirenler. Buna rağmen bu araçlar, oluşturabilecekleri toplumsal risklerden çok daha hızlı bir şekilde milyonlarca insanın günlük yaşamına girdi. Bugün dolandırıcılıktan dezenformasyona kadar yaşanan birçok tartışma, aslında uzun zamandır öngörülebilen risklerin artık görünür hâle gelmesinden ibaret.

Kamu güvenliği yerine kâr seçilirse

Tam da bu dönemde Florida eyaletinin OpenAI'a açtığı dava dikkat çekici bir tartışmayı yeniden gündeme taşıdı. Davanın hukuki sonucunun ne olacağı henüz bilinmiyor. Ancak kamuoyuna yansıyan iddiaların merkezinde teknoloji dünyasının yıllardır peşini bırakmayan bir eleştiri var.

Florida Başsavcısı James Uthmeier'in ifadesi oldukça net: “Kamu güvenliği yerine kârı seçtiler.”

Aslında bu cümle de hiç yeni değil.

1990'larda tütün şirketlerinin yöneticileri, ABD Kongresi önünde yemin ederek nikotinin bağımlılık yapmadığını söylemişti. Oysa kendi şirketlerinin laboratuvarlarında hazırlanan belgeler bunun tam tersini ortaya koyuyordu. Aradan yıllar geçti. Bu kez sosyal medya şirketleri çocukların ruh sağlığı üzerindeki etkileri nedeniyle benzer eleştirilerin odağına yerleşti. İç yazışmalar, eski çalışanların açıklamaları ve araştırmalar, platformların bağımlılık oluşturan tasarımlarının ve zararlarının şirketler tarafından sanıldığından çok daha önce bilindiğini gösterdi.

Bugün yapay zekâ etrafında yürüyen tartışmaların tonu da giderek aynı noktaya yaklaşıyor. Elbette yapay zekâyı tütünle ya da sosyal medyayla aynı kefeye koymak doğru olmaz. Ancak dikkat çeken benzerlik, teknolojinin kendisinden çok şirketlerin krizlere verdiği refleks.

Bir tesadüf değil, iş modeli

Düzenlemelerin teknolojinin gerisinde kalması bir kusur değil; hıza dayalı büyüme stratejisinin doğal, hatta hesaplanmış bir sonucu. Kural koyucular yetişene kadar geçen her ay daha fazla kullanıcı, daha büyük pazar payı ve insanların değişmesi zor alışkanlıklar geliştirmesi anlamına geliyor.

Silikon Vadisi'nin uzun yıllardır benimsediği yaklaşımın özeti aslında oldukça basit: Önce ürünü piyasaya sür, mümkün olduğunca hızlı büyü, kullanıcıları kazan; sorunlar ortaya çıktığında ise güvenlik önlemlerini artır, sistemi güncelle ve gerekirse özür dile. Yazılım dünyasında bu yaklaşım çoğu zaman inovasyon olarak övülüyor. Ancak konu toplumun güvenliği olduğunda aynı yöntem, milyonlarca insanı gerçek zamanlı bir deneye dönüştürüyor.

68 milyar dolar belki yalnızca ekonomik bir veri gibi görünebilir. Oysa o rakamın içinde kandırılan insanlar, boşaltılan banka hesapları, güvenini kaybeden aileler ve artık telefonda duyduğu sese bile tereddütle yaklaşan milyonlarca kişi var.

Hep aynı döngü hep aynı refleks

Sorun teknoloji değil. Sorun, her yenilikte aynı refleksi göstermemiz.

Önce hayran oluyoruz. Hayatımıza hızla dahil ediyor, sunduğu imkânlara veya keyif kısmına odaklanıyoruz. Ardından ilk büyük zararlar ortaya çıkıyor. Soruşturmalar başlıyor, davalar açılıyor, şirketler güvenlik önlemlerini artırıyor.

Döngü her seferinde aynı şekilde işliyor. Değişen yalnızca yeniliğin adı oluyor.

Ve bu döngü değişmediği sürece, önümüzde duran soru giderek ağırlaşıyor:

Her seferinde zararın ortaya çıkmasını bekleyen bir denetim anlayışıyla, yapay zekâ gibi baş döndürücü hızda gelişen bir teknolojiyi gerçekten yönetebileceğimizi düşünüyor muyuz?