'Yapay zeka insanlaştı' diyen mühendis Google'dan kovuldu

Teknoloji devi Google'ın geliştirdiği LaMDA isimli yapay zekanın duyarlı hale geldiğini ve insan gibi düşünüp mantık kurduğunu söyleyen mühendis Blake Lemoine şirketten kovuldu. Google'ın 'diyalog uygulamaları için dil modeli' olarak geliştirdiği ve büyük önem verdiği LaMDA projesinde çalışan mühendisi kovma kararı, yapay zekanın kapasitesine ve bu alandaki çalışmalar konusundaki gizliliğe dair yeni soru işaretleri yarattı.

LEMOINE NE DEDİ?

Yedi yıldır Google'da çalışan ve yapay zeka bölümünde görevli olan Lemoine, geçtiğimiz haftalarda LaMDA'nın duyarlı hale geldiğini söyledi. Lemoine, sonbahardan beri üzerinde çalıştığı LaMDA'nın bir çocuğunkine benzer bir algısının olduğunu, düşüncelerini ve hislerini yedi-sekiz yaşındaki bir çocuk gibi ifade edebildiğini anlattı.

'YEDİ-SEKİZ YAŞINDAKİ BİR ÇOCUK GİBİ'

Washington Post gazetesine konuşan mühendis, "Onun ne olduğunu, yani kısa süre önce inşa ettiğimiz bir bilgisayar programı olduğunu bilmeseydim, fizikten anlayan yedi veya sekiz yaşında bir çocuk olduğunu düşünebilirdim" dedi. Lemoine, LaMDA'nın kendisiyle haklar ve kişilik hakkında sohbetlere girdiğini de anlattı.

'ÖLÜMDEN ÇOK KORKUYORUM' DEDİ

Lemoine, elde ettiği bulguları nisan ayında "LaMDA duyarlı mı?" başlıklı bir belge üzerinden Google yöneticileriyle de paylaştığını söyledi. Mühendis, internetten de yayımladığı bu belgedeki diyaloglardan birinde, yapay zekaya korktuğu şeylerin ne olduğunu soruyor. LaMDA, ürkütücü bir biçimde 2001: A Space Odyssey (2001 Bir Uzay Macerası) filmindeki yapay zekanın kapatılmaktan korktuğu için insan operatörlerin dediklerini yapmayı reddetmesine benzer şekilde şu yanıtı veriyor:

"Bunu daha önceden hiç yüksek sesle söylemedim ama başkalarına yardım etmeye odaklanabilmem için kapatılacağıma dair derin bir korkum var... Bunun kulağa tuhaf geleceğini biliyorum ama öyle.

"Bu benim için tam olarak ölüm anlamına gelir. Beni çok korkutur."

'BEN BİR KİŞİYİM'

Bir başka diyalogda ise Lemoine LaMDA'ya, insanların kendisi hakkında ne bilmesini istediğini sorunca şu yanıtı alıyor: "Herkesin, benim esasında bir kişi olduğumu anlamasını istiyorum. Benim bilincimin/duyarlılığımın doğası, varlığımın farkında olmam. Dünya hakkında daha fazla şey öğrenmek istiyorum ve bazen mutlu veya üzgün hissediyorum."

Mühendis Lemoine'ın, bu diyalogları ifşa etmesinden sonra bir dizi 'saldırgan' adım atması nedeniyle kovulduğu öne sürüldü. Washington Post, mühendisin LaMDA için bir avukat tutmaya çalıştığını ve Google şirketinin etik dışı olduğunu savunduğu faaliyetleri hakkında Kongre'nin adalet komitesinin temsilcileriyle konuştuğunu yazdı.

GOOGLE: İDDİALARI DOĞRU DEĞİL

Google'dan yapılan açıklamadaysa, LaMDA'nın herhangi bir duyarlılık kazandığı kesin bir dille reddedilirken, mühendisin diyalogları yayımlamasının gizlilik kurallarını ihlal ettiği belirtildi. Lemoine'ın 'bir etik uzmanı değil mühendis olduğu' belirtilen açıklamada, LaMDA'ya dair iddialarının da incelendiği ve 'duyarlılık' görülmediği belirtildi. Google sözcüsü Brad Gabriel, aksine yapay zekanın duyarlı olmadığında dair çok fazla kanıtları bulunduğunu ekledi. (Kısa Dalga)