Uzmanlar uyarıyor: Yapay zeka ekonomiyi manipüle edebilir
Ünlülerin yapay zeka ile hazırlanan görüntüleri uzamanlar dahil olmak üzere çoğu kişiyi kısa bir süreliğine inandırmayı başardı. Fakat uzamanlar, yapay zekanın gülünüp geçilecek bir şey olmadığını ve üretilen görüntülerin ekonomiyi manipüle etme kabiliyetinin de olduğunu söylüyor.
Gazete Oksijen’in Wall Street Journal’dan aktardığına göre, bazı araştırmacılar, Midjourney adlı yapay zeka görüntü üreticisi kullanılarak oluşturulan sahte görsellerin giderek daha inandırıcı olacağını ve yanlış bilgilendirme dalgasının işareti olduğunu belirtti. Yapay zeka ve sosyal medya alanında uzmanlaşanlar bile neyin gerçek neyin gerçek olmadığını her zaman ayırt edemiyor.
Stanford Üniversitesi'nde iletişim profesörü ve Stanford Sosyal Medya Laboratuarı'nın kurucu direktörü Jeff Hancock, Papa'nın görüntüsünün fotogerçekçiliği hakkında "Mükemmel olduğunu düşündüm. Her şey tam oturdu, belirgin bir bozulma yoktu" dedi.
Michigan Üniversitesi'nde elektrik mühendisliği ve bilgisayar bilimleri profesörü olan Andrew Owens ise "Artık herhangi bir internet trolü, sadece birkaç tuşa basarak ve bir düğmeye tıklayarak, bir insanı kandırabilecek inandırıcı görüntüler yaratabilir" dedi.
Carnegie Mellon Üniversitesi Heinz Bilgi Sistemleri ve Kamu Politikası Koleji'nde dijital medya ve pazarlama profesörü olan Ari Lightman'a göre, giderek daha sofistike hale gelen yapay zeka tarafından üretilen görüntülerin yaygınlaşması, sahte haberlerin yayılmasında yeni bir döneme işaret ediyor. Lightman, "Bunun bir tür evrim olduğunu düşünüyorum" dedi. Uzmanlar, yapay zeka görüntü üretimi gelişmeye devam ettikçe, çok fazla parmağı olan eller veya garip görünümlü gözbebekleri gibi sahte görüntülerin ortadan kalkmaya başlayacağını söyledi.
Montreal Yapay Zeka Etik Enstitüsü'nün kurucusu ve baş araştırmacısı Abhishek Gupta, "Görüntü bakın, bu sahte olabilir şeklinde sunulduğunda, örümcek hisleriniz elbette aktif oluyor. Ancak normal durumlarda, sadece göz atıyorsanız, görüntüyü sorgulamaya devam etmek yerine görüntüye gülebilir ve kaydırmaya devam edebilirsiniz" dedi.
Uzmanlar, insan resimleri bulanık olduğunda ve yüzleri ayırt etmek zor olduğunda, gerçek olup olmadıklarını kesin olarak söylemenin zor olduğunu söyledi. Teorik olarak, sarmaş dolaş yakalanan gerçek bir ünlü çiftin hareketsiz görüntülerini oluşturmak nispeten kolay oluyor. Lightman, "Güçlü bilgisayar kabiliyetiyle, görüntülere hemen hemen istediğimiz her şeyi yaptırabiliriz. Onları belirli şekillerde bükebilir, Papa'nın parkası gibi belirli giysiler ekleyebiliriz" dedi.
Syracuse Üniversitesi'nde siyaset bilimi yardımcı doçenti olan Baobao Zhang, ünlülerin fotoğraflarının gerçekliği konusundaki tartışmaların buzdağının sadece görünen kısmı olduğunu söyledi. Dr. Zhang, son zamanlarda Reddit'te gördüğü, gerçek tarihi olayların sahte versiyonlarını oluşturmak için yapay zeka kullanan insanların görüntülerine atıfta bulundu. Dr. Zhang, "Bence sosyal medyada gerçek riskler var" dedi.
Lightman, yapay zeka tarafından üretilen görüntülerin ekonomiyi manipüle etme kabiliyeti konusunda da endişeli olduğunu söyledi. Örneğin, bir CEO'nun şüpheli bir şey yaptığına dair sahte bir görüntünün bir hisse senedinin değerinin düşmesine neden olabileceğini ve potansiyel olarak tüm bir finans sektörüne zarar verebileceğini söyledi. Lightman, "Bence yanlış bilginin toplumsal bedelinin açık ve belirgin hale geleceği bir dönüm noktasına ulaşacağız" dedi.
Stable Diffusion'ı yaratan Stability AI şirketinin sözcüsü yaptığı açıklamada, şirketin yapay zekanın yanlış bilgi yaratma potansiyeliyle mücadele etmenin yollarını aradığını söyledi. Şirket sözcüsü, "Şu anda bu endişeye güvenli ve uzun vadeli bir çözüm uygulamak için dijital güvenlik alanında önde gelen şirketler ve araştırmacılarla birlikte çalışıyoruz" dedi. (Kısa Dalga)
