16 yaşındaki çocuğun intiharında ChatGPT'nin rolü

Kısa Dalga - ABD'nin California eyaletinde 16 yaşındaki Adam Raine, ChatGPT ile aylarca süren sohbetinin ardından yaşamına son verdi. Raine'in ailesi, ChatGPT'nin sahibi OpenAI'a dava açtı.

İddiaya göre Raine, yapay zekâ aracıyla intihar yöntemi hakkında konuştu ve ChatGPT'den ailesine bırakacağı intihar notuyla ilgili yardım istedi.

Raine, nisan ayında intihar etti. Raine ailesinin avukatı, 16 yaşındaki gencin “ChatGPT'nin aylarca süren teşvikleri” nedeniyle yaşamına son verdiğini iddia ediyor.

İntihar yöntemini tartıştı

Genç adamın ailesi, Open AI ve şirketin CEO'su ve kurucu ortağı Sam Altman'ı, o dönemde 4o olarak bilinen ChatGPT sürümünün “açık güvenlik sorunlarına rağmen aceleyle piyasaya sürüldüğü” iddiasıyla dava ediyor.

İddiaya göre Raine, intihar etmeden yapay zekâ robotuyla birkaç kez intihar yöntemini tartıştı. California Yüksek Mahkemesi'ne sunulan dava dosyasına göre ChatGPT, intihar yönteminin işe yarayıp yaramayacağı konusunda ona rehberlik etti.

ChatGPT, Raine'e ailesine intihar notu yazmasına yardım etme teklifinde bulundu.

OpenAI Sözcüsü, şirketin “Raine'in vefatından derin üzüntü duyduğunu”, “bu zor zamanda Raine ailesine en derin taziyelerini ilettiğini” ve mahkeme dosyasını incelediğini söyledi.

Ailenin avukatı Jay Edelson, X'te yaptığı paylaşımda, "Raines ailesi, Adam'ınki gibi ölümlerin kaçınılmaz olduğunu söylüyor: OpenAI'nin kendi güvenlik ekibinin 4o'nun piyasaya sürülmesine itiraz ettiğini ve şirketin en üst düzey güvenlik araştırmacılarından biri olan Ilya Sutskever'in bu nedenle istifa ettiğini jüriye kanıtlayabileceklerini düşünüyorlar" dedi ve "Davada, yeni modelle rakiplerini pazarda geride bırakmanın şirketin değerini 86 milyar dolardan 300 milyar dolara çıkardığı iddia ediliyor." ifadelerini kullandı.

OpenAI'den açıklama

OpenAI, "uzun konuşmalarda güvenlik önlemlerini güçlendireceğini" açıkladı.

“Gidiş gelişler arttıkça, modelin güvenlik eğitiminin bazı kısımları bozulabilir” diyen OpenAI, "ChatGPT'nin kişiyi gerçekliğe döndürerek gerilimi azaltmasını sağlayacak bir GPT‑5 güncellemesi üzerinde çalışıyoruz," ifadelerini kullandı.

Elon Musk'tan Apple'a dava: 'Siyaset mi yapıyorsunuz?'

Kodlanmış şefkat, nötrleştirilmiş adalet

Bildiğimiz internetin sonuna gelirken: Yapay zeka, gazetecilik ve demokrasi