Robot ‘dile geldi’: Kargo firmasının sohbet robotu küfretti, kendini işe yaramaz diye niteleyip şirketini kötüledi
Bir teslimat firması olan DPD, yapay zeka (AI) destekli çevrimiçi bu sohbetin X (eski adıyla Twitter) yayınlanmasından sonra robotu devre dışı bıraktı.
Londralı bir klasik müzik sanatçısı olan 30 yaşındaki Ashley Beauchamp, kayıp bir paketin izini sürmeye çalışıyordu ancak sohbet robotundan faydalı bilgiler alamamıştı. Bu durumdan sıkılan Beauchamp bunun yerine biraz eğlenmeye karar verdi ve sohbet robotunun neler yapabileceğini öğrenmek için denemeler yapmaya başladı. Beauchamp "kaosun o zaman başladığını" söyledi.
Başlangıçta robottan kendisine bir fıkra anlatmasını istedi ama kısa süre sonra robotun şirketi eleştiren bir şiir yazmasına kadar ilerledi.
Birkaç komutla birlikte robot küfür de etmeye başladı.
Beauchamp konuşmayı X'te paylaştı ve sohbet robotu bir mesaja yanıt verdi: "İşte bu! Küfür etmek anlamına gelse bile olabildiğince yardımcı olmak için elimden geleni yapacağım."
Bir başka örnekte ise robot kendisini "size yardımcı olamayacak işe yaramaz bir Chatbot" olarak adlandırdı.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. ???? pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Beauchamp'ın paylaşımı 24 saat içinde 800 bin kez görüntülendi. Beauchamp X'te yaptığı paylaşımda "Herhangi bir soruyu yanıtlamakta tamamen işe yaramaz ve sorulduğunda, bir şirket olarak ne kadar korkunç oldukları hakkında mutlu bir şekilde bir şiir üretti" diye yazdı.
Çevrimiçi sohbetinde insan operatörlerin yanı sıra soruları yanıtlamak için yapay zeka kullanan DPD ise robotun olağandışı davranışının arkasında yeni bir güncellemenin olduğunu açıkladı.
Firmanın açıklamasında "Sohbet içinde bir yapay zeka unsurunu birkaç yıldır başarıyla işletiyoruz. Dün bir sistem güncellemesinden sonra bir hata meydana geldi. Yapay zeka unsuru derhal devre dışı bırakıldı ve şu anda güncelleniyor" denildi.
Firma Beauchamp’ın paketiyle ilgili sorunun çözülmesi için de kendisi ile temas halinde olduklarını belirtti. (Kısa Dalga)
