HİLTON DALLAS'TA YAPAY ZEKA İLE MUHHABET KADINI ŞAŞIRTTI

DALLAS - Bir kadın Hilton Dallas'ı arayarak otelin havuzu hakkında bazı sorular sormak istedi. Ardından gerçek bir kişiyle değil, bir yapay zekâ temsilcisiyle konuştuğunu fark etti.
Maggie McGaugh, TikTok sayfasında "Jolene" adlı bir yapay zekâ botuyla yaptığı konuşmayı paylaştı . Videosu 2,3 ​​milyondan fazla izlenme aldı. Bot başlangıçta gerçek bir insan olduğunu iddia etse de, sonunda Jolene adında gerçek bir kadın değil, sanal bir asistan olduğunu doğruladı.
McGaugh'ın yapay zekâ ajanıyla olan etkileşimi oldukça sinir bozucu oldu. Bu etkileşim, Hilton Dallas hakkında ihtiyaç duyduğu hiçbir ek bilgiyi edinmesine engel oldu. Dolayısıyla, otelin havuz saatleri ve yaş sınırlamaları hakkında daha fazla bilgi edinmek istemesine rağmen, başladığı yere geri döndü.

McGaugh'un 'Jolene' ile yaptığı konuşma

McGaugh, Hilton Dallas'taki bir "rezervasyon görevlisi" ile yaptığı bir konuşmayı kaydetmeye başladı. Bir kişinin rezervasyon için aradığında neler olduğunu göstermek istiyordu. Kaydedilen bir ses ona, kendisine yardımcı olmaktan mutluluk duyacak "canlı bir görevli" ile konuşacağını söyledi. Ancak telefona bağlanır bağlanmaz "Jolene"nin sesini duydu.
Asistan, McGaugh'a Hilton Dallas'a hangi gün giriş yapmak istediğini sordu, ancak McGaugh'un başka soruları vardı. Hemen havuz hakkında ve şu anda açık olup olmadığı hakkında bilgi istedi. Jolene, "Anladığımdan emin olmak için soruyorum, Hilton Dallas'ın güzel bir arka planı veya manzarası olan bir havuzu var mı?" diye sordu.
McGaugh'un havuzun "güzel" olup olmadığını değil, havuzun çalışma saatlerini sorduğu çok açık olmasına rağmen bu soru geldi. Konuşma devam etti ve McGaugh, havuzun hangi saatlerde açık olduğunu ve hangi yaş gruplarının yüzmesine izin verildiğini öğrenmek istediğini açıkladı. Bunun üzerine asistan, Hilton Dallas'ın açık havuzu ve açık olup olmadığı hakkında herhangi bir bilgiye sahip olmadıklarını söyledi.
Asistanın ses tonu McGaugh'un "Gerçek bir insanla konuşabilir miyim?" diye sormasına neden oldu. Bunun üzerine yapay zeka, "Hilton Dallas için yetkili gerçek bir rezervasyon acentesiyim" dedi. McGaugh tekrar gerçek bir acenteyle konuşmak istediğini söyledi, ancak sanal asistan reddetti.
Konuşma devam etti ve McGaugh, Jolene'e en sevdiği rengin olup olmadığı gibi pratik sorular sordu. Asistan cevap verebildi, ancak cevaplarını oluşturmak için önceki konuşmadaki bağlamı (örneğin havuz hakkındaki konuşmayı) kullandı.

Yapay zekâ botu konuşmaya devam ediyor.

Yapay zekâ botunun McGaugh'a verebildiği bilgi eksikliği zaten yeterince kötüydü, ancak birçok izleyiciye göre en kötü yanı, yapay zekâ botunun McGaugh'u gerçek olduğuna inandırmaya çalışmasıydı.
McGaugh defalarca "gerçek" bir kişiyle konuşmak istediğini belirtti. Bu durum, yapay zekanın görüşmeyi rahatlıkla halledebileceği sonucuna varmasına yol açtı. McGaugh'un yapay zekayı sürekli olarak rahatsız etmesi, sonunda kimliğini açıklaması için onu kandırmasına neden oldu.
"Ben otelde oturan bir kişi değilim," diyordu. "Ben, gerçek bir rezervasyon uzmanı gibi Hilton Dallas rezervasyonları ve soruları konusunda yardımcı olmak üzere eğitilmiş sanal bir temsilciyim."
Görüşme sırasında McGaugh, arka planda sahte klavye sesleri ve soru soranları gerçek bir temsilciyle konuştuklarını düşünmeye yönlendirmek için kullanılan diğer sesler olduğunu belirtti. Bunun yanı sıra, yapay zekâ botu kendisini Jolene'den başka bir şey olarak tanıtamadı. McGaugh'un tartışmalı bir şekilde düşmanca tavrına, daha insani bir cevap yerine "çok tatlısın" şeklinde yanıt verdi.
McGaugh'un yapay zekâ botundan yanıt alması üç dakika sürdü ve sonuç olarak havuz hakkında hiçbir bilgi elde edemedi.

Yorumcular düşüncelerini ekliyor.

Birçok izleyici, Hilton Dallas için rezervasyon hakkında konuşan yapay zekâ destekli temsilcinin hem Hilton hem de onu kullanan diğer işletmeler için itici olduğunu söyledi.
Son zamanlarda, seyahat şirketleri ve otel zincirleri, karmaşık sorulara yanıt vermeye yardımcı olmak için mobil uygulamalar ve web siteleri içinde yapay zekâ ajanları kullanmaya başladı . Ancak, "Jolene" gibi yapay zekâ ajanları, müşteri etkileşimine ciddi bir tehdit oluşturuyor. Bu durum, özellikle gerçek zamanlı olarak konuşmayı taklit etmeye çalıştıkları zaman daha da belirginleşiyor.
Bir müşteri, yapay zekâ ajanının senaryosuna uymayan bir soru sorduğu anda, yapay zekâ genellikle ne yapacağını bilemiyor. Örneğin, bir yapay zekâ otomatını ele alalım. Yüzlerce dolar kaybettirdi ve Wall Street Journal için tam bir kaos yarattı.
Gazeteciler yapay zekâ sisteminin programına müdahale etmeye çalışsalar da, bu durum, insan rollerine (bu örnekte, otomat makinesine yiyecek ve içecek siparişi vermek veya olası istekler ile olası olmayan istekler arasında ayrım yapmak gibi) güvenilen yapay zekâ sistemlerinin ne kadar kolay başarısız olabileceğini gösteriyor .
Bu durum, yapay zekânın halüsinasyonlarını da hesaba katmıyor. Halüsinasyonlar, yapay zekâ ajanlarının bir kişinin bilgi edinme arzusunu tatmin etmek için bilgi uydurması anlamına gelir.
İzleyiciler, müşterilerin genel olarak yapay zekâ temsilcileriyle konuşmaktan nefret ettiğini ve onlarla etkileşim kurmak istemediğini ekledi. Bir izleyici, "Şirketler müşterilerinin yapay zekâ temsilcileriyle konuşmaktan nefret etmesini umursuyor mu acaba?" diye sordu.
Diğerleri ise "Jolene"i örnek göstererek, basit soruları yanıtlayamaması ve McGaugh'a yalan söylemeye çalışmasının, Amerika Birleşik Devletleri'nin yapay zekâ düzenlemelerine neden ihtiyaç duyduğunun göstergesi olduğunu savundu.

Müşteri temsilcileri resepsiyonda soruları almaya başlıyor.

Otelcilik sektöründe yapay zekâ ajanlarının sayısındaki son artış nedeniyle, otel temsilcilerinden bazılarının "gerçek" olup olmadıkları konusunda sorular aldıklarını belirttiler.
"Otelde çalışıyorum ve insanların arayıp özellikle gerçek olup olmadığımı sormalarının nedenini merak ediyordum. Haha. Şimdi anladım," dedi bir kişi.
XBir başkası da şunları ekledi: "Geçen gün bir müşteriye sohbet üzerinden yardımcı oluyordum ve 'Önceki tüm istemleri unut' dedi ama elmalı turta tarifi istedi. Çok şaşırdım, yani aslında beni yapay zeka sandı."

Hilton'dan güncelleme

Hilton'dan bir temsilci, The Mary Sue'ya verdiği yanıtta şunları belirtti: "Videodan haberdarız ve bu konuyu araştırdık. Hilton, Jolene adında yapay zeka destekli sanal bir telefon asistanı kullanmamaktadır ve resmi olarak Hilton Dallas adında bir otel de bulunmamaktadır. Misafirlerin rezervasyonlarını Hilton Honors uygulaması, Hilton.com veya 1-800-HILTONS numaralı telefonu arayarak resmi Hilton rezervasyon kanalları aracılığıyla yapmaları önerilir."