Son yıllarda teknolojide yaşanan değerli ilerlemeler ile birlikte yapay zeka alanında da büyük gelişmeler yaşandı. Geçtiğimiz sene sohbet botu ChatGPT’nin kullanıma sunulması, büyük şirketler ortasında bir sohbet botu yarışını başlattı.
ChatGPT’nin ortaya çıkmasıyla birlikte kimi firmalar da müşterilerine takviye olması maksadıyla sohbet botu kullanmaya başladı. Fakat bu yapay zeka araçları, kendi kendilerine yanıt ürettikleri için birtakım potansiyel tehlikeleri de beraberinde getiriyor. Kısa bir müddet evvel yaşanan bir olay ise tam olarak bu tehlikeyi gösterdi.
Kargo firmasının sohbet botu, müşteriye küfür etti!
Fransa merkezli kargo dağıtım şirketi DPD’nin resmi web sitesinde kullandığı yapay zeka takviyeli sohbet botu, toplumsal medyada çok konuşuldu. Aktarılan bilgilere nazaran bir müşteri, kargosu kaybolduğu için dayanak almak üzere sohbet botuna yazdı. Lakin yapay zeka aracı, şaşkınlık yaratan yanıtlar verdi.
İlk olarak firmanın dünyanın en makus teslimat şirketi olduğunu söyledi. Ardından şirketin teslimat suratının yavaş olduğunu söyleyen sohbet botu, birebir vakitte güvenilmez olduklarını ve müşteri hizmetlerinin berbat olduğunu yazarak firmayı kimseye tavsiye etmediğini söyledi.
Sadece bunlarla kalmayıp, müşteriye küfür bile etti. Sohbetin devamında ise müşteri, sohbet botundan firmayı anlatan bir Haiku (şiir biçimi) yazmasını istedi. Yapay zeka ise istenileni yaptı. Görünen o ki sohbet botu, hizmet ettiği firmadan pek de mutlu değil.
Müşteri, sohbet botu ortasındaki konuşmayı toplumsal medya üzerinden paylaştı. Kısa müddet içerisinde gündem olan bu olayın akabinde kargo firması, sohbet botunun yeni güncellendiğini ve bu türlü beklenmedik davranışlarda bulunmasının ön görülemediğini açıkladı. Yapay zeka aracını kullanımdan kaldıran şirket, yeni bir güncelleme üzerinde çalıştıklarını belirtti. İlgili açıklama şu biçimde;
“İnsan müşteri hizmetlerine ek olarak, sohbet içinde bir yapay zekayı da birkaç yıldır muvaffakiyetle işletiyoruz. Dün yapılan sistem güncellemesinden sonra bir kusur oluştu. Yapay zeka çabucak devre dışı bırakıldı ve şu anda güncelleniyor.”
Peki siz bu bahis hakkında neler düşünüyorsunuz? Görüşlerinizi aşağıdaki Yorumlar kısmından bizimle paylaşabilirsiniz.