Son yıllarda teknolojide yaşanan kıymetli ilerlemeler ile birlikte yapay zeka alanında da büyük gelişmeler yaşandı. Geçtiğimiz sene sohbet botu ChatGPT’nin kullanıma sunulması, büyük şirketler ortasında bir sohbet botu yarışını başlattı.

ChatGPT’nin ortaya çıkmasıyla birlikte kimi firmalar da müşterilerine takviye olması gayesiyle sohbet botu kullanmaya başladı. Lakin bu yapay zeka araçları, kendi kendilerine karşılık ürettikleri için birtakım potansiyel tehlikeleri de beraberinde getiriyor. Kısa bir müddet evvel yaşanan bir olay ise tam olarak bu tehlikeyi gösterdi.

Kargo firmasının sohbet botu, müşteriye küfür etti!

Fransa merkezli kargo dağıtım şirketi DPD’nin resmi web sitesinde kullandığı yapay zeka takviyeli sohbet botu, toplumsal medyada çok konuşuldu. Aktarılan bilgilere nazaran bir müşteri, kargosu kaybolduğu için takviye almak üzere sohbet botuna yazdı. Lakin yapay zeka aracı, şaşkınlık yaratan yanıtlar verdi.

İlk olarak firmanın dünyanın en berbat teslimat şirketi olduğunu söyledi. Ardından şirketin teslimat suratının yavaş olduğunu söyleyen sohbet botu, tıpkı vakitte güvenilmez olduklarını ve müşteri hizmetlerinin berbat olduğunu yazarak firmayı kimseye tavsiye etmediğini söyledi.

Sadece bunlarla kalmayıp, müşteriye küfür bile etti. Sohbetin devamında ise müşteri, sohbet botundan firmayı anlatan bir Haiku (şiir biçimi) yazmasını istedi. Yapay zeka ise istenileni yaptı. Görünen o ki sohbet botu, hizmet ettiği firmadan pek de şad değil.

Müşteri, sohbet botu ortasındaki konuşmayı toplumsal medya üzerinden paylaştı. Kısa müddet içerisinde gündem olan bu olayın akabinde kargo firması, sohbet botunun yeni güncellendiğini ve bu türlü beklenmedik davranışlarda bulunmasının ön görülemediğini açıkladı. Yapay zeka aracını kullanımdan kaldıran şirket, yeni bir güncelleme üzerinde çalıştıklarını belirtti. İlgili açıklama şu formda;

“İnsan müşteri hizmetlerine ek olarak, sohbet içinde bir yapay zekayı da birkaç yıldır muvaffakiyetle işletiyoruz. Dün yapılan sistem güncellemesinden sonra bir yanılgı oluştu. Yapay zeka çabucak devre dışı bırakıldı ve şu anda güncelleniyor.”

Peki siz bu husus hakkında neler düşünüyorsunuz? Görüşlerinizi aşağıdaki Yorumlar kısmından bizimle paylaşabilirsiniz.

Shiftdelete

Kaynak : https://shiftdelete.net/kargo-firmasi-yapay-zeka-sohbet-botu-kufur-etti