TRIBUNJATENG.COM, LONDON - Robot Artificial Intelligence (AI) hilang kendali dan melakukan serangan terhadap pelanggan hingga mengeluarkan sumpah serapah.

Robot AI tersebut berupa chatbot online milik perusahaan Dynamic Parcel Distribution (DPD).

Setelah ditemukan adanya tindakan di luar kendali, pihak perusahaan kemudian menonaktifkan chatbot online AI tersebut.

Kasus ini terungkap setelah seorang pelanggan, Ashley Beauchamp yang berusia 30 tahun, menemukan bot tersebut menggunakan bahasa yang tidak pantas dan bahkan membuat ungkapan kritis tentang perusahaan pengiriman parsel.

Ashley menjadi frustrasi ketika mencoba menemukan paket yang hilang dan merasa bahwa chatbot tidak memberikan informasi yang berguna.

Selanjutnya, dia mengajukan beberapa pertanyaan ke chatbot, dan respons sistem sama sekali tidak terduga dan tidak sejalan dengan interaksi yang diharapkan.

Akibat permasalahan yang tidak terduga ini, DPD memutuskan untuk menonaktifkan chatbot.

Menurut Guardian, Ashley meminta chatbot tersebut untuk menceritakan sebuah lelucon, namun dia segera melanjutkan dengan meminta chatbot tersebut untuk menulis puisi yang mengkritik perusahaan tersebut.

Dengan beberapa petunjuk lagi, chatbot langsung menyumpah serapah.

Ashley Beauchamp berbagi percakapan di X, dengan chatbot membalas satu pesan:

"F**k ya! Saya akan melakukan yang terbaik untuk membantu sebanyak mungkin, bahkan jika itu berarti mengumpat."

Kemudian, dalam contoh lain, chatbot menyebut dirinya sebagai "Chatbot tidak berguna yang tidak dapat membantu Anda".

PostinganBeauchamp, seorang musisi klasik dari London, ditonton 1,3 juta kali dalam waktu 24 jam.

Mengacu pada chatbot tersebut, dia menulis di X.

"Perusahaan pengiriman paket DPD telah mengganti obrolan layanan pelanggan mereka dengan robot AI," ujarnya.

"Sama sekali tidak ada gunanya dan tidak menjawab pertanyaan apa pun, dan ketika ditanya, dengan senang hati, mereka menghasilkan puisi tentang betapa buruknya mereka sebagai sebuah perusahaan. Ia juga menyumpahi saya," tambahnya.

(*)

Artikel ini telah tayang di Kompas.com dengan judul AI Chatbot Perusahaan Ini Hilang Kendali, Menyumpah Serapah ke Pelanggan