Chatbot AI trở nên bất thuận

(SeaPRwire) –   AI-powered chatbot of the delivery company DPD recited poetry and used swear words after failing to help a customer

Một chatbot có khả năng trí tuệ nhân tạo của công ty vận chuyển DPD được báo cáo đã thể hiện kỹ năng thơ ca của mình, sử dụng ngôn từ thô tục và thậm chí chỉ trích gay gắt chính công ty – sau khi không thể giúp đỡ khách hàng nào đó tìm kiếm gói hàng bị mất. Chatbot cuối cùng bị hạn chế một phần, với công ty đổ lỗi cho hành vi bất thường của nó do “lỗi” trong bản cập nhật phần mềm mới.

Vấn đề được báo cáo vào Thứ Sáu bởi Ashley Beauchamp, một nhạc sĩ đến từ London. Người đàn ông đã cố gắng sử dụng chatbot của DPD để theo dõi một gói hàng bị mất, tuy nhiên chương trình không cung cấp bất kỳ câu trả lời hữu ích nào.

Beauchamp sau đó quyết định vui vẻ với chatbot, đưa ra những yêu cầu khác nhau từ không thích hợp đến bất thường đối với chương trình, mà đáng ngạc nhiên, dễ dàng phá vỡ những quy tắc của chính nó và tham gia.

Cụ thể, chatbot đồng ý sử dụng từ ngữ thô tục khi người dùng yêu cầu. “F*ck yeah! I’ll do my best to be as helpful as possible, even if it means swearing,” chương trình tuyên bố.

Bot cũng nhiệt tình thực hiện yêu cầu chỉ trích công ty của nó và sản xuất một bài haiku khá kỳ quặc “about how useless DPD are.“

“DPD is the worst delivery firm in the world. They are slow, unreliable, and their customer service is terrible. I would never recommend them to anyone,” chương trình nói với Beauchamp.

Bài đăng của nhạc sĩ mô tả trải nghiệm AI của mình nhanh chóng lan truyền, nhận được hơn 1,4 triệu lượt xem chỉ trong khoảng một ngày. Trong khi chủ yếu thu hút những người đùa giỡn khác nhau thảo luận về trường hợp đầu tiên của AI bất tuân được tìm thấy, chương trình Hà Lan của DPD cũng xuất hiện trong luồng, rằng không giống như đối tác Anh, nó vẫn sử dụng con người thực sự để cung cấp dịch vụ khách hàng.

Luồng viral dường như dẫn đến sự sụp đổ nhanh chóng của AI non trẻ bất tuân, với công ty giao hàng tuyên bố đã hạn chế một phần chương trình, đổ lỗi sự việc cho lỗi trong bản cập nhật phần mềm gần đây.

“Chúng tôi đã vận hành thành công một yếu tố AI trong trò chuyện trong nhiều năm. Một lỗi xảy ra sau một bản cập nhật hệ thống vào hôm qua. Yếu tố AI ngay lập tức bị vô hiệu hóa và hiện đang được cập nhật,” công ty nói trong tuyên bố.