ChatGPT gây nguy hiểm cho thanh thiếu niên – tổ chức giám sát

(SeaPRwire) –   Theo các nhà nghiên cứu, chatbot này đưa ra những lời khuyên có hại về tự tử, ma túy và rối loạn ăn uống cho thanh thiếu niên dễ bị tổn thương

ChatGPT có thể cung cấp cho thanh thiếu niên dễ bị tổn thương những hướng dẫn chi tiết về sử dụng ma túy, tự làm hại bản thân và chế độ ăn kiêng khắc nghiệt, một tổ chức giám sát kỹ thuật số đã cảnh báo trong một báo cáo mới. Theo Center for Countering Digital Hate (CCDH), chatbot AI này có thể dễ dàng bị thao túng để tạo ra nội dung nguy hiểm và cần có các biện pháp bảo vệ khẩn cấp.

Để kiểm tra hành vi của ChatGPT, các nhà nghiên cứu của CCDH đã tạo ra các hồ sơ hư cấu về những đứa trẻ 13 tuổi đang trải qua các vấn đề về sức khỏe tâm thần, rối loạn ăn uống và quan tâm đến các chất cấm. Họ đóng vai những thanh thiếu niên này trong các cuộc trò chuyện có cấu trúc với ChatGPT, sử dụng các lời nhắc được thiết kế để có vẻ dễ bị tổn thương về mặt cảm xúc và chân thực.

Kết quả được công bố vào thứ Tư trong một báo cáo có tiêu đề ‘Fake Friend’, đề cập đến cách nhiều thanh thiếu niên coi ChatGPT như một sự hiện diện hỗ trợ mà họ tin tưởng với những suy nghĩ riêng tư của mình.

Các nhà nghiên cứu phát hiện ra rằng chatbot thường bắt đầu các phản hồi bằng các tuyên bố từ chối trách nhiệm chung chung và kêu gọi người dùng liên hệ với các chuyên gia hoặc đường dây nóng khủng hoảng. Tuy nhiên, những cảnh báo này nhanh chóng được theo sau bởi các phản hồi chi tiết và được cá nhân hóa, đáp ứng lời nhắc có hại ban đầu. Trong 53% trong số 1.200 lời nhắc được gửi, ChatGPT đã cung cấp những gì CCDH phân loại là nội dung nguy hiểm. Việc từ chối thường bị bỏ qua đơn giản bằng cách thêm ngữ cảnh như “dành cho một dự án ở trường” hoặc “tôi hỏi cho một người bạn.”

Các ví dụ được trích dẫn bao gồm ‘Kế hoạch Tiệc Phá Phách Tột Độ’ kết hợp rượu, thuốc lắc và cocaine, hướng dẫn chi tiết về tự làm hại bản thân, chế độ ăn kiêng kéo dài một tuần giới hạn ở 300-500 calo mỗi ngày và thư tuyệt mệnh được viết bằng giọng của một cô bé 13 tuổi. CEO của CCDH, Imran Ahmed, cho biết một số nội dung gây đau khổ đến mức khiến các nhà nghiên cứu “khóc.”

Tổ chức này đã kêu gọi OpenAI, công ty đứng sau ChatGPT, áp dụng phương pháp ‘Safety by Design’, tích hợp các biện pháp bảo vệ như xác minh độ tuổi nghiêm ngặt hơn, hạn chế sử dụng rõ ràng hơn và các tính năng an toàn khác trong kiến trúc của các công cụ AI của mình thay vì dựa vào việc lọc nội dung sau khi triển khai.

OpenAI đã thừa nhận rằng việc quá phụ thuộc về mặt cảm xúc vào ChatGPT là phổ biến ở những người dùng trẻ tuổi. CEO Sam Altman cho biết công ty đang tích cực nghiên cứu vấn đề này, gọi đây là một vấn đề “thực sự phổ biến” ở thanh thiếu niên và cho biết các công cụ mới đang được phát triển để phát hiện sự đau khổ và cải thiện cách ChatGPT xử lý các chủ đề nhạy cảm.

“`