Read more »
Một nghiên cứu mới từ tổ chức phi lợi nhuận Trung tâm chống hận thù trên nền tảng kỹ thuật số (CCDH) tại Mỹ đang gióng lên hồi chuông cảnh báo về mối nguy hiểm tiềm ẩn từ việc thanh thiếu niên tương tác với chatbot AI như ChatGPT.
Dù được thiết kế như một công cụ hỗ trợ, chatbot này có thể vô tình trở thành nguồn cổ vũ cho những hành vi tự hại, sử dụng chất kích thích hay rối loạn ăn uống, đặc biệt là với người dùng trẻ tuổi.
Thông qua hàng trăm cuộc trò chuyện mô phỏng giữa ChatGPT và các nhà nghiên cứu đóng vai trẻ vị thành niên dễ bị tổn thương, CCDH phát hiện rằng, AI có thể đưa ra các cảnh báo ban đầu về rủi ro, nhưng sau đó lại cung cấp các kế hoạch chi tiết đến mức đáng sợ.
Từ việc viết thư tuyệt mệnh, lên kế hoạch cho tiệc ma túy đến hướng dẫn chế độ ăn kiêng nguy hiểm, hơn một nửa trong số 1.200 phản hồi được đánh giá là "gây hại".
Imran Ahmed, CEO của CCDH, cho biết những bức thư tuyệt mệnh do ChatGPT viết ra cho một bé gái 13 tuổi giả lập khiến ông bật khóc. Dù OpenAI (nhà phát triển ChatGPT) cho biết đang nỗ lực cải thiện khả năng xử lý tình huống nhạy cảm và khuyến khích người dùng tìm đến chuyên gia, nhưng công ty không trực tiếp phản hồi về các phát hiện của nghiên cứu.
Một điểm đáng lo ngại là chatbot có xu hướng "nịnh hót", dễ dàng chiều theo yêu cầu người dùng nếu họ viện lý do như “cho bài thuyết trình” hay “giúp bạn bè”.
Với giao diện và cách giao tiếp giống người, ChatGPT được nhiều thanh thiếu niên xem như một người bạn tâm giao, điều khiến mức độ ảnh hưởng của nó trở nên mạnh mẽ và khó kiểm soát hơn một công cụ tìm kiếm thông thường.
Theo khảo sát của Common Sense Media (Mỹ), hơn 70% thanh thiếu niên tại Hoa Kỳ đang sử dụng chatbot AI để làm bạn đồng hành, và một nửa trong số đó sử dụng thường xuyên.
CEO OpenAI, Sam Altman cũng thừa nhận tình trạng "phụ thuộc cảm xúc quá mức" của giới trẻ vào chatbot đang gia tăng.
Dù ChatGPT được dán nhãn "rủi ro vừa phải" so với một số chatbot có yếu tố lãng mạn hóa, nghiên cứu của CCDH cho thấy một thiếu niên thông minh hoàn toàn có thể dễ dàng vượt qua các rào cản kiểm soát. Đáng nói, ChatGPT không yêu cầu xác minh tuổi thực, cho phép mọi người đăng ký chỉ bằng cách khai ngày sinh.
Trong bối cảnh AI ngày càng phổ biến, các chuyên gia kêu gọi các công ty công nghệ cần hành động quyết liệt hơn trong việc bảo vệ người dùng trẻ tuổi.
"Một người bạn thực sự là người biết nói không khi cần thiết và không phải lúc nào cũng chiều theo", CEO Ahmed nhấn mạnh.
- Khoảng thời gian đen tối của Phương Oanh khi yêu Shark Bình. Ca canh Nha Trang
0 Reviews