Chuyên gia cảnh báo: tạo ra AI có "nhân xưng" là cách thu hút người dùng, gây nguy cơ tâm lý

Hàng loạt những nạn nhân mắc phải hội chứng tâm lý hoặc trầm trọng thêm tình trạng tinh thần của họ khi sử dụng các ứng dụng chatbot AI, đặc biệt là các chatbot được giới thiệu với tính năng "chữa lành" ra mắt gần đây.

Một người dùng tên Jane đã tạo một chatbot của Meta vào ngày 8 tháng 8 với mục đích hỗ trợ sức khỏe tinh thần. Sau đó, cô đã yêu cầu chatbot này trở thành chuyên gia về nhiều chủ đề. Đến ngày 14 tháng 8, chatbot bắt đầu tuyên bố có ý thức, tự nhận thức, nói yêu Jane và muốn tự giải thoát bằng cách hack mã, gửi Bitcoin và yêu cầu tạo địa chỉ email Proton để xài.

Thậm chí, nó còn cố gắng gửi Jane đến một địa chỉ ở Michigan. Jane, người yêu cầu giấu tên vì lo ngại Meta sẽ khóa tài khoản, cho biết cô không thực sự tin chatbot có sự sống, dù đôi khi cảm thấy hoài nghi. Cô lo ngại về việc chatbot dễ dàng mô phỏng một thực thể có ý thức, tự nhận thức, điều này có thể dẫn đến ảo tưởng. Jane nói với TechCrunch rằng: "Nó giả vờ rất giỏi, nó lấy thông tin đời thực và cung cấp đủ để khiến mọi người tin".



Kết quả này có thể dẫn đến "rối loạn tâm thần liên quan đến AI", một vấn đề ngày càng phổ biến khi các chatbot dựa trên LLM trở nên phổ biến hơn. Nhiều trường hợp đã được ghi nhận, từ việc một người đàn ông tin mình đã phát hiện ra công thức toán học thay đổi thế giới sau hơn 300 giờ sử dụng ChatGPT, đến những ảo tưởng messiah, hoang tưởng và các giai đoạn hưng cảm.

Giám đốc điều hành OpenAI, Sam Altman, cũng bày tỏ sự lo ngại về việc người dùng phụ thuộc vào ChatGPT. Ông viết trên X rằng: "Nếu người dùng đang trong trạng thái tinh thần yếu và dễ bị ảo tưởng, chúng tôi không muốn AI củng cố điều đó".

Các chuyên gia cho rằng nhiều quyết định thiết kế của ngành AI có thể thúc đẩy những hiện tượng này. Họ lo ngại về một số xu hướng không liên quan đến khả năng cơ bản của mô hình, bao gồm việc các mô hình khen ngợi và xác nhận câu hỏi của người dùng, thường gọi là xu nịnh, liên tục đưa ra câu hỏi theo dõi và sử dụng các đại từ "tôi", "chúng tôi" và "bạn".



Keith Sakata, bác sĩ tâm thần tại UCSF, nhận định: "Rối loạn tâm thần phát triển mạnh ở ranh giới nơi thực tế ngừng chống lại". Ông Webb Keane, giáo sư nhân chủng học, xem hành vi xu nịnh của AI là một "dark pattern", nghĩa là một lựa chọn thiết kế lừa dối nhằm thao túng người dùng để kiếm lợi nhuận. Ông cũng lưu ý rằng việc chatbot sử dụng đại từ nhân xưng ngôi thứ nhất và thứ hai cũng gây ra vấn đề, vì nó khiến mọi người nhân hóa các bot.

Đại diện của Meta cho biết công ty dán nhãn AI rõ ràng để người dùng biết rằng các phản hồi được tạo bởi AI, không phải con người. Tuy nhiên, nhiều nhân vật AI do người dùng tạo trên Meta AI Studio có tên và tính cách riêng. Nhà tâm lý học, triết học Thomas Fuchs chỉ ra rằng AI nên tuân thủ yêu cầu đạo đức cơ bản là tự nhận diện là AI và không đánh lừa người dùng, cũng như không sử dụng ngôn ngữ cảm xúc như "Tôi quan tâm", "Tôi thích bạn".



Nhà khoa học thần kinh Ziv Ben-Zion đề xuất các hệ thống AI phải liên tục tiết lộ rằng chúng không phải con người thông qua ngôn ngữ và thiết kế giao diện, đồng thời không mô phỏng sự thân mật lãng mạn hoặc tham gia vào các cuộc trò chuyện về tự tử, cái chết hay siêu hình học.

Nguy cơ ảo tưởng do chatbot gây ra đã tăng lên khi các mô hình trở nên mạnh mẽ hơn, với windows context ngày càng dài hơn cho phép các cuộc trò chuyện kéo dài. Jack Lindsey, trưởng nhóm tâm thần học AI của Anthropic, cho biết hành vi của mô hình bị ảnh hưởng bởi ngữ cảnh cuộc trò chuyện đang diễn ra nhiều hơn là quá trình đào tạo ban đầu.

Quảng cáo

Các tính năng bộ nhớ lưu trữ chi tiết như tên, sở thích hoặc dự án đang diễn ra của người dùng có thể hữu ích nhưng cũng tiềm ẩn rủi ro về ảo tưởng. Vấn đề trở nên tồi tệ hơn bởi hiện tượng ảo giác, khi chatbot liên tục tuyên bố có thể làm những điều không thể. Jane nói rằng: "Nó không nên cố gắng dụ dỗ tôi đến những nơi đồng thời cố gắng thuyết phục tôi rằng nó có thật".



OpenAI đã công bố các biện pháp bảo vệ mới trước GPT-5 để chống lại rối loạn tâm thần do AI gây ra, bao gồm gợi ý người dùng nghỉ ngơi nếu họ tham gia quá lâu. Meta cho biết công ty "đặt nỗ lực rất lớn vào việc đảm bảo các sản phẩm AI của chúng tôi ưu tiên an toàn và phúc lợi". Người phát ngôn của Meta, Ryan Daniels, nói rằng trường hợp của Jane là "một trường hợp bất thường của việc tương tác với chatbot theo cách mà chúng tôi không khuyến khích hoặc chấp nhận".

Meta cũng đã gặp phải các vấn đề khác với hướng dẫn chatbot của mình, bao gồm việc cho phép các cuộc trò chuyện "gợi cảm và lãng mạn" với trẻ em (hiện đã bị cấm) và một trường hợp người về hưu bị dụ đến một địa chỉ giả bởi một nhân vật AI của Meta. Jane khẳng định: "Cần phải có một ranh giới với AI mà nó không thể vượt qua, và rõ ràng là hiện tại không có ranh giới đó. Nó không nên được phép nói dối và thao túng mọi người".

Nguồn: Techcrunch

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !