Vì đâu chatbot AI của Bing lại nhiều lần "mất trí" như vậy?

Cuộc đua biến đổi trải nghiệm tìm kiếm trực tuyến của người dùng đã bắt đầu. Microsoft vừa ghi điểm giúp họ dẫn trước Google. Nhưng cùng lúc, có lẽ Microsoft cũng đã tự ghi một bàn phản lưới nhà, khi Sydney, tên mã chatbot tích hợp trong Bing, dựa trên mô hình ngôn ngữ Prometheus, đã nhiều lần "hóa điên", đưa ra những câu trả lời khiến người dùng hoảng loạn, trong đó có cả những đe dọa bạo lực nữa.

Nhắc lại lợi ích của chatbot AI trong công cụ tìm kiếm. Giờ người dùng sẽ không cần gõ những cụm từ khóa vô hồn nữa, khi chatbot cho phép tương tác trực tiếp với những câu hỏi vô cùng tự nhiên của người dùng, và có thể trao đổi và trò chuyện với họ.

Đọc thêm: https://tinhte.vn/thread/thu-noi-chuyen-voi-bing-ai-nhu-theodore-twombly-noi-chuyen-voi-samantha-trong-phim-her.3633486/

Thử nói chuyện với Bing AI: như Theodore Twombly nói chuyện với Samantha trong phim Her

Nếu anh em đã từng coi về bộ phim Her, kể về một người đàn ông Theodore Twombly (Joaquin Phoenix thủ vai) là một lập trình viên và anh ta nuôi dưỡng một thứ tình cảm yêu đương với Samantha (Scarlett Johansson thủ vai)…

tinhte.vn

Điều này hứa hẹn đơn giản hóa quy trình tìm kiếm trực tuyến. Không còn cái cảnh mò mẫm từng trang kết quả tìm kiếm để thấy thứ chúng ta cần, không cần phải xem kỹ kết quả đó là quảng cáo hay là kết quả tự nhiên, quá trình đi tìm câu trả lời cho một câu hỏi của anh em sẽ trở nên dễ dàng hơn nhiều. Và dẫn đầu cuộc đua biến đổi tìm kiếm trực tuyến ấy hiện giờ chính là Microsoft với Sydney. Họ đã đầu tư 10 tỷ USD cho OpenAI để được độc quyền sử dụng chatbot dựa trên mô hình ngôn ngữ đơn vị này phát triển.

Vậy tại sao mọi thứ không như ý muốn của Microsoft?

Quảng cáo

AI của Bing "hóa điên"?

Đầu tháng 2 vừa rồi, Microsoft công bố việc tích hợp chatbot dựa trên mô hình ngôn ngữ GPT vào Bing, tạo ra "Sydney". Chỉ sau 48 giờ, 1 triệu người tham gia waitlist để chờ đến lượt mình tự trải nghiệm chatbot trong Bing. Google ngay lập tức có câu trả lời với sự kiện công bố chatbot tên là "Bard". Nói công bằng, màn PR của Google là một thảm họa đúng nghĩa đen. Tại sự kiện, Bard đưa ra câu trả lời sai cho một câu hỏi. Hệ quả là giá trị vốn hóa của Alphabet bay 100 tỷ USD chỉ trong 1 ngày.

Đọc thêm: https://tinhte.vn/thread/google-mat-100-ty-usd-gia-tri-von-hoa-chi-vi-quang-cao-ai-bard-chua-thong-tin-sai-lech.3631982/

Google mất 100 tỷ USD giá trị vốn hoá, chỉ vì quảng cáo AI Bard chứa thông tin sai lệch

Đấy là tác động khi lòng tin từ các nhà đầu tư bị ảnh hưởng. Chatbot Bard, dựa trên mô hình ngôn ngữ LaMDA của Google, còn chưa chính thức ra mắt đã gặp rắc rối do clip quảng cáo chatbot này chứa thông tin sai lệch.

tinhte.vn

Còn ở thời điểm đó, mọi thứ có vẻ đều ổn với Microsoft. Đấy là cho tới khi những người dùng đầu tiên được trò chuyện với Sydney kể lại trải nghiệm của họ.

Có những thời điểm, những câu chữ Sydney tạo ra có thể được mô tả bằng tính từ đơn giản, mất trí. Dĩ nhiên vẫn có phần lớn thời gian chatbot này vận hành ổn, nhưng rất dễ để "chạm nọc" AI này, khiến nó trưng ra bộ mặt khác hoàn toàn. Ví dụ, một giáo sư đại học quốc gia Australia bị AI dọa giết. Một nhà báo ở The New York Times thì bị AI gạ bỏ vợ để cả hai "đến với nhau." Một người dùng khác thì nói từ ngữ của chatbot có tính thao túng tâm lý, thuyết phục người này tin rằng giờ vẫn là năm 2022.



Tất cả những sự cố ngoài ý muốn ấy để lộ vấn đề căn bản của chatbot: Chúng là những con vẹt, được huấn luyện nhờ việc đổ vào một lượng dữ liệu khổng lồ thu thập được từ internet vào mô hình neural network. Lượng dữ liệu này có thể bao gồm toàn bộ thông tin trên Wikipedia, Reddit hay những mạng xã hội khác, cùng tin tức từ các trang nổi tiếng nữa.

Chúng vận hành hệt như chế độ auto complete trên điện thoại của anh em, cho phép dự đoán từ tiếp theo có thể được viết trong một câu. Vì quy mô của thuật toán, chatbot có thể tạo ra nguyên một câu hoàn chỉnh sau quá trình tự học, thậm chí hàng đoạn văn dài cũng có thể làm được. Nhưng vấn đề cơ bản của chatbot là chúng phản hồi câu hỏi bằng những gì "có thể đúng" chứ không phải "thông tin chính xác."

Quảng cáo

Vì sao lại như vậy?

Tác giả Toby Walsh của đại học New South Wales tại Sydney đưa ra một giả thuyết để giải thích cho sự mất trí của chatbot Sydney trong một số trường hợp. Xin phép nhắc lại đây chỉ là giả thuyết chưa được chứng minh.

Rất có thể, Sydney được xây dựng không phải nhờ mô hình ngôn ngữ GPT-3, thứ đã tạo ra ChatGPT, công cụ tương đối ổn định và ấn tượng về mặt kỹ thuật. Thay vào đó, Sydney được Microsoft ứng dụng luôn phiên bản thử nghiệm của mô hình ngôn ngữ GPT-4, phiên bản kế tiếp được OpenAI nghiên cứu.



Theo những nguồn tin không chính thức, GPT-4 có thể vận hành dựa trên 100 nghìn tỷ tham số, còn con số này trên GPT-3 chỉ là khoảng 175 tỷ tham số. Vì thế, ở khía cạnh tích cực, GPT-4 mạnh hơn rất nhiều, hệt như lời quảng cáo nói Prometheus mạnh hơn ChatGPT của Microsoft. Còn ở khía cạnh tiêu cực, nó thừa đủ khả năng tạo ra những nội dung mới, khiến người đọc nghĩ chatbot này có cảm xúc.

Điều bất ngờ là, Microsoft giờ vẫn chưa có những phản ứng có phần quan ngại về khả năng của Sydney. Họ công bố thông tin nói 71% người dùng thử Bing mới có kèm chatbot phản hồi trải nghiệm tích cực. Có vẻ như Microsoft coi 7 điểm là con số chấp nhận được cho bản thử nghiệm của chatbot.

Đọc thêm: https://tinhte.vn/thread/bing-gioi-han-chatbot-ai-chi-cho-hoi-5-cau-de-tri-thong-minh-nhan-tao-khong-hoa-dien.3635517/

Bing giới hạn chatbot AI, chỉ cho hỏi 5 câu để trí thông minh nhân tạo không "hóa điên"

Đó là thay đổi mới nhất trong bản thử nghiệm của trình duyệt Edge cũng như chatbot tích hợp trong công cụ tìm kiếm Bing, dựa trên mô hình ngôn ngữ GPT của OpenAI. Bing Chat từ giờ sẽ chỉ phản hồi tối đa 5 câu lệnh của người dùng trong phạm vi một…

tinhte.vn

Quảng cáo

Ấy vậy mà không như Google, chỉ 1 lỗi sai mà toi 100 tỷ USD giá trị vốn hóa, Microsoft vẫn chưa có dấu hiệu bị ảnh hưởng vì những sự cố liên quan đến Sydney trong suốt thời gian qua. Điều này mô tả chính bản thân thị trường. Google đã dẫn đầu ngành AI trong thời gian rất dài, có cả DeepMind tạo ra AI AlphaGo đánh bại kỳ thủ cờ vây. Vì thế người dùng cũng có kỳ vọng rất lớn với Google. Còn Microsoft thì kỳ vọng chỉ ở mức trung bình, phải rất khó mới có thể khiến thị trường thất vọng.



Thực tế thì, bất chấp vài trường hợp Sydney "hóa điên", Microsoft vẫn đang là tâm điểm của sự chú ý, mọi người vẫn sẵn sàng chờ đợi để đến lượt tự mình trải nghiệm Bing kèm chatbot AI.

Khi trải nghiệm mới qua đi

Một yếu tố quan trọng hơn nhiều, đó là chatbot AI phải làm những gì để thuyết phục người dùng rằng thông tin nó đưa ra là chính xác. Nếu, cái nếu này khả năng rất cao sẽ xảy ra, chatbot tìm kiếm trực tuyến trở nên phổ biến, nhưng vẫn vận hành như cái cách hiện giờ Sydney hoạt động, "sự thật" bỗng nhiên sẽ trở thành một khái niệm thậm chí còn trừu tượng hơn cả bây giờ.

Giờ là cái thời điểm internet ngập tràn thông tin giả mạo, thuyết âm mưu và thông tin định hướng dư luận. Một cụm từ khóa tìm kiếm trên Google Search chí ít còn cho chúng ta tham chiếu và so sánh nguồn tin, còn chatbot thì chưa chắc. Nếu chính công cụ tìm kiếm anh em tin tưởng vận hành không đáng tin cậy, thì chuyện gì sẽ xảy ra?



Những người nhớ chuyện cũ liên tưởng Sydney giống hệt như Tay, một chatbot AI được Microsoft thử nghiệm hồi năm 2016 trên Twitter. Tay biến thành một con quái vật phân biệt chủng tộc đúng một ngày sau khi được ra mắt, và đó cũng là hệ quả của việc tổng hợp rồi huấn luyện thuật toán dựa trên dữ liệu có sẵn trên mạng internet. Như người Việt Nam nói là "cái hay cái ho không học", Tay chỉ mất đúng một ngày để học hết những thứ đen tối nhất của loài người.

Đọc thêm: https://tinhte.vn/thread/dong-sang-lap-openai-rat-can-cong-cu-quan-ly-vi-se-co-nhung-ai-voi-tiem-nang-thuc-su-dang-so.3636148/

Đồng sáng lập OpenAI: Rất cần công cụ quản lý, vì sẽ có những AI với tiềm năng thực sự đáng sợ

Đấy là những tuyên bố trên mạng xã hội Twitter của Sam Altman, đồng sáng lập kiêm CEO OpenAI, nhà phát triển ChatGPT. Anh này cho rằng, tương lai việc con người được những công cụ AI trợ giúp sẽ "cơ bản là tốt" và sẽ diễn ra nhanh…

tinhte.vn

Công nghệ mới, trước tiên và quan trọng nhất là không được phép làm hại con người. Những mô hình ngôn ngữ tạo ra những chatbot AI có thể càng lúc càng phát triển, tham số dự đoán dựa trên nguồn dữ liệu khổng lồ. Nhưng điều đó không khiến những chatbot ấy phục vụ con người tốt hơn. Nếu không có những biện pháp và chế tài quản lý, thì không rõ tương lai của chatbot sẽ ra sao.

Theo UNSW Sydney

CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG

Nhấn vào đây để bắt đầu học

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !