Chat with RTX ra mắt: Chatbot AI vận hành bằng card đồ họa Nvidia

Nvidia vừa mới công bố demo của ứng dụng chatbot vận hành dựa trên mô hình ngôn ngữ AI và nhân tensor trên những mẫu card đồ họa tiêu dùng của hãng, Hiện giờ Chat with RTX chỉ vận hành được trên hai thế hệ GPU Ampere và Ada, tức là RTX 30 và 40 series.

Chat with RTX ứng dụng cùng lúc ba giải pháp. Thứ nhất là giải pháp tạo nội dung retrieval-augmented generation, thứ hai là thư viện mã nguồn mở tăng tốc nội suy nội dung của Nvidia mang tên TensorRT-LLM, và thứ ba là khả năng tăng tốc xử lý thuật toán deep learning dựa vào nhân tensor trên những GPU chơi game mà Nvidia tạo ra.

Bên cạnh việc vận hành như ChatGPT, nhưng không phải đợi máy chủ đám mây phản hồi, chỉ cần đợi nhân tensor của GPU trong máy tính của anh em làm việc, thì Chat with RTX còn có thể làm vài việc khác khá hữu ích, chẳng hạn như nhận một đường link video trên YouTube, rồi mô hình ngôn ngữ sẽ theo dõi nội dung clip và trả lời những câu hỏi có liên quan tới video ấy, hoặc tóm tắt nội dung nếu nó quá dài, không thể theo dõi hết.

Về mặt công năng, RAG, retrieval-augmented generation là một kỹ thuật cải thiện mức độ chính xác và mức độ tin cậy của những mô hình AI tạo nội dung, dựa vào thông tin từ những nguồn bên ngoài, chẳng hạn như kết quả tìm kiếm trực tuyến chẳng hạn.

Và nhờ vào việc vận hành local trên cấu hình PC của anh em, giống hệt như những giải pháp tạo hình dựa trên model cảu Stable Diffusion, và được huấn luyện dựa trên dữ liệu của chính anh em, Chat with RTX có thể vừa nhanh vừa có những câu trả lời thực sự liên quan tới nhu cầu tìm kiếm thông tin. Cùng lúc, theo Nvidia, kết quả văn bản mà Chat with RTX tạo ra cũng sẽ bảo mật, vì chạy trên thiết bị đầu cuối, không gửi dữ liệu của anh em về máy chủ ở bất kỳ đâu.

Theo Tom Warren của The Verge, người đã được trải nghiệm phiên bản beta của Chat with RTX, mặc dù vận hành còn chưa ưng ý, nhưng đây có thể là một công cụ đầy hữu ích để hỗ trợ các nhà báo và phóng viên theo dõi và phân tích một lượng lớn tài liệu giàu thông tin.

Lấy ví dụ, với chatbot vận hành local của Nvidia, Warren đã có thể tóm tắt toàn bộ chiến lược của Microsoft đối với dịch vụ cho thuê game Xbox Game Pass, dựa vào những tài liệu pháp lý được công khai trong vụ kiện giữa Microsoft và FTC hồi năm ngoái, trước khi thương vụ mua lại Activision Blizzard được hoàn tất.

Nhưng trong khi đó, phân tích nội dung video clip thì vẫn chưa vận hành như ý muốn vì chatbot tải nhầm transcript phụ đề của một đoạn video hoàn toàn khác chứ không phải video muốn thử nghiệm.

Những anh em đang sở hữu card đồ họa RTX thế hệ 30 hay 40 series muốn dùng thử Chat with RTX có thể lên trang chủ của Nvidia để tải file cài đặt và dùng thử tại đây. Anh em sẽ còn cần phải cài thêm Python, và bản thân ứng dụng Chat with RTX sẽ có dung lượng chừng 40GB.

Theo Techspot

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !