Chi phí hàng tỷ USD, gấp 10 lần để vận hành chatbot AI: Thứ đang khiến Google và Microsoft đau đầu

Google đang tìm cách phục hồi sau màn ra mắt chatbot Bard tích hợp vào công cụ tìm kiếm trực tuyến, thứ khiến họ mất toi 100 tỷ USD giá trị vốn hóa. Nhưng một vấn đề khác lại xuất hiện trong cuộc đua "AI hóa" tìm kiếm trực tuyến: Chi phí vận hành.

CEO Sam Altman của OpenAI, nhà phát triển ChatGPT thừa nhận trên Twitter, rằng vận hành mô hình ngôn ngữ GPT-3.5 hiện tại của họ có chi phí vận hành đủ khiến mọi người hoảng sợ. Có lẽ đó chính là lý do họ cần thương mại hóa ChatGPT, thông qua hai bước cung cấp gói cước ChatGPT Plus cho người dùng cá nhân, và OpenAI Foundry phục vụ vận hành chatbot custom cho doanh nghiệp. Còn trong khi đó, các giám đốc của những tập đoàn công nghệ cũng đang tìm cách vận hành chatbot AI mà không gây thua lỗ.

Đọc thêm: https://tinhte.vn/thread/openai-foundry-dich-vu-cho-thue-may-chu-chatgpt-phuc-vu-doanh-nghiep-va-to-chuc.3637046/

OpenAI Foundry: Dịch vụ cho thuê máy chủ ChatGPT phục vụ doanh nghiệp và tổ chức

Dịch vụ xử lý và vận hành mô hình ngôn ngữ AI dành cho doanh nghiệp này vừa được OpenAI giới thiệu tới các đối tác tiềm năng. Nền tảng developer tên là OpenAI Foundry cho phép đối tác vận hành mô hình ngôn ngữ GPT, thứ tạo ra ChatGPT nổi tiếng…

tinhte.vn

Trao đổi với Reuters, chủ tịch tập đoàn Alphabet, John Hennessy cho biết, chi phí một lần tìm kiếm trực tuyến theo kiểu trò chuyện với AI tạo ra chi phí vận hành gấp 10 lần so với việc nhập từ khóa tìm kiếm theo kiểu truyền thống. Đương nhiên nếu tinh chỉnh mô hình ngôn ngữ thì chi phí vận hành sẽ có xu hướng giảm đi, hiệu quả hơn cho Google. Nhưng ngay cả khi tính đến nguồn thu tiềm năng béo bở từ quảng cáo chèn vào tìm kiếm bằng chatbot, thì việc vận hành Bard vẫn có khả năng ảnh hưởng tới tỷ suất lợi nhuận của Google.

Vận hành chatbot đắt cỡ nào?

Quảng cáo

Ngân hàng đầu tư Morgan Stanley đưa ra ước tính, trong số 3,3 nghìn tỷ lượt tìm kiếm Google năm ngoái, mỗi cú pháp tìm kiếm trực tuyến có chi phí vận hành 1/5 cent Mỹ, tức là cỡ… 46 VNĐ cho mỗi tìm kiếm. Khi ứng dụng chatbot AI Bard vào công cụ tìm kiếm, chi phí vận hành sẽ tăng, tỷ lệ thuận với lượng từ ngữ mà mô hình ngôn ngữ phải tạo ra phục vụ người dùng.

Dự đoán của Morgan Stanley, trong năm 2024, nếu Bard vận hành phục vụ 1/2 tổng lượt tìm kiếm trực tuyến, mỗi lượt trả về kết quả dưới dạng đoạn văn 50 chữ, thì chi phí vận hành mà Google phải bỏ ra sẽ rơi vào khoảng 6 tỷ USD.

SemiAnalysis thì đưa ra dự đoán với con số nhỏ hơn. Họ cho rằng nếu ứng dụng Bard, Alphabet sẽ tốn cỡ 3 tỷ USD, bao gồm việc ứng dụng số lượng lớn chip TPU xử lý deep learning do chính Google phát triển, bên cạnh chi phí tối ưu vận hành.

Đọc thêm: https://tinhte.vn/thread/hang-duoc-loi-nhieu-nhat-tu-con-sot-chatgpt-cung-nhu-ai-noi-chung-nvidia.3630282/

Hãng được lợi nhiều nhất từ cơn sốt ChatGPT cũng như AI nói chung: Nvidia

Nói không ngoa, trước sự bùng nổ của ChatGPT hay những công cụ ứng dụng thuật toán machine learning, thì những con chip xử lý được phát triển riêng cho nhu cầu nghiên cứu trí thông minh nhân tạo từ Nvidia hay các hãng khác bỗng có giá trị quý như…

tinhte.vn

Rất dễ nhận ra nguyên nhân khiến việc ứng dụng chatbot AI đắt hơn nhiều so với việc vận hành máy chủ tìm kiếm trực tuyến truyền thống. Đấy chính là sức mạnh xử lý điện toán mà những mô hình ngôn ngữ cần để tạo ra những dòng chữ tự nhiên và thân thiện cho người dùng. Những chatbot cần tới sự phục vụ của lượng chip xử lý trị giá hàng tỷ USD. Chi phí đầu tư ban đầu này có thể được chia ra từng năm chatbot AI vận hành phục vụ người dùng.

Thêm nữa, để vận hành lượng chip xử lý khổng lồ này cũng cần lượng điện không hề nhỏ để hoạt động. Yếu tố này cũng tạo ra áp lực đối với các tập đoàn công nghệ, giữa lúc họ liên tục có những hứa hẹn về việc cắt giảm lượng khí nhà kính họ trực tiếp và gián tiếp tạo ra khi các dịch vụ trực tuyến hoạt động. Vận hành máy chủ đám mây và trung tâm dữ liệu cần điện, rất nhiều điện, và lượng khí thải tạo ra từ việc sản xuất điện bằng nhiên liệu hóa thạch là trách nhiệm của chính các tập đoàn công nghệ.

Tối ưu chi phí

Hãy nói về quá trình vận hành chatbot AI. Quy trình xử lý từ khóa tìm kiếm trực tuyến bằng mô hình ngôn ngữ gọi là "inference". Khi ấy, mạng lưới thuật toán vận hành bắt chước mạng lưới nơ ron thần kinh não bộ con người sẽ đưa ra câu trả lời cho một câu hỏi, dựa trên quá trình "học" bằng dữ liệu trên internet trước đó.

Còn đối với tìm kiếm trực tuyến truyền thống, web crawler do các kỹ sư Google phát triển sẽ mò mẫm từ khóa trên mạng internet để tổng hợp thành những trang kết quả tìm kiếm. Mỗi lần nhập từ khóa ấn enter, Google sẽ đưa ra những câu trả lời và đường link liên quan.

Quảng cáo

Xét riêng Alphabet, họ đang gặp áp lực phải ứng dụng chatbot Bard cho công cụ tìm kiếm, bất chấp chi phí. Lý do là Microsoft đã đi trước họ một bước với Prometheus tích hợp vào cả trình duyệt Edge lẫn công cụ Bing. Đây là nước đi để Microsoft giành lại thị phần tìm kiếm trực tuyến, cái thị trường mà Google đang nắm 91% theo số liệu của Similarweb. Đương nhiên nó vận hành không hoàn hảo, mấy lần hóa điên khiến người dùng hoảng sợ, dẫn tới việc Microsoft phải giới hạn mỗi lần tìm kiếm chỉ được chat không quá 5 câu.

Đọc thêm: https://tinhte.vn/thread/vi-dau-chatbot-ai-cua-bing-lai-nhieu-lan-mat-tri-nhu-vay.3636488/

Vì đâu chatbot AI của Bing lại nhiều lần "mất trí" như vậy?

Cuộc đua biến đổi trải nghiệm tìm kiếm trực tuyến của người dùng đã bắt đầu. Microsoft vừa ghi điểm giúp họ dẫn trước Google. Nhưng cùng lúc, có lẽ Microsoft cũng đã tự ghi một bàn phản lưới nhà, khi Sydney, tên mã chatbot tích hợp trong Bing…

tinhte.vn

Rất nhiều năm qua, các nhà nghiên cứu và các kỹ sư của Alphabet đã liên tục tìm cách huấn luyện và vận hành mô hình ngôn ngữ quy mô lớn với chi phí rẻ hơn. Mô hình càng lớn, càng phức tạp thì đương nhiên cần nhiều chip xử lý để thực hiện quy trình "suy luận", vậy là chi phí tăng. Lấy ví dụ ChatGPT, dựa trên mô hình GPT-3.5 có thể vận hành ở ngưỡng 175 tỷ tham số, thậm chí có thể hơn gấp hàng trăm lần với GPT-4. Tương tự, mức độ phức tạp và độ dài câu trả lời cũng ảnh hưởng đến chi phí vận hành, khi mô hình ngôn ngữ suy luận những chuỗi văn bản, gọi là "token".

Một vị giám đốc giấu tên trong ngành công nghệ nói với Reuters rằng, chi phí vận hành chatbot AI thế hệ mới hiện giờ cao đến mức không thể mở rộng rãi cho hàng triệu người sử dụng được. Phải có những bước giảm chi phí huấn luyện thuật toán cũng như chi phí "inference", chip xử lý cũng phải bớt tốn điện trong khi hoạt động, thì việc thương mại hóa những giải pháp cao cấp hơn ChatGPT mới trở nên khả thi.

Đọc thêm: https://tinhte.vn/thread/microsoft-co-prometheus-google-co-bard-gio-meta-cung-da-co-chatbot-llama.3638228/

Microsoft có Prometheus, Google có Bard, giờ Meta cũng đã có chatbot LLaMa

CEO Meta, Mark Zuckerberg vừa giới thiệu mô hình ngôn ngữ LLaMa, viết tắt của Large Language Model Meta AI: "Hôm nay chúng tôi cho ra mắt mô hình ngôn ngữ AI quy mô lớn mang tên LLaMa để giúp các nhà nghiên cứu cải thiện công việc của họ.

tinhte.vn

Vấn đề lâu dài là làm thế nào hạ quy mô tham số của mô hình ngôn ngữ xuống từ 10 đến 100 lần mà không khiến độ chính xác của văn bản trả về bị ảnh hưởng. Làm được như vậy, những cụm siêu máy tính vận hành thuật toán sẽ được giảm tải đi rất nhiều, lượng điện năng tiêu thụ giảm, và chi phí cũng giảm theo.

Quảng cáo

Còn trước mắt, những giải pháp thương mại hóa như OpenAI Foundry hay ChatGPT Plus luôn là giải pháp tạm thời hiệu quả. Về phần Google, họ sẽ thu gọn quy mô của mô hình ngôn ngữ LaMDA, nền móng của Bard, để có thể phục vụ hiệu quả hàng chục, hàng trăm triệu người dùng.

Theo Reuters

CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG

Nhấn vào đây để bắt đầu học

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !