Zalo AI Summit 2023 là sự kiện được cộng đồng AI mong đợi với sự quy tụ nhiều chuyên gia người Việt đang công tác tại các đơn vị nghiên cứu hàng đầu trong lĩnh vực AI. Sự kiện diễn ra tại VNG Campus, Q7, TP.HCM.
![[IMG]](https://photo2.tinhte.vn/data/attachment-files/2023/12/8216162_photo-2023-12-16_08.44.56.jpeg)
Lúc 8h45, sự kiện chính thức bắt đầu.
Ông Nguyễn Minh Tú, CTO Zalo mở đầu và chia sẻ thông tin chung về AI tại Việt Nam. Những mô hình Generative AI tại Việt Nam đã được ứng dụng vào cuộc sống, các ngành nghề trong nhiều lĩnh vực như âm nhạc, nghệ thuật, công nghệ….
Hàng loạt các công ty công nghệ giới thiệu các công cụ Generative AI. Xu hướng xu hướng là build các multi model. Đồng thời các mô hình lớn nhỏ cũng đang được phát triển song song.
Lúc 8h45, sự kiện chính thức bắt đầu.
Ông Nguyễn Minh Tú, CTO Zalo mở đầu và chia sẻ thông tin chung về AI tại Việt Nam. Những mô hình Generative AI tại Việt Nam đã được ứng dụng vào cuộc sống, các ngành nghề trong nhiều lĩnh vực như âm nhạc, nghệ thuật, công nghệ….
Hàng loạt các công ty công nghệ giới thiệu các công cụ Generative AI. Xu hướng xu hướng là build các multi model. Đồng thời các mô hình lớn nhỏ cũng đang được phát triển song song.
Tại Việt Nam, VNG Zalo đã đầu tư vào mô hình AI, bắt kịp xu hướng toàn cầu. Zalo từ hào với các kỹ sư AI năng động, tài năng. Tuy nhiên, khó khăn lớn nhất mà Zalo đang phải đối mặt đó là chi phí về GPU, hạ tầng chuyên dụng dành cho việc nghiên cứu.
Zalo bắt đầu build AI chuyện dụng vào quý 2, đến nay đã có thành quả tương ứng và Zalo đang tiếp tục phát triển mô hình ngôn ngữ lớn LLMs đã được build.
Zalo Summit 2023 là sự kiện lần thứ 7 được tổ chức, trở thành sự kiện thường niên, năm nay chủ đề xoay quanh Generative AI.
Cuộc thi ZaloAI Summit 2023 quy tụ sự tham dự của gần 1.000 đội thi cùng tham gia tranh tài ở cả 3 đề thi xoay quanh chủ đề Generative AI.
Giáo sư Trần Thanh Long chia sẻ về Tương lai của AI.
Sự bùng nổ AI của ChatGPT có thể xem là sự bùng nổ lớn nhất trong cuộc sống của con người. Trong vòng 2 tháng đã có 100 triệu users, quá thành công.
Sự phát triển của AI dựa vào các mô hình ngôn ngữ lớn (LLM) mang tính ứng dụng lớn. Từ trước đến nay, chúng ta luôn tìm và phát triển các phương pháp để giải các bài toán ứng dụng. Trải qua nhiều năm, hiện tại chúng ta đã đạt đến trình độ của các mô hình LLM với sức mạnh lớn lao hơn rất nhiều để giải quyết các bài toán đó.
Quảng cáo
Tuy vậy, không phải là LLM không có điểm yếu trong việc giải các bài toán đó. Nó vẫn tồn tại những nhược điểm nhất định trong một số các tình huống khác nhau. Nhưng vẫn không thể phủ nhận sự đơn giản nhưng mạnh mẽ của một số thuật toán đã và đang được các chuyên gia phát triển.
Các mô hình LLM hoạt động dựa trên 3 kiểu suy luận chính như hình. Hiện tại, việc dùng các công cụ kiểu như Chat GPT đang gặp một vấn đề là khá bị động. Nhưng trong tương lai, các mô hình này có thể chủ động hơn trong việc tương các với các LLM khác hoặc với người dùng tốt hơn.
Nếu thật sự muốn tham gia và tìm hiểu, anh em ngay lập tức có thể tải về các mô hình AI để thử nghiệm ngay trên máy của anh em. LLM có rất nhiều ứng dụng, từ những thứ thực tiễn và gần gũi nhất với anh em như điều khiển nhà thông minh.
Quảng cáo
Ứng dụng tiềm năng khác đó chính xác xây dựng một thành phố thông minh, bằng cách kết hợp nhiều LLM Agent cùng lúc. Chúng có thể vận hành hệ thống xe thông minh hoặc đèn giao thông,…Tất nhiên, vẫn còn rất nhiều thử thách cần vượt qua để có thể hiện thực hoá các ý tưởng này.
Từ 2016. Microsoft đã bắt đầu phát triển mô hình AI mà họ rất tự hào là Tay.ai, nhưng đã bị đóng cửa trong vòng 1 ngày. Chatbot này được thiết kế để hoạt động trên Twiiter như 1 cô gái 14 tuổi, nhưng đã bị nhiều kẻ xấu "input" vào các thông tin phân biệt chủng tộc, khiến cho ý tưởng này hoàn toàn thất bại. Bởi vậy, việc bị hack hoặc phá hoại là điều cần phải đề phòng trước trong quá trình phát triển hệ thống.
Thách thức thứ 2 của LLM có chính là khả năng tương tác. Melting Pot là nơi mà anh em hiện tại có thể thử để đưa các mô hình của anh em xem nó có hiệu quả trong khả năng tương tác hay không.
Sự kiện Flash Crash khiến nền kinh tế Mỹ mất hàng nghìn tỷ USD trong vài giây xuất phát từ một lỗi hệ thống do các AI phối hợp không hiệu quả với nhau.
LLM sẽ thống trị nhiều lĩnh vực của cuộc sống và LLM Agents sẽ trở thành những thứ vô cùng khả thi. Nhưng việc đạt được những điều đó còn là cả một chặng đường.
Tiến sĩ Nguyễn Trường Sơn, giám đốc Khoa học của Zalo AI đang lên sân khấu để trình bày phần nội dung của mình. LLM Agents là câu chuyện lớn của thế giới, nhưng ở Việt Nam thì chúng ta vẫn đang trong giai đoạn xây dựng các mô hình ngôn ngữ nhỏ hơn. Mô hình ngôn ngữ thật ra là xoanh quanh việc dự đoán từ tiếp theo và chung sta huấn luyện để AI làm được chuyện đó.
Bàn phím của anh em đang sử dụng với khả năng dự đoán văn bản cũng là một mô hình ngôn ngữ, với khả năng học cách anh em chat hàng ngày để phát triển. Nhưng các mô hình này chỉ dùng 2-4 từ để dự đoán từ tiếp theo. Còn mô hình ngôn ngữ lớn thì dùng tới 2k - 16k từ, như Chat GPT3 chẳng hạn.
Ngữ cảnh càng dài, khả năng dự đoán của mô hình ngôn ngữ càng cao. Các mô hình ngôn ngữ cũng rất đa dạng, từ nhỏ cho đến lớn, với chi phí đầu tư cũng như lượng dữ liệu khác nhau. Hiện tại thì đa phần các mô hình ngôn ngữ này đều hoạt động với tiếng Anh và rất hiếm có tiếng Việt.
Chúng ta cần mô hình ngôn ngữ LLM vì đa phần các tác vụ hàng ngày như nói chuyện với nhau cũng được thực hiện theo kiểu "next token prediction". Khi các mô hình ngôn ngữ quá phát triển và phổ biến, nó bắt đầu được ứng dụng cho các tác vụ "Cheat", chẳng hạn như sinh viên sử dụng để hoàn thành luận văn. Mặt khác, AI tất nhiên cũng mang lại các lợi ích kinh tế lớn bên cạnh những mặt trái như vừa nêu.
Các mô hình ngôn ngữ có thể được xuất dưới dạng API để phát triển ra các công cụ phục vụ cho các nhu cầu đặc thù hơn, đơn giản như viết CV chẳng hạn.
Thực ra, mô hình ngôn ngữ có lịch sử phát triển khá dài, từ những công ty công nghệ, tổ chức khác nhau… Hiện vẫn chưa có tổ chức nào ở Việt Nam làm được điều này.
Việc phát triển một mô hình ngôn ngữ cho tiếng Việt là điều cần thiết, mặc dù sẽ đối mặt nhiều thử thách. Việc dùng các công cụ hiện có như GPT3/4 có thể đối mặt với việc rò rỉ thông tin, đặc biệt là các công ty, tổ chức. Hiện tại, các tác vụ được thực hiện bằng tiếng Việt bởi GPT3/4 là có nhưng không chuyên cho người Việt. Và chi phí cũng là một vấn đề cần nói tới.
Số token để biểu diễn một từ cho tiếng Việt khoảng 2,4, trong khi tiếng Anh là 1,1. Do vậy, chi phí cũng sẽ cao hơn. Chưa kể, thời gian cho ra kết quả cũng sẽ chậm hơn, bởi nó không được tối ưu hoá cho tiếng Việt. OpenAI tính tiền theo token, bởi vậy nên đó cũng là vấn đề anh em cần quan tâm bên cạnh bảo mật và khả năng custom công cụ.
Tiếng Anh có khá nhiều dữ liệu chất lượng, từ mã nguồn các thứ, còn điều này khá khó khăn đối với nguồn dữ liệu tiếng Việt. Đây là rào cản khá lớn trong việc phát triển LLM dựa trên tiếng Việt. Phần cứng cũng là một vấn đề tồn tại song song, cụ thể là GPU cho việc phát triển mô hình ngôn ngữ.
Hiện tại, trào lưu phát triển các mô hình ngôn ngữ của Việt Nam cũng đang dần phát triển đến từ nhiều cá nhân và tổ chức khác nhau. Đây rõ ràng là một tín hiệu tốt.
Ngoài ra, chính phủ hiện tại cũng ủng hộ phát triển các mô hình ngôn ngữ lớn. Zalo cũng đang phát triển mii hình ngôn ngữ của họ. Công việc này đòi hỏi nhiều bước, đầu tiên là quá trình tiền huấn luyện, sau đó thì dạy cho nó cách "nói chuyện", giúp cho mô hình ngôn ngữ có khả năng đối đáp tốt hơn.
Zalo đang thu thập khoảng 650GB dữ liệu để xây dựng mô hình ngôn ngữ từ nhiều nguồn khác nhau. Họ cũng đang có vài trăm ngàn cấu trúc để huấn luyện các mô hình ngôn ngữ này.
Số token để hình thành 1 từ của công cụ này là khoảng 1,1 và 1,2, nhìn chung là khá tốt cho cả tiếng Anh và tiếng Việt, qua đó hứa hẹn tối ưu chi phí và thời gian xuất kết quả.
Về mặt kiến trúc và kích thước, Zalo sẽ sử dụng một số kiến trúc từ Nemo và Llama - những công cụ đang có sẵn và hoạt động rất tốt. GPU H100 sẽ là thứ được chọn để vận hành các mô hình kỹ thuật này. Kết quả bencmark đầu tiên cho thấy Zalo đạt hiệu quả tốt trong quá trình huấn luyện.
Nếu so sánh với các mô hình khác dựa trên cùng một task thì mô hình của Zalo hiện hoạt động tốt với các tác vụ tiếng Việt.
Với khả năng viết email và khả năng dịch. Ngoài ra, bên trong thậm chí còn chèn thêm được các task rút tách thông minh, chẳng hạn như địa điểm hoặc số liệu. Anh em có thể phát triển các chatbot từ mô hình này để thực hiện một nhiệm vụ tìm kiếm dữ liệu nào đó cho công ty.
Bước tiếp theo là phải cải thiện khả năng suy luận bằng nhiều mô hình khác nhau. Mục tiêu của Zalo là xây dựng mô hình có 5TB text như các mô hình lớn khác trên thế giới. Mô hình cũng được định hình để có thể hiểu được nhiều input khác nhau, từ text cho tới hình ảnh hay video.
Kỹ sư Khang Mạnh Tứ, trưởng nhóm phát triển hệ thống ở Zalo lên để nói về cách xây dựng phần cứng để tạo mô hình ngôn ngữ. Ví dụ, trợ lý ảo Kiki - mô hình trợ lý giọng nói mà công ty phát triển.
Mục tiêu độ trễ là 500ms từ lúc voice input cho tới khi trả kết quả. Đối với ứng dụng này, Zalo xây dựng 1 model để chạy thử trên RTX 3090 và thấy kết quả hợp lý, nhưng chi phí quá cao. Một mô hình khác được thử nghiệm trên GPU A5500. Cuối cùng, RTX 4090 là GPU được chọn để chay mô hình này để tối ưu các yếu tố.
Zalo cũng ứng dụng LLM để tạo mô hình AI làm thơ, với độ trễ cho phéo là 1 giây. GPU 3090 và 3049 đều hoạt động tốt, nhưng GPU 3090 đã được chọn để tối ưu cho phí. Bởi vậy, cần phải chọn phần cứng phù hợp với từng task mà anh em muốn mô hình ngôn ngữ thực hiện.
Hư hỏng phần cứng cũng là thứ cần phải đối mặt, thế nên việc xây dựng các cơ chế để phát hiện hư hỏng và khắc phục kip thời là điều hoàn toàn cần thiết. Dòng GPU 4090 hiện gặp vấn đề quá nhiệt, bởi vậy nên cách giải quyết là giảm số lượng phần cứng ở từng server. Zalo cũng đầu tư vào các dòng GPU mới như H100 để sử dụng cho việc training mô hình ngôn ngữ.
Anh Cuhiep Trần, admin Tinhte.vn lên sân khấu để cho anh em chơi hỏi đáp các câu hỏi thú vị liên quan đến ngôn ngữ, cũng là thứ mà AI đang được huấn luyện.
Ở "cuộc thi" này, anh em đượ chứng kiến màn so tài giữa các AI khác nhau, trong đó có của Zalo là Kiki và 1 con người là Mod Vân. Kết quả thì Vân top1, Kiki top3. Qua đó, chúng ta thấy tốc độ xử lý của các chatbox AI rất nhanh tuy nhiên, tiếng Việt vẫn còn là một hạn chế và cần được phát triển, huấn luyện để tốt hơn từng ngày.
Dr. Ettikan Kandasamy Karuppiah - Giám đốc công nghệ Nvida Châu Á - Thái Bình Dương chia sẻ về trí tuệ nhân tạo tạo sinh giai đoạn 2023 - 2024.
Các giai đoạn phát triển của các mô hình AI.
NeVa (NeMo Vision and Language Assistant) một mô hình ngôn ngữ tầm nhìn đa phương thức của Nvidia, có thể hiểu văn bản và hình ảnh và tạo ra các phản hồi thông tin. Nó được xây dựng trên khuôn khổ Nvidia NeMo, là một bộ công cụ nguồn mở để phát triển và triển khai các mô hình AI đa phương thức.
Một vài ví dụ được thực hiện để cho thấy khả năng xử lý của trợ lý AI trong việc thảo luận, giải đáp thắc mắc và đưa ra những gợi ý dành cho người hỏi. Ví dụ, gửi cho trợ lý AI 1 bức ảnh về tính trạng bánh xe bị xẹp, và AI có thể quét tình trạng trên hình và gợi ý cho người dùng cách xử lý tình huống đang gặp phải.
NVIDIA NeMo, một phần của nền tảng NVIDIA AI, là một framework phát triển ứng dụng AI toàn diện cấp doanh nghiệp, cloud-native, xây dựng có mục đích cho việc tùy biến và triển khai các mô hình AI tạo sinh (Generative AI) với hàng tỷ tham số. NeMo giúp việc phát triển mô hình AI tạo sinh trở nên dễ dàng, tiết kiệm chi phí và nhanh chóng cho các doanh nghiệp.
Giáo sư Nguyễn Lê Minh chia sẻ về bộ đánh giá cho các mô hình ngôn ngữ lớn.
Hình ảnh của mô hình ngôn ngữ LLMs trên thế giới. Có 15,821 LLMs đã được ra mắt từ 18/7/2023.
Có nhiều công cụ để đánh giá tính hiệu quả của một model AI
ZaloAI kết hợp với Viện Khoa học và Công nghệ Tiên tiến Nhật Bản (JAIST) ra mắt bộ đánh giá VMLU (Vietnamese Multitask Language Understanding) giúp đánh giá khả năng hiểu và vận dụng ngôn ngữ tiếng Việt của các mô hình AI. VMLU được kỳ vọng sẽ là bộ bencmark mà các nhóm nghiên cứu AI có thể sử dụng làm tiêu chuẩn đánh giá tiếng Việt để tham chiếu, đánh giá tính hiệu quả của model đang phát triển.
VMLU là bộ tiêu chuẩn đánh giá tiếng Việt đa dạng cấp độ với 10.880 câu hỏi trắc nghiệm xoay quanh 58 chủ đề khác nhau.
Zalo AI Challenge 2023 xoay quanh 3 bộ đề bài tương ứng với 3 mảng khác nhau, các đội chơi phải huấn luyện mô hình để giải đề. Mỗi bộ đề sẽ có 1 đội chiến thắng.
- Elementary Maths Solving - Các đội thi được yêu cầu xây dựng mô hình AI để giải toán tiểu học theo chuẩn chương trình giáo dục Việt Nam.
- Advertising Banner Generation - Các đội thi sẽ phải dùng mô hình AI để tự thiết kế các banner quảng cáo dựa trên các thông tin mô tả cho trước.
- Background Music Generation - Các đội thi sẽ phải dùng mô hình AI cần tạo ra các đoạn nhạc nền dựa trên yêu cầu về giai điệu, nhạc cụ, thể loại nhạc.
Trao giải TOP 15 với những phần quà từ nhà tài trợ Intel.
Trao giải Nhì cho 3 đội đạt giải ở 3 bộ đề được ban tổ chức đưa ra.
Trao giải Nhất dành cho 3 đội đạt giải ở lần lượt 3 bộ đề.
Trao giải giành cho các kỹ sư của ZaloAI ở vòng đấu nội bộ.
BTC ZaloAI Summit trao hoa và quà tri ân đến với các giao sư, kỹ sư, diễn giả, ban cố vấn đã đồng hành.
BTC ZaloAI Summit trao hoa và quà tri ân đến với các nhà tài trợ.
Như vậy là ZaloAI Summit 2023 đã kết thúc và Zalo AI Challenge 2023 cũng đã tìm ra được những đội chơi xuất sắc nhất.
CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
