Vũ Vũ Mạnh Mạnh xuất bản sách dạy bạn xây dựng "ứng dụng LLM cục bộ", vẻ ngoài ngại ngùng của Mạnh Bảo lại ẩn chứa một thạc sĩ về khoa học máy tính.

Thần tượng mới của giới trẻ Vãi Vãi Mèng Mèng, Vãi Bảo xuất bản sách dạy bạn chơi AI

Wai Wai Meng Meng là người nổi tiếng trên mạng tại Đài Loan, là một ca sĩ sáng tác, với đĩa đơn “Quà tặng 300 ngày Wai Meng” đã đạt hơn 140.000 lượt xem trên Youtube. Người sáng tạo chính là Meng Bao (Mengbert), tốt nghiệp ngành Kỹ thuật Xây dựng của Đại học Quốc gia Đài Loan, hiện đang theo học chương trình thạc sĩ tại khoa Âm nhạc của Đại học Phụ Nhân. Người xuất bản lần này là Wai Bao (Weibert), anh là thạc sĩ ngành Khoa học Máy tính tại Đại học Bắc Đài Loan, từng giành huy chương vàng trong cuộc thi trí tuệ nhân tạo toàn quốc AI CUP do Bộ Giáo dục tổ chức và giải thưởng sinh viên dự kiến của Trend Micro.

Lần này, anh ấy xuất bản sách dưới bút danh “好崴寶(Weibert Weiberson)”, kết hợp lý thuyết và thực tiễn, cho ra mắt cuốn sách “Hướng dẫn phát triển Local Ollama × LangChain × LangGraph × LangSmith: Xây dựng ứng dụng RAG, Agent, SQL”.

Tạo ứng dụng mô hình ngôn ngữ lớn tại chỗ từ việc học thực hành

Wai Bao cho biết cuốn sách này phù hợp cho các nhà phát triển muốn xây dựng mô hình ngôn ngữ lớn trên thiết bị cục bộ, hướng dẫn bạn cách tạo ứng dụng mô hình ngôn ngữ lớn bằng thiết bị cục bộ. Cuốn sách có kèm theo các trường hợp thực hành, bạn có thể trực tiếp sử dụng mã trong đó để thực hiện. Cuốn sách còn sử dụng những tình huống thường ngày của Wai Wai và Meng Meng để thực hiện, như sử dụng ngôn ngữ hàng ngày để thực hiện tìm kiếm độ tương đồng ngữ nghĩa trong cơ sở dữ liệu vector.

Sách nhấn mạnh “dữ liệu không ra ngoài” và “mô hình tùy bạn đổi”, thông qua hệ thống Ollama thực thi các mô hình ngôn ngữ lớn trên máy cục bộ, không chỉ tránh được việc tải lên đám mây dữ liệu nhạy cảm mà còn tiết kiệm được chi phí API đắt đỏ. Kết hợp với khung ứng dụng LangChain, các nhà phát triển có thể nhanh chóng chuyển đổi các hàm hiện có thành công cụ AI, thậm chí chuyển đổi giữa các mô hình mà không cần viết lại mã, độ linh hoạt được nâng cao đáng kể.

Ngoài ra, cuốn sách còn giới thiệu đầy đủ về ứng dụng RAG ( trong việc tăng cường tìm kiếm và tạo ra ), cho phép nhập liệu nhanh chóng từ PDF, trang web đến dữ liệu JSON, nhằm xây dựng kho kiến thức riêng cho mô hình. Thêm vào đó, với sự điều khiển quy trình của AI Agent và LangGraph, các nhà phát triển có thể thiết kế những đại lý thông minh vừa có khả năng tự lập kế hoạch hành động, vừa tránh được vòng lặp vô hạn. Cuối cùng, thông qua công cụ đánh giá LangSmith, thiết kế Prompt, hiệu suất hoạt động và quyết định nhiệm vụ trong quá trình phát triển có thể được định lượng và theo dõi rõ ràng.

(2025 Phân tích toàn bộ 5 mô hình LLM chính thống mới nhất, hiểu rõ về chi phí, ứng dụng và tính bảo mật một lần.

Bài viết này của Vãi Vãi Mạnh Mạnh hướng dẫn bạn cách tạo “ứng dụng LLM trên thiết bị địa phương”, Mạnh Bảo với vẻ ngoài ngại ngùng thực chất là thạc sĩ khoa học máy tính. Xuất hiện lần đầu tại Tin tức Chuỗi ABMedia.