Từ mô hình ngôn ngữ lớn đến tác tử AI tự hành
Phân biệt chatbot truyền thống, chatbot dùng LLM, RAG và tác tử AI; tìm hiểu các thành phần giúp một tác tử cảm nhận, suy luận và hành động.
Đọc bài viếtNUVERXAI TECH NOTES
Các bài viết về Edge AI, AI Agents, mô hình ngôn ngữ, giọng nói và cách đưa nghiên cứu đến gần sản phẩm.
Phân biệt chatbot truyền thống, chatbot dùng LLM, RAG và tác tử AI; tìm hiểu các thành phần giúp một tác tử cảm nhận, suy luận và hành động.
Đọc bài viết8 bài viết · Hiển thị bằng ngôn ngữ gốc
Hướng dẫn tổ chức pipeline học máy có thể tái lập, từ tiền xử lý dữ liệu đến theo dõi thí nghiệm và quản lý phiên bản mô hình.
01Quy trình thực hành để chọn backbone, chuẩn bị dữ liệu, đóng băng lớp và đánh giá mô hình thị giác máy tính sau fine-tuning.
02Giải thích linear quantization, PTQ, QAT và các định dạng/kỹ thuật thường gặp khi đưa mô hình ngôn ngữ xuống phần cứng giới hạn.
03Tổng quan từ tokenization, embeddings và causal attention đến kiến trúc Transformer và vòng lặp huấn luyện một mô hình ngôn ngữ nhỏ.
04Kiến trúc đề xuất khi mở rộng RAG lên hàng trăm nghìn tài liệu: chia đoạn theo cấu trúc, truy xuất kết hợp, lưu trữ vector có lượng tử hóa, bộ nhớ đệm ngữ nghĩa, sinh câu trả lời có trích dẫn và cách đo chất lượng.
05Giới thiệu quy trình chuyển và chạy mô hình neural network trên Raspberry Pi bằng TensorFlow Lite, kèm các điểm cần đo trên thiết bị thật.
06Khảo sát pipeline speech-to-text và text-to-speech chạy cục bộ bằng Vosk và Piper, phù hợp với hướng tương tác giọng nói riêng tư trên thiết bị.
07