66B hay 66 tỉ tham số là một hệ thống AI được thiết kế để hiểu và sinh ngôn ngữ với mức độ phức tạp cao. Mô hình này đã được huấn luyện trên một lượng lớn dữ liệu đa dạng, cho phép nó nắm bắt ngữ cảnh, ngữ nghĩa và phong cách viết khác nhau.
Kiến trúc chung của 66B dựa trên mạng lưới transformer, với nhiều lớp tự chú ý và các cơ chế tối ưu hoá. Mô hình nhận đầu vào là chuỗi văn bản, dự đoán từ tiếp theo và dần xây dựng đại diện ngữ nghĩa ở các tầng. Kỹ thuật huấn luyện tự giám sát kết hợp với dữ liệu đa dạng giúp nó tổng quát hóa tốt cho nhiều tác vụ.
Ứng dụng có thể gồm trợ lý ảo, hệ thống trả lời câu hỏi, tóm tắt văn bản, dịch ngôn ngữ và hỗ trợ viết code. Với khả năng hiểu bối cảnh và sinh văn bản tự nhiên, 66B có thể nâng cao trải nghiệm người dùng và tăng hiệu quả làm việc ở nhiều lĩnh vực.