LlamaIndex ra mắt LiteParse v2.0 được viết lại bằng Rust, tăng tốc độ lên đến 100x

ME AI tin tức, theo giám sát của Beating, LlamaIndex thông báo sẽ tái viết hoàn toàn thư viện phân tích tài liệu mở nguồn LiteParse bằng Rust và ra mắt phiên bản 2.0. Bộ phân tích lõi sau khi tái cấu trúc tăng tốc lên tới 100 lần khi xử lý tài liệu nhỏ và gần 3 lần khi xử lý tài liệu lớn. Việc tái cấu trúc nhằm cung cấp nền tảng phân tích bố cục tại chỗ, cực nhanh và không cần gọi đến mô hình lớn cho các tác nhân AI và đường ống RAG tăng cường truy vấn. LiteParse 2.0 vẫn giữ thiết kế chạy tại chỗ không phụ thuộc mô hình lớn, tích hợp nhánh PDFium được tùy chỉnh sâu để phân tích bố cục không gian, đồng thời kết hợp thư viện tesseract-rs để thực hiện chức năng nhận dạng ký tự quang học (OCR) tại chỗ. Công cụ hiện hỗ trợ PDF và các tài liệu Office bao gồm DOCX, XLSX và PPTX. Bộ phân tích chiếu văn bản theo bố cục tài liệu thành hình chiếu không gian hai chiều, đầu ra là văn bản có cấu trúc giữ nguyên vị trí và mối quan hệ bố cục, cung cấp thông tin định vị và bối cảnh tham chiếu độ chính xác cao với mức tiêu thụ năng lượng cực thấp cho mô hình lớn. Về tích hợp và phân phối sinh thái, LlamaIndex cung cấp hỗ trợ gói gốc cho các runtime chính. Nhà phát triển có thể nhanh chóng tích hợp vào quy trình phát triển thông qua pip install liteparse trong Python, npm i @llamaindex/liteparse trong JavaScript và kho Cargo trong Rust. Nhờ được xây dựng dưới nền tảng Rust, phiên bản mới có khả năng chạy tại chỗ trên trình duyệt và nút tính toán biên thông qua biên dịch sang định dạng WebAssembly. Cần lưu ý rằng do giới hạn môi trường chạy, chức năng OCR trong môi trường WebAssembly không được tích hợp sẵn; nhà phát triển cần thực hiện quét tệp bằng cách chèn hàm gọi lại bên ngoài (ví dụ: gọi tesseract.js). (Nguồn: BlockBeats)