Aspose.LLM for.NET

Tổng quan

Aspose.LLM for.NET tập trung vào việc đưa large language models vào ứng dụng.NET bằng một API gọn, nơi lập trình viên có thể tạo instance từ preset, mở chat session và gửi message theo luồng xử lý của riêng mình.

Cách tiếp cận này phù hợp với các hệ thống cần kiểm soát hạ tầng chạy mô hình thay vì phụ thuộc hoàn toàn vào dịch vụ bên ngoài. Mô hình có thể vận hành trên on-premise hoặc controlled cloud.

Thư viện hỗ trợ lưu và nạp lại conversation state, nhờ đó các phiên hội thoại có thể tiếp tục theo ngữ cảnh thay vì xử lý từng yêu cầu rời rạc.

Tính năng nổi bật

• ✓Tích hợp large language models vào ứng dụng.NET qua API đơn giản.
• ✓Tạo instance từ preset để khởi tạo cấu hình mô hình.
• ✓Khởi chạy chat session có trạng thái cho hội thoại liên tục.
• ✓Gửi message và tiếp tục xử lý theo ngữ cảnh phiên chat.
• ✓Lưu hoặc nạp lại conversation state khi cần duy trì lịch sử.
• ✓Sinh văn bản và hoàn tất nội dung cho nhiều kịch bản khác nhau.
• ✓Sinh mã nguồn và đưa ra refactoring suggestions trong ứng dụng.NET.

Ứng dụng thực tế

• Chatbot nội bộ chạy trên hạ tầng doanh nghiệp.
• Tính năng tóm tắt, mở rộng hoặc hoàn tất văn bản trong ứng dụng.NET.
• Công cụ hỗ trợ sinh mã, phân tích mã và gợi ý refactor.
• Hệ thống phân loại nội dung, trích xuất dữ liệu và question answering.
• Ứng dụng cần hội thoại có trạng thái và khả năng khôi phục phiên làm việc.

Đối tượng sử dụng phù hợp

• Lập trình viên.NET
• Tech lead xây dựng tính năng AI trong ứng dụng nội bộ
• Nhóm phát triển công cụ hỗ trợ code
• Đội ngũ kỹ thuật cần triển khai LLM trên hạ tầng kiểm soát riêng

Thông tin kỹ thuật