Function Calling là gì? Cách thức hoạt động và những ứng dụng nổi bật

Function Calling cho phép LLM xác định khi nào cần dùng một hàm và tạo các tham số cần thiết. Ứng dụng phía sau sẽ kiểm tra, thực thi hàm rồi gửi kết quả về mô hình để tạo phản hồi cuối cùng. Hãy cùng FPT.AI tìm hiểu Function Calling là gì, cách thức hoạt động và ứng dụng trong chatbot/AI Agent cũng như những lưu ý quan trọng khi sử dụng.

Function Calling là gì? Vì sao LLM cần Function Calling?

Function Calling là cơ chế để LLM lựa chọn một hàm đã được khai báo và tạo dữ liệu có cấu trúc chứa tên hàm cùng các đối số. Việc chạy hàm thuộc trách nhiệm của ứng dụng hoặc backend.  Chẳng hạn, khi người dùng hỏi “Thời tiết ở Hà Nội hôm nay thế nào?”, LLM tạo yêu cầu gọi hàm lấy thời tiết; backend gửi yêu cầu đến API, nhận dữ liệu và chuyển kết quả về LLM để diễn đạt thành câu trả lời.

Function Calling ra đời để khắc phục những hạn chế của LLM và mở rộng khả năng xử lý tác vụ thực tế, cụ thể:

• Truy cập dữ liệu thời gian thực: Thông qua các công cụ được kết nối, hệ thống có thể cung cấp cho LLM dữ liệu cập nhật từ API hoặc cơ sở dữ liệu. Độ mới của kết quả phụ thuộc nguồn dữ liệu và thời điểm truy vấn.
• Thực hiện hành động thay vì chỉ trả lời: Mô hình có thể đặt lịch họp, gửi email, tạo đơn hàng hoặc cập nhật dữ liệu trên hệ thống thông qua các hàm được kết nối.
• Kết nối với dữ liệu nội bộ của doanh nghiệp: Function Calling giúp AI truy vấn CRM, ERP, cơ sở dữ liệu hoặc tài liệu nội bộ mà mô hình không được huấn luyện sẵn.
• Nâng cao độ chính xác: Dữ liệu từ công cụ có thể giúp phản hồi bám sát nguồn hơn, nhưng hệ thống vẫn cần xác thực arguments, kiểm tra lỗi API và hạn chế việc mô hình diễn giải sai kết quả.
• Tự động hóa quy trình: Ứng dụng hoặc AI Agent có thể điều phối nhiều lần gọi hàm nối tiếp hay song song. Function Calling cung cấp giao diện có cấu trúc để mô hình đề xuất từng lần sử dụng công cụ.

Function Calling hoạt động như thế nào?

Quy trình hoạt động của Function Calling thường diễn ra theo các bước sau:

• Người dùng gửi yêu cầu: Người dùng nhập câu hỏi hoặc tác vụ cần thực hiện.
• LLM phân tích ý định: Mô hình đối chiếu yêu cầu với danh sách công cụ được cung cấp để quyết định trả lời trực tiếp hay tạo một yêu cầu gọi hàm.
• LLM chọn hàm phù hợp: Nếu cần, mô hình sẽ lựa chọn hàm tương ứng với tác vụ.
• LLM tạo tham số: Mô hình tạo arguments theo schema được khai báo. Ứng dụng phải kiểm tra kiểu dữ liệu, trường bắt buộc, phạm vi giá trị và quyền truy cập trước khi thực thi.
• Backend thực thi hàm hoặc API: Hệ thống nhận yêu cầu từ LLM và thực hiện gọi API hoặc chạy hàm tương ứng.
• LLM tạo phản hồi: Kết quả từ backend được gửi lại cho LLM, sau đó mô hình tổng hợp thành câu trả lời tự nhiên và gửi đến người dùng.

Những ứng dụng nổi bật của Function Calling trong thực tế

Function Calling giúp AI vượt qua giới hạn của một mô hình chỉ tạo văn bản, được ứng dụng rộng rãi trong chatbot, AI Agent, trợ lý doanh nghiệp và các hệ thống RAG.

Ứng dụng trong chatbot AI và Voicebot

Function Calling giúp chatbot và voicebot trực tiếp thực hiện các tác vụ theo yêu cầu của người dùng. Một số ứng dụng phổ biến gồm:

• Tra cứu trạng thái đơn hàng theo mã vận đơn.
• Kiểm tra thông tin bảo hành sản phẩm.
• Đặt lịch hẹn, lịch khám hoặc lịch tư vấn.
• Hỗ trợ khách hàng bằng cách truy xuất dữ liệu từ hệ thống doanh nghiệp.

Doanh nghiệp có thể tham khảo FPT AI Agents hoặc FPT AI Chat để xây dựng trợ lý AI kết nối với dữ liệu và quy trình nghiệp vụ. Khả năng tích hợp cụ thể cần được xác nhận theo tài liệu kỹ thuật và cấu hình triển khai.

Ứng dụng trong AI Agent

AI Agent thường phải xử lý những nhiệm vụ gồm nhiều bước và cần tương tác với nhiều hệ thống khác nhau. Function Calling đóng vai trò là cầu nối để AI Agent phối hợp các công cụ và hoàn thành toàn bộ quy trình một cách tự động.

Các ứng dụng phổ biến gồm:

• Gọi nhiều công cụ trong cùng một tác vụ: Tùy nền tảng, agent có thể gọi nhiều công cụ song song hoặc nối tiếp để lập kế hoạch. Các hành động phát sinh chi phí hoặc cam kết giao dịch cần có bước xác nhận của người dùng
• Tự động thực hiện quy trình nhiều bước: Khi nhận yêu cầu tạo đơn hàng, AI Agent có thể lần lượt kiểm tra tồn kho, tính chi phí vận chuyển, tạo đơn trên hệ thống ERP và gửi email xác nhận cho khách hàng.
• Điều phối các tác vụ giữa nhiều hệ thống: AI Agent có thể thu thập dữ liệu từ nhiều nguồn, phân tích kết quả rồi đưa ra quyết định hoặc kích hoạt các bước tiếp theo.

Ứng dụng trong trợ lý AI cho doanh nghiệp

Function Calling giúp trợ lý AI trở thành công cụ hỗ trợ nhân viên trong nhiều hoạt động hằng ngày bằng cách kết nối trực tiếp với các hệ thống quản trị doanh nghiệp.

Một số ứng dụng tiêu biểu gồm:

• CRM: Tra cứu thông tin khách hàng, lịch sử giao dịch, cập nhật trạng thái cơ hội bán hàng hoặc tạo khách hàng mới.
• ERP: Kiểm tra tồn kho, theo dõi đơn hàng, tạo yêu cầu mua hàng hoặc tra cứu hóa đơn.
• HRM: Hỗ trợ nhân viên xem bảng lương, số ngày nghỉ phép còn lại, đăng ký nghỉ phép hoặc cập nhật thông tin cá nhân.
• Quản lý nội bộ: Đặt phòng họp, tạo phiếu đề xuất, gửi thông báo hoặc truy xuất tài liệu từ hệ thống quản lý doanh nghiệp.

Ứng dụng trong hệ thống RAG

Trong các hệ thống Retrieval-Augmented Generation (RAG), Function Calling giúp AI lấy dữ liệu từ kho tri thức trước khi tạo phản hồi, thay vì chỉ dựa trên kiến thức đã được huấn luyện.

Các ứng dụng phổ biến bao gồm:

• Truy xuất tài liệu: AI tìm kiếm thông tin trong tài liệu PDF, cơ sở dữ liệu, wiki nội bộ hoặc kho tri thức của doanh nghiệp để trả lời các câu hỏi chuyên môn.
• Kết hợp dữ liệu nội bộ với khả năng suy luận của LLM: Sau khi truy xuất thông tin, LLM sẽ tổng hợp, phân tích và trình bày nội dung dưới dạng câu trả lời tự nhiên, giúp phản hồi chính xác hơn và luôn bám sát dữ liệu mới nhất của doanh nghiệp.

Lợi ích của Function Calling đối với doanh nghiệp

Khi được thiết kế và kiểm soát phù hợp, Function Calling không chỉ hỗ trợ phản hồi dựa trên dữ liệu nghiệp vụ mà còn cho phép hệ thống kích hoạt một số tác vụ được cấp quyền.

• Tự động hóa quy trình lặp lại: AI có thể xử lý các tác vụ như tra cứu, đặt lịch, gửi email hay cập nhật dữ liệu, giúp tiết kiệm thời gian và giảm khối lượng công việc thủ công.
• Kết nối với dữ liệu nội bộ: AI truy cập CRM, ERP, HRM và các hệ thống nghiệp vụ để cung cấp thông tin chính xác, theo thời gian thực.
• Giảm phản hồi sai: Thay vì dựa hoàn toàn vào dữ liệu huấn luyện, AI có thể gọi API hoặc truy xuất dữ liệu mới nhất trước khi trả lời.
• Cá nhân hóa trải nghiệm: AI sử dụng thông tin khách hàng như lịch sử giao dịch, hồ sơ hoặc trạng thái đơn hàng để đưa ra phản hồi phù hợp.
• Thực hiện tác vụ thay vì chỉ tư vấn: Chatbot và AI Agent có thể tạo đơn hàng, đặt lịch, kiểm tra thông tin hoặc xử lý yêu cầu trực tiếp trên hệ thống doanh nghiệp.

Các lưu ý khi triển khai Function Calling

Để Function Calling hoạt động hiệu quả, an toàn và hạn chế lỗi trong quá trình vận hành, doanh nghiệp nên lưu ý các điểm sau:

• Mô tả function rõ ràng: Đặt tên và mô tả chức năng cụ thể để LLM dễ nhận diện và lựa chọn đúng hàm.
• Thiết kế schema chặt chẽ: Định nghĩa đầy đủ các tham số, kiểu dữ liệu và giá trị hợp lệ để giảm lỗi khi gọi hàm.
• Kiểm tra arguments trước khi thực thi: Xác thực dữ liệu đầu vào nhằm tránh tham số sai định dạng hoặc thiếu thông tin.
• Phân quyền các hành động nhạy cảm: Chỉ cho phép thực hiện các tác vụ như thanh toán, xóa dữ liệu hoặc cập nhật thông tin khi đã xác thực quyền truy cập.
• Chuẩn bị cơ chế fallback: Xây dựng phương án xử lý khi LLM chọn sai function hoặc thiếu tham số, chẳng hạn yêu cầu người dùng bổ sung thông tin hoặc chuyển sang xử lý thủ công. Fallback cần xử lý ít nhất bốn nhóm lỗi: không chọn được hàm, arguments không hợp lệ, công cụ lỗi/timeout và dữ liệu trả về không đủ để trả lời.

Giải đáp thắc mắc thường gặp về Function Calling

Function Calling có phải là API không?

Không. Function Calling là cơ chế để mô hình tạo yêu cầu sử dụng hàm. API là giao diện mà ứng dụng có thể gọi để lấy dữ liệu hoặc thực hiện tác vụ. Backend kết nối hai phần này và chịu trách nhiệm thực thi.

Function Calling có dùng được với chatbot không?

Có. Function Calling được ứng dụng rộng rãi trong chatbot AI và voicebot để tra cứu đơn hàng, kiểm tra bảo hành, đặt lịch, truy xuất dữ liệu khách hàng hoặc xử lý các yêu cầu ngay trong cuộc hội thoại.

Function Calling có dùng được với mọi LLM không?

Không phải mọi mô hình đều có giao diện Function Calling tích hợp. Một số nền tảng hỗ trợ tool use chính thức, trong khi mô hình khác có thể tạo dữ liệu có cấu trúc qua prompting nhưng không bảo đảm độ ổn định tương đương.

Function Calling khác Tool Calling như thế nào?

Function Calling là cơ chế để LLM gọi một hàm hoặc API cụ thể với các tham số được xác định. Trong khi đó, Tool Calling là khái niệm rộng hơn, cho phép LLM sử dụng nhiều loại công cụ như function, trình duyệt web, cơ sở dữ liệu, trình thực thi mã.

Function Calling có bắt buộc sử dụng JSON Schema không?

Không có một chuẩn bắt buộc cho mọi nền tảng, nhưng phần lớn API Function Calling yêu cầu schema có cấu trúc để khai báo tham số. Cú pháp và mức hỗ trợ JSON Schema phụ thuộc nhà cung cấp.

Function Calling có giúp giảm Hallucination không?

Có. Function Calling có thể giảm một số lỗi liên quan đến dữ liệu cũ hoặc thiếu dữ liệu bằng cách cung cấp kết quả từ nguồn bên ngoài. Tuy nhiên, nó không loại bỏ hallucination và cần được kết hợp với kiểm tra đầu vào, xác thực kết quả và grounding.

Kết luận

Function Calling là cơ chế quan trọng giúp các mô hình ngôn ngữ lớn (LLM) kết nối với công cụ, API và hệ thống bên ngoài để truy xuất dữ liệu, thực hiện tác vụ và tự động hóa quy trình. Doanh nghiệp có thể khám phá FPT AI Agents để xây dựng trợ lý AI gắn với quy trình nghiệp vụ, hoặc liên hệ FPT.AI qua hotline 1900 638 399 để được tư vấn.