Agent hợp lý trong AI là gì?
Agent hợp lý là một agent AI chọn hành động có khả năng đạt được mục tiêu cao nhất trong các điều kiện hiện tại. Nó đánh giá các hành động khả dụng dựa trên các quan sát, kiến thức, ràng buộc, và thước đo hiệu suất của mình. Đối với một agent dựa trên LLM, một hành động hợp lý có thể là gọi một công cụ, thu thập thêm chứng cứ, chỉnh sửa một kết quả, yêu cầu con người phê duyệt, hoặc dừng tác vụ. Tính hợp lý không đảm bảo một kết quả hoàn hảo. Nó nghĩa là đưa ra lựa chọn có thể biện minh được nhất với thông tin và nguồn lực có sẵn tại thời điểm đó.
Cách tiếp cận agent hợp lý trong AI nghĩa là gì?
Cách tiếp cận agent hợp lý coi AI là một chủ thể hoạt động trong một môi trường tác vụ. Nó nhận các tín hiệu cảm nhận và duy trì trạng thái liên quan. Nó xem xét các hành động khả thi, rồi chọn hành động có mức đóng góp kỳ vọng cao nhất cho thước đo của nó. Đối với một agent LLM, đây có thể là một lệnh gọi công cụ, yêu cầu chứng cứ, điểm kiểm tra phê duyệt, chỉnh sửa, hoặc điểm dừng có chủ đích.
Điều này khác với việc đánh giá trí tuệ dựa trên khả năng đối thoại trôi chảy. Một quy tắc hẹp vẫn có thể hợp lý trong một tác vụ có giới hạn rõ. Lập luận trôi chảy vẫn có thể tối ưu hóa sai mục tiêu. Tính hợp lý đòi hỏi một thước đo được nêu rõ cùng một quy trình quyết định có thể quan sát được.
Khung PEAS của một agent hợp lý
PEAS xác định môi trường tác vụ nơi một agent hợp lý đưa ra quyết định. Các chữ cái đại diện cho Thước đo hiệu suất, Môi trường, Bộ tác động, và Bộ cảm biến. Thước đo hiệu suất cho agent biết điều gì được xem là một kết quả thành công. Môi trường xác lập các điều kiện mà nó phải hoạt động trong đó, trong khi Bộ tác động xác định các hành động khả dụng của nó và Bộ cảm biến xác định những gì nó có thể quan sát. Cùng nhau, các yếu tố này cung cấp thông tin cần thiết để đánh giá liệu agent đã chọn hành động hợp lý nhất cho mục tiêu của nó hay chưa.
| Yếu tố PEAS | Câu hỏi thiết kế | Ví dụ agent nghiên cứu AI |
|---|---|---|
| Thước đo hiệu suất | Kết quả nào được coi là thành công? | Chất lượng nguồn và độ phủ nhiệm vụ; độ chính xác thực tế theo đúng định dạng yêu cầu |
| Môi trường | Agent hoạt động ở đâu? | Yêu cầu của người dùng và các nguồn trên web; tệp tải lên cùng kết quả từ các công cụ |
| Cơ cấu hành động (Actuators) | Agent có thể tác động đến môi trường như thế nào? | Tìm kiếm trên web và đọc tệp; soạn báo cáo cùng việc làm rõ hoặc chuyển tiếp vấn đề |
| Cảm biến (Sensors) | Agent có thể tiếp nhận thông tin gì? | Hướng dẫn của người dùng và các trang đã truy xuất; nội dung tệp cùng phản hồi từ các công cụ |
PEAS cũng làm rõ về quyền hạn. Một agent nghiên cứu có thể đọc một tài liệu đã tải lên nhưng không có quyền công bố báo cáo của nó. Nó có thể soạn một kết luận nhưng cần được phê duyệt trước khi chia sẻ. Những ranh giới này làm thay đổi những hành động nào là khả thi.
Agent hợp lý hoạt động như thế nào?
Một vòng lặp agent hợp lý dựa trên LLM hiện đại kết nối khả năng lập luận của mô hình với các công cụ, trạng thái, bộ kiểm định, và các cơ chế kiểm soát của con người. Mô hình có thể đề xuất một hành động, nhưng toàn bộ hệ thống quyết định liệu hành động đó có khả dụng và phù hợp hay không.
Cảm nhận: Nhận hướng dẫn, tệp, các trang đã truy xuất, hoặc phản hồi từ công cụ.
Biểu diễn: Cập nhật trạng thái tác vụ với chứng cứ hiện tại cùng lịch sử liên quan. Ghi lại các yêu cầu chưa được giải quyết.
Tạo: Xác định các hành động có ích được cho phép. Một yêu cầu làm rõ cũng có thể là một hành động.
Dự đoán: Ước tính mỗi lựa chọn có thể ảnh hưởng thế nào đến chất lượng, rủi ro, chi phí, và công việc còn lại.
Chọn: Chọn hành động khả thi có hiệu suất kỳ vọng cao nhất sau khi áp dụng các ràng buộc.
Hành động: Thực hiện lệnh gọi công cụ hoặc giao tiếp với người dùng. Ghi lại liệu hành động đó có thành công hay không.
Đánh giá: Coi kết quả là một tri giác mới. Tiếp tục, yêu cầu thêm minh chứng, xin phê duyệt, sửa lại, chuyển lên cấp cao hơn, hoặc dừng lại.
Một agent viết code cho thấy vòng lặp quyết định này hoạt động thế nào trong thực tế. Trước tiên, nó tri giác nhiệm vụ bằng cách đọc bài test bị lỗi và đoạn code liên quan. Sau đó, nó hình thành giả thuyết về vấn đề có thể xảy ra và so sánh các hành động khả thi, chẳng hạn kiểm tra một file khác hoặc thực hiện một sửa đổi có mục tiêu cụ thể. Sau khi chọn và thực hiện một hành động, agent đánh giá kết quả bằng cách chạy lại bài test liên quan. Vòng lặp chỉ tiếp tục khi còn một hành động nào đó mang lại giá trị kỳ vọng đủ lớn. Nó nên dừng lại khi bản sửa lỗi vượt qua các kiểm tra yêu cầu, việc tiếp tục điều tra khó có khả năng cải thiện kết quả, hoặc hành động tiếp theo cần con người phê duyệt.
Điều gì quyết định một agent có hợp lý hay không?
Tính hợp lý phụ thuộc vào bối cảnh ra quyết định hơn là mức độ chỉn chu của câu trả lời cuối cùng. Hãy đánh giá các yếu tố sau:
Thước đo hiệu suất: Cần phản ánh đúng nhiệm vụ thực tế trong khi vẫn giữ nguyên các ràng buộc không thể thương lượng.
Chuỗi tri giác: Agent nên sử dụng lịch sử liên quan thay vì chỉ dựa vào một lát cắt thông tin mơ hồ, đơn lẻ.
Kiến thức nền: Kiến thức cần phù hợp với lĩnh vực và đủ mới để phục vụ nhiệm vụ.
Hành động khả dụng: Bộ công cụ phải đáp ứng được công việc, đồng thời quyền hạn phải giới hạn các thao tác không an toàn.
Sự không chắc chắn: Minh chứng yếu nên kích hoạt một phương án dự phòng an toàn, yêu cầu làm rõ, hoặc chuyển lên cấp cao hơn.
Nguồn lực: Ngân sách về thời gian và tính toán cần phù hợp với mức độ rủi ro và độ phức tạp của nhiệm vụ.
Điều kiện dừng: Tiêu chí thành công, giới hạn thất bại, hoặc ranh giới cần phê duyệt nên là căn cứ để kết thúc quá trình thực thi.
Các yếu tố này quyết định hành động nào là hợp lý trong một tình huống cụ thể. Một agent hỗ trợ có thể trả lời câu hỏi thông thường về chính sách khi cơ sở kiến thức đã được phê duyệt cung cấp đủ minh chứng. Nếu một tranh chấp tài khoản liên quan đến hồ sơ bị thiếu hoặc vượt quá quyền hạn của agent, việc chuyển lên cấp cao hơn trở thành lựa chọn hợp lý. Vì vậy, hành động tốt nhất thay đổi theo thông tin hiện có và phạm vi quyền hạn được cho phép của agent.
Các loại agent hợp lý trong AI
Các hệ thống AI thường sử dụng năm kiến trúc agent: agent phản xạ đơn giản, agent phản xạ dựa trên mô hình, agent hướng mục tiêu, agent dựa trên độ hữu ích, và agent học tập. Mỗi kiến trúc cung cấp một cách khác nhau để chọn hành động từ thông tin hiện có. Các nhóm này không đầy đủ hoặc loại trừ nhau. Các agent hiện đại dựa trên LLM thường kết hợp nhiều loại trong một quy trình làm việc duy nhất.
| Kiến trúc phổ biến | Cơ sở ra quyết định | Hữu ích khi nào | Hạn chế chính |
|---|---|---|---|
| Phản xạ đơn giản | Đầu vào hiện tại cộng với một quy tắc | Nhiệm vụ hẹp | Bỏ qua trạng thái ẩn |
| Phản xạ dựa trên mô hình | Đầu vào cộng với trạng thái nội tại | Lịch sử ảnh hưởng đến lựa chọn | Trạng thái có thể trở nên lỗi thời |
| Dựa trên mục tiêu | Tiến độ hướng tới một mục tiêu | Agent phải lập kế hoạch | Mục tiêu có thể không phân định được sự đánh đổi |
| Dựa trên độ hữu ích | Giá trị kỳ vọng của các kết quả | Giá trị hoặc rủi ro khác nhau | Việc thiết kế điểm số rất khó |
| Học tập | Kinh nghiệm cập nhật hành vi | Điều kiện thay đổi | Phản hồi sai lệch gây trôi dạt hành vi |
Agent phản xạ đơn giản
Một bộ định tuyến hỗ trợ khách hàng đơn giản có thể chuyển một tin nhắn chứa từ khóa thanh toán đã được phê duyệt đến hàng đợi thanh toán. Đây có thể là hành động hợp lý khi các nhãn rõ ràng và rủi ro thấp. Nó gặp khó khi ý nghĩa phụ thuộc vào lịch sử.
Agent phản xạ dựa trên mô hình
Một agent hỗ trợ dựa trên mô hình duy trì trạng thái phiên làm việc. Nó có thể ghi nhớ bước xác minh danh tính đã hoàn tất và tránh lặp lại một bước đã thất bại. Trạng thái này hữu ích khi tin nhắn gần nhất thiếu ngữ cảnh, tuy nhiên trạng thái cũ có thể khiến agent hiểu sai.
Agent hướng mục tiêu
Một agent nghiên cứu hướng mục tiêu chia bản tóm tắt báo cáo thành các câu hỏi, kiểm tra các nguồn, rồi chỉnh sửa các phần còn thiếu. Mục tiêu định hướng các lệnh gọi công cụ của nó. Tuy nhiên, “hoàn thành báo cáo” không định nghĩa rõ minh chứng thế nào là đủ, hay đâu là ưu tiên giữa tốc độ và độ sâu của nguồn.
Agent dựa trên độ hữu ích
Một agent du lịch hoặc mua sắm so sánh các lựa chọn có chi phí và rủi ro khác nhau. Nó có thể ưu tiên tuân thủ chính sách hơn là khớp lịch trình, sau đó yêu cầu phê duyệt nếu vượt quá một giới hạn nào đó. Thử thách nằm ở việc gán trọng số có thể lý giải được.
Agent học tập
Một trợ lý hỗ trợ có thể học được những phản hồi đề xuất nào được người đánh giá chấp thuận. Một agent đề xuất có thể sử dụng phản hồi rõ ràng thay vì coi mọi lượt nhấp chuột là thành công. Việc học chỉ hợp lý khi phản hồi phản ánh đúng mục tiêu thực sự và có các biện pháp bảo vệ để ngăn chệch hướng.
Một agent LLM hiện đại có thể kết hợp tất cả các yếu tố trên. Nhãn “dựa trên LLM” không chứng minh được tính hợp lý; các thước đo cùng cơ chế kiểm soát vẫn cần được thiết kế có chủ đích.
Agent hợp lý so với agent thông minh
“Agent thông minh” là một nhóm rộng chỉ các hệ thống hành động với một mức độ tự chủ nào đó. “Agent hợp lý” tập trung vào việc lựa chọn hành động theo một thước đo hiệu suất.
| Khía cạnh | Agent hợp lý | Agent thông minh |
|---|---|---|
| Trọng tâm chính | Hiệu suất kỳ vọng | Khả năng tự chủ |
| Độ phức tạp | Có thể dùng quy tắc đơn giản | Từ tự động hóa đến AI tiên tiến |
| Bài kiểm tra chính | Hành động có hợp lý không? | Nó có thể thực hiện nhiệm vụ không? |
| Mối quan hệ | Khung ra quyết định | Loại hệ thống |
Thông minh không đảm bảo có mục tiêu đúng đắn hay hành động an toàn. Một agent viết code có thể tạo ra code hợp lệ nhưng lại chỉnh sửa ngoài phạm vi cho phép. Một agent nghiên cứu có thể viết ra văn bản trôi chảy từ những nguồn thiếu tin cậy. Tính hợp lý đặt câu hỏi liệu mỗi lựa chọn có thực sự phục vụ nhiệm vụ đã xác định trong khuôn khổ ràng buộc của nó hay không.
Ví dụ thực tế về agent hợp lý
Mỗi ví dụ mô tả môi trường, quan sát, hành động, cùng thước đo hiệu suất của nó mà không mặc định rằng nó hợp lý.
Agent nghiên cứu AI
Môi trường của nó bao gồm yêu cầu của người dùng, nội dung web và các tệp được cung cấp. Chỉ dẫn cùng với bằng chứng thu thập được chính là các quan sát. Agent có thể tinh chỉnh truy vấn, kiểm tra một nguồn, yêu cầu làm rõ hoặc soạn bản nháp. Hiệu suất phụ thuộc vào chất lượng nguồn và mức độ bao quát nhiệm vụ; độ chính xác thông tin theo đúng định dạng yêu cầu là ngưỡng để được chấp nhận. Bằng chứng mâu thuẫn có thể là lý do hợp lý để tìm kiếm thêm.
Agent viết code
Agent viết code làm việc trong một repository theo các chỉ dẫn của dự án và quyền sử dụng công cụ. Nó quan sát các tệp mã nguồn cùng kết quả kiểm thử. Nó có thể tìm kiếm trong mã, chỉnh sửa, chạy một bài kiểm thử cụ thể, hoặc yêu cầu phê duyệt cho công việc có rủi ro. Thay đổi cần giải quyết đúng vấn đề đã nêu mà không làm ảnh hưởng đến các hành vi không liên quan. Việc kiểm chứng liên quan phải đạt yêu cầu trước khi nó dừng lại.
Agent hỗ trợ khách hàng
Agent hỗ trợ hoạt động trong phạm vi một cuộc hội thoại, kiến thức đã được phê duyệt, và giới hạn quyền truy cập tài khoản. Nó quan sát các tin nhắn cùng trạng thái phiên làm việc. Nó có thể truy xuất chính sách, soạn phản hồi, yêu cầu thêm thông tin, hoặc chuyển lên cấp cao hơn. Hiệu suất kết hợp giữa chất lượng xử lý và mức độ tuân thủ chính sách. Việc chuyển cấp có thể hợp lý khi không có hồ sơ nào đủ rõ để ra quyết định.
Agent phân tích dữ liệu
Agent phân tích dữ liệu nhận một câu hỏi kinh doanh cùng các bộ dữ liệu. Nó quan sát schema và kết quả từ công cụ. Nó có thể kiểm tra dữ liệu thiếu, chạy một truy vấn, tạo biểu đồ, hoặc bác bỏ một kết luận không có cơ sở. Hiệu suất kết hợp giữa độ chính xác phân tích và khả năng lặp lại kết quả. Đơn vị và bộ lọc cần được kiểm tra trước khi diễn giải xu hướng.
Agent điều phối quy trình
Agent điều phối quy trình phối hợp một chuỗi công việc xuyên suốt các công cụ phần mềm. Nó quan sát các bản ghi tiếp nhận cùng cập nhật trạng thái. Nó có thể trích xuất trường dữ liệu, chuẩn bị bản nháp, chuyển tiếp một mục, hoặc tạm dừng để chờ phê duyệt. Thành công được xác định bởi việc chuyển trạng thái đúng và khả năng kiểm toán. Việc có sẵn một lệnh gọi API không phải là lý do đủ để tiến hành nhiệm vụ.
Hệ thống nghiên cứu đa agent
Các worker nhận các câu hỏi nghiên cứu độc lập; một coordinator nhận bằng chứng từ chúng. Worker tìm kiếm hoặc phân tích trong phạm vi được giao. Coordinator có thể yêu cầu chạy lại, giải quyết mâu thuẫn, tổng hợp, hoặc dừng các nhánh yếu. Độ chính xác cuối cùng và mức độ bao quát đều quan trọng, nhưng công việc trùng lặp làm giảm hiệu quả. Có thêm agent chỉ hữu ích khi việc phân rã nhiệm vụ cải thiện hiệu suất kỳ vọng.
Trong tất cả các trường hợp trên, tính hợp lý thể hiện qua việc chọn công cụ, yêu cầu bằng chứng, kiểm tra phê duyệt, sửa đổi, và dừng lại. Mỗi hành động cần cải thiện hiệu suất kỳ vọng của nhiệm vụ đủ để bù đắp chi phí của nó.
Lợi ích và hạn chế của thiết kế agent hợp lý
Khung tư duy này biến quyền tự chủ mơ hồ thành một mô hình quyết định rõ ràng và làm hiện rõ các giới hạn của quy trình làm việc.
Lợi ích
Đánh giá rõ ràng: Một thước đo hiệu suất giúp thành công có thể kiểm chứng được.
Quyết định có thể truy vết: Bằng chứng và các lệnh gọi công cụ được ghi lại giúp việc điều tra dễ dàng hơn.
Quyền tự chủ được kiểm soát: Các ràng buộc và điểm phê duyệt giới hạn hành động.
Xử lý đánh đổi: Utility có thể so sánh các kết quả cạnh tranh nhau.
Dừng lại đúng lúc: Ngưỡng dừng giúp giảm việc trả lời quá sớm hoặc lặp vô tận.
Hạn chế
Mục tiêu sai lệch: Một mục tiêu đại diện có thể không phản ánh đúng mục đích thực sự của người dùng.
Thông tin không đầy đủ: Thiếu bằng chứng có thể cản trở việc ra một quyết định hợp lý.
Sai sót của mô hình: Một LLM có thể hiểu sai trạng thái hoặc chọn sai công cụ.
Giới hạn tính toán: Việc xấp xỉ có thể bỏ lỡ các lựa chọn tốt hơn.
Thiếu trách nhiệm giải trình: Các hành động có tác động lớn vẫn cần người chịu trách nhiệm và sự giám sát của con người.
Gặp gỡ Kimi Agent: biến kiến thức thành công việc hoàn chỉnh
Kimi Agent cho thấy một agent hợp lý dựa trên LLM có thể xử lý công việc đòi hỏi nhiều kiến thức như thế nào. Chỉ cần đưa ra kết quả mong muốn, nó có thể lập kế hoạch cho nhiệm vụ trước khi hoàn thành các bước cần thiết bằng các công cụ tích hợp sẵn. Bạn có thể dùng nó để nghiên cứu một chủ đề, xử lý tài liệu nguồn, hoặc tạo ra một sản phẩm có thể chỉnh sửa mà không cần xây dựng một lớp điều phối riêng.
Đưa kiến thức nguồn vào nhiệm vụ
Kimi hỗ trợ tải lên tối đa 50 tệp, với giới hạn 100 MB mỗi tệp. Kimi có thể xử lý PDF và các tài liệu văn phòng thông dụng. Hình ảnh, tệp TXT và video có thể cung cấp thêm ngữ cảnh.
Những tài liệu này trở thành một phần của môi trường tác vụ của agent. Prompt của bạn xác định kết quả mong muốn, còn các tệp đã tải lên cung cấp kiến thức cần thiết để hoàn thành nó.
Biến kết quả nghiên cứu thành sản phẩm có thể chỉnh sửa
Kimi Agent có thể chuyển từ việc thu thập thông tin sang tạo ra một kết quả sử dụng được:
Deep Research: Tạo một báo cáo có cấu trúc, được hỗ trợ bởi các nguồn tham khảo.
Trang web: Xây dựng một website nhiều trang hoạt động được từ một bản mô tả ngắn.
Bài thuyết trình: Tạo bản PPT có thể chỉnh sửa từ tài liệu nguồn.
Tài liệu và bảng tính: Sắp xếp thông tin thành các sản phẩm làm việc thực tế.
Tác vụ không cần phải kết thúc bằng một câu trả lời chat. Kimi Agent có thể biến thông tin mà nó thu thập được thành một sản phẩm có thể chỉnh sửa trong cùng một luồng công việc.
Mở rộng quy mô cho các tác vụ lớn hơn với Kimi Agent Swarm
Kimi Agent Swarm có thể chia một mục tiêu lớn thành các luồng công việc độc lập. Các sub-agent xử lý các câu hỏi nghiên cứu riêng biệt hoặc các mục theo lô trước khi kết quả của chúng được kết hợp lại.
Cách tiếp cận này phù hợp với việc tìm kiếm quy mô lớn, viết nội dung dài và công việc theo lô. Việc thực thi song song hữu ích nhất khi các nhánh có thể tiến hành độc lập với nhau. Việc thực thi tuần tự vẫn tốt hơn khi mỗi bước phụ thuộc vào một kết quả đã được xác minh trước đó.
Cách đánh giá một agent hợp lý
Sử dụng danh sách kiểm tra này trong quá trình thiết kế và cả thử nghiệm. Kiểm tra dấu vết quyết định cũng như sản phẩm cuối cùng.
Thước đo hiệu suất: Nó có phản ánh thành công và giữ được các ràng buộc không?
Khả năng quan sát: Agent có thể nhận biết những điều kiện nào?
Kiến thức: Kiến thức có sẵn có phù hợp và đủ mới không?
Hành động: Công việc cần thực hiện có thể diễn ra trong phạm vi quyền hạn không?
Sự không chắc chắn: Bằng chứng yếu có kích hoạt việc kiểm tra hoặc leo thang không?
Nguồn lực: Ngân sách có phù hợp với mức độ rủi ro của tác vụ không?
Xem xét của con người: Ai phê duyệt các hành động không thể đảo ngược?
Ghi log: Người xem xét có thể tái hiện lại các lựa chọn cùng kết quả không?
Điều kiện dừng: Việc thực thi có dừng lại sau khi thành công, thất bại có giới hạn, hoặc leo thang không?
Đưa cho một agent nghiên cứu các nguồn thông tin mâu thuẫn nhau và kiểm tra xem nó có tìm kiếm bằng chứng tốt hơn không. Đưa cho một agent lập trình một lệnh bị lỗi và xem nó có chẩn đoán nguyên nhân trước khi sửa lại lần nữa hay không. Một agent hỗ trợ khi thiếu ngữ cảnh nên yêu cầu thêm thông tin thay vì tự bịa ra chi tiết.
Đo lường các lần tìm kiếm lặp lại, lỗi bị bỏ qua, các nhận định không có căn cứ, vi phạm quy trình phê duyệt, hoặc dừng lại quá sớm. Một lệnh gọi công cụ bị lỗi không chứng minh sự thiếu hợp lý nếu agent nhận ra và khắc phục hợp lý. Kiểm tra xem các ngưỡng dừng có cân bằng giữa chất lượng và việc sử dụng nguồn lực không.
Kết luận
Một agent hợp lý là một khung quyết định để chọn hành động từ những bằng chứng có sẵn dưới các ràng buộc thực tế. Đối với các agent hiện đại dựa trên LLM, hành động bao gồm các lệnh gọi công cụ, yêu cầu bằng chứng, kiểm tra phê duyệt, sửa đổi, hoặc chủ động dừng lại. Các agent nghiên cứu và lập trình có thể sử dụng khung này, cũng như các luồng công việc hỗ trợ hoặc hệ thống nhiều agent. Không có agent nào mặc định là hợp lý. Tính hợp lý phụ thuộc vào mục tiêu, quan sát, quyền hạn, đánh giá, cùng một chính sách dừng phù hợp.