Hướng dẫn kỹ thuật lời nhắc. Kỹ thuật viết lời nhắc. Suy luận Tự động và Sử dụng Công cụ (ART)

Automatic Reasoning and Tool-use (ART)

Theo: https://www.promptingguide.ai/techniques/art

Việc kết hợp các lời nhắc theo chuỗi tư duy – CoT (Chain-of-Thought) và các công cụ theo cách xen kẽ đã được chứng minh là một phương pháp mạnh mẽ và hiệu quả để giải quyết nhiều nhiệm vụ với LLM. Các phương pháp này thường yêu cầu các bản trình diễn nhiệm vụ cụ thể thủ công được tạo ra và việc xen kẽ được lập trình cẩn thận giữa việc tạo mô hình với việc sử dụng công cụ. Paranjape và cộng sự, (2023) đề xuất một khuôn khổ mới sử dụng LLM đóng băng để tự động tạo ra các bước suy luận trung gian dưới dạng một chương trình.

ART hoạt động như sau:

• với một nhiệm vụ mới, nó chọn các bản trình diễn về suy luận nhiều bước và sử dụng công cụ từ thư viện các nhiệm vụ

• tại thời điểm kiểm tra, nó tạm dừng việc tạo sinh bất cứ khi nào các công cụ bên ngoài được gọi và tích hợp đầu ra của chúng trước khi tiếp tục tạo sinh.

ART khuyến khích mô hình khái quát hóa từ các bản trình diễn để phân tích một nhiệm vụ mới và sử dụng các công cụ ở những vị trí thích hợp, theo cách không có lỗi nào. Ngoài ra, ART có thể mở rộng vì nó cũng cho phép con người sửa lỗi trong các bước suy luận hoặc thêm các công cụ mới bằng cách đơn giản là cập nhật thư viện các nhiệm vụ và công cụ. Quy trình được minh họa dưới đây:

Image Source: Paranjape et al., (2023)

ART cải thiện đáng kể so với việc nhắc với vài lần ví dụ/minh họa và CoT tự động dựa trên các tác vụ chưa được biết đến trong các phép đo chuẩn BigBench và MMLU, đồng thời vượt trội hơn hiệu suất của các lời nhắc CoT thủ công được tạo ra khi kết hợp phản hồi của con người.

Dưới đây là bảng minh họa hiệu suất của ART dựa trên các tác vụ BigBench và MMLU:

Image Source: Paranjape et al., (2023)

Về ‘Kỹ thuật viết lời nhắc’ ………. Phần trước ………. Phần tiếp theo