Bài đăng này minh họa phương pháp sử dụng các hàm và lớp phân tích cú pháp đầu ra thông qua khung LangChain.
Làm cách nào để sử dụng Trình phân tích cú pháp đầu ra thông qua LangChain?
Trình phân tích cú pháp đầu ra là các đầu ra và các lớp có thể giúp lấy đầu ra có cấu trúc từ mô hình. Để tìm hiểu quy trình sử dụng trình phân tích cú pháp đầu ra trong LangChain, chỉ cần thực hiện các bước được liệt kê:
Bước 1: Cài đặt mô-đun
Trước tiên, hãy bắt đầu quá trình sử dụng trình phân tích cú pháp đầu ra bằng cách cài đặt mô-đun LangChain cùng với các phần phụ thuộc của nó để thực hiện quy trình:
pip cài đặt chuỗi lang
Sau đó, cài đặt mô-đun OpenAI để sử dụng các thư viện của nó như OpenAI và ChatOpenAI:
pip cài đặt openai
Bây giờ, hãy thiết lập môi trường cho OpenAI sử dụng khóa API từ tài khoản OpenAI:
nhập khẩu chúng tôi
nhập khẩu
os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'Khóa API OpenAI:' )
Bước 2: Nhập thư viện
Bước tiếp theo là nhập thư viện từ LangChain để sử dụng trình phân tích cú pháp đầu ra trong framework:
từ langchain.prompts nhập HumanMessagePromptTemplate
từ trường nhập pydantic
từ langchain.prompts nhập ChatPromptTemplate
từ langchain.output_parsers nhập PydanticOutputParser
từ nhập pydantic BaseModel
từ trình xác nhận nhập khẩu pydantic
từ langchain.chat_models nhập ChatOpenAI
từ langchain.llms nhập OpenAI
từ việc gõ danh sách nhập
Bước 3: Xây dựng cấu trúc dữ liệu
Xây dựng cấu trúc đầu ra là ứng dụng quan trọng của trình phân tích cú pháp đầu ra trong Mô hình ngôn ngữ lớn. Trước khi đến cấu trúc dữ liệu của các mô hình, cần xác định tên của mô hình mà chúng ta đang sử dụng để lấy đầu ra có cấu trúc từ các trình phân tích cú pháp đầu ra:
nhiệt độ = 0,0
mô hình = OpenAI ( tên_người mẫu =tên_người mẫu, nhiệt độ = nhiệt độ )
Bây giờ, hãy sử dụng lớp Joke chứa BaseModel để định cấu hình cấu trúc đầu ra nhằm lấy trò đùa từ mô hình. Sau đó, người dùng có thể dễ dàng thêm logic xác thực tùy chỉnh bằng lớp pydantic, lớp này có thể yêu cầu người dùng đặt truy vấn/lời nhắc được định dạng tốt hơn:
trò đùa của lớp ( Mô hình cơ sở ) :thiết lập: str = Trường ( Sự miêu tả = 'truy vấn để hiển thị một trò đùa' )
dòng cuối cùng: str = Trường ( Sự miêu tả = 'trả lời câu hỏi bằng một trò đùa' )
Xác thực #Logic cho truy vấn vì mô hình cần hiểu đúng về nó
@ người xác nhận ( 'cài đặt' )
chắc chắn question_ends_with_question_mark ( cls, trường ) :
nếu như cánh đồng [ - 1 ] ! = '?' :
tăng giá trịError ( 'Câu hỏi được hình thành sai!' )
trở lại cánh đồng
Bước 4: Đặt mẫu lời nhắc
Định cấu hình biến trình phân tích cú pháp chứa phương thức PydanticOutputParser() chứa các tham số của nó:
Sau khi định cấu hình trình phân tích cú pháp, chỉ cần xác định biến dấu nhắc bằng phương thức NhắcTemplate() với cấu trúc truy vấn/lời nhắc:
dấu nhắc = Mẫu nhắc nhở (bản mẫu = 'Trả lời truy vấn của người dùng. \N {format_instructions} \N {truy vấn} \N ' ,
đầu vào_biến = [ 'truy vấn' ] ,
một phần biến = { 'format_instructions' : trình phân tích cú pháp.get_format_instructions ( ) }
)
Bước 5: Kiểm tra trình phân tích cú pháp đầu ra
Sau khi định cấu hình tất cả các yêu cầu, hãy tạo một biến được gán bằng truy vấn rồi gọi phương thức format_prompt():
_input = nhắc.format_prompt ( truy vấn =joke_query )
Bây giờ, hãy gọi hàm model() để xác định biến đầu ra:
đầu ra = mô hình ( _input.to_string ( ) )Hoàn tất quá trình thử nghiệm bằng cách gọi phương thức Parser() với biến đầu ra làm tham số:
trình phân tích cú pháp.parse ( đầu ra ) 
Đó là tất cả về quá trình sử dụng trình phân tích cú pháp đầu ra trong LangChain.
Phần kết luận
Để sử dụng trình phân tích cú pháp đầu ra trong LangChain, hãy cài đặt các mô-đun và thiết lập môi trường OpenAI bằng khóa API của nó. Sau đó, xác định mô hình và định cấu hình cấu trúc dữ liệu của đầu ra với xác thực logic của truy vấn do người dùng cung cấp. Sau khi cấu trúc dữ liệu được định cấu hình, bạn chỉ cần đặt mẫu lời nhắc, sau đó kiểm tra trình phân tích cú pháp đầu ra để nhận kết quả từ mô hình. Hướng dẫn này đã minh họa quá trình sử dụng trình phân tích cú pháp đầu ra trong khung LangChain.