Làm cách nào để chạy LLMChain trong LangChain?

Lam Cach Nao De Chay Llmchain Trong Langchain



LangChain là khuôn khổ cho phép các nhà phát triển xây dựng Mô hình ngôn ngữ lớn hoặc mô hình trò chuyện mà con người có thể sử dụng để trích xuất thông tin. Những mô hình này có thể được sử dụng để tương tác bằng ngôn ngữ tự nhiên, sau khi hiểu các lệnh để tạo văn bản tương ứng. LLM hoặc chatbot sử dụng chuỗi để tương tác với con người bằng cách lưu trữ các tin nhắn trước đó dưới dạng quan sát để lấy bối cảnh của cuộc trò chuyện.

Hướng dẫn này sẽ minh họa quá trình chạy LLMChains trong LangChain.

Làm cách nào để chạy LLMChain trong LangChain?

LangChain cung cấp các tính năng hoặc phần phụ thuộc để xây dựng LLMChain bằng cách sử dụng LLM/Chatbot và các mẫu nhắc nhở. Để tìm hiểu quy trình xây dựng và chạy LLMChain trong LangChain, chỉ cần làm theo hướng dẫn từng bước sau:







Bước 1: Cài đặt gói

Trước tiên, hãy bắt đầu quy trình bằng cách cài đặt mô-đun LangChain để có được các phần phụ thuộc của nó cho việc xây dựng và chạy LLMChains:



pip cài đặt langchain



Cài đặt khung OpenAI bằng lệnh pip để yêu cầu các thư viện sử dụng hàm OpenAI() để xây dựng LLM:





cài đặt pip openai

Sau khi cài đặt các mô-đun, chỉ cần thiết lập môi trường các biến sử dụng khóa API từ tài khoản OpenAI:



nhập khẩu Bạn

nhập khẩu vượt qua

Bạn . khoảng [ 'OPENAI_API_KEY' ] = vượt qua . vượt qua ( 'Khóa API OpenAI:' )

Bước 2: Nhập thư viện

Sau khi quá trình thiết lập hoàn tất và tất cả các gói bắt buộc đã được cài đặt, hãy nhập các thư viện cần thiết để xây dựng mẫu lời nhắc. Sau đó, chỉ cần xây dựng LLM bằng phương thức OpenAI() và định cấu hình LLMChain bằng LLM và mẫu lời nhắc:

từ chuỗi lang nhập khẩu Mẫu nhắc nhở

từ chuỗi lang nhập khẩu OpenAI

từ chuỗi lang nhập khẩu Chuỗi LLM

nhắc_mẫu = 'cho tôi một danh hiệu hay cho doanh nghiệp sản xuất ra {sản phẩm}?'

ừm = OpenAI ( nhiệt độ = 0 )

llm_chain = Chuỗi LLM (

ừm = ừm ,

lời nhắc = PromTemplate. từ_mẫu ( nhắc_mẫu )

)

llm_chain ( 'Quần áo đầy màu sắc' )

Bước 3: Chạy dây chuyền

Lấy danh sách đầu vào chứa các sản phẩm khác nhau do doanh nghiệp sản xuất và chạy chuỗi hiển thị danh sách trên màn hình:

danh sách đầu vào = [
{ 'sản phẩm' : 'vớ' } ,
{ 'sản phẩm' : 'máy tính' } ,
{ 'sản phẩm' : 'đôi giày' }
]

llm_chain. áp dụng ( danh sách đầu vào )

Chạy phương thức generate() bằng cách sử dụng danh sách đầu vào với LLMChains để nhận đầu ra liên quan đến cuộc trò chuyện do mô hình tạo ra:

llm_chain. phát ra ( danh sách đầu vào )

Bước 4: Sử dụng đầu vào đơn

Thêm một sản phẩm khác để chạy LLMChain bằng cách chỉ sử dụng một đầu vào duy nhất và sau đó dự đoán LLMChain sẽ tạo đầu ra:

llm_chain. dự đoán ( sản phẩm = 'vớ đầy màu sắc' )

Bước 5: Sử dụng nhiều đầu vào

Bây giờ, hãy xây dựng mẫu để sử dụng nhiều đầu vào nhằm cung cấp lệnh cho mô hình trước khi chạy chuỗi:

bản mẫu = '''Kể cho tôi một câu chuyện cười {tính từ} về {chủ đề}.'''
lời nhắc = Mẫu nhắc nhở ( bản mẫu = bản mẫu , đầu vào_biến = [ 'tính từ' , 'chủ thể' ] )
llm_chain = Chuỗi LLM ( lời nhắc = lời nhắc , ừm = OpenAI ( nhiệt độ = 0 ) )

llm_chain. dự đoán ( tính từ = 'buồn' , chủ thể = 'vịt' )

Bước 6: Sử dụng Trình phân tích cú pháp đầu ra

Bước này sử dụng phương thức trình phân tích cú pháp đầu ra để chạy LLMChain nhằm nhận đầu ra dựa trên lời nhắc:

từ langchain. đầu ra_parsers nhập khẩu Dấu phẩySeparatedListOutputParser

đầu ra_parser = Dấu phẩySeparatedListOutputParser ( )

bản mẫu = '''Liệt kê tất cả các màu sắc trong cầu vồng'''

lời nhắc = Mẫu nhắc nhở ( bản mẫu = bản mẫu , đầu vào_biến = [ ] , đầu ra_parser = đầu ra_parser )

llm_chain = Chuỗi LLM ( lời nhắc = lời nhắc , ừm = ừm )

llm_chain. dự đoán ( )

Sử dụng phương thức phân tích cú pháp () để lấy đầu ra sẽ tạo ra danh sách tất cả các màu trong cầu vồng được phân tách bằng dấu phẩy:

llm_chain. dự đoán_and_parse ( )

Bước 7: Khởi tạo từ chuỗi

Bước này giải thích quy trình sử dụng chuỗi làm lời nhắc chạy LLMChain bằng mô hình và mẫu LLM:

bản mẫu = '''Kể cho tôi một câu chuyện cười {tính từ} về {chủ đề}'''

llm_chain = LLMChain. từ_chuỗi ( ừm = ừm , bản mẫu = bản mẫu )

Cung cấp giá trị của các biến trong dấu nhắc chuỗi để nhận kết quả đầu ra từ mô hình bằng cách chạy LLMChain:

llm_chain. dự đoán ( tính từ = 'buồn' , chủ thể = 'vịt' )

Đó là tất cả về việc chạy LLMChains bằng khung LangChain.

Phần kết luận

Để xây dựng và chạy LLMChains trong LangChain, hãy cài đặt các điều kiện tiên quyết như gói và thiết lập môi trường bằng khóa API của OpenAI. Sau đó, nhập các thư viện cần thiết để định cấu hình mẫu và mô hình lời nhắc để chạy LLMChain bằng cách sử dụng các phần phụ thuộc LangChain. Người dùng có thể sử dụng trình phân tích cú pháp đầu ra và lệnh chuỗi để chạy LLMChains như được minh họa trong hướng dẫn. Hướng dẫn này đã trình bày chi tiết về quy trình chạy LLMChain hoàn chỉnh trong LangChain.