LangChain ir sistēma, lai izveidotu tērzēšanas modeļus un LLM, lai iegūtu informāciju no datu kopas vai interneta, izmantojot OpenAI vidi. Strukturētais izvades parsētājs tiek izmantots, lai iegūtu vairākus laukus vai atbildes, piemēram, faktisko atbildi un papildu saistītu informāciju. Izvades parsētāju bibliotēkas var izmantot kopā ar LangChain, lai iegūtu datus, izmantojot modeļus, kas izveidoti kā LLM vai tērzēšanas modeļi.
Šī ziņa demonstrēja strukturētā izvades parsētāja izmantošanas procesu programmā LangChain.
Kā lietot strukturēto izvades parsētāju programmā LangChain?
Lai lietotu strukturētās izvades parsētāju programmā LangChain, vienkārši veiciet šīs darbības:
1. darbība. Instalējiet priekšnoteikumus
Sāciet procesu, instalējot LangChain ietvaru, ja tas vēl nav instalēts jūsu Python vidē:
pip uzstādīt langchain
Instalējiet OpenAI ietvaru, lai piekļūtu tās metodēm parsētāja izveidei programmā LangChain:
pip uzstādīt openai
Pēc tam vienkārši izveidojiet savienojumu ar OpenAI vidi, izmantojot tās API atslēgu, lai piekļūtu videi, izmantojot “ tu ' bibliotēku un norādiet API atslēgu, izmantojot ' getpass ” bibliotēka:
importēt mūsimportēt getpass
os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( OpenAI API atslēga: )
2. darbība. Izvades/atbildes shēmas izveide
Pēc savienojuma izveides ar OpenAI vienkārši importējiet bibliotēkas, lai izveidotu shēmu izvades ģenerēšanai:
no langchain.output_parsers importa StructuredOutputParser, ResponseSchemano langchain.prompts importēt PromptTemplate, ChatPromptTemplate, HumanMessagePromptTemplate
no langchain.llms importēt OpenAI
no langchain.chat_models importējiet ChatOpenAI
Norādiet atbildes shēmu atbilstoši prasībai, lai modelim būtu attiecīgi jāģenerē atbilde:
atbildes_shēmas = [Atbildes shēma ( nosaukums = 'atbilde' , apraksts = 'atbildēt uz vaicājumu' ) ,
Atbildes shēma ( nosaukums = 'avots' , apraksts = 'vietnes avots, kas tiek izmantots, lai iegūtu atbildi' )
]
output_parser = StructuredOutputParser.from_response_schemas ( atbildes_shēmas )
3. darbība: formatējiet veidni
Pēc izvades shēmas konfigurēšanas vienkārši iestatiet ievades veidni dabiskajā valodā, lai modelis varētu saprast jautājumus pirms atbildes iegūšanas:
format_instructions = output_parser.get_format_instructions ( )prompt = PromptTemplate (
veidne = 'Atbildiet uz lietotāja jautājumu. \n {veidne} \n {query}' ,
ievades_mainīgie = [ 'vaicājums' ] ,
daļēji_mainīgie = { 'veidne' : format_instrukcijas }
)
1. metode: valodas modeļa izmantošana
Pēc jautājumu un atbilžu formāta veidņu konfigurēšanas vienkārši izveidojiet modeli, izmantojot OpenAI() funkciju:
modelis = OpenAI ( temperatūra = 0 )
Iestatiet uzvedni sadaļā “ vaicājums ” mainīgo un nosūtiet to uz format_prompt() darbojas kā ievade un pēc tam saglabā atbildi mapē ' izvade ” mainīgais:
_input = prompt.format_prompt ( vaicājums = 'cik kontinentu ir pasaulē' )izvade = modelis ( _input.to_string ( ) )
Zvaniet uz parse () funkcija ar izejas mainīgo kā argumentu, lai iegūtu atbildi no modeļa:
output_parser.parse ( izvade )
Izvades parsētājs saņem atbildi uz vaicājumu un parāda detalizētu atbildi ar saiti uz vietnes lapu, kas tiek izmantota atbildes saņemšanai:
2. metode: tērzēšanas modeļa izmantošana
Lai iegūtu rezultātus no izvades parsētāja programmā LangChain, izmantojiet tērzēšanas_modelis mainīgais zemāk:
chat_model = ChatOpenAI ( temperatūra = 0 )
Lai saprastu uzvedni, konfigurējiet uzvednes veidni tērzēšanas modelim. Pēc tam ģenerējiet atbildi atbilstoši ievadei:
prompt = ChatPromptTemplate (ziņas = [
HumanMessagePromptTemplate.from_template ( 'Atbildiet uz lietotāja jautājumu. \n {format_instructions} \n {query}' )
] ,
ievades_mainīgie = [ 'vaicājums' ] ,
daļēji_mainīgie = { 'format_instrukcijas' : format_instrukcijas }
)
Pēc tam vienkārši ievadiet ievadi sadaļā ' vaicājums ” mainīgo un pēc tam nosūtiet to uz tērzēšanas_modelis() funkcija, lai iegūtu izvadi no modeļa:
_input = prompt.format_prompt ( vaicājums = 'ASV nozīmē' )izvade = tērzēšanas_modelis ( _input.to_messages ( ) )
Lai saņemtu atbildi no tērzēšanas modeļa, izmantojiet output_parser, kas saglabā rezultātu no “ izvade ” mainīgais:
output_parser.parse ( izvade.saturs )
Tērzēšanas modelī tika parādīta atbilde uz vaicājumu un vietnes nosaukums, kas tiek izmantota, lai saņemtu atbildi no interneta:
Tas viss attiecas uz strukturētas izvades parsētāja izmantošanu programmā LangChain.
Secinājums
Lai lietotu strukturēto izvades parsētāju programmā LangChain, vienkārši instalējiet LangChain un OpenAI moduļus, lai sāktu procesu. Pēc tam izveidojiet savienojumu ar OpenAI vidi, izmantojot tās API atslēgu, un pēc tam konfigurējiet modeļa uzvednes un atbildes veidnes. Izvades parsētāju var izmantot ar valodas modeli vai tērzēšanas modeli. Šajā rokasgrāmatā ir izskaidrota izvades parsētāja izmantošana ar abām metodēm.