LangChain 기본 사용법(LLMs 기준)

<출처 및 참고자료>

 - Langchain QuickStart

https://python.langchain.com/docs/get_started/quickstart

Quickstart | 🦜️🔗 Langchain

 - Quickstart의 내용을 바탕으로 주석으로 설명

 - Quickstart중 LLMs를 기준으로 함.

 

0. 정리

 - LLM을 다양한 Tools을 써서 효과적으로 활용 가능(챗봇 등)

 - LLM으로 GPT + plug_in + with Bing 효과를 낼 수 있음.

 - 공부할 때는 OpenAI Api사용 하는 것이 제일 편함

 - Python 3.8이상 버전에서 사용 할 것

 - Template + tool + agent를 chain을 사용해서 묶어 줌.

 - OpenAI API Key가 있어야 함.

 

1. 기본 사용

import os
os.environ["OPENAI_API_KEY"] = "API_KEY"

from langchain.llms import OpenAI 

llm = OpenAI(temperature=0.9) #temperature 0~1까지 1에 가까울 수록 무작위성 증가

text = "다양한 색상의 양말을 만드는 회사의 이름을 무엇으로 하면 좋을까?"

print(llm(text))

 

2. Prompt Template

 -   출력 양식을 정의: 어떻게 출력을 할 것인가?

from langchain.prompts import PromptTemplate

prompt = PromptTemplate(
    input_variables = ['product'], #A
    template = "{product}을 만드는 회사의 이름을 무엇으로 하면 좋을까?"
)

#format에서 product(A에 지정)에 변수를 넣으면 prompt에 들어감.
print(prompt.format(product='맛있는 케익'))

#출력: 맛있는 케익을 만드는 회사의 이름을 무엇으로 하면 좋을까?

 

3. LLMs + Prompt

from langchain.prompts import PromptTemplate
from langchain.llms import OpenAI

llm = OpenAI(temperature=0.9)
prompt = PromptTemplate(
    input_variables=['product'],
    template="{product}을 만드는 회사의 이름을 무엇으로 하면 좋을까?"
)

#LLMChain을 사용해서 연결해줌
from langchain.chains import LLMChain

chain = LLMChain(llm=llm, prompt=prompt)

#실행
chain.run("굉장한 파괴력의 무기")

#출력: '\n\n주도하는 무기(Leading Weapon)이라는 이름이 어울리는 것 같습니다.'

 

4. Agent 사용

import os
#API호출이 필요한 tool은 Key가 있어야 함.
os.environ["SERPAPI_API_KEY"] = "API_Key"

from langchain.agents import load_tools #tool 불러오기
from langchain.agents import initialize_agent #agent 초기와
from langchain.agents import AgentType #agent type 지정
from langchain.llms import OpenAI

#agent를 콘트롤하는데 사용할 LLM 불러오기
llm = OpenAI(temperature=0) #무작위 X

#사용할 Tool 불러오기
tools = load_tools(['serpapi', 'llm-math'], llm=llm)

#llm,tools, agent, agent_type 초기화
agent = initialize_agent(tools, 
                        llm, 
                        agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
                        verbose=True)

#실행
agent.run("서울의 어제 최고 기온을 화씨로 몇도야? .023을 거듭 제곱한 숫자는 얼마야?")   

#출력: '84 °F (at 12:00 pm) and 0.000529'

 

5. Memory:

 - 챗봇 등에서 앞의 내용을 바탕으로 출력을 해야 할 때 필요

     - Long-term

     - Short-term

from langchain import OpenAI, ConversationChain

llm = OpenAI(temperature=0)

#ConversationChain 이전의 입/출력을 기억하고, 전달된 컨텍스트에 추가하는 간단한 유형의 메모리를 가지고 있음.
conversation = ConversationChain(llm=llm, verbose=True)

output = conversation.predict(input='안녕')
print(output)

#출력: 안녕하세요! 무엇을 도와드릴까요?

output = conversation.predict(input="그냥 AI랑 대화하고 싶었어")
print(output)

#출력: 네, 말씀하세요! 나는 인공지능입니다. 나는 인간과 대화하는 것을 좋아합니다. 무엇을 물어보고 싶으신가요?