Kakao Brain에서 만든 KoGPT 사용해보기

OpenAI의 GPT가 나날이 발전할수록, 한국인으로서 느껴지는 답답함도 늘어간다. 물론 ChatGPT를 사용할 때 영어로 물어보고, 영어로 답변을 받으면 괜찮은 퀄리티의 답변을 듣기 때문에 상관 없을지도 모른다. 하지만 대부분 국내 자료와 정보는 한국어로 되어있고, ChatGPT에서는 충분히 학습되지 않았을 가능성이 높기 때문이다. 그래서 한국 기업이 주도로 ChatGPT와 유사한? 서비스가 나오길 기대하고 있는 중이다.

ChatGPT는 아니지만, GPT에 한해서는 Kakao Brain에서 만든 KoGPT를 사용해볼 수 있다. (참고로 Kakao Brain은 유튜브 채널에 유용하고 다양한 영상을 올리고 있는데 비해 B2B 위주 기업이라 그런지 구독자나 뷰가 매우 적다. GPU와 AI, GPT에 관심있는 분들은 한 번 찾아가보길.)

https://developers.kakao.com/docs/latest/ko/kogpt/common

Kakao Developers

간단한 예제 파이썬 코드를 이용하여 koGPT API를 호출해볼 수 있다.

# coding=utf8
# REST API 호출에 필요한 라이브러리
import requests
import json

# [내 애플리케이션] > [앱 키] 에서 확인한 REST API 키 값 입력
REST_API_KEY = ''

# KoGPT API 호출을 위한 메서드 선언
# 각 파라미터 기본값으로 설정
def kogpt_api(prompt, max_tokens = 1, temperature = 1.0, top_p = 1.0, n = 1):
    r = requests.post(
        '<https://api.kakaobrain.com/v1/inference/kogpt/generation>',
        json = {
            'prompt': prompt,
            'max_tokens': max_tokens,
            'temperature': temperature,
            'top_p': top_p,
            'n': n
        },
        headers = {
            'Authorization': 'KakaoAK ' + REST_API_KEY,
            'Content-Type': 'application/json'
        }
    )
    # 응답 JSON 형식으로 변환
    response = json.loads(r.content)
    return response

# KoGPT에게 전달할 명령어 구성
prompt = '''인간처럼 생각하고, 행동하는 '지능'을 통해 인류가 이제까지 풀지 못했던'''

# 파라미터를 전달해 kogpt_api()메서드 호출
response = kogpt_api(
    prompt = prompt,
    max_tokens = 32,
    temperature = 1.0,
    top_p = 1.0,
    n = 3
)

print(response)

외계 생명체와 언제 만날 수 있을지 물어봤다. (참고로 파라미터를 조절해서, 원하는 스타일의 답변을 조절할 수 있다.)

[{'text': ' 매트릭스를 이루고 살면서도, 멀뚱히 생각 없이 앉아 세월만 보내며 나이가 들어가는 사람들이 너무나 많습니다. 외계 테라포밍 시도로 얻은 합금으로 자기들을 증명하고 진화 실험하려했지만 성공치 않아 실망한 그들이 스쳐지나가더군요... 아직 지구 태양계 근처에도 가보지 못해 공상과학소설에나 출현 할 시긴이겠죠.. 지금까지의 진보 개념에서 나치토트라는 존재가 중요한 열쇠가 될거같군요.. 또는 외계인간의 관계속에서도 지구의 주도권 문제에다 의미있는 발언일겁니다 또는 조금 차원 낮추어 옴팔로스 골드 란것과도 맞물려있고요 제추 내부 정보통치 변질된 일루미나티 외행성종족 거주지 통로 일부포기및 태양주변 원소인물조직이탈 두드림과 관련해서요~~~@%*&^ # 요즈음 이슈에 대해서 얘기 드리지요... 요즘 지구인들의 해독력으로 관찰 하자니 윗말이 사실이라고 알져.... 모순점 발생하면 행성의 상승 문제 시기인데...불안감 조성하면 안되니 어쩔수 없습니다 혹자 다중우주 설명으로서 다가오는 변혁별도 대형 은하 중심 핵 5seasonechanical 전쟁문제(핵융합 불안조성 영적 아작) 까지 연결 되는데 계혹 탄소-실리콘 넥서스 거대', 'tokens': 256}, {'text': " | 허프포스트코리아\n2019년 08월 01일 12시 45분 KST | 업데이트됨 2019년 07월 31일 15시 52분 20초\n허핑턴 포스트 트위터 영상 '5억 광년 너머의 외계 문명'이 화제다\n과연 지구에서 가까운 사이클로톤(n)과 항성간먼지D (d)를 살펴보자\n세균 하나가 살기 위해서는 먼지보다 100조배 많아야 한다\n한국 축구 유망주 이강인 선수 소속팀을 보고 유럽클럽들이 관심을 가지고 있습니다\n대량 도살을 하면 여우에게 아스피린 효과를 본받아 키운다는 믿기도 어렵지만 말도 안 되는 주장입니다자신은 속세의 속인 photo from: Jose Soares de Bocasa/Shutterstock.com\n필자는 최근 국제신문, 기호신보 등 여러 신문들과 이대근부산의료원 교수님의 칼럼 그리고 국내 학술지에 실린 글하나 www.newscientist.kr 시리즈 A: 과학 재도약과 사회 '송창선‧김재열 누가 이 위기 국면 타개할까?' 카테고리화되지 않도록 해주시기 바랍니다. 제목 눈사진마다 강제종료 설정 후 링크 거십시오 제1부 20180406 편집자의 변 점점 자연성회의 위험한 전조", 'tokens': 256}, {'text': ' 만약 인류가 그들을 만난다면 신문 헤드라인 및 인터넷 유머란 제목으로 인간보다 월등히 수명이 긴 외양에도 불구하고 전쟁광과 핵인사망자처럼 요절한 \'도판외계생명체\' 를 기억하기에 족할 조선닷컴의 萬無 channeling 사람들이 화색이 "오! 콜럼버스여, 북쪽나라에서 친히 오셨구려" 푯말 바꾸어 놓으며\'대화를 멈춘다면 냉전이 영원토록 계속되리라 아마 환생하시어 절대로 알고 싶지 않은 것 한 가지... 통계역학지식 재조립 단장의 교향악 2부 제1악장 2009년 4월 미국 캘리포니아에 추락하여 인명사고를 일으킨 오스트레일리아 A H UJ 호 2002년 8월 모스크바아-모스크바 부근 지역에 은밀히 흘렀던 코빅타 배수로에 수직콘크리트 블록상자 존재 확인, 외계인 실험실용 고립 밀폐 공간일 가능성도 쿠바출신 2008년도 노벨물리학상 수상자 워릭(그랜트·레이저 물리학자... 재판서 비난받은 피고인 최후진술 통해 판결 뒤집으려 진력 http://USAWatchdog.com/ 거대한 공군기지 건설 계획\'아이언 돔\'을 아십니까 아프간에서 2001년 9·11 테러극 범죄자들의 도시 외곽 은신처 치골두 목표로 탄환 70발 쏴 올 5월까지', 'tokens': 256}, {'text': ' 이에 대한 훌륭한 답이 담겨져 있네요 ᅳ예민하시구먼.ᅳ 1) 긍정적으로 보면 그리 멀지 않을 수도... 2) 부정은 끝도 없다. 3). 2014년까지는 100명을 모이게 하겠다라는 뜻이다. 4). 내 머리로 생각한 것, 창조적인 개념. 5). 지구를 구출하자 6). 구조대가 파견되기 시작하면, 그들과 대화가 가능할 수밖에... 7). UFO가 왜 보이지않는가... 7차원 존재, 태양계 미래의 이야기거리...;; 8). 영혼이동 9). 영혼이탈 10). 유체 이탈 11). 그녀(지구) 곁으로 12), 지구의 소리를 들으니 동물들이 물속에서 나오고있더라! 13). DNA 변이 14). 어마나 무서워라!! 15). 모든것은 하나 16) 이 맞나요?????? 17) 영어 없어지네^^; 아파치스바이 진화했다는데 키워봐여 알자나 ᄒ ~~~ [답변] 최근 영지버섯 등 약초 요법 유행도 같은데 인간은 육체만이 아니라 아스트랄체 이상에 더하여 영물질체인 멘탈체가 조화롭게 제 역할을 다하고 의식이 건전해야 건강한 삶을 영위 할 수 있습니다.그런데 서양이나', 'tokens': 256}], 'usage': {'prompt_tokens': 68, 'generated_tokens': 1024, 'total_tokens': 1092}}

이걸로는 사실 무언가 시도해보기가 어려워 보인다.. 어디에 사용할나 있을지..

같은 질문에 (물론 GPT와 ChatGPT는 다른 것이다. ChatGPT는 GPT 모델을 사용하고 있으나, 단순 GPT와는 다른 대화를 가능하도록 구현해놓았다.) ChatGPT는 다음과 같은 답변을 들려준다. 아주 원론적인 ‘확실한 답은 없다’는 이야기 이외에도 현재 어떤 노력을 하고 있는지, 그리고 앞으로 무슨 일이 일어날지 추정까지 해준다.

새로운 기술이 이렇게까지 대중에 관심을 받은 적은 정말 오랜만이다. VR/AR 같은 기술도 빛을 보지 못했고, 비트코인과 NFT는 흥망성쇠를 이미 겪었다. Generative AI라 불리는 ChatGPT, GPT는 과연 어디까지 갈 수 있을까? 그 미래가 궁금하다.