ANE Oh

created by: ANEOH
date: 2024-01-29 20:22
tags:

• "#API"
• "#ChatGPT/API"
• "Obsidian"
• "Blog/post"

Needs

1. ChatGPT를 이용함에 있어 사용량이 많지 않지만 ChatGPT 4.0이 필요함.(GPT 4.0; advanced data analysis 등)
2. ChatGPT plus Billing price ($20; 약 27,000원) 부담스러움
3. Obsidian과 ChatGPT의 integration이 필요함.

Introduction

1. ChatGPT plus(이후 Plus)는 GPT 4.0 & image and audio processing 및 다양한 cusomized model을 사용할 수 있는 장점이 있습니다.

   1. 

2. 하지만 사용자에 따라 사용량이 많지 않은 경우 아래의 $20/mo의 pricing은 부담스러울 수 있습니다.
3. 또한 ObsidianPlugin을 통해 ChatGPT를 사용하는 경우 API를 요청하고 Plus와 API는 다른 Billing process를 가지고 있습니다. (이중지출가능성)
4. Custom Frame plugin을 이용해 web based 사용을 할 순 있지만 조금 아쉬운 부분이 있습니다. (https://statisticsplaybook.com/chatgpt-in-obsidian/ ;참고바랍니다)
5. Plus만이 GPT-4의 유일한 사용방법이 아니고 사용량에 따른 유연한 선택지가 있음을 알려드리기 위한 글입니다.
6. 하지만 단점으로 API -> Obsidian plugin을 사용하는 경우 Text-based 이용만 가능.

Biling

1. ChatGPT API pricing
   1. https://openai.com/pricing 참조하시고 주요 내용을 보자면

   2. 

   3. 

   4. 로 모델과 사용량에 따른 청구를 확인할 수 있습니다.
2. 토큰(Token)?
   1. 여기서 토큰이란 자연어 처리에 필요한 단어의 조각을 의미합니다.
   2. 1 token = about 4 English characters or 0.75 word이고
   3. 한글 텍스트의 경우 1문자당 2~3개의 토큰에 해당합니다.
   4. 대략 3배 정도 더 많은 토큰사용을 함을 알 수 있습니다.
   5. https://platform.openai.com/tokenizer Token 수 계산 web.
3. 토큰 비용 절감 전략
   1. 명확한 언어 사용
   2. 한글 보다 영어 사용
   3. 적합한 모델 사용(4.0버전이 필요한 경우에만 사용)
   4. 답변의 maximum token 제한
   5. ChatGPT API페이지의 Biliing 모니터링 or Limitation
4. 제 전략은 위의 Custom frame plugin을 통해 무료 3.5버전 or Gemini PRO(google BARD)을 주로 사용하고 필요한 경우 API를 통해 "GPT-4.0 Turbo" 모델을 사용하는 것입니다. -> Custom frame사용의 경우 링크한 블로그를 참조 부탁드립니다.

Settings

API setting

1. https://platform.openai.com/docs/overview 에서 가입을 진행해 줍니다.
2. Setting/Billing에서 카드정보 등록 후 Balance 충전. 및 Limitation 설정

   1. 

   2. 한달 Budget $20 and $10 초과 시 메일 발송
   3. 참고) ROK로 국가설정 후 결제시 부가세 10% charge 됩니다. Alaska등 일부 미주의 경우 Sales tax가 없으므로 참고바랍니다.
3. 메뉴/API key에서 API키 생성하여 저장합니다.
   1. 한번 보여진 API키는 다시 조회되지 않는점 참고바랍니다.Obsidian setting
4. Obsidian/Community_plugin/Copilot 검색 -> 설치 -> 세팅

5. 

6. Temperature는 창의적인 대답에 대한 기대값입니다. 기본값은 0.1로 올라갈수록 창의적이지만 정확도가 떨어지게됩니다.
7. Token Limit으로 대답의 토큰 수를 제한할 수 있습니다.

   

8. Default model은 GPT-4 TURBO로 세팅하였습니다. (간단한 작업은 web-based 3.5버전 사용) or 필요시 Gemini PRO API / Azure GPT등 필요한 Model을 사용하시면 됩니다.

9. 

   1. 이 창에서는 Stop generating, New chat, Note에 저장, Chat or QA, 현재 노트를 프롬프트에 불러오기 등으로 활용할 수 있습니다.

Results

1. Usage Page

2. 

3. 

4. 사용량과 청구 페이지입니다. 이런 식으로 사용량에 비례한 청구시스템이고 잔고를 그때그때 채워 사용하는 방식입니다.
5. 다양한 기능활용을 위한 Assistant API나 Fine-tuning에 대한 내용은 후에 기회가 된다면 설명드리겠습니다.