나만의 ChatGPT - TokenMeter

TokenMeter 소개

(LLM을 로컬에서 직접 구동하지 않습니다.)

TokenMeter는 부담스러운 구독 비용을 줄이고, 내 데이터가 학습에 활용되는 것을 방지하기 위해
OpenAI API를 로컬에서 활용하여 ChatGPT 웹 서비스를 사용하지 않고도 자연스러운 대화와 기록이 가능하도록 만든 도구입니다.

 

따라서 TokenMeter를 사용하려면 크레딧이 충전된 OpenAI API Key가 필요합니다.

 

모든 설정과 대화 내역은 로컬 환경에 저장됩니다.

 

https://github.com/cornpip/TokenMeter

GitHub - cornpip/TokenMeter: Local ChatGPT

지속적으로 기능을 업데이트하고 있습니다.

 

주요 업데이트

도커 환경 배포

Docker가 동작하고 docker compose를 사용할 수 있는 환경이라면 쉽게 TokenMeter를 실행할 수 있다.

실행 방법

1. GitHub에서 docker-composse.yml 파일을 다운로드하거나 복사한다.
2. yml 파일이 위치한 폴더에서 docker compose up 명령어를 실행한다.

 

명령어가 실행되면, 도커 허브에 배포된 클라이언트와 서버 이미지를 받아와 서비스가 실행된다.

서비스 주소: http://localhost/token_meter/viewer/main

 

  

    
    
    
    
  
...
    nginx:
        environment:
            <<: *common-environment
        image: cornpip77/token-meter-nginx
        ports:
            - {포트 지정}:80
...

서비스의 기본 호스팅 포트는 80번이다.

포트를 변경하려면 yml파일에서 nginx port 왼쪽 번호를 수정한 후, docker compose up 실행한다.

 

https://hub.docker.com/u/cornpip77

https://hub.docker.com/u/cornpip77

클라이언트는 빌드된 파일과 Nginx 설정을,
서버는 Express와 SQLite3를 실행할 수 있는 환경을 각각 도커 이미지로 만들었다.

각각의 Dockerfile은 ./client 및 ./server 폴더에서 확인할 수 있다.

 

새로운 기능

• LaTeX 문법을 지원하여 수학적 표현식을 볼 수 있다.
• 채팅방 제목을 변경할 수 있다. (우클릭 → Rename)

 

---

 

서비스 사용 방법은 이전 포스팅 또는 github README 를 참고

2025.02.21 - [Side Project/TokenMeter] - TokenMeter : 개인용(local) ChatGPT 만들기

TokenMeter : 개인용(local) ChatGPT 만들기