개발자의 미래는?!(With.GPT4.5)
안녕하세요
부산에서 일하고 있는
올해 8년차 프리랜서 개발자입니다
오랜만에 공유드리고 싶은 글이있어서 들렸습니다!
AI 발전 속도가 정말 빠르긴 하네요
요즘 나오는 AI 모델 이용해서 개발하라고 하면
1년전 저보다 20-30배는 빠르게 개발이 가능하겠네요
정말 딸깍하는 세상이 얼마남지 않은거 같습니다
작년까지만 해도 AI를 이용해 개발을 하려면 설정에서부터 오류가 많아 환경들을 모두 파악을하고 전부
손을 봐줬어야 했는데요
지금 AI를 이용한 개발은 처음 설계 프롬포트에 큰 오류만 없다면 파악하고 손을 봐줄 이유가 없습니다
(글 쓰면서 보니 사용했는지 몰랐던 라이브러리도 있네요)
그래도 아예 문제가 없는건 아닌지라 문제가 있으면
그때 개입하여 설정을 봐주거나 프롬포트를 수정해서 환각을 피해주기만 하면 되었습니다
(이번 개발에 두세번정도있었습니다)
또 작업 진행 단계마다
현재 시스템 구조가 내가 만들고자 하는 프로그램 의도대로
만들어지고 있는지 다수 AI 에 확인을 받으면
의도를 벗어나지 않는데 큰 도움이 되었습니다
(해당 부분도 계속 물어보기 귀찮아서 AI로
코드 만들었습니다 )
개발비용 : 100 $
gpt4.5 API를 초반에 이용해서… 좀 많이 나왔습니다
4.5에 비하면 클로드 3.7이 가성비(?)가 압도적이더군요
(재미있는게 코딩 제외 모든 영역 질문들 퀄리티는
클로드가 또 지피티에 상대도 안되네요)
아래에 뭔가 거창하게 많이 적긴 했는데
기능중 확실히 만들어진건
(아니 작동을 하는거라고 말하겠습니다)
메모리 기능하고,TOT 두개이고
나머지는 피드백 받아보니 그리 쉽게 끝날
간단한 개념들의 기술이라 아니라
프로토타입정도일거러네요 ㅎㅎ
(물론 메모리 ,TOT 도 완벽하지는 ㅋㅋ…)
개발한 프로젝트의 기술적 스펙과 구현 사항
🔸 시스템 아키텍처
백엔드 시스템 (FastAPI):
모듈화된 구조 (app/ 디렉토리 기반)
서비스 레이어: LLM, Memory, RAG 서비스 분리
API 레이어: 채팅 엔드포인트 및 라우터
유틸리티: 로깅, 성능 측정
벡터 데이터베이스:
FAISS 인메모리 벡터 인덱스 사용
문서 임베딩 저장 및 의미적 검색 지원
약 10,000개 문서 청크 저장 가능한 구조
LLM 통합:
DeepSeek-R1 API와 연동
컨텍스트 창은 최대 16K 토큰 지원
시스템 프롬프트 최적화로 RAG 응답 품질 향상
프론트엔드:
Streamlit 기반 웹 인터페이스
채팅 UI 및 응답 표시
ToT 모드 전환 옵션 제공
성능 메트릭 시각화 (검색 시간, 생성 시간 등)
🔸 특별 구현 기능
Tree of Thoughts (ToT) 추론 패턴:
단계 1: 다양한 접근법 생성 (3-5개)
단계 2: 각 접근법 평가 및 점수 부여
단계 3: 최적 접근법 선택 및 최종 응답 생성
결과: 일반 RAG보다 더 체계적이고 깊이 있는 답변
고급 RAG 시스템:
컨텍스트 검색 최적화 (Top-k 문서 검색)
관련성 점수 가중치 적용
검색 결과 재순위화 로직
메모리 시스템:
ConversationBufferMemory 기반 대화 이력 관리
대화 맥락 유지 및 참조 해결
토큰 한계 관리 메커니즘
🔸 배포 환경
서버: DigitalOcean Droplet (4 CPU, 8GB RAM)
운영체제: Ubuntu 22.04 LTS
관리: systemd 서비스로 자동 실행 및 재시작
포트: 백엔드 API (8000), 프론트엔드 (8501)
모니터링: 기본 로깅 및 메트릭 추적
작년까지만해도 AI가 초중급 수요를 많이 줄여도 늘어나는 공급도 상당하기에 어떻게 될지 모른다!!
이렇게 말하고 다녔는데 이제 모르겠습니다
그래도 애초에 돈때문에 선택한 직업도 아니고
제 천성에 맞는 직업이라 생각을 하기에
다른 길이 없네요 ㅋㅋ..
사실 적성은 취미(?)로 해도 되는거고
요즘 공무원 저점매수 기회인데 갈아타? 생각도 요즘 들고요
(장애등급이 있어서 무난할거 같긴 한데… 당장 소득차이가 )
이렇게 폭발적 생산성을 가장 먼저 누리는 세대이면
창업에 뛰어들어야하는게 아닌가 생각도 해보지만
경험상 쉽지 않은길임을 알고있으니 생각만 많아지네요
