김준호

백엔드 엔지니어 · AI 애플리케이션

About Me

현재 카카오 Kanvas TF에서 AI 제품을 개발하고 있습니다. 2025년에는 사내 AI 검색 시스템을 선례가 없는 상태에서 구조부터 설계해 API 비용을 94%, 토큰을 50% 절감했습니다. 같은 해 하반기부터 2026년 초까지는 AI 활용 능력 대회 플랫폼 AITOP100의 시스템을 설계·구현했고, 그 전 AI Native Company TF에서는 GraphRAG로 지식베이스를 구축했습니다.

AI 이전에는 대규모 서비스 백엔드를 다뤘습니다. 하루 수억 건의 메일을 주고받는 MAU 2천만 이상의 다음메일을 8년 이상 개발/운영하면서, 20년 넘은 서비스의 인프라, 모니터링, 장애 상황을 두루 경험하였습니다. My 구독 서비스는 신규 개발에 참여하여 론칭하였고, 티스토리, 오픈링크, 오픈채팅 등의 서비스 개발에도 참여하였습니다.

일을 하며 쌓은 경험들은 문서화하고 동료들과 공유합니다. 반복되는 작업은 스크립트로 자동화하고 운영툴을 개발하여 운영비용을 줄입니다.

Skills

AI / LLM

  • LLM 애플리케이션 개발 - RAG(GraphRAG), LLM 연동/모델 라우팅
  • LLM 자동 채점 파이프라인, 프롬프트 인젝션 가드레일

Back-end

  • 주요: Java, Kotlin, Python, Linux, MySQL, Kafka
  • 기타: PostgreSQL, C, Perl, Oracle, PHP, ETC
  • 프레임워크: Spring, SpringBoot, FastAPI

Front-end

  • Javascript, jQuery, Bootstrap, React

Others

  • Git & Github, Kubernetes, Docker
  • Ansible, Jenkins, ArgoCD

Experience

카카오

백엔드 개발자

January 2012 - Present

https://www.kakaocorp.com
  • Kanvas TF - 2026.05 ~ 현재
    • AI 서비스 개발
  • AI TOP 100 Builder TF - 2026.02 ~ 2026.04
    • 2026 AITOP100 Campus 및 AITOP100 Challenge 프로젝트 참여
  • AI네이티브전략 - 2025.07 ~ 2026.01
    • 사내 AI 검색 시스템 개발 - 선례 없는 상태에서 구조 설계. 컨텍스트·프롬프트 최적화로 토큰 50% 절감, 모델 전환과 불필요한 처리 단계 제거로 API 비용 94% 절감
      • 4월 사내 오픈 후 개선을 이어가 8월 인수인계 완료. 인계 이후에도 크루들이 계속 사용
    • AI Buddy 등 개발
    • 2025 AITOP100 및 AITOP100 Challenge 프로젝트 참여
    • if(kakao)25 Krew Day 카든벨 - CS·AI 기술 퀴즈 세션용 모바일 퀴즈 플랫폼 기획·개발 (2인)
      • 신청·입장·게임 진행·순위 확인을 참가자가 각자 단말에서 셀프 진행, 동시 60명 무장애 운영
      • 카카오 테크 블로그
  • AI Native Company TF - 2024.07 ~ 2025.06
    • GraphRAG를 이용한 지식베이스 구축
  • 오픈채팅 개발파트 - 2024.04 ~ 2024.06
  • 오픈링크 개발파트 - 2023.08 ~ 2024.03
    • 개인화 대화방 추천, 푸시 서버 개발
  • 티스토리 개발파트 - 2022.06 ~ 2023.08
    • 화이트 블로그 등
  • My 구독 개발파트 - 2020.04 ~ 2022.06
    • My 구독 서비스 개발/운영 - Java, SpringBoot, Kafka, MySQL, Redis, Kubernetes 등
    • MSA 환경에서의 Web API 작성, Kafka를 이용한 Pub/Sub 구조의 데이터 처리
  • 메일개발파트 2012.01 ~ 2020.04
    • MAU 2천만 이상, 하루 수억건의 메일 수발신 트래픽을 처리하는 다음메일 서비스를 8년 이상 개발/운영. 수백대 서버의 배포·모니터링·로그수집
    • 20년 넘은 레거시 개선 - 불필요한 코드 400만 라인 이상 제거, 구조 개선, Java·JUnit·OS·httpd·tomcat 버전업
    • 대규모 이관 - Oracle to MySQL, 32bit to 64bit OS, IDC 이전, PM to VM
    • 이메일 도메인 지식 - SMTP, LMTP 등 메일 프로토콜과 MX, SPF, DKIM 등 DNS
    • 8년간의 상세 기술 경험 →

Qualcomm CDMA Technologies Korea

Assistant Software Engineer

July 2011 ~ Dec 2011

https://www.qualcomm.com
  • 멀티미디어팀 지원. 빌드 도우미 툴 개발.
  • C, JTAG, Android, Python

그래픽스 연구실

Aug 2010 ~ June 2011

http://bh.knu.ac.kr/~kujinkim/
  • 분자모형 연구 지원. 분자모형 데이터를 읽어서 3D 모델 렌더링 툴 개발
  • OpenGL, Python

Trek Technology

Assistant Software Engineer

Mar 2010 ~ Aug 2010

https://www.trek2000.com.sg
  • Flucard (Wifi SD Card) 개발 참여 - 임베디드 OS에서 구동하는 웹 사진 뷰어 및 관리 도구 작성
  • iBall (Wifi Camera) 개발 참여 - 디바이스 드라이버, 하드웨어 디버깅 작업
  • Linux, JTAG, CGI, C, lighttpd

(주)위니텍

개발자

May 2006 ~ May 2009

http://www.winitech.com
  • 경북대학교 산학연구지원 시스템 개발
  • 위니텍 프로젝트 관리 시스템 개발
  • Oracle, Java, JBoss, Javascript, MiPlatform

국립영천호국원

개발자

Mar 2005 ~ Aug 2005

https://www.mpva.go.kr/ycnc/index.do
  • 영천호국원 홈페이지 제작
  • PHP, MySQL, Flash

Projects

AITOP100 - AI 활용 능력 대회 플랫폼

2025 - 2026

  • 2025 AI TOP 100 — 공통모듈 담당. 시스템 설계와 인프라 구축, 스켈레톤 프로젝트 작성
    • 수천 명 동시 접속을 감당하는 부하 시나리오 분석과 단계별 해결 방안 설계 (IDC 3중화 포함)
    • 사내 스토리지·인증 등 사내 전용 인프라를 연동한 Java·Python·JavaScript 3개 언어 스켈레톤을 2명이 1주일 만에 완성
    • 카카오 기술블로그 공동 기고 - AI TOP 100이 우리에게 남긴 것들
  • AITOP100 Challenge — 과제 제출/LLM 자동 채점 사이트 개발
    • Kafka 큐 기반 제출/채점 분리 비동기 채점 파이프라인, 워커 풀 백프레셔(세마포어), at-least-once 멱등 재채점
    • 가상 스레드 기반 멀티 페르소나 LLM 채점 및 점수 집계, 프롬프트 인젝션 가드레일
    • 부정행위 방지 — 문제당 1회 제출 제약, 중복 제출 무효화
  • 2026 AITOP100 Campus — 대학(원)생·고등학생 대상 대회 개발/운영
    • Challenge 사이트에 예선/본선 문제 오픈, LLM 채점 운영 (채점 프롬프트 이슈 협업 해결)
    • 신청자 3,002명 (전년 700명 대비 4.3배), 전국 179개 대학 + 해외 대학 18개교 + 고등학교 참여 (고등학생 5.6배 증가)
  • Java, Kotlin, Kafka, MySQL, Kubernetes

My 구독 - 카카오 구독 서비스

2020 - 2022

https://my.kakao.com
  • 신규 서비스 개발에 참여해 론칭하고, 이후 2년간 개발/운영
  • MSA 환경에서 Web API 설계·개발, Kafka Pub/Sub 구조로 서비스 간 데이터 처리
  • Java, SpringBoot, Kafka, MySQL, Redis, Kubernetes

카카오메일

2018 - 2020

https://mail.kakao.com
  • 외부 메일 발송 서버를 Sendmail -> Java 서버로 변경. TLS 메일 발송 기능 적용
  • 사용자 설정 서버, 메일 수신 이벤트 전달 서버, 메일 정리 배치, 외부메일 발송 서버, 로그 수집, 통계툴, 운영툴 등 세팅. 가입/이벤트 추첨 작업
  • 카카오메일 프로젝트 - C로 된 레거시 메일에 cmake적용, 외부메일발송서버 sendmail을 java서버로 변경
  • C, Java, MySQL

메일 발송 로그 수집 시스템과 조회툴

2016

  • 기존에 메일의 발송 결과를 확인하기가 불편한 것을 개선함
  • 발송로그를 Logstash를 이용해서 파싱해서 Kafka 서버로 전달.
  • Kafka로 전달된 로그는 Storm을 거쳐 HBase에 저장.
  • HBase에 저장된 로그를 조회하는 API와 API를 이용해서 발송로그를 확인하는 운영툴 개발 - NodeJS

회원시스템과 메일시스템 의존성 제거

2015

  • 회원시스템과 메일시스템 의존성 제거 프로젝트 - C
  • 회원 가입/탈퇴 처리 시스템 - SpringBoot, RabbitMQ
  • 그룹메일
  • 모니터링 강화

EMS - 대량 메일 발송 시스템

2014

  • 대량 메일 발송 시스템 재개발

통합사내메일

2014

  • 회사 합병 후 양사 메일계정 통합

메일-CS시스템 연동 프로젝트

2013, 2016

  • 메일-CS시스템 연동 프로젝트
    • 2016 Python -> Java로 재개발
    • 2013 Perl -> Python으로 재개발

스마트워크

2013

  • 기존 도메인메일 서비스를 스마트워크 서비스로 개편
  • Java

파란메일 이관 프로젝트

2012

  • 파란메일 종료 후 다음메일로 통합

설레는 도서관

2012

  • 사내 도서관 시스템 구축
  • Spring

외부활동

해카톤

  • 2025 카카오 사내 해커톤 10K - “사실 이게 조금 더 싼데요” AI API 비용 최적화 에이전트 (Python, Google A2A/ADK)
    • 주제 ‘에이전틱 AI’. 오케스트레이터가 통계·모델추천·리포팅 에이전트를 A2A로 지휘하는 구조로 10시간 안에 MVP 구현
    • 기사
  • 2022 카카오 사내 해커톤 24K - 웹 화면 공유 툴 (Node, WebRTC)
  • 2019 카카오 사내 해커톤 24K - 24K GOLD 썸네일 간편 제작 툴 (Javascript)
  • 2017 Social Innovation Camp 36 - Pick Art You - 완전한 마무리상, 소셜이노베이션상 2관왕 (PHP, CodeIgniter, MySQL)
    • 대학생 창작자가 버려지는 창작물을 전시·공유하는 웹 서비스
    • 기사
  • 2014 Social Innovation Camp 36 - 썸맵 - 완전한 마무리상
    • 인터뷰 - 아이티캐너스 “커뮤니티 매핑 서비스를 만든 사람들”
    • 기사
  • 2013 Social Innovation Camp Seoul - Finger Town - 1st prize
    • 게임처럼 민원을 제기하는 앱. 48시간 해커톤에서 서울 1위로 싱가포르 결선 진출
    • 기사 - 동아일보 “IT로 사회문제 해결… 해커톤, 세상을 밝히다”
  • 2012 Social Innovation Camp 36 - 특수교육대상아동을 위한 앱 - 소셜임팩트상

멘토링

  • 2026 카카오테크 캠퍼스 4기 멘토 (2026.06 ~ 11)
    • 1단계 - 교육생 코드리뷰 멘토링, 기술멘토링 세션, AI 도구 활용 지원
    • 2단계 - 팀 담당 멘토. 프로젝트 테크스펙 리뷰부터 개발·배포·발표까지 전 과정 멘토링
  • 2026 카카오 Tech for Impact 26-1 카카오 멘토 (2026.04 ~ 06)
    • 서울환경연합 ‘덜쓰는 사람들’ 팀 멘토링 - Onloop, 교환학생 대상 캠퍼스 생활품 순환 플랫폼
    • 성과발표

모임&발표

Education

경북대학교

IT대학 컴퓨터 학부 학사

2004 - 2012

  • 소프트웨어 개발 동아리 (하늘소) - 2005년 동아리 회장
    • 2011 LED 악보제작&연주기 - 최우수상 (C)
    • 2010 경혈학 교육 어플 - 은상 (Android) / 확 땡기는 영어 - 은상 (Android, QRCode) 데모 / 밸런싱레고로봇 (Android, Bluetooth)
    • 2009 장보기를 도와줘 - 은상 (Android, QRCode)
    • 2005 즐거운합주 리듬게임 (WinAPI, DirectX, MIDI), 동아리 홈페이지 (PHP, MySQL)
    • 2004 사진이야기 사진 편집 프로그램 - 특별상 (MFC)
  • 프로젝트
    • 2011 키넥트 로봇팔 원격 제어 (MFC, Kinect) - Kinect 동작 인식으로 로봇팔을 원격 조작. 데모 영상
    • 2011 KNUSNS (PHP, MySQL, JavaScript), AR 시간표 (Android)