AI Engineer

팀 소개

고객이 인프라를 직접 제어하는 콘솔과 공개 API, 그리고 그 위에서 동작하는 AI 기능을 개발합니다.

Product Engineering 팀은 고객이 직접 사용하는 콘솔과 공개 API, 그리고 그 위에서 동작하는 AI 기능을 개발합니다. GPU 서버와 AI 게이트웨이(OpenGate)를 자사에서 운영하고 있어 모델 서빙에 필요한 인프라를 팀 내부에서 확보할 수 있으며, 인프라 팀과 직접 협의해 설계 결정을 짧은 주기로 진행합니다.

이 역할은 어떤 일을 하나요

시연 환경에서 한 번 동작하는 것과 실사용 분포에서 일관되게 동작하는 것은 다른 문제입니다. 이 역할은 그 격차를 좁힙니다. 입력에 따라 무너지는 응답 품질, 정답이 정의되지 않은 생성 결과의 측정, 예측하기 어려운 형태로 실패하는 에이전트가 실제로 다루게 될 과제입니다. 어떤 모델과 검색 전략, 아키텍처를 채택할지 근거를 갖고 결정하고 그 효과를 지표로 증명합니다. 연차보다 담당 영역에 대한 책임 범위를 기준으로 평가합니다.

주요 업무

• LLM·RAG·멀티모달 기술을 조합해 고객이 매일 쓰는 AI 기능 설계 및 개발
• 여러 툴을 상황에 맞게 조합하는 에이전트 설계와 구조화된 산출물 생성 구현
• 생성 품질 평가(eval) 체계 설계, 응답 정확도·일관성·환각을 지표로 정량화
• 가드레일·폴백·검증 로직으로 에이전트 신뢰성 확보, 회귀 자동 방지 파이프라인 구축
• 지연 시간과 토큰 비용 최적화, 품질·비용 균형점 탐색
• 응답 품질·지연·비용·가용성 관측 체계 구축과 SLO 정의

자격 요건

• LLM, RAG 또는 에이전트 기반 기능을 직접 설계하고 개발해 보신 분
• 기존 모델과 도구를 조합해 실사용 제품 또는 기능으로 완성해 보신 분
• 모델·검색 전략·프롬프트 구조 선택을 근거를 갖고 결정하고 효과를 검증해 보신 분
• Python 또는 TypeScript로 서비스를 설계하실 수 있고, API·비동기·스트리밍 처리에 대한 이해를 갖추신 분
• 품질 저하와 장애의 원인을 데이터로 규명하고 구조적으로 개선하실 수 있는 분

우대 사항

• LLM 응답 품질 평가 체계를 직접 설계하거나 LLMOps 도구(LangSmith, Langfuse 등)로 실험을 운영해 보신 분
• RAG 정확도 개선, 파인튜닝, 에이전트 신뢰성 확보 등의 과제를 다뤄 보신 분
• 대규모 트래픽 환경에서 지연 시간과 토큰 비용을 최적화해 보신 분
• Docker, Kubernetes 및 CI/CD 파이프라인을 구축·운영해 보신 분
• GPU 서버 또는 자체 추론 인프라에서 모델을 서빙해 보신 분