Posts
작성한 모든 글입니다.
Reranker 모델 도입으로 검색 정확도 향상하기
이커머스 검색에서 OpenSearch 결과를 Cross-Encoder Reranker로 재순위화하고, Redis 캐시와 비동기 처리로 응답 속도를 유지한 구현 과정을 정리한다.
검색 결과 랭킹 스코어링 시스템 설계
x2bee-nest-search와 search-rust에서 구축한 3계층 랭킹 아키텍처 — OpenSearch function_score, Cross-Encoder Reranker, Redis 캐싱을 결합한 검색 결과 스코어링 시스템 설계와 진화 과정을 정리한다.
FAISS 벡터 인덱스 적용과 GPU 디바이스 최적화
시맨틱 검색 API에 FAISS 벡터 인덱스를 도입하여 키워드 확장 검색을 구현하고, GPU/CPU 디바이스 분리 및 텐서 타입 이슈를 해결한 과정을 정리한다.
시맨틱 검색 API: 요약(Summary) 기능 온/오프 전략
이커머스 검색 API에서 상품 요약 기능을 GPT, EXAONE 로컬 LLM, FAISS 벡터 검색 세 가지 전략으로 시도하고, 운영 환경에서 온/오프 제어와 워커 스케일링까지 적용한 과정을 정리한다.