Tag: 비동기
All the articles with the tag "비동기".
-
aiohttp로 임베딩 API 클라이언트 만들기: 타임아웃과 배치 분할 최적화
llama.cpp 임베딩 서버와 통신하는 aiohttp 비동기 클라이언트를 구현하며 세션 재사용, 커넥션 타임아웃 설정, 대용량 텍스트 배치 분할, 지수 백오프 재시도 로직을 최적화한 과정.
-
Qdrant Async API — Python 비동기 벡터 검색 클라이언트 활용
Qdrant의 Python AsyncQdrantClient를 활용한 비동기 벡터 검색을 정리한다. FastAPI/Quart 환경에서의 비동기 CRUD, gRPC 비동기 통신, 동시성 성능 향상 전략을 다룬다.
-
OpenSearch 인덱싱 서비스: 스트리밍 vs 배치 처리 비교
Rust 검색 엔진의 OpenSearch 인덱싱을 기존 배치 방식에서 스트리밍 방식으로 전환한 과정과, BatchOrchestratorService를 통한 통합 배치 파이프라인 설계를 다룬다.
-
Rust 검색 엔진에 Redis 캐싱 적용기
Axum 기반 Rust 검색 엔진에 Redis 캐싱 레이어를 추가하여 OpenSearch 필드 설정 조회 성능을 개선한 과정을 다룬다.