Tag: ML Commons
All the articles with the tag "ML Commons".
-
OpenSearch ML 모델 배포 시 메모리 99% 점유 원인과 해결법
OpenSearch에 Hugging Face 임베딩 모델을 배포한 후 메모리가 급격히 차오르는 원인을 분석한다. ML Commons 기반 추론의 모델 크기, JVM 힙, 동시 요청 처리, 노드 역할 분리 등 해결 전략을 정리한다.
-
OpenSearch Embedding 모델 등록 및 활용
OpenSearch에서 OpenAI API를 사용해 임베딩 모델을 등록하고 자동 임베딩 생성 파이프라인을 구성하는 방법을 정리한다. ML Commons connector 설정부터 text_embedding processor 적용까지 다룬다.
-
OpenSearch에서 OpenAI API 임베딩 모델 등록 및 사용 가이드
OpenSearch에서 OpenAI API 기반 임베딩 모델을 등록하고 인제스트 파이프라인으로 자동 벡터 생성을 구성하는 방법을 정리한다. connector 생성, 모델 배포, text_embedding processor 설정까지 다룬다.