벡터 스토어와 임베딩

문서 기준: 2026년 8월

개요

이런 상황에서 유용합니다

사내 문서 기반 챗봇 — “작년 휴가 정책이 뭐였지?“에 회사 문서를 검색해서 답하게 하기
제품 FAQ 자동 응답 — 수백 페이지의 제품 매뉴얼을 기반으로 고객 문의 처리
시맨틱 검색 — “저렴한 숙소”로 검색했을 때 “가성비 호텔”, “합리적 가격의 펜션”도 함께 찾기
추천 시스템 — 비슷한 상품/콘텐츠/사용자 자동 추천

벡터 스토어란

쉽게 이해하기

도서관 사서를 떠올려 보세요. 사서에게 “머신러닝 책 있어요?“라고 물으면, 책 제목에 “머신러닝”이 없어도 비슷한 주제의 책을 찾아줍니다. “인공지능”, “딥러닝”, “AI 기초” 같은 책들을 말이죠.

벡터 스토어는 이런 사서의 역할을 하는 데이터베이스입니다. 문서의 “의미”를 기억해 두었다가, 비슷한 의미의 문서를 빠르게 찾아줍니다.

일반 검색 vs 벡터 검색

방식	검색 기준	예시
키워드 검색 (일반 DB)	단어가 정확히 일치	“저렴한 숙소” → “저렴한”이 포함된 문서만
벡터 검색 (벡터 스토어)	의미가 비슷	“저렴한 숙소” → “가성비 호텔”, “알뜰 펜션”도 검색

동작 방식

graph LR
    A[원본 데이터<br/>문서, 이미지 등] -->|변환| B[숫자 배열<br/>= 벡터]
    B -->|저장| C[벡터 스토어]
    Q[사용자 질문] -->|변환| V[질문 벡터]
    V -->|비슷한 것 찾기| C
    C -->|답| R[관련 문서 반환]

3줄 요약:

원본 데이터(텍스트, 이미지)를 숫자 배열(벡터) 로 변환합니다. 이 과정을 임베딩 이라고 합니다.
벡터를 벡터 스토어에 저장합니다.
질문도 같은 방식으로 벡터로 만들어, 가장 비슷한 벡터 를 찾아 원본 데이터를 반환합니다.

어떤 선택지가 있나

벡터를 저장하는 방법은 크게 두 가지입니다.

1. 전용 벡터 스토어

벡터 검색에 특화된 제품입니다. 대규모/고성능이 필요할 때 씁니다.

벤더	제품	특징
AWS	OpenSearch Serverless 벡터 엔진	대규모 벡터 검색
AWS	S3 Vectors	S3 내구성 + 저비용 (2025.12 GA, 17개 리전 이상 지원)
Azure	Azure AI Search	벡터 + 키워드 + 시맨틱 랭킹 통합
Google Cloud	Vertex AI Vector Search	Google ScaNN 알고리즘으로 고성능
OCI	OCI AI Vector Search	Autonomous Database 내장, SQL 기반

2. 기존 DB의 벡터 확장

이미 쓰는 DB에 벡터 기능을 추가하는 방식입니다. 별도 인프라 없이 시작할 수 있습니다.

벤더	제품	특징
AWS	Aurora PostgreSQL (pgvector)	관계형 + 벡터 한 DB에서
AWS	ElastiCache for Valkey	인메모리 벡터, 초저지연
Azure	Cosmos DB 벡터 검색	글로벌 분산 + 벡터
Google Cloud	AlloyDB (벡터 검색)	PostgreSQL 호환 + 고성능
Google Cloud	Cloud SQL (pgvector)	간단한 시작

3. RAG 자동 파이프라인

복잡한 설정 없이 “문서 올리면 자동으로 벡터화”해주는 관리형 서비스입니다.

벤더	제품	특징
AWS	Bedrock Knowledge Bases	문서 → 임베딩 → 저장 → RAG 자동
Azure	Azure AI Search + OpenAI “On Your Data”	가장 빠른 RAG 구성
Google Cloud	Vertex AI RAG Engine	문서 → 임베딩 → 검색 통합
OCI	OCI Enterprise AI Agents	OCI Search 연동 RAG

언제 무엇을 선택할까

상황	권장 선택
처음 시작하고, 설정 없이 빠르게	RAG 자동 파이프라인 (Bedrock Knowledge Bases 등)
이미 PostgreSQL 쓰고 있음	기존 DB 벡터 확장 (pgvector)
벡터가 수백만 건 이상, 성능 중요	전용 벡터 스토어 (OpenSearch, Vertex AI Vector Search)
Oracle DB 쓰고 있음	OCI AI Vector Search
초저지연 필요 (실시간 추천 등)	Valkey 기반 인메모리

심화: 알고리즘과 성능

벡터 스토어 성능을 깊이 이해하거나 튜닝이 필요할 때 알아두면 좋은 내용입니다.

ANN 알고리즘

수백만 벡터 중 “가장 가까운 것”을 정확히 찾으려면 모든 벡터와 비교해야 해서 느립니다. 이를 해결하기 위해 ANN (근사 최근접 이웃, Approximate Nearest Neighbor) 알고리즘을 사용합니다. 정확도를 약간 양보하고 속도를 크게 얻는 방식입니다.

알고리즘	특징	주로 사용
HNSW	그래프 기반. 정확도/속도 균형 좋음	pgvector, OpenSearch, Azure AI Search
IVF	클러스터 기반. 메모리 효율 좋음	pgvector, FAISS
IVFPQ	IVF + 벡터 압축으로 메모리 절감	Neptune Analytics, FAISS
ScaNN	Google 개발. TPU 최적화	Vertex AI Vector Search

임베딩 차원과 저장 공간

임베딩 모델이 생성하는 벡터의 크기(차원)가 저장 공간과 검색 속도를 결정합니다.

간단한 계산: 1,000,000개 × 1536차원 × 4바이트 = 약 6GB

벤더	모델	차원	특징
AWS	Titan Embeddings V2	256–1024	가변 차원, Bedrock 네이티브
Azure	text-embedding-3-large	256–3072	OpenAI, 가변 차원
Google	Gemini Embedding 2	768	Vertex AI 네이티브
Cohere	Embed 4	1024	멀티모달, 다국어, OCI/Bedrock
오픈소스	BGE-M3, E5 등	768–1024	셀프호스팅 가능

선택 기준: 한국어 성능이 중요하면 다국어 모델(Cohere, BGE-M3), 비용 우선이면 저차원, 정확도 우선이면 고차원. 모델 변경 시 전체 벡터 재인덱싱이 필요합니다.

하이브리드 검색

벡터 검색은 의미에 강하지만, 제품 코드(SKU-12345) 같은 정확한 문자열 에는 약합니다. 하이브리드 검색은 벡터 검색 + 전통적인 키워드 검색(BM25)을 조합하여 정밀도를 높입니다.

자주 하는 실수

처음부터 전용 벡터 스토어를 도입 — 수만 건 규모에서는 pgvector나 RAG 자동 파이프라인으로 충분한데, 과도한 인프라를 구축하여 비용 낭비
임베딩 모델을 변경하면서 기존 벡터를 재생성하지 않음 — 모델이 바뀌면 벡터 공간이 달라지므로 전체 재인덱싱이 필수
메타데이터 필터링을 설계하지 않음 — 권한 기반 문서 필터링이나 카테고리 필터 없이 전체 벡터를 검색하여 불필요한 결과 반환

체크리스트

데이터 규모와 성능 요구에 맞는 벡터 스토어 유형(RAG 자동 파이프라인 / DB 확장 / 전용)을 선택했는가
임베딩 모델 변경 시 전체 벡터 재생성 파이프라인을 준비했는가
메타데이터(권한, 카테고리, 날짜)를 벡터와 함께 저장하여 필터링 검색이 가능한가