AI Chat Platform

프로젝트 개요

기업들이 내부 지식을 활용한 AI 어시스턴트를 손쉽게 구축할 수 있는 SaaS 플랫폼입니다. 복잡한 AI 인프라 없이도 문서를 업로드하고, 몇 번의 클릭만으로 맞춤형 챗봇을 배포할 수 있습니다.

주요 기능

RAG 파이프라인

문서 업로드 시 자동으로 텍스트를 추출하고, 청크 단위로 분할한 뒤 벡터 임베딩으로 변환합니다. 사용자 질문이 들어오면 의미적으로 유사한 문서 조각을 검색하여 컨텍스트로 활용합니다.

const retrieveContext = async (query: string) => {
  const embedding = await embedModel.embed(query);
  const relevantChunks = await vectorStore.similaritySearch(embedding, 5);
  return relevantChunks.map((chunk) => chunk.content).join("\n\n");
};

실시간 스트리밍 응답

SSE(Server-Sent Events)를 활용하여 AI 응답을 실시간으로 스트리밍합니다. 사용자는 전체 응답이 생성될 때까지 기다릴 필요 없이 즉시 결과를 확인할 수 있습니다.

멀티 테넌트 아키텍처

각 기업의 데이터는 완전히 격리되어 관리됩니다. Row-Level Security(RLS)와 테넌트별 벡터 인덱스를 통해 데이터 보안과 검색 성능을 동시에 보장합니다.

기술 스택

• 프론트엔드: Next.js 15, React 19, Tailwind CSS, Zustand
• 백엔드: Next.js API Routes, LangChain.js
• AI: Claude API (Anthropic), OpenAI Embeddings
• 데이터베이스: PostgreSQL (Supabase), pgvector
• 캐싱: Redis (Upstash)
• 배포: Vercel, Docker

성과

• 평균 응답 정확도 92% 달성
• 일 평균 10,000+ 질의 처리
• 문서 업로드부터 챗봇 배포까지 평균 5분 소요