편집 제안 — 검증된 사실이 아님
간단한 명령줄 인터페이스로 자신의 컴퓨터에서 오픈 대규모 언어 모델을 로컬 실행하는 오픈 소스 도구.
오픈(오픈 가중치/소스) MIT
활용 사례
- 비공개·오프라인 AI 채팅과 코딩 지원
- 클라우드 비용 없이 LLM API에 대한 로컬 개발
- 오픈 모델 실험 및 비교
가격: Ollama는 무료이며 오픈 소스입니다. 선택적인 호스팅 서비스는 별도로 제공됩니다.
가격 ↗ · 문서 ↗ · 출처
이 레코드는 2026-10-10에 마지막으로 검토되었습니다.
편집 제안 · 검증된 사실 인용
오픈 언어 모델을 로컬에서 실행하는 오픈 소스 데스크톱 앱으로, 오프라인 ChatGPT 대안으로 쓸 수 있다.
오픈(오픈 가중치/소스) Apache-2.0(main 브랜치, 확인한 태그: v0.5.18-rc1-beta와 v0.6.0은 Apache-2.0, v0.5.16과 v0.5.17은 AGPL-3.0, 나머지 버전은 개별 확인하지 않음)
활용 사례
- 개인 하드웨어에서의 비공개 오프라인 AI 채팅
- OpenAI 스타일 API에 대한 로컬 개발
- GPU 클라우드 없이 오픈 모델 실험
가격: Jan은 무료 오픈소스입니다. 클라우드 모델을 연결하면 선택적으로 제3자 제공자에게 지불합니다.
문서 ↗ · 출처
이 레코드는 2026-10-13에 마지막으로 검토되었습니다.
가이드 “AI 플랫폼과 인프라”에 함께 수록
오프라인으로 실행되며 Ollama 및 OpenAI 호환 API 등 로컬·원격 모델에 연결되는 확장 가능한 자체 호스팅 AI 인터페이스.
오픈(오픈 가중치/소스) BSD-3-Clause
활용 사례
- 회사 서버의 비공개 ChatGPT 스타일 인터페이스
- 권한이 있는 팀의 로컬 모델 접근
- 완전 오프라인 문서 Q&A
가격: Open WebUI는 셀프호스트가 무료인 오픈소스입니다. 엔터프라이즈 플랜은 유료로 커스텀 테마, SLA, 지원을 더합니다.
문서 ↗ · 출처
이 레코드는 2026-10-10에 마지막으로 검토되었습니다.
가이드 “AI 플랫폼과 인프라”에 함께 수록
대규모 언어 모델을 위한 오픈 소스 추론·서빙 엔진으로, 높은 처리량의 PagedAttention으로 알려져 있다.
오픈(오픈 가중치/소스) Apache-2.0
활용 사례
- 높은 처리량으로 프로덕션에서 오픈 LLM 제공
- OpenAI 호환 추론 엔드포인트 셀프호스트
- 효율적인 LLM 추론의 벤치마크와 연구
가격: vLLM은 Apache-2.0의 무료 오픈소스입니다. 비용은 돌아가는 GPU 인프라에 한정됩니다.
문서 ↗ · 출처
이 레코드는 2026-10-10에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
머신러닝 모델을 확장 가능한 API로 배포·서빙하는 플랫폼.
유료
활용 사례
- 맞춤 모델을 프로덕션 API로 배포
- GPU 관리 없이 추론 확장
- 애플리케이션을 위해 오픈 모델 서빙
가격: 전용 GPU는 분 단위로 과금되고 유휴 시간은 청구되지 않습니다. 모델 API는 백만 토큰 단위로 과금되며 신규 계정에는 크레딧이 제공됩니다.
문서 ↗ · 출처
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
웨이퍼 스케일 하드웨어에서 오픈 언어 모델을 서빙하는 추론 클라우드를 갖춘 AI 컴퓨팅 기업.
프리미엄(부분 무료)
활용 사례
- 실시간 애플리케이션을 위한 저지연 추론 제공
- 높은 생성 속도로 오픈 모델 실행
- 전용 하드웨어에서 대형 모델 워크로드 확장
가격: 추론은 토큰 단위로 과금되며 무료 체험으로 시작합니다. 훈련 시스템과 온프레미스 배포는 별도로 판매됩니다.
출처
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
빠른 API로 디퓨전 및 기타 모델을 실행하는 생성형 미디어 추론 플랫폼.
유료
활용 사례
- 앱에 이미지·비디오 생성 추가
- 오픈 확산 모델을 규모로 제공
- 생성 미디어 파이프라인 프로토타이핑
가격: 요금은 추론 또는 컴퓨팅 초당 사용량 기준입니다. 신규 개발자는 무료 크레딧을 받습니다.
문서 ↗ · 출처
이 레코드는 2026-10-09에 마지막으로 검토되었습니다.
관련: 직접 모델 운영 공통
오픈 소스 생성형 AI 모델을 빠르게 서빙하고 파인튜닝하는 추론 플랫폼.
유료
활용 사례
- 프로덕션에서 낮은 지연으로 오픈 모델 서빙
- 사용자 지정 데이터로 모델 파인튜닝
- 최소한의 코드 변경으로 폐쇄형 API에서 마이그레이션
가격: 토큰 또는 볼륨에 따라 사용량 기반으로 과금되며, 신규 사용자에게 무료 크레딧이 제공되고 전용 용량은 별도 견적입니다.
가격 ↗ · 문서 ↗ · 출처
이 레코드는 2026-09-10에 마지막으로 검토되었습니다.