Ollama

Ollama
개발자Ollama Inc. 및 기여자
발표일2023년 7월 8일(3년 전)(2023-07-08)
안정화 버전
0.40.13 위키데이터에서 편집하기 / 2026년 10월 28일(4일 전)(2026년 10월 28일)
저장소github.com/ollama/ollama
프로그래밍 언어Go
운영 체제macOS, Linux, Windows
종류대형 언어 모델 런타임
라이선스MIT 허가서
웹사이트ollama.com

Ollama는 제프리 모건(Jeffrey Morgan)과 마이클 치앙(Michael Chiang)이 2023년에 개발한 오픈 소스 소프트웨어 플랫폼으로, 대형 언어 모델을 로컬 컴퓨터에서 실행 및 관리하거나 호스팅된 클라우드 모델을 통해 사용할 수 있도록 한다. 이 소프트웨어는 명령줄 인터페이스, 네이티브 GUI, 로컬 REST API, 모델 관리 도구 등을 제공하며, 코딩 어시스턴트나 기타 애플리케이션에서 오픈 웨이트 모델을 사용할 수 있도록 통합 기능을 지원한다.

역사

Ollama는 2023년 7월 8일에 처음 출시되었다. 이 프로젝트는 로컬 대형 언어 모델 소프트웨어의 성장과 함께 발전했으며, 사용자가 LLaMA, Gemma, Mistral, Qwen, gpt-oss, GLM, 딥시크와 같은 모델을 로컬 머신에서 다운로드하여 실행할 수 있게 했다.

2025년과 2026년에 Ollama는 호스팅된 클라우드 모델, 웹 검색 지원, 도구 및 코딩 에이전트 통합 등 추가적인 애플리케이션 및 클라우드 기능을 추가했다. 또한 Claude Code, Codex, OpenCode, Copilot CLI, OpenClaw와 같은 애플리케이션과의 연동을 지원하게 되었다. 2026년 3월, Ollama는 애플 실리콘에 대한 프리뷰 지원을 발표했다.

2026년 7월, Ollama는 6,500만 달러의 투자를 유치했다.

특징

리눅스에서 Llama 3를 실행 중인 Ollama

Ollama는 대형 언어 모델을 다운로드, 실행, 가져오기 및 관리하기 위한 도구를 포함한다. 사용자는 명령줄에서 모델을 실행하거나, 로컬 HTTP API를 통해 모델과 상호작용할 수 있으며, 파이썬이나 자바스크립트와 같은 프로그래밍 언어를 위한 클라이언트 라이브러리를 사용할 수도 있다.

이 프로젝트는 채팅 및 모델 관리 기능을 위한 REST API를 제공하며, 기본 로컬 서비스는 일반적으로 11434 포트를 통해 노출된다. 또한 공식 도커 이미지를 배포하며, 지원되는 모델을 실행하기 위한 모델 라이브러리와 문서를 제공한다.

Ollama는 로컬 모델 추론을 위해 Llama.cpp 백엔드를 사용하며, 메모리를 적게 사용하는 양자화된 모델의 실행을 지원한다. 또한 GPU를 사용하여 계산 속도를 높일 수 있다. 모델 라이브러리 형식을 지원하여 사용자가 이름으로 모델 변형을 가져오고 실행하며 관리할 수 있게 한다.

한편, 이 프로젝트의 다운로드 가능한 소프트웨어는 LLM의 로 코드/노 코드 셀프 호스팅을 위한 백엔드 플랫폼으로 탐구되고 있으며, 이를 통해 비기술적인 최종 사용자도 자연어 처리 사용 사례를 더 쉽게 접근할 수 있게 될 것으로 기대된다.

Ollama는 또한 macOS에서 Flux와 같은 모델을 사용한 실험적인 이미지 생성 기능을 지원하며, 추후 윈도우 및 리눅스 지원도 예정되어 있다.

보안

Ollama는 로컬 또는 셀프 호스팅 AI 모델을 실행하는 데 흔히 사용되기 때문에, 보안 연구자들은 잘못 구성된 공개 배포로 인한 위험을 지적해 왔다. 2026년 1월, The Hacker News는 센티넬원과 Censys의 연구를 인용하여, 많은 Ollama 서버가 공용 인터넷에 노출되어 있다고 보도했다. 이는 주로 INADDR_ANY 인터페이스(0.0.0.0)에 바인딩되어 발생하는 문제로, 보안이 충분하지 않은 시스템의 경우 Ollama가 기본적으로 로컬에서 실행되도록 설계되었음에도 불구하고 다른 로컬 기기나 원격 기기에서 접근이 가능해지는 결과를 초래했다.

같이 보기

각주

  1. ↑ “Release 0.40.13”. 2026년 10월 28일. 2026년 10월 29일에 확인함.
  2. 1 2 3 4 “ollama/ollama”. 《깃허브》. 2026년 4월 29일에 확인함.
  3. 1 2 “Ollama”. 《Ollama》. 2026년 4월 29일에 확인함.
  4. ↑ SitePoint Team (2026년 4월 22일). “10GB VRAM Local LLM: The Complete Setup Guide (2026)”. 《SitePoint》. 2026년 4월 29일에 확인함.
  5. ↑ “Release v0.0.1”. 《github.com》. 2026년 8월 31일에 확인함.
  6. ↑ “About GitHub Copilot CLI”. 《GitHub Docs》. GitHub. 2026년 4월 29일에 확인함.
  7. ↑ “Blog”. 《Ollama》. 2026년 4월 29일에 확인함.
  8. ↑ Medina, David (2026년 3월 31일). “Ollama Taps Apple's MLX Framework to Make Local AI Faster”. 《The New Stack》. 2026년 4월 29일에 확인함.
  9. ↑ Bort, Julie (2026년 7월 9일). “Popular open source AI developer tool Ollama raises $65M, grows to nearly 9M users” (미국 영어). 《TechCrunch》. 2026년 7월 12일에 확인함.
  10. ↑ “API reference”. 《Ollama Docs》. 2026년 4월 29일에 확인함.
  11. ↑ “Forensic Implications of Localized AI: Artifact Analysis of Ollama, LM Studio, and llama.cpp”. 《arxiv.org》. 2026년 5월 22일에 확인함.
  12. ↑ Easton (2026년 4월 25일). “Ollama GPU Setup: CUDA, ROCm, Metal, and Troubleshooting” (영어). 《Easton Blog》. 2026년 7월 14일에 확인함.
  13. ↑ “Library”. 《Ollama》. 2026년 4월 29일에 확인함.
  14. ↑ Sempio, Julius (2026년 3월 31일). “Low-Code Self-Hosting of RAG-Enabled Language Models Using Ollama and Open WebUI” (영어). 《IEEE Xplore》. doi:10.1109/ICAIIC68212.2026.11454259. 2026년 5월 20일에 확인함.
  15. ↑ “Low-Code vs. No-Code: What’s the difference?”. 《IBM Cloud Education》. 2026년 6월 4일에 확인함.
  16. ↑ Kemper, Jonathan (2026년 1월 21일). “Ollama brings local AI image generation to Mac” (미국 영어). 《The Decoder》. 2026년 5월 22일에 확인함.
  17. ↑ Lakshmanan, Ravie (2026년 1월 29일). “Researchers Find 175,000 Publicly Exposed Ollama AI Servers Across 130 Countries”. 《The Hacker News》. 2026년 4월 29일에 확인함.

외부 링크