Ollama로 Docker에서 Open-WebUI 설치하기

현대의 AI 시대에 발맞춰 개인 사용자가 직접 챗봇을 구축하고 활용할 수 있는 방법이 점점 더 많아지고 있습니다. 특히, Docker와 Ollama를 이용한 Open-WebUI 설치는 간편하면서도 강력한 옵션입니다.

이번 글에서는 Docker 환경에서 Ollama를 활용하여 Open-WebUI를 설치하고 사용하는 방법에 대해 자세히 알아보겠습니다.

Docker와 Ollama 소개

Docker는 소프트웨어를 컨테이너라는 격리된 환경에서 실행할 수 있도록 도와주는 플랫폼입니다. 이는 다양한 소프트웨어의 종속성 문제를 해결하고, 일관된 실행 환경을 제공합니다.

Ollama는 AI 모델을 로컬에서 실행할 수 있도록 도와주는 도구로, 사용자가 손쉽게 챗봇을 구축할 수 있도록 지원합니다. 이 두 가지를 결합하면, 인터넷 없이도 개인적이고 안전하게 AI를 활용할 수 있는 환경을 구축할 수 있습니다.

장점	설명
보안성	인터넷에 연결되지 않고 로컬에서 실행되므로 데이터 유출 위험이 적습니다.
환경 일관성	Docker를 통해 모든 종속성과 설정이 포함된 컨테이너를 생성할 수 있습니다.
간편한 설치	Ollama와 Open-WebUI를 Docker로 쉽게 설치하고 관리할 수 있습니다.

Docker 설치하기

Docker를 설치하기 위해서는 먼저 Docker의 공식 웹사이트에 방문하여 본인의 운영 체제에 맞는 설치 파일을 다운로드해야 합니다. Windows, macOS, Linux 등 다양한 운영 체제에 대응하고 있으므로, 해당 OS에 맞는 버전을 선택하시는 것이 필요합니다.

설치가 완료되면, Docker Desktop을 실행하여 초기 설정을 진행합니다.

Docker 설치 단계

1. Docker 다운로드: Docker 공식 웹사이트에서 다운로드합니다.
2. 설치 파일 실행: 다운로드한 파일을 실행하여 화면의 지시에 따라 설치를 진행합니다.
3. Docker 실행: 설치가 완료되면 Docker Desktop을 실행합니다. 초기 설정이 필요할 수 있으며, 이 과정에서 Docker Hub 계정을 생성하시면 좋습니다.

단계	설명
1. Docker 다운로드	Docker 공식 웹사이트에서 다운로드합니다.
2. 설치 파일 실행	지시에 따라 설치를 완료합니다.
3. Docker 실행	Docker Desktop을 실행하여 초기 설정을 진행합니다.

다른 내용도 보러가기 #1

Ollama 설치하기

Ollama를 설치하기 위해서는 터미널이나 명령 프롬프트를 사용해야 합니다. Ollama는 Python 기반의 도구이므로, 먼저 Python 3.11 이상이 설치되어 있어야 합니다.

Python이 설치된 후, 다음 명령어를 이용하여 Ollama를 설치할 수 있습니다.

bash
pip install ollama

이 명령어를 입력하면 Ollama가 설치되며, 설치가 완료되면 사용 가능한 모델들을 다운로드할 수 있습니다.

OS	설치 방법
Windows	PowerShell 또는 Anaconda Prompt에서 설치
macOS	터미널에서 설치
Linux	터미널에서 설치

Open-WebUI 설치하기

Open-WebUI는 Ollama와 함께 작동하는 UI 프레임워크로, 사용자가 쉽게 챗봇과 상호작용할 수 있도록 돕습니다. Open-WebUI를 설치하기 위해서는 다음과 같은 단계를 따르시면 됩니다.

1. Open-WebUI 다운로드: GitHub에서 Open-WebUI의 소스 코드를 클론하거나 다운로드합니다.
2. 필요한 패키지 설치: 다음 명령어를 입력하여 Open-WebUI의 종속성을 설치합니다.

bash
pip install -r requirements.txt

1. Open-WebUI 실행: 설치가 완료되면 다음 명령어로 Open-WebUI를 실행합니다.

bash
python app.py

이 명령어를 입력하면 Open-WebUI가 실행되고, 기본적으로 8080 포트에서 서비스가 제공됩니다. 이제 웹 브라우저를 열어 http://localhost:8080에 접속하면 Open-WebUI의 인터페이스를 확인할 수 있습니다.

단계	설명
1. Open-WebUI 다운로드	GitHub에서 소스 코드를 다운로드합니다.
2. 패키지 설치	종속성을 설치합니다.
3. Open-WebUI 실행	웹 서버를 실행하여 UI에 접속합니다.

Docker에서 Ollama와 Open-WebUI 실행하기

Docker를 사용하여 Ollama와 Open-WebUI를 동시에 실행하는 방법은 매우 간단합니다. 다음 명령어를 입력하여 Docker 컨테이너를 생성하고 실행할 수 있습니다.

bash
docker run --name My_GPT -p 8080:8080 -d ollama/open-webui

이 명령어는 My_GPT라는 이름의 컨테이너를 생성하고, 8080 포트를 외부에 노출합니다. Docker가 컨테이너를 실행하면, Open-WebUI에 접속하여 챗봇과 상호작용할 수 있습니다.

단계	설명
1. Docker 컨테이너 생성	Ollama와 Open-WebUI를 포함한 컨테이너를 생성합니다.
2. 포트 설정	8080 포트를 외부에 노출하여 접근합니다.
3. 실행 확인	브라우저에서 http://localhost:8080에 접속합니다.

다른 내용도 보러가기 #2

Open-WebUI 사용하기

Open-WebUI가 정상적으로 실행되면, 웹 브라우저를 통해 UI에 접속할 수 있습니다. UI는 직관적으로 설계되어 있어, 사용자가 쉽게 챗봇과 상호작용할 수 있습니다.

초기 설정 후에는 다양한 모델을 선택하여 대화할 수 있으며, Ollama에서 다운로드한 모델을 활용할 수 있습니다. Open-WebUI는 다양한 기능을 제공하며, 사용자는 자신의 필요에 맞게 설정을 조정할 수 있습니다.

AI 모델을 선택할 때는 용도에 맞는 모델을 선택하고, API 설정을 통해 OpenAI의 API를 연결할 수도 있습니다.

기능	설명
모델 선택	Ollama에서 다운로드한 다양한 모델을 선택합니다.
API 설정	OpenAI API와 연결하여 다양한 기능을 활용합니다.
사용자 설정	UI 설정을 통해 개인화된 환경을 구축할 수 있습니다.

마무리

Docker와 Ollama를 활용한 Open-WebUI 설치는 개인 사용자가 쉽게 챗봇을 구축하고 활용할 수 있는 훌륭한 방법입니다. 인터넷에 연결되지 않고도 안전하게 AI를 사용할 수 있으며, 다양한 모델과 설정을 통해 개인 맞춤형 AI 환경을 구축할 수 있습니다.

이 글을 통해 여러분이 원하는 챗봇을 간편하게 만들고 활용할 수 있기를 바랍니다.

관련 영상

같이 보면 좋은 글