HackatonIA

Introducción

OpenWebUI es una interfaz web interactiva diseñada para facilitar la interacción con modelos de inteligencia artificial. Proporciona una plataforma accesible para probar y desplegar modelos de IA de manera eficiente.

Configuración y Ejecución

Requisitos previos

• Docker y Docker Compose instalados en tu sistema.

Pasos para ejecutar

1. Clona este repositorio:

   git clone ...
   cd hackatonia

2. Levanta los servicios con Docker Compose:

   docker compose up -d

3. Accede a los servicios:

   • OpenWebUI: http://localhost:3000
   • Ollama: http://localhost:11434

4. Para detener los servicios:

   docker compose down

Pasos de Configuración

1. Acceder OpenWebUI

2. Ingresar las credenciales del nuevo usuario administrador

3. Acceder a las configuraciones de administrador http://localhost:3000/admin/settings

4. En conexiones setear claves de OpenAI (opcional)

5. En conexiones agregar el endpoint de ollama:

   En este caso como están corriendo como servicios de docker compose el enlace es http://ollama:11434

6. Descargar modelos, estos se pueden gestionar desde las configuraciones de OpenWebUI o desde la CLI de ollama

Notas

• Los datos de open-webui se almacenan en el volumen open-webui.
• Los datos de ollama se almacenan en el volumen ollama.

Herramientas

Calculadora de RAM

Para saber qué modelos podemos levantar en nuestro equipo podemos utilizar la siguiete herramienta: https://huggingface.co/spaces/NyxKrage/LLM-Model-VRAM-Calculator