Cómo conectar LocalAI a ONLYOFFICE en Linux

6 enero 2025Por Dea

La funcionalidad mejorada de IA en ONLYOFFICE permite conectar cualquier modelo de IA a los editores, incluyendo uno local. En este artículo, exploraremos el ejemplo de cómo conectar LocalAI en Linux.

Paso 1: Instala LocalAI

curl https://localai.io/install.sh | sh

También puedes consultar las instrucciones de instalación de LocalAI. La instalación mediante Docker es posible.

Por favor, ten en cuenta los requisitos de hardware:

CPU: Se recomienda utilizar un procesador multinúcleo.

RAM: Se requiere un mínimo de 8 GB de RAM para tareas básicas. Para manejar modelos más grandes de manera fluida y evitar problemas de memoria, se recomienda tener 16 GB o más.

Almacenamiento: Para un acceso más rápido a los datos, se recomienda almacenamiento SSD. Asegúrate de tener al menos 20 GB de espacio disponible para almacenar el modelo y manejar archivos temporales.

Red: LocalAI funciona sin conexión a internet. Sin embargo, se recomienda una conexión confiable para descargar modelos y aplicar actualizaciones.

Paso 2: Instala el modelo requerido

Por ejemplo, este:

local-ai models install hermes-2-theta-llama-3-8b

Paso 3: Lanza LocalAI con la opción CORS

Para que pueda utilizarse no solo localmente, sino también en la web:

local-ai run --cors

Alternativamente, puedes agregar la siguiente línea al archivo /etc/localai.env:

CORSALLOWEDORIGINS = "*"

Paso 4: Ajusta la configuración del plugin de IA en ONLYOFFICE

Inicia cualquier editor web según la solución de ONLYOFFICE que estés utilizando.
Ve a la pestaña Extensiones y haz clic en el icono del Administrador de plugins. Haz clic en Instalar junto al plugin de IA. Abre Plugins de fondo y activa el interruptor para IA. Si ya tienes el plugin de IA instalado, puedes saltarte este paso.
Después de la instalación, ve a la pestaña IA y haz clic en Ajustes. Haz clic en Editar modelos de IA -> Añadir
Establece LocalAI como el nombre del proveedor. Ingresa la URL http://127.0.0.1:8080 (suponiendo que no cambiaste la URL predeterminada al iniciar LocalAI).
Los modelos se cargarán automáticamente en la lista; selecciona hermes-2-theta-llama-3-8b.
Haz clic en OK para guardar la configuración.