Come connettere LocalAI a ONLYOFFICE su Linux

La funzionalità di AI migliorata in ONLYOFFICE consente di collegare qualsiasi modello di AI agli editor, incluso uno locale. In questo articolo vedremo come collegare LocalAI su Linux.

Passo 1: Installa LocalAI

curl https://localai.io/install.sh | sh

Puoi anche consultare questa guida per installare LocalAI. Inoltre, l’installazione tramite Docker è possibile.

Fai attenzione ai requisiti hardware:

CPU: Si consiglia di utilizzare un processore multi-core.

RAM: Sono necessari almeno 8 GB di RAM per le attività di base. Per gestire modelli più grandi senza problemi di memoria, sono raccomandati 16 GB o più.

Storage: Per un accesso ai dati più rapido, opta per un’unità SSD. Assicurati di avere almeno 20 GB di spazio disponibile per archiviare il modello e gestire file temporanei.

Rete: LocalAI funziona senza una connessione Internet. Tuttavia, una connessione affidabile è consigliata per scaricare modelli e applicare aggiornamenti.

Passo 2: Installa il modello richiesto

Ad esempio, questo:
local-ai models install hermes-2-theta-llama-3-8b

Passo 3: Avvia LocalAI con il flag cors

In modo che possa essere utilizzato non solo localmente, ma anche via web.
local-ai run --cors

In alternativa, puoi aggiungere la seguente riga al file /etc/localai.env:

CORSALLOWEDORIGINS = "*"

Passo 4: Configura le impostazioni del plugin AI in ONLYOFFICE

• Avvia qualsiasi editor web in base alla soluzione ONLYOFFICE che stai utilizzando.
• Vai alla scheda Plugin e clicca sull’icona Gestione plugin. Clicca su Installa accanto al plugin AI. Apri Plugin in background e abilita l’interruttore per l’AI. Se hai già installato il plugin AI, salta questo passaggio.
• Accedi alla scheda AI che appare. Clicca su Impostazioni per aprire la finestra di configurazione. Clicca su Modifica modelli AI -> Aggiungi.
• Qui, specifica LocalAI come nome del provider. E inserisci l’URL http://127.0.0.1:8080 (se non lo hai modificato durante l’avvio di local-ai).
• I modelli verranno caricati automaticamente nell’elenco: seleziona hermes-2-theta-llama-3-8b.
• Clicca su OK per salvare le impostazioni.

Ecco fatto! Puoi iniziare a usare LocalAI per gestire le attività legate all’AI nei tuoi documenti.