Kako povezati LocalAI za ONLYOFFICE na Linux-u

Unapređena AI funkcionalnost u ONLYOFFICE-u omogućava povezivanje bilo kog AI modela sa uređivačima, uključujući i lokalni model. U ovom članku istražićemo primer povezivanja LocalAI sa Linux-om.

Korak 1: Instalirajte LocalAI

curl https://localai.io/install.sh | sh

Takođe možete pogledati ovo uputstvo za instalaciju LocalAI. Instalacija putem Dockera je moguća.

Napomena o hardverskim zahtevima:

CPU: Preporučuje se korišćenje procesora sa više jezgara.

RAM: Minimum 8 GB RAM-a za osnovne zadatke. Za rad sa većim modelima preporučuje se 16 GB ili više kako bi se izbegli problemi sa memorijom.

Skladište: Koristite SSD diskove za brži pristup podacima. Osigurajte minimum 20 GB slobodnog prostora za skladištenje modela i privremenih fajlova.

Mreža: LocalAI radi bez internet konekcije. Ipak, stabilna veza je preporučljiva za preuzimanje modela i ažuriranja.

Korak 2: Instalirajte potrebni model

Na primer, ovaj:

local-ai models install hermes-2-theta-llama-3-8b

Korak 3: Pokrenite LocalAI sa ‘cors’ flag

Omogućite pristup ne samo lokalno, već i putem veba.

local-ai run --cors

Alternativno, možete dodati sledeću liniju u fajl /etc/localai.env file:

CORSALLOWEDORIGINS = "*"

Korak 4: Konfigurišite podešavanja AI dodatka u ONLYOFFICE-u

• Pokrenite bilo koji veb uređivač u okviru ONLYOFFICE rešenja koje koristite.
• Idite na karticu Plugins i kliknite na ikonu Plugin Manager. Kliknite na Install pored AI dodatka. Otvorite Background plugins i omogućite AI prekidač. Ako već imate instaliran AI dodatak, samo preskočite ovaj korak.
• Pristupite novoj AI kartici. Kliknite na Settings da otvorite prozor za konfiguraciju. Kliknite na Edit AI models -> Add.
• Ovde, unesite LocalAI kao ime provajdera. I unesite URL http://127.0.0.1:8080 (ako ga niste promenili prilikom pokretanja local-ai).
• Modeli će se automatski učitati na listu – izaberite hermes-2-theta-llama-3-8b.
• Kliknite OK da sačuvate podešavanja.

Gotovo! LocalAI je sada spreman za obavljanje AI zadataka u vašim dokumentima.