Kako povezati Ollama u ONLYOFFICE i koristiti njegove AI modele pri radu na dokumentima

Nastavljamo našu seriju članaka koji objašnjavaju kako povezati i efikasno koristiti različite AI modele u ONLYOFFICE-u. Danas ćemo se fokusirati na Ollama, platformu dizajniranu za postavljanje i pokretanje AI modela lokalno, i objasniti kako je integrisati sa ONLYOFFICE editore i koristiti jedan od njenih modela za zadatke vezane za tekst. Nastavite sa čitanjem za više informacija.

O Ollama

Ollama je open-source projekat čija korisnička platforma omogućava instalaciju, podešavanje i pokretanje velikog broja velikih jezičkih modela (LLM) lokalno na vašem računaru, bilo da koristite Linux, Windows ili macOS. Platforma omogućava jednostavan pristup svojoj biblioteci, gde možete izabrati jedan od dostupnih modela. Svaki model ima opis svojih mogućnosti i potrebnih parametara, kao i uputstva kako ga pokrenuti u okviru Ollama, tako da lako možete pronaći ono što vam je potrebno u zavisnosti od vaših ciljeva i konfiguracije hardvera.

Trenutno, biblioteka Ollama uključuje različite popularne AI modele, kao što su Llama 3.3, DeepSeek-R1, Phi-4, Mistral, Gemma 2 i drugi, koji se mogu koristiti u različite svrhe. Programiranje, generisanje teksta i slika, obrada informacija, odgovaranje na pitanja itd. — Ollama vam pruža sve što vam je potrebno.

Kako integrisati Ollama i ONLYOFFICE

Hajde da saznamo šta vam je potrebno da biste omogućili integraciju ONLYOFFICE i Ollama. Proces će biti podeljen u nekoliko koraka kako bi vam bio lakši.

Korak 1. Instalirajte Ollama na vaš lokalni računar

Ako želite da isprobate neki od AI modela koje nudi Ollama u ONLYOFFICE-u, potrebno je da Ollama bude instaliran na vašem lokalnom računaru. Na zvaničnom veb-sajtu možete pronaći i preuzeti odgovarajući klijent za vaš operativni sistem. U našem slučaju, to je Windows 10.

Proces instalacije je intuitivan, tako da se platforma lako instalira u samo nekoliko klikova.

Korak 2. Preuzmite i pokrenite željeni AI model

Nakon uspešne instalacije na Windows-u, Ollama će se pokrenuti u pozadini, a možete joj pristupiti putem Cmd.exe, PowerShell-a ili vaše omiljene terminalske aplikacije.

Ako Ollama radi kako treba, vreme je da instalirate model koji vam je potreban. Imajte na umu da neki snažni modeli zahtevaju puno RAM-a i dosta slobodnog prostora na vašem HDD-u. Birajte mudro, uzimajući u obzir konfiguraciju vašeg hardvera.

Hajde da probamo nešto lagano, ali dovoljno moćno za savremene zadatke. Llama 3.2 je dobar izbor, jer zahteva samo 2 GB slobodnog prostora. Pokrenite ovaj model u Ollama aplikaciji pomoću sledeće komande:

ollama run llama3.2

Za druge modele, odgovarajuće komande možete pronaći na Ollama veb-sajtu.

Korak 3. Instalirajte ONLYOFFICE Desktop Editors

Pošto je Ollama dizajnirana za pokretanje AI modela lokalno, njena integracija je moguća samo sa ONLYOFFICE Desktop Editors, besplatnom desktop aplikacijom za Windows, Linux i macOS. Možete je preuzeti sa našeg veb-sajta ovde.

Korak 4. Instalirajte AI dodatak

AI integracija u ONLYOFFICE funkcioniše putem specijalnog dodatka koji morate instalirati. Nijedan AI model nije unapred konfigurisan, tako da ćete morati da obavite i određena podešavanja.

Pokrenite ONLYOFFICE Desktop Editors i otvorite jedan od uređivača tako što ćete kreirati novi dokument ili učitati neki sa svog uređaja. Nakon toga, idite na karticu Plugins, otvorite Plugin Manager i instalirajte AI dodatak klikom na dugme Install.

Nakon instalacije, kliknite na dugme Background plugins na kartici Plugins i aktivirajte AI dodatak.

Korak 5. Dodajte Ollama i configure the plugin

Sada je sve spremno za povezivanje Ollama sa ONLYOFFICE desktop aplikacijom. Idite na karticu AI i kliknite na ikonu Settings. U prozoru za konfiguraciju AI, kliknite na Edit AI models, a zatim na dugme Add.

U sekciji Provider, izaberite Ollama i videćete http://localhost:11434 kao URL parametar. Ovo je standardni localhost na kojem će biti pokrenut Ollama API.

Sada samo izaberite model koji ste instalirali na svom računaru. U našem slučaju, to je Ollama [llama3.2:latest]. Da završite, kliknite na OK.

Korak 6. Podesite dodati model

Sada definišite zadatke za koje će se koristiti novo dodati model. Ovaj korak je neophodan jer ONLYOFFICE AI dodatak podržava više modela koji mogu izvršavati određene zadatke.

Trenutna verzija AI dodatka pruža sledeće opcije:

• Ask AI vam omogućava interakciju sa čet-botom u posebnom prozoru;
• Summarization vam pomaže da napravite kraću verziju teksta;
• Translation omogućava prevođenje teksta na/sa različitih jezika;
• Text Analysis vam pomaže da analizirate reči i istražite njihova značenja.

Izaberite Ollama [llama3.2:latest] tamo gde je potrebno i zatvorite AI configuration prozor.

Na osnovu gore navedenih koraka, možete dodati bilo koji AI model koji nudi Ollama, pa čak i dodati nekoliko njih kako biste maksimalno iskoristili veštačku inteligenciju u ONLYOFFICE-u.

Kako koristiti Ollama modele u ONLYOFFICE-u

Sada kada je vaš AI model konfigurisan i spreman za upotrebu, možete ga koristiti pri radu na dokumentima, tabelama, prezentacijama i PDF datotekama. Da biste pristupili AI asistentu, možete koristiti odgovarajuće opcije na kartici AI ili kontekstni meni tako što ćete desnim klikom miša odabrati tekst.

Koristeći Ollama modele u ONLYOFFICE Desktop Editors, možete:

• Dobiti odgovore na svoja pitanja;
• Interagovati sa čet-botom u posebnom prozoru;
• Brzo pronaći informacije;
• Istražiti značenja reči i fraza;
• Generisati tekstualni sadržaj i izdvojiti ključne reči;
• Sažeti i prevesti tekstove;
• Pisati kod i još mnogo toga.

Zanimljivo je da ovo kaže čet-bot Llama 3.2 o svojim mogućnostima:

Mogu se koristiti na različite načine, od pomaganja pri planiranju odmora do kreiranja umetnosti. Tu sam da vam pomognem u pronalaženju potrebnih informacija ili asistenciji. Moje prednosti uključuju odgovaranje na pitanja, generisanje teksta i slika, pa čak i obično ćaskanje sa vama..

Preuzmite ONLYOFFICE Desktop Editors

Učinite uređivanje dokumenata efikasnijim uz Ollama modele integrisane u besplatan ONLYOFFICE office paket za Windows, Linux i macOS:

PREUZMITE DESKTOP APLIKACIJU

Da li ste već isprobali ONLYOFFICE u kombinaciji sa lokalnim AI modelima? Podelite svoje utiske u komentarima ispod ili nam tvitujte na @only_office.