Πώς να συνδέσετε το LocalAI στο ONLYOFFICE στο Linux

Η αναβαθμισμένη λειτουργικότητα ΤΝ στο ONLYOFFICE σάς επιτρέπει να συνδέσετε οποιοδήποτε μοντέλο AI στους επεξεργαστές, συμπεριλαμβανομένου ενός τοπικού. Σε αυτό το άρθρο, θα εξερευνήσουμε το παράδειγμα σύνδεσης LocalAI σε Linux.

Βήμα 1: Εγκατάσταση του LocalAI

curl https://localai.io/install.sh | sh

Μπορείτε επίσης να ελέγξετε αυτήν την οδηγία για την εγκατάσταση του LocalAI. Η εγκατάσταση μέσω Docker είναι δυνατή.

Λάβετε υπόψη τις απαιτήσεις υλικού:

CPU: Συνιστάται η χρήση επεξεργαστή πολλαπλών πυρήνων.

RAM: Απαιτούνται τουλάχιστον 8 GB μνήμης RAM για βασικές εργασίες. Για να χειριστείτε ομαλά μεγαλύτερα μοντέλα και να αποτρέψετε προβλήματα μνήμης, συνιστάται 16 GB ή περισσότερα.

Αποθήκευση: Για ταχύτερη πρόσβαση στα δεδομένα, επιλέξτε αποθηκευτικό χώρο SSD. Βεβαιωθείτε ότι έχετε τουλάχιστον 20 GB διαθέσιμου χώρου για την αποθήκευση του μοντέλου και το χειρισμό προσωρινών αρχείων.

Δίκτυο: Το LocalAI λειτουργεί χωρίς σύνδεση στο Διαδίκτυο. Ωστόσο, συνιστάται μια αξιόπιστη σύνδεση για τη λήψη μοντέλων και την εφαρμογή ενημερώσεων.

Βήμα 2: Εγκαταστήστε το απαιτούμενο μοντέλο

Για παράδειγμα, αυτό:

Τα μοντέλα local-ai εγκαθιστούν το hermes-2-theta-llama-3-8b

Βήμα 3: Εκκινήστε το LocalAI με τη σημαία cors

Για να μπορεί να χρησιμοποιηθεί όχι μόνο τοπικά, αλλά και στο διαδίκτυο.

local-ai run --cors

Εναλλακτικά, μπορείτε να προσθέσετε την ακόλουθη γραμμή στο αρχείο /etc/localai.env:

CORSALLOWEDORIGINS = "*"

Βήμα 4: Διαμορφώστε τις ρυθμίσεις του πρόσθετου ΤΝ στο ONLYOFFICE

• Εκκινήστε οποιοδήποτε πρόγραμμα επεξεργασίας ιστού ανάλογα με τη λύση ONLYOFFICE που χρησιμοποιείτε.
• Μεταβείτε στην καρτέλα Πρόσθετα και κάντε κλικ στο εικονίδιο Διαχείριση προσθέτων. Κάντε κλικ στην Εγκατάσταση δίπλα στο πρόσθετο AI. Ανοίξτε τα Πρόσθετα φόντου και ενεργοποιήστε τον διακόπτη για AI. Εάν έχετε ήδη εγκαταστήσει το πρόσθετο AI, απλώς παραλείψτε αυτό το βήμα.
• Μεταβείτε στην καρτέλα AI που εμφανίζεται. Κάντε κλικ στο Ρυθμίσεις για να ανοίξετε το παράθυρο ρυθμίσεων. Κάντε κλικ στην επιλογή Επεξεργασία μοντέλων AI -> Προσθήκη.
• Εδώ, καθορίστε το LocalAI ως όνομα παρόχου. Και εισαγάγετε τη διεύθυνση URL http://127.0.0.1:8080 (αν δεν την αλλάξατε κατά την εκκίνηση του local-ai).
• Τα μοντέλα θα φορτωθούν αυτόματα στη λίστα – επιλέξτε hermes-2-theta-llama-3-8b.
• Κάντε κλικ στο OK για να αποθηκεύσετε τις ρυθμίσεις.

Είστε έτοιμοι! Μπορείτε να αρχίσετε να χρησιμοποιείτε το LocalAI για να χειρίζεστε τις εργασίες που σχετίζονται με την ΤΝ στα έγγραφά σας.