Se avete bisogno di utilizzare

intelligenze artificiali all'interno del

vostro PC e farle eseguire quindi in

locale con tutti i benefici del caso,

quindi niente abbonamenti, maggiore

privacy, possibilità di utilizzo anche

offline, beh, avete bisogno di

un'applicazione che vi permetta di

scaricare questi modelli per poi

utilizzarli, perché non potete

scaricarli direttamente da internet, no?

Avete bisogno di un passaggio in più,

avere un'applicazione che permetta di

scaricarli. Bene, nel video di oggi

voglio guidarvi passo passo nello

scaricare e successivamente

nell'utilizzare LM Studio che è

un'applicazione desktop gratuita che ci

permette di utilizzare queste

intelligenze artificiali in locale.

Quindi cominciamo. Ok, la prima cosa che

dobbiamo fare è digitare LM Studio.

Cliccate invio e il primo link che vi

verrà fuori è proprio questo, LM Studio.

Voi lo cliccate e vi verrà fuori questa

interfaccia qua. Chiaramente il tasto

che ci interessa al momento per

scaricare LM Studio è il tasto di

download. Fatto sta che se siete un po'

interessati a capire che cos'è LM

Studio, è anche bene un po' andare a

spulciare questo sito, un po' andare un

po' ad analizzarlo, capire cosa può

fare. Quindi, se clicchiamo qua in alto

a sinistra, per esempio, modelli, ci

farà vedere i modelli di intelligenza

artificiale che potremo utilizzare in

locale utilizzando, appunto, LM Studio.

E qua ci sono subito quelli un po' più

principali, c'è Quen 3.6, c'è Gemma 4,

ma ce ne sono anche tanti altri. C'è

quello per esempio di Nvidia, poi c'è

anche quello di Char GPT, insomma, ce ne

sono veramente tanti, quindi se per caso

conoscete il modello che volete far

eseguire il locale, potete

tranquillamente cercarlo qua e vedere se

effettivamente c'è. Detto questo, non è

poi necessario andare e tornare sempre

su questa pagina perché una volta

scaricato LM Studio avremo la

possibilità all'interno di LM Studio di

trovare il modello che ci interessa. Se

clicchiamo invece su Doc ci dà una serie

di informazioni un po' più specifiche,

un po' più approfondite. Infatti ci dirà

cosa possiamo costruire, cosa possiamo

installare, se abbiamo la possibilità,

per esempio, di utilizzare Open AI,

quindi Char GPT, se abbiamo la

possibilità di utilizzare Cloud, quindi

Antropic, per esempio, qua possiamo

utilizzare Cloud Code con LM Studio, ma

possiamo anche utilizzare tecnicamente

anche chat GPT. Insomma, in questa

pagina possiamo vedere le possibilità di

utilizzo un po' più approfondite di LM

Studio, però al momento non è questo che

ci interessa perché ripeto, a mio parere

l'intelligenza artificiale deve essere

facile da utilizzare. Non tutti sono

programmatori, non tutti sono esperti,

quindi questa cosa qua non ci interessa.

Il mio obiettivo è un altro. Quindi

tornando indietro, se finiamo qua un

attimo la carrellata, andiamo su blog,

possiamo vedere un po' tutti gli

aggiornamenti di ADM Studio. Tornando

indietro dalla sezione blog, quella

Enterprise è una sezione che

tendenzialmente non ci interesserà. La

sezione che è interessante è LM. E che

cos'è LM link? Beh, Elmlink è

sostanzialmente una funzionalità che ci

permette, per esempio, dal telefono o da

un dispositivo laptop di dare un

prompto, di dare comunque un'attività da

fare una task attraverso LM Studio e di

far lavorare l'intelligenza artificiale

attraverso il dispositivo più potente

che avete attualmente installato. Mi

spiego meglio. Se voi avete installato

l'M Studio sul vostro PC, pensiamo che

magari il vostro PC sia un PC fisso

molto potente, voi con il telefono, se

magari siete in vacanza, voi potete dare

una tasca al vostro modello di

intelligenza artificiale che avete

installato in locale e che avete sul

vostro PC e potete dirgli bene, fammi

questa cosa qua e quindi attraverso

questa funzionalità qua il telefono darà

le informazioni al vostro computer o al

vostro dispositivo in cui avete

installato la vostra intelligenza

artificiale e andrà a lavorare

esclusivamente sul vostro computer.

computer. E questo, in parole semplici,

cosa vuol dire? Beh, vuol dire che

potete dare task più complesse

utilizzando dispositivi più potenti

attraverso però la comunicazione da

parte di un dispositivo che di per sé

non potrebbe magari fare quella task,

quindi per esempio un telefono. Sì, è

più difficile da dire piuttosto che

utilizzarlo perché è veramente semplice.

In ogni caso questa è la sua

funzionalità. Qua, detto questo, abbiamo

fatto un po' una panoramica generale di

LM Studio. Quello che ci interessa

adesso è scaricare l'applicazione. Voi

dovete cliccare qua, download for

Windows, in alto a destra vedrete che vi

fa partire il download. Io in questo

caso lo blocco perché l'ho già

installato. Una volta che lo avete

installato avrete l'applicazione pronta

all'utilizzo e adesso voi ce l'avete

installata nel vostro dispositivo. La

potete vedere per esempio qua in basso a

destra cliccando la freccetta. È questa

icona qua, vedete? LM Studio, la potete

avere anche sul desktop, insomma, volete

potete averla un po' dove volete. Noi

clicchiamo ed ecco qua che si accende,

diciamo, LM Studio. Bene, non

spaventatevi nel vedere questa cosa

perché queste sono le mie chat che ho

utilizzato all'interno di LM Studio. Al

momento questa cosa non ci interessa. La

prima cosa che dovrete fare una volta

installato LM Studio è cercare il

modello di intelligenza artificiale che

vi interessa, perché ripeto, LM Studio

non è un'intelligenza artificiale. L'M

Studio vi permette di scaricare i

modelli di intelligenza artificiale,

quindi se già conoscete il vostro

modello potete semplicemente cercarlo e

poi selezionarlo. Se non lo conoscete

potete un po' anche sfogliare un po'

divertirvi a scaricare i vari modelli.

Il modello che io per esempio ho

scaricato all'interno del mio PC è

esattamente questo modello qua. Adesso

non vi spiegherò che cos'è Google Gemma

perché lo farò in un altro video. Farò

un video approfondito di Gemma. Ma cosa

ci basta sapere? Una volta che

selezioniamo qua a sinistra tutti i

modelli, per esempio anche il modello

31B per esempio, sul pannello qua a

destra ci darà tutte le informazioni di

cui abbiamo bisogno di quel modello. La

prima cosa che ci viene all'occhio,

chiaramente, è il download, che sarà

quello che dovremmo fare per scaricare

il modello nel nostro PC. In questo caso

pesa, per esempio, 20 GB. In ogni caso

ci dà anche le informazioni sul modello,

per esempio ci dice intanto quanti

parametri ha, in questo caso 31 miliardi

di parametri che se non sapete cosa vuol

dire più parametri ha un modello e più è

in grado sostanzialmente di svolgere

quelle task che richiedono un certo tipo

di intelligenza del modello. Ecco, ci dà

anche il formato, quindi il formato

GGOF, ci dà per esempio le capacità del

modello, quindi la capacità per esempio

vision è la capacità del modello di

processare le immagini come input pure

per esempio il ragionamento. Quindi, per

esempio, in questo caso, Gemma supporta

il ragionamento del modello e se

clicchiamo qua possiamo scaricare varie

tipologie dello stesso modello. Tra

differenza è la quantizzazione che qua

adesso non andrò ad approfondire perché

ve ne parlerò in un nel video apposito

di Gemma. Fatto sta che, come vedete, eh

qua la quantizzazione cambia

sostanzialmente la pesantezza del

modello da scaricare, quindi proprio i

giga di memoria che dovete scaricare.

Quindi potete selezionare il formato che

più vi interessa. Cliccate e poi

cliccate per esempio download. Lo clicco

anch'io, così vi faccio vedere proprio

cosa succede. Chiaramente voi dovrete

aspettare adesso qualche minutino, anche

forse 10 minuti, poi dipende dal vostro

dispositivo, da che modello state

installando, perché si scarichi il

modello. Voi lasciatelo là, lasciate

tranquillo che faccia tutto. Nel

frattempo che scarica il modello, vi

faccio vedere che qua a sinistra in

basso, abbiamo la possibilità di aprire

le impostazioni di LM Studio, non del

modello, ripeto, di LM Studio. Possiamo

vedere se magari ha degli update.

Possiamo cambiare la lingua dell'app. Se

per esempio volete l'italiano potete

metterlo, per esempio, ecco, potete

cambiare il tema, metterlo scuro,

metterlo chiaro, insomma, potete fare un

po' quello che volete, in questo caso io

lo tengo bianco. Insomma, potete un po'

personalizzarvi LM Studio. Bene, adesso

cosa vogliamo fare? Chiaramente abbiamo

scaricato il modello, vogliamo

utilizzarlo, quindi cosa bisogna fare?

Andate sempre qua in alto a sinistra, vi

ricordo che se lasciate il cursore vi

dice subito che cosa state per andare a

selezionare. Clicchiamo questo alieno

qua viola e andiamo sulle chat. La cosa

più semplice che possiate fare è

cliccare tasto destro e scrivere o new

chat o new folder e sostanzialmente

cliccare new chat. Eccola qua che ci è

apparsa, un annamed chat. Una volta che

abbiamo creato la chat possiamo

modificarla, quindi possiamo per esempio

rinominarla. Io in questo caso la chiamo

chat di prova. Potete salvarla ed ecco

che ce l'avete qua. Potete anche

duplicarla, potete poi esportare la chat

come un PDF, insomma, potete fare un po'

di cose interessanti. Quello, per

esempio, più interessante per me magari

è il PDF. Potete eliminarla, chiaramente

potete fare un po' di cose. Ok, siamo

quindi nella chat di prova. Cosa

possiamo fare? Anzi, come si utilizza il

modello? Vedete qua in basso, qua in

basso ci dice pick a model. Clicchiamo

su Pica Model e qua ci dà i modelli che

avremo scaricato. In questo caso noi

abbiamo scaricato il modello a 31

miliardi di parametri che in questo caso

per esempio è troppo potente per è

troppo grosso per il mio PC, ma fatto

sta che noi lo selezioniamo e qua cosa

ci darà? ci darà un'altra interfaccia

che può sembrare un po' spaventosa e lo

capisco, ma questa interfaccia qua ci

dice sostanzialmente e le

caratteristiche del modello. Possiamo un

po' andare a giocare sul modello, per

esempio, sulla contest, possiamo

aumentarla, possiamo diminuirla, il GPU

offload, il CPU trade puls, insomma

possiamo fare un cos un po' di cose. Non

sapete che cosa significa una certa

cosa? Avete qua tutti i puntini di

domanda che vi spiegano un po' che cosa

state andando a modificare. In questo

caso, con la lunghezza del contesto,

stiamo sostanzialmente andando a

modificare la memoria del modello, cioè

quanto il modello ricorderà le

informazioni all'interno di una nostra

chat. E chiaramente se per caso abbiamo

fatto casino, abbiamo premuto un po' di

cose così e ci siamo un attimo persi,

potete cliccare cancel e potete rifare

da capo. Quindi picca model gemma 31

miliardi di parametri e si sarà

ripristinato. Potete eliminare le

advance settings se per caso non vi

interessano. Potete comunque caricarlo.

Voi cliccate load model e vedete che qua

adesso lo sta caricando all'interno

della chat. Ok? Una volta caricato il

modello all'interno della chat, voi

chiaramente poi potete modificarlo. Non

avete caricato il modello sbagliato,

bene, potete cliccare un altro modello e

potete semplicemente ricaricarlo, non

succede assolutamente nulla. Qua in

basso, nella casella di testo, vi dice

nuovamente quello che il modello può

fare, quindi può ragionare, può

processare immagini e possiamo

caricargli dei file. Chiaramente non

tutti i modelli di intelligenza

artificiale possono fare queste cose

perché questo, ripeto, dipende dal

modello, non dall'M Studio. Detto

questo, in questo caso abbiamo il

modello caricato. Noi possiamo scrivere

qualunque cosa, tipo "Ciao, come stai?

Ciao, io sto bene, grazie. Tu come stai?

Come posso aiutarti oggi?" Ecco, una

cosa che forse non vi ho detto è che più

modificate i parametri del modello, più

può diventare veloce. il modello nel

rispondere, ma può diventare anche molto

più lento. Se io qua aumentassi la

finestra di contesto a 262.000,

vedete adesso quanto ci mette a

rispondermi a questa domanda che adesso

vi vado a fare. Ecco, vabbè, non ve lo

faccio vedere perché sennò mi esplode il

PC ci mette veramente tanto aumentando

la finestra di contesto. Comunque ecco,

state attenti a non modificare in

maniera strana il modello. Cosa potete

fare? Inoltre potete creare delle

cartelle che sono molto utili perché se

dovete utilizzare più chat per uno

stesso argomento ha più senso magari

creare una cartella, per esempio, che ne

so, progetti eh video e chattare

all'interno di quella cartella, cliccare

qua i puntini, creare new chat in folder

e avete tutte le chat all'interno di una

cartella. Quindi questa funzionalità qua

non è scontata, è utile se dovete magari

raggruppare un po' le idee, raggruppare

un po' le chat, invece che fare una

sfilza così che poi dovete andarvi a

cercare il titoletto e sperare di

trovare quella giusta. Cos'altro si può

fare all'interno di Allm Studio? Vedete

qua a destra questo tutta questo

pannello qua. Mi interessa questa

sezione qua che viene chiamata model

parameters. In questa sezione qua LM

Studio ci permette di dare delle

istruzioni specifiche al modello. Quindi

cosa possiamo fare? Creare dei preset.

Avete presente i gem di Google? Ecco,

potete fare una cosa simile, quindi voi

cliccate su Select preset e potete

importarlo, potete crearlo e poi avrete

anche quelli che avete già creato. Fatto

sta che noi clicchiamo Newet, gli potete

dare il nome che volete, io in questo

caso me me ne invento uno a caso, quindi

allenatore, salvarlo e potete poi dare

un prompt. Cosa vuol dire? Voi cosa

potete fare? Potete scrivere delle

informazioni che il modello ricorderà

sempre all'interno della chat in cui

avete proprio inserito questo preset.

Potete quindi dargli le istruzioni

iniziali che il modello ricorderà

sempre. Quindi, se è un allenatore

potete dirgli "Sei un allenatore esperto

in tennis e il tuo obiettivo è quello di

aiutarmi a migliorare queste cose qua e

devi farmi sempre queste schede qua."

Potete scrivere tutto qua, ok? e potete

poi salvare il modello col preset che

avete creato. Voi cliccate salva e

quindi adesso in questa chat avrete

l'allenatore. Se invece andate in una

chat nuova, voi potete tornare su questa

sezione qua, di nuovo selezionare il

preset e vedete che ce l'abbiamo qua,

allenatore, eccolo qua, col prompt di

sistema che gli abbiamo dato e quindi

noi avremo di nuovo una chat con questo

prompt

effettivamente una funzionalità molto

utile per determinate attività.

Chiaramente se poi non vi piace quello

che avete scritto potete eliminarlo. Se

non vi piace più questo preset o non vi

serve più potete eliminarlo qua sui tre

puntini. Tre puntini delete ed ecco qua

che lo potete eliminare. Quindi abbiamo

visto come scaricare LM Studio, come

cercare il modello, come caricarlo e

come poi utilizzarlo all'interno di una

chat. Ma se noi poi fossimo un po' più

bravetti, se vedessimo magari qualche

limitazione del modello, se volessimo un

po' modificare i parametri del modello,

cosa dobbiamo fare? Beh, torniamo qua su

My Models, clicchiamo qua il modello che

ci interessa, clicchiamo su sotto la

sezione action, clicchiamo la rotellina

e noi adesso potremo qua vedere una

serie di informazioni. Chiaramente vi

ripeto, se non sapete quello che state

facendo, vi sconsiglio, non succede

nulla alla fine, ma vi sconsiglio di

andare a cliccare e modificare cose.

Potete farlo magari con un po' di

criterio, in ogni caso, se qualcosa non

va, eliminate il modello e lo

reinstallate e siete a posto. Quindi a

prescindere, non preoccupatevi se fate

un po' di confusione, se fate un po' di

disastri, perché non succede nulla.

Ecco, un'ultima cosa che possiamo fare è

che all'interno di una determinata chat

noi possiamo aggiungere delle note. Le

note sono sostanzialmente degli appunti

che non servono al modello per imparare,

non danno informazioni al modello, ma

servono appunto esclusivamente per voi.

Quindi, metti caso che in una chat

stiate un po' studiando, avete una

lezione il giorno dopo, ma dovete

tornare poi su questa chat, potete

scrivervi delle note, ricordati di

aggiungere degli appunti. Ecco, quindi

potete per esempio scrivere "Ricordati

di aggiungere appunti". Ed ecco che

avete qua in basso le note che potete

chiaramente poi eliminare, togliere,

fare quello che volete, copiarle, ma

potete scrivere un po' tutto quello che

volete. Un'ultima cosa è che se siete

interessati ad utilizzare quella

funzione che si chiama LM Link, voi

dovete andare qua e cliccare on, quindi

sostanzialmente abilitarla perché potete

sia disabilitarla che abilitarla. Se la

abilitate vi comparirà qua sotto l'icona

LM link. Una volta che avete finito di

utilizzare la vostra intelligenza

artificiale, che non ne avete più

bisogno, voi potete tranquillamente

chiudere, non avete bisogno di salvare

nulla perché si salva tutto

automaticamente, ritornate il giorno

dopo, due giorni dopo, ve la vedete

sempre comparire qua o qua, dove volete,

la cliccate e ritornerete all'esatto

punto in cui l'avete lasciato prima. Se

siete poi curiosi di sapere dove va

effettivamente a caricare tutte le cose

che avete scritto, cioè se siete curiosi

di sapere in quale cartella del vostro

PC va a caricare eh tutte le vostre

chat, basta che clicchiate per esempio

qua i tre puntini, andate su show in

File Explorer e voi potete andare a

vedere dove vi ha salvato ogni singola

conversazione. Andiamo su conversazioni

qua ed ecco che qua ci sono tutte le

chat che io ho creato per esempio in

questi giorni in cui l'ho utilizzato con

tutte anche le conversazioni. Questo vi

serve saperlo perché uno potete andare a

cercare le cose che magari non trovate

più. Due perché se avete bisogno di

eliminare qualcosa potete andare

direttamente a cercare qual è la chat un

po' più pesante che magari non

utilizzate, quella che magari consuma un

po' più di giga a livello di memoria e

potete poi andare ad eliminarla e ve la

eliminerà anche all'interno di LM

Studio. Ecco, penso di aver detto tutto

e di aver fatto una panoramica generale,

spero abbastanza chiara. Se avete

qualche dubbio fatemelo sapere nei

commenti, io non ho altro da aggiungere

e ci vediamo in un prossimo video.