Il nostro mondo inizia ad essere ormai dominato dall’intelligenza artificiale e ci sono un sacco di opzioni disponibili: ChatGPT, Brad, Gemini, Copilot, ecc…
Sorge spontaneo il desiderio di creare la propria intelligenza artificiale (A.I.) personalizzata. Una versione dell’A.I. che giri in locale e che sia completamente gratuita. Sembra impossibile ma possiamo farlo ed oggi quindi ti mostro come creare ed addestrare e personalizzare il tuo modello A.I.
Creare da zero un LLM ovvero Large Language Model richiederebbe una potenza di computazione enorme. Servirebbe un data center intero e probabilmente diversi Petabyte di dati di addestramento. Seguire questa strada è impossibile quindi andremo ad “imbrogliare”. Andremo a prendere un LLM open source dalle ottime prestazioni già pronto ed andremo a fare una rifinitura sul suo attuale addestramento per personalizzarlo.
Nello specifico, andremo ad utilizzare Llama 3 di Meta ed andremo a fare un refinement del suo addestramento aggiungendo materiale ed istruzioni aggiuntive che l’A.I. dovrà tenere in considerazione prima di dare qualsiasi risposta. Avremo a tutti gli effetti la nostra intelligenza artificiale (A.I.) personalizzata, gratis ed in locale.
Template da usare per personalizzazione: FROM llama3
# Set custom paramter values PARAMETER temperature 1
Cookiebot CMP è certificata da Google e ti aiuta a raggiungere la conformità a GDPR, ePrivacy e alla policy di Google sul consenso degli utenti nell’UE. Mantieni la personalizzazione degli annunci, il remarketing e l’analisi di Google attivi nell’UE/SEE implementando CookiebotTM con Google Consent Mode v2.
tutto il mondo non fa altro che parlare
di ai ormai non è più una novità e ci
sono anche un sacco di opzioni tra cui
scegliere chat jpt Gemini Bard CoPilot
una cosa che tutti questi modelli hanno
in comune e che girano in Cloud alcuni
poi come chat gb4 o Gemini Advanced
dobbiamo anche pagarli mensilmente ma Se
volessimo creare una nostra ai che giri
in locale e che non ci costi una lira
incredibilmente si può fare oggi quindi
ti mostro come creare ed addestrare il
tuo modello di ai tutto in locale
completamente
gratuito Ciao mi presento sono Gian e ti
do il benvenuto sul mio canale qui
troverai contenuti tra virgolette nerd
tutorial di ogni tipo programmazione
recensioni di prodotti Tech e molto
altro se queste cose stuzzicano la tua
curiosità vuol dire che sei dei nostri
Ti chiedo quindi di iscriverti per non
perderti i prossimi video notiziona Ho
aperto da poco il profilo Instagram
ufficiale del canale se ci farai un
salto Oltre a questo bel faccione
troverai anche codici sconto ed offerte
interessanti Infine mi trovi anche su
tiktok e telegram dove carico contenuti
decisamente più pazzi Ok iniziamo creare
completamente da zero un llm ovvero
large language Model richiederebbe molto
di più del nostro computer servirebbe un
datacenter intero e probabilmente
qualche petabyte di dati di
addestramento Evidentemente per noi
questa strada non è percorribile e
quindi andremo tra virgolette ad
imbrogliare andremo a prendere un llm
Open Source già presente dalle ottime
prestaz azioni effettueremo poi una
rifinitura del suo attuale addestramento
in modo Quindi da personalizzarlo E
renderlo completamente unico il modello
Che utilizzeremo e che vi consiglio è
l'ama 3 in ogni caso potrei comunque
scegliere tra una lunga lista di modelli
pronti e personalizzabili lama 3 Ahia
Mistral Gemma Cod Lama e potrei davvero
andare avanti prima di continuare voglio
ringraziare user centric che è lo
sponsor di questo video Il mondo del
marketing sta cambiando Google Chrome
presto non supporterà più i cookie di
terze parti già Oggi poi Google Ads e
Google Analytics richiedono
esplicitamente il consenso degli utenti
Per sfruttare tutte le feature
disponibili Non parliamo poi degli
aspetti legali legati al mondo dei
cookie davvero un incubo Insomma avere
un tool che raccolga le preferenze degli
utenti e che sia compliant con le leggi
sulla privacy è assolutamente necessario
se non sai da dove partire tutto questo
ti sembra complicato Nessun problema la
soluzione è cookiebot user centric un
tool plug and play per accogliere i
consensi degli utenti disponibile sia
per i siti web che per le app cookie Bot
user centric è la Constant Management
platform più utilizzata online È infatti
presente su oltre 2 milioni di siti web
ed applicazioni iniziare ad utilizzare
cookiebot è super semplice Basta fare il
login aggiungere il tuo dominio copiare
Lo script che viene generato ed
incollarlo sul tuo sito per
personalizzare la grafica del banner
potrai scegliere tra uno dei template
disponibili Oppure ancora crearne uno
customizzato in questo modo il banner
avrà un design consistente con il resto
del sito cookie Bot non solo ti mette
sulla strada giusta per essere compliant
con la legge gdpr Europea permette anche
di scegliere numerosi altri Legal
Template per essere in regola con
diverse leggi internazionali sulla
privacy cibot offre Inoltre un periodo
di prova gratuito di 14 giorni per
decidere se la piattaforma giusta
trovate maggiori informazioni sul tool e
sul suo funzionamento in descrizione il
nostro tutorial si dividerà in tre parti
installazione di on Lama e lama 3
personalizzazione del large language
Model per creare la nostra ai ed infine
testing della nostra ai può sembrare
complesso ma in questo video faremo
tutti i passaggi necessari e li
spiegheremo in questo modo davvero tutto
quello che facciamo sarà davvero alla
portata di tutti passiamo ora alla
pratica spostiamoci sul Mac ed Iniziamo
dalla parte uno installazione on Lama e
lama 3 Eccoci qui sul Mac e come prima
cosa andiamo a aprire Google Chrome
andiamo a cercare un lama e andiamo sul
primo risultato di ricerca proprio
questo sito dall'interfaccia minimal con
questo Simpaticissimo Lama che ci sta
fissando è il sito da cui andremo a
scaricare l'amma 3 che andremo poi dopo
a personalizzare facciamo un po' di
chiarezza o Lama è il nome
dell'applicazione che andremo adesso a
scaricare mentre invece Lama 3 è il nome
dell' llm come vi ho anticipato
nell'introduzione tramite un lama
possiamo eseguire tantissimi modelli
cliccando infatti in alto a destra su
Models possiamo vedere tutti quelli
disponibili e sono davvero tantissimi
Torniamo adesso in un page cliccando sul
simpatico Lama in alto a sinistra e
andiamo a cliccare su download per
iniziare a scaricare un lama questa app
è disponibile per Macos Linux ed anche
in versione preview per Windows Macos è
già preselezionato e clicchiamo quindi
su download for Macos Attendiamo quindi
qualche secondo il completamento del
download è un file zip Quindi dovremo
poi dopo andare ad estrarlo Ok fai
completamente scaricato e andiamo nella
cartella dei download Ecco qui lo Zip in
questione ed andiamo ad estrarlo basta
un doppio click ancora una volta
troviamo il simpatico Lama che ci guarda
e andiamo a trascinarlo nella cartella
delle applicazioni Eccolo qui ed andiamo
ad avviare l'applicazione confermiamo
schermata di benvenuto e clicchiamo su
Next arrivati a questo punto dobbiamo
andare ad installare il comando on Lama
che andremo poi ad eseguire dal
terminale clicchiamo quindi su Install
ci viene chiesta la password Ecco
l'istruzione che dobbiamo adesso andare
a copiare per eseguire poi dopo il
modello Lam 3 clicchiamo quindi su
Finish andiamo quindi nelle applicazioni
utility e qui andiamo ad avviare il
terminale vediamo se riusciamo a fare un
po' di zoom così che si lega meglio Ok
perfetto che cosa mai dovremo mettere
all'interno del terminale la stringa che
abbiamo copiato prima quindi facciamo
Command V eccola qui E per confermare
clicchiamo su invito l'applicazione o
Lama che abbiamo scaricato prima non
comprendeva l' llm potendo Infatti
andare a scaricare il modello che
vogliamo questo viene scaricato in un
secondo momento Adesso infatti stiamo
andando a scaricare la ma 3 In totale
sono 4 G e7 di modello che tutto sommato
non è male se teniamo a mente che tutto
questo girerà completamente in locale e
non sarà necessaria la connessione ad
internet Attendiamo quindi che finisca
il download Ormai manca pochissimo 999%
e siamo rimasti agli ultimi secondi Ok
modello completato e adesso sta
scaricando altri file necessari
all'esecuzione
questi per fortuna sono molto più
leggeri e infatti ci mette pochissimo
tecnicamente è già tutto pronto per
chattare Ma andiamo a vedere che cosa
possiamo fare all'interno di questa
interfaccia scrivendo back pun di
domanda e dando invio vediamo tutti i
comandi che possiamo eseguire
all'interno di questa sezione ci sono un
po' di opzioni tra cui il comando set
per impostare alcune variabili di
sessione il comando Show che ci dà
informazioni dettagliate Sul modello che
stiamo utilizzando andiamo subito a
provarlo backshow abbiamo altre opzioni
e andiamo a fare show info ecco qui le
informazioni sul modello che stiamo
utilizzando modello Lama 8 miliardi di
parametri tornando al menù principale
possiamo vedere che abbiamo il comando
load per caricare una sessione passata o
un modello differente il comando Save
per andare a salvare la sessione
corrente il comando Clear per cancellare
la sessione corrente ed il comando byy
per uscire non facciamo i maleducati E
andiamo a salutare la nostra
intelligenza artificiale Ciao virgola
come stai punto di domanda Ecco la
nostra prima risposta Ciao sto bene
grazie Sono un'intelligenza artificiale
in grado di Comun are in italiano come
posso aiutarti oggi chiediamogli
Qualcosa di più complesso Scrivimi un
articolo che parli di come
l'intelligenza artificiale potrebbe
aiutare l'umanità nei prossimi 200 anni
Ecco qui che il nostro articolo si
materializza davanti a noi ha scritto un
bell'articolo corposo uno dei limiti
dell'utilizzo delle piattaforme on di
intelligenza artificiale come chat GPT
Gemini e così via è che hanno un numero
limitato di token che possono utilizzare
per risposta ci sta anche Anche perché
se dessero risposte lunghe ad ogni
singola persona i server consumerebbe
molta più corrente e loro in ultima
analisi spenderebbero molto di più con
il nostro bel modello offline non
abbiamo di queste preoccupazioni
cancelliamo i dati della sessione e
andiamo a chiedergli una cosa
completamente diversa scrivi il testo di
una canzone pop su Shrek Ecco che la
canzone Si materializza davanti a noi
abbiamo il testo della nostra canzone
questa volta l'ha generato in inglese
anche se ci ha risposto in italiano ci
ha detto ecco il testo per una canzone
pop su Shrek e poi ha utilizzato Invece
l'inglese per andare a comporre La
canzone il titolo di questa canzone è
Non aver paura della Palude Quest
incredibile canzone poi la divisa in
strofa ritornello strofa ritornello e
così via usciamo adesso dal modello Lam
3 quindi scriviamo slash Vai arrivate a
questo punto possiamo conversare
piacevolmente con un modello ai davvero
ottimo completamente in locale e senza
necessità di collegarsi ad Internet
generazioni infinite di testo
completamente gratis a portata di click
puoi usarlo per scrivere articoli
comporre mail o farti dare una mano con
le descrizioni per YouTube Continuiamo
con la parte più intrigante
customizzazione dell' llm per creare la
tua ai personale dobbiamo adesso andare
a fare il famoso rifinimento
dell'addestramento delle ai
essenzialmente dobbiamo andare a dare al
modello gli elementi aggiuntivi che deve
tenere in considerazione ogni volta che
ci risponde in questo caso per fare un
esempio voglio che la nostra
intelligenza artificiale personale ci
risponda come se fosse Yoda di Star Wars
una grande idea questa è vado quindi a
scrivere nano Yoda vado a utilizzare
questo template già pronto che vi lascio
anche in descrizione ed essenzialmente
tutto quello che dobbiamo fare è
scrivere tra System e le virgolette
finali quello che vogliamo che il nostro
prompt consideri scrivo quindi tu sei il
maestro J Yoda parla come lui e rispondi
come farebbe lui nei film di Star Wars
andiamo quindi a salvare il nostro file
premendo contrl po sulla tastiera
possiamo scegliere il nome del file Yoda
va benissimo e do invio A questo punto
per uscire Cont contrl X verifichiamo di
aver creato davvero questo questo file e
quindi facciamo LS qui in fondo in
ultima posizione Ecco che abbiamo Yoda
andiamo quindi a pulire il terminale con
Clear e scriviamo ol Lama create e
questo è il comando che ci serve per
andare a creare la nostra intelligenza
artificiale maestro Yoda E questo sarà
il nome del nostro modello TR F andiamo
a dirgli di prendere il manifesto quindi
le informazioni aggiuntive da un file
punto SL perché il file che adesso
andiamo a passare g si trova nella
Directory dove stiamo eseguendo questo
comando e scriviamo Yoda tutto pronto
diamo quindi invito ha fatto della roba
ma la parte importante è che ha scritto
success alla fine quindi teoricamente
tutto ha funzionato Ok abbiamo aggiunto
il testo che andrà a personalizzare il
nostro modello e che andrà ad
influenzarne ogni singola risposta non
ci resta quindi che selezionare la
nostra ai appena creata e vedere se
risponde facendo leva sui contenuti che
abbiamo aggiunto continuiamo Quindi con
il testing della nostra ai personale
andiamo quindi a lanciare un lama ma
questa volta non vogliamo andare ad
avviare il modello Lama 3 vogliamo
dobiamo invece andare ad avviare il
nostro nuovo modello maestro yota per
farlo scriviamo ama Run maestro yota
diamo quindi invio incredibilmente non
abbiamo avuto neanche un errore ed è
tutto pronto Ok prima di andare a fare
domande complicate al nostro nuovo
modello ai andiamo a fargli una domanda
molto semplice andiamo a chiedergli chi
è Vediamo se davvero ha capito che cosa
deve fare scriviamo Ciao Io sono Gian e
tu chi sei punto di domanda devo dire
che ha funzionato benissimo maestro jed
yod sonno vecchio saggio la forza
conosco chiediamogli un consiglio Per
non cedere al lato scuro resiste
difficile sarà il lato scuro una voce
potente ha maestra della volontà essere
devi conosci un certo R2 D2 punto di
domanda conosco bene R2 D2 amico fedele
c3po insieme sono stati storia della
galassia condiviso anno facciamo adesso
un esempio che potrebbe essere più utile
a tutte le persone che vogliono
sfruttare questa intelligenza
artificiale per creare qualcosa per la
propria azienda Supponiamo che questa
intelligenza ufficiale possa essere
utilizzata all'interno di un chatbot
scriviamo quindi nano chatbot diamo
invio andiamo ad incollare nuovamente il
nostro template andiamo qua sopra e dove
dice System andiamo a spiegare al nostro
chatbot che cosa deve fare se un chatbot
è di tuo compito è quello di rispondere
agli utenti qualsiasi sia il loro
quesito in ambito medico e di
consigliargli però alla fine una visita
specialistica in caso l'utente accetti
Chiedigli dati personali per richiamarlo
semplicissimo contrl o invio ctrl x e
possiamo andare a creare Ancora una
volta la nostra nuova intelligenza
artificiale o Lama create chatbot
transf chatbot modello creato ancora una
volta abbiamo avuto successo o Lama Run
chatbot mi fa male un piede cosa posso
fare Mi dispiace che ti faccia male il
piede ci sono diverse possibili cause
bla bla bla ci dà una risposta che
comunque è coerente a quello che abbiamo
chiesto alla fine del messaggio Però
dice è quindi importante visitare un
medico specialista E l'ultima frase è se
accetti ti chiedo dati personali e il
numero di telefono per richiamarti e
coordinare la visita rispondiamo accetto
Ecco che ci chiede dati personali nome
Gian cognome Villa Ovviamente non è il
mio vero numero telefono me lo sono
inventato diamo invio Ed ecco la
risposta finale Grazie mille per avermi
fornito i tuoi dati personali Gian sarò
felice di ricontattarti al numero numero
che abbiamo messo prima per fissare una
data e un'ora più adatto per la tua
visita Come avete notato le implicazioni
di questa tecnologia sono vastissime
possiamo utilizzarla in modo simpatico
per parlare con i personaggi dei film
Oppure possiamo utilizzarla per creare
dei progetti interessanti in ambito
lavorativo Poteva sembrare difficile
quasi impossibile eppure ci siamo
riusciti senza troppa fatica abbiamo
creato con successo la nostra II
personalizzata che gira in locale ottimo
lavoro siamo arrivati alla fine e spero
davvero che questo video ti sia piaciuto
e soprattutto che ti sia stato utile Se
così è stato lascia un like ed iscriviti
al canale per non perderti i prossimi
contenuti non mi resta quindi che
salutarti ed augurarti una buona
giornata ciao
[Musica]