In un precedente articolo, abbiamo parlato di come Ollama gestisce la memoria durante il caricamento e l’esecuzione dei modelli di linguaggio di grandi dimensioni (LLM). Un aspetto cruciale di questa gestione è la quantizzazione del modello, una tecnica che consente di ridurre l’uso della memoria a discapito di una leggera perdita di precisione.

Imparare a studiare e fare narrowing di ciò che si studia risulta fondamentale.
Prendersi del tempo per “nerdare” può essere un’ottima valvola di sfogo.

Quando si sviluppa un videogioco in Realtà Virtuale, una delle sfide principali è il rendering simultaneo delle due camere, una per ciascun occhio.

A volte, l’innovazione tecnologica nasce da una visione chiara e dalla capacità di trasformare idee in realtà concrete, anche se iniziare da zero può rappresentare una vera e propria sfida. Raffaele Colace, Head of Innovation & Solutions presso 20tab, ci racconta il suo percorso e le sfide affrontate nel costruire un’area dedicata all’innovazione all’interno di un’azienda di consulenza per prodotti digitali.

Se hai mai passato ore a cercare la causa di un rallentamento in produzione sfogliando migliaia di righe di log, sai già di cosa parlo. Il servizio è lento, gli utenti si lamentano, e tu sei lì a fare grep su file enormi sperando di trovare l’ago nel pagliaio.

Introduciamo un nuovo argomento nel blog: l’automazione! Oggi, con questo post, Luca Tomasino ci guida nell’installazione di n8n in modalità self-hosted tramite Docker, permettendoci di esplorare le potenzialità di questa piattaforma senza costi iniziali.

Guardare dietro le quinte di come funzionano i modelli di linguaggio di grandi dimensioni (LLM) è fondamentale per comprendere le loro prestazioni e limitazioni, e uno degli aspetti più critici è la gestione della memoria, che influisce direttamente sulla velocità di risposta e sulla capacità del modello di mantenere il contesto durante una conversazione. In questo articolo, esploreremo come Ollama, una piattaforma per l’esecuzione di LLM, gestisce la memoria e quali strategie utilizza per ottimizzare le prestazioni.

Nel contesto dei sistemi software moderni, la gestione efficiente delle operazioni di lettura e scrittura sui dati è fondamentale per garantire prestazioni ottimali e scalabilità. Uno dei pattern architetturali che affronta questa sfida è il CQRS (Command Query Responsibility Segregation).

Dopo aver esplorato i principi teorici del Confidential Computing, passiamo alla pratica.

Oggi parliamo di innovazione con Gianluigi Mucciolo, Principal Solution Architect in AWS, con una lunga esperienza nella progettazione di architetture software scalabili e affidabili, unendo competenze nel campo dell’intelligenza artificiale e del cloud computing.