7:07Hector AI dal vivo: dashboard, GPU e AI in produzione
Tour in video dell'infrastruttura AI di TN Solutions: dashboard Hector, monitoraggio GPU, traffico API, nodi a basso consumo e ambiente di produzione.
Trascrizione del parlato, rivista per la lettura (punteggiatura e termini tecnici corretti). Il tempo accanto a ogni titolo apre il video da quel punto.
È arrivato! Oggi ripristiniamo il nostro cluster Proxmox, che ha subito un problema tecnico. Ci siamo fatti mandare la macchina già equipaggiata con i processori: ora dobbiamo riassemblare il nostro ProLiant e reintegrarlo nel cluster. Andiamo in laboratorio.
Prendiamo tutte le parti funzionanti del nodo Proxmox collassato — collassato a livello fisico, di scheda madre — e le reinstalliamo su un nodo sano, ripristinando le varie configurazioni: memoria RAM, alimentazioni ridondate, sistemi di dissipazione termica. Per chi apprezza il dettaglio: è un ProLiant refurbished con qualche annetto, che con Proxmox dà ancora belle soddisfazioni.
Si parte dai sistemi di ventilazione, assicurandosi che le ventole siano inserite correttamente. Poi alimentatori, controller di rete e controller RAID — mi raccomando, allentate la vite dedicata prima di estrarlo. Stacchiamo i processori e li puliamo dalla pasta termica vecchia, per ottimizzare la dissipazione: è un'operazione molto delicata. Puliamo anche il dissipatore, rimontiamo il processore — attenzione alla posizione, evitate di dare colpi al socket — e stendiamo la pasta termica nuova. Infine le memorie RAM e gli elementi PCI Express.
Ora smontiamo tutta la parte storage e la rimontiamo sull'altro server, ripristinando la connessione SAS nella nuova posizione. Rimuoviamo tutti i dischi del precedente storage. Se avete dati a bordo, mantenete l'ordine dei dischi — anche se molto probabilmente l'array sarà compromesso e i dati non accessibili. Per questo, prima di un'attività del genere è fondamentale fare il backup e verificare che funzioni: altrimenti perdete tutto. Per collegare il connettore SAS dobbiamo rimuovere temporaneamente una ventola, poi ripristiniamo tutto e completiamo l'assemblaggio. A questo punto va verificato che il BIOS veda tutte le periferiche.
Adesso configuriamo lo storage in modo compatibile con Proxmox, con una scelta particolare: impostiamo i dischi in RAID 0 (passthrough), così l'intera gestione del file system è demandata a Proxmox attraverso Ceph e la gestione del cluster. Accediamo all'area di gestione del controller: il sistema vede la vecchia configurazione ma non riesce a gestirla, quindi cancelliamo i dischi e li reinizializziamo. Da interfaccia si usa «Wipe disk» sull'host — attenzione, distrugge tutti i dati — e va ripetuto per ogni unità installata.
Per alcune unità la rimozione da GUI non riesce: in quel caso si procede manualmente dalla shell di Proxmox. Cliccando su Shell si apre il terminale, si esegue il comando di pulizia sul disco e si ripete per tutte le unità.
Dopo il reload, i vecchi dischi risultano rimossi: passiamo alla sezione OSD e li ricreiamo uno a uno, selezionando il device e associandolo all'host. A questo punto i dischi si riallineano con Ceph: cliccando sull'icona di Ceph si vede lo stato di lavorazione, la velocità di trasferimento del recovery e le attività in corso. Quando l'indicatore torna verde, si può lavorare in sicurezza con i tre host in alta affidabilità su Proxmox.
Portiamo la macchina nel CED e ripristiniamo i tre nodi — di là c'è il «donatore» da cui abbiamo recuperato i pezzi. I nodi sono verdi e l'archivio si sta ricostruendo: qui ci sono tutte le statistiche, cosa sta facendo, da quante ore è in piedi, il transfer rate. Per il dettaglio delle attività della ricostruzione Ceph e del trasferimento dati tra i nodi si va nei log, in tempo reale. Con questo abbiamo concluso: cluster Proxmox ripristinato, alta affidabilità ripristinata.
7:07Tour in video dell'infrastruttura AI di TN Solutions: dashboard Hector, monitoraggio GPU, traffico API, nodi a basso consumo e ambiente di produzione.
6:42Un server di uno studio grafico non parte: diagnosi LED, alimentatore guasto, verifica dell'array RAID e ritorno in produzione. Il video con trascrizione.
8:12Un server arriva in laboratorio e non si accende: pulizia, RAM, dischi, alimentatori e riavvio dell'hypervisor. Il video completo con trascrizione.
3:20Un HP ProLiant ML350 con controller RAID danneggiato arriva in laboratorio: analisi, verdetto e quando serve la camera bianca. Video con trascrizione.
4:39Installare Ollama, scrivere un Modelfile e creare un assistente AI personalizzato basato su Llama 3.1: il tutorial video di TN Solutions con trascrizione.
11:49Da server dismesso a nodo Proxmox: installazione della VE 9, chiavetta USB con Rufus, configurazione di rete e primo accesso. Tutorial video con trascrizione.
Cos'è e come funziona Proxmox? Perché scegliere di utilizzare questa piattaforma? Ecco una breve guida per rispondere a tutte queste domande.
Come migrare da VMware a Proxmox senza fermo dei servizi: prerequisiti, conversione dischi, cutover e collaudo. Guida pratica per PMI, partner ISO 27001.
Backup e disaster recovery: differenze, RTO e RPO, regola 3-2-1 e piano di continuità. La guida per PMI, con il link al servizio gestito se vuoi delegare.