Lo ammetto, io odio le “scartoffie” e credo che molti di voi saranno dello stesso avviso. Tuttavia, dobbiamo conviverci: contratti, fatture, bollette e documenti di ogni tipo fanno parte della vita reale.
Di sicuro qui l’AI può venirci incontro: i documenti sono essenzialmente testo e gli LLM sono piuttosto abili nel trattamento del testo. Lo saranno anche i modelli locali? Lo scopriremo presto.
Il software perfetto, come l’hardware perfetto, non esiste: dipende da cosa si vuole ottenere.
Privilegio stabilità e affidabilità e uso sempre software open-source o, nel caso degli LLM, modelli open-weights. Nell’AI tutto cambia a velocità vertiginosa: inseguire ogni novità è impossibile e anche poco utile, ma capita spesso di dover provare una nuova versione di qualcosa o di toccare un parametro delicato. Basta un niente e si rompe tutto, irrimediabilmente. Senza una rete di sicurezza robusta, il PC resta fuori uso finché non si trova il tempo per sistemarlo.
Come tutti gli informatici o gli appassionati di questa materia, ho accumulato nel tempo un numero impressionante di componenti come CPU, memorie, dischi, case, alimentatori e schede di ogni tipo.
Tutto ciò che ha più di 10 anni viene considerato obsoleto, tuttavia, questi componenti sono ancora perfettamente funzionanti e in grado di far girare quasi qualunque cosa dignitosamente. Vale anche per i modelli AI? Decisamente no!
Ma c’è una scappatoia: quello che serve è la GPU, l’LLM gira esclusivamente lì. Il resto della macchina non ha bisogno di chissà quale sofisticazione.