NuovoCasaOS per Windows 0.4.15 è disponibile

Modelli Piccoli
Per Problemi Precisi

Costruiamo piccoli modelli di intelligenza artificiale, ognuno addestrato per un compito solo, e il software che li fa girare sul tuo computer invece che sul server di qualcun altro.

Il nostro approccio

Un Modello Per Ogni Problema

I modelli generalisti sanno fare un po' di tutto, ma sono grandi, lenti e spesso vogliono i tuoi dati su un server. Noi facciamo il contrario: partiamo da un problema preciso e costruiamo il modello più piccolo che lo risolve bene.

Memoria video usata2,8 GB
0GPU da 4 GB
NF4 a 4 bit oppure solo CPU

Piccolo. Spark-Decide sta in una scheda video da 4 GB, Omissis gira anche solo sul processore.

RISPOSTAschema fisso
{ "ruolo_consigliato": { "answer": "backend_lead", "confidence": 0.9875 } }

Specifico. Fa una cosa sola, nel formato che decidi tu: niente chiavi inventate, niente risposte fuori schema.

92%
Confidenza92,4%
Entropia0,44 bit
Margine0,86

Misurabile. Ogni risposta arriva con le sue probabilità: sai quando fidarti e quando far controllare a una persona.

Stessa GPU, Stesse Domande

Spark-Decide contro il modello da cui parte, Rizzo Flow, su sei scenari: sicurezza informatica, contratti, triage sanitario, Snake, rischio di credito e sentiment.

6,25×

Spark-DecideUn solo passaggio, nessun testo generato

1,92 s0 token

Rizzo FlowScrive la risposta token per token

11,99 s390 token

Più di sei volte più veloce del modello di partenza. Media dei sei scenari su una NVIDIA GTX 1650 da 4 GB con quantizzazione NF4, dal benchmark pubblicato nel repository.

I nostri progetti

Tre Problemi, Tre Risposte

Tutti i repository

Spark-Decide

LLM decisionale · Python

Decisioni In Un Solo Passaggio

Gli dai un contesto, in testo libero o in JSON, e un elenco di domande: sì o no, scelta multipla, punteggio. Invece di scrivere la risposta parola per parola, Spark-Decide le valuta tutte insieme in un solo passaggio del modello e restituisce la risposta, la probabilità di ogni opzione e quanto è sicuro.

  • Zero token generati. Le chiavi della risposta vengono dallo schema che scrivi tu, quindi non può inventarne.
  • Confidenza calibrata. Probabilità, entropia e margine per capire quando serve una persona.
  • Gira su una GPU da 4 GB. Circa 2,8 GB di memoria video a 4 bit, oppure sul processore.
  • Studio e API. Un'interfaccia web per costruire le domande, più un'API REST e una funzione Python.
Rizzo Flow 4B LoRA + DecisionHead PyTorch FastAPI

Basato sul modello Rizzo Flow di Rizzo AI Academy. Gira su Windows 10 e 11 a 64 bit o su Linux; il launcher grafico è per Windows.

STATE

Senior backend engineer con 7 anni di esperienza. Lavora ogni giorno con Python, FastAPI, Docker e PostgreSQL. Ha coordinato un team di 4 persone. Nessuna esperienza su iOS o Android.

esperienza_pythonsì / no
true
99,1%
false
0,9%
ruolo_consigliatoscelta
backend_lead
98,8%
frontend_ui
0,8%
mobile_dev
0,4%
senioritypunteggio
senior / lead
92,4%
mid
6,4%
junior
1,2%
0 token generati 1 passaggio ~2,8 GB di VRAM

Omissis

Modello per la privacy · Python

N.1Il miglior modello PII italiano al momento

I Dati Personali Restano A Casa

Prima di incollare un contratto, una mail o un atto in ChatGPT, Claude o Gemini, Omissis trova i dati personali e li sostituisce con segnaposto come [FIRSTNAME_1] o [IBAN_1]. Quando incolli la risposta, rimette ogni dato al suo posto.

  • Doppio controllo. Un modello neurale per il testo libero, più regole con verifica del checksum per codice fiscale, IBAN, partita IVA e carte.
  • 49 tipi di dato personale. Nomi, indirizzi, contatti, dati bancari, credenziali, indirizzi IP e altro.
  • Reversibile e coerente. La stessa persona riceve sempre lo stesso segnaposto, e il ripristino regge anche se il chatbot cambia spazi e maiuscole.
  • Solo sul tuo computer. Il server ascolta soltanto su 127.0.0.1 e non carica nulla da internet.
DistilBERT multilingue ~135 M parametri F1 0,98 in italiano Solo CPU

Il modello può lasciarsi sfuggire circa il 2% dei dati personali, di più su testi insoliti: rileggi sempre il testo prima di inviarlo.

127.0.0.1 · in locale

Gentile avvocato, le scrivo per conto di Mario Rossi, codice fiscale RSSMRA80A01H501U, residente in via Garibaldi 12 a Torino. Il rimborso va accreditato sull'IBAN IT60X0542811101000000123456. Mario risponde anche a mario.rossi@example.com.

  1. Rilevaregole e modello neurale
  2. Sostituisceun segnaposto per dato
  3. Chiedi al chatbotsenza dati veri
  4. Ripristinadal dizionario locale

CasaOS per Windows

Software · Go

Il Tuo Cloud Personale, A Un Pulsante

CasaOS è una dashboard semplice per avere un cloud in casa: file, app e dischi in una sola pagina del browser. Ufficialmente gira solo su Linux. Il nostro porting lo porta su Windows come un programma normale: lo installi, premi Avvia server e apri la dashboard. Premi Ferma e non resta nulla in esecuzione.

  • Nativo. I sei servizi di CasaOS sono veri programmi Windows, senza WSL né macchine virtuali.
  • Acceso solo quando vuoi. Nessun servizio di sistema e nessun avvio automatico: da spento non consuma nulla.
  • Si installa come tutti i programmi. Una procedura guidata, senza terminale e senza permessi di amministratore.
  • Tutto il tuo PC. I dischi C:, D: e gli altri nel file manager; le app del catalogo arrivano tramite Docker Desktop.
Go Windows 10 e 11, 64 bit Apache 2.0 Dashboard originale

Porting non ufficiale, senza legami con IceWhale Technology. L'installazione delle app tramite Docker non è ancora stata provata fino in fondo.

La dashboard di CasaOS in esecuzione su Windows, con CPU, memoria, dischi e rete in tempo reale
La finestra del launcher con il server acceso, i link alla dashboard e il pulsante per fermarlo
~4 sper accendersi
< 1 sper spegnersi
0processi da spento

I nostri principi

Sul Tuo Computer, Non Nel Cloud

Un modello piccolo non è solo più economico: può stare dove stanno i tuoi dati. Per questo quello che costruiamo gira in locale.

127.0.0.1

Locale per scelta

Omissis risponde solo dal tuo computer: nessun altro dispositivo della rete può raggiungerlo, e durante l'analisi nessun dato esce dalla macchina.

2,8 GB

Leggero per davvero

È la memoria video che usa Spark-Decide. Omissis non chiede nemmeno una scheda video: circa 21 millisecondi per frase sul processore.

0 processi

Spento vuol dire spento

Quando fermi CasaOS per Windows non resta niente in esecuzione: nessun servizio di sistema, nessuna attività pianificata.

Il codice è pubblico: puoi leggerlo, compilarlo e verificare ogni numero. Vai su GitHub

Come lavoriamo

Dal Problema Al Programma

Quattro passi, sempre gli stessi. Alla fine c'è qualcosa che si installa e si usa, non soltanto un file di pesi.

  1. 01

    Un problema solo

    Uno che si descrive in una frase: togliere i dati personali da un testo, scegliere fra opzioni partendo da un contesto, accendere un server con un clic.

  2. 02

    Il modello più piccolo che basta

    Partiamo da un modello aperto e lo adattiamo con poco: un adattatore LoRA, una testa dedicata, regole deterministiche dove la matematica fa meglio di una rete neurale.

  3. 03

    Si misura tutto

    Precisione, velocità, memoria e confronto con il modello di partenza. I numeri finiscono nel README, limiti compresi.

  4. 04

    Si consegna un programma

    Un installer, un pulsante, una pagina nel browser. Il terminale resta una possibilità, non un requisito.

In breve

Specifiche A Confronto

I numeri vengono dai README dei progetti e sono misurati sull'hardware indicato.

Caratteristica Spark-Decide Omissis CasaOS per Windows
Cosa fa Risponde a domande strutturate partendo da un contesto Trova e sostituisce i dati personali nei testi in italiano Porta il cloud personale CasaOS su Windows
Tipo LLM specializzatoadattatore LoRA e DecisionHead Classificazione dei tokenpiù regole con checksum Software desktoplauncher nativo e sei servizi
Base Rizzo Flow 4Bquantizzato NF4 a 4 bit DistilBERT multilinguecirca 135 milioni di parametri CasaOS di IceWhaledashboard originale, non modificata
Hardware GPU NVIDIA da 4 GBoppure CPU quad-core e 8 GB di RAM Solo CPUPython da 3.10 a 3.13 Windows 10 (1809+) o 1164 bit; Docker Desktop per le app
Velocità ~1,9 s per gruppo di domandemedia di sei scenari su GTX 1650 ~21 ms per fraseF1 0,98 sull'italiano Avvio in ~4 sarresto in meno di un secondo
Interfaccia Studio web e API REST127.0.0.1:7860 Pagina web locale127.0.0.1:8000 Launcher e dashboardnel browser
Linguaggio Python Python Go

Lavoriamo insieme

Hai Un Problema Preciso?

Se un compito si ripete, ha regole chiare e non vuoi affidare i tuoi dati a qualcun altro, probabilmente si può risolvere con un modello piccolo. Raccontacelo.