Infrastruttura AI
Open Weights (pesi aperti)
- Definizione
- Per open weights si intendono modelli IA i cui parametri addestrati sono scaricabili ed eseguibili direttamente sulla propria infrastruttura — a differenza dei modelli disponibili solo via API. Licenze tipiche sono MIT o Apache 2.0; DeepSeek, ad esempio, fornisce i suoi modelli Flash come open weights con licenza MIT. Vantaggi: pieno controllo dei costi per token, nessun vendor lock-in, fine-tuning proprio e hosting on-premise o cloud privato. Compromessi: gestione di GPU, manutenzione e valutazione restano a carico del team. Per gli stack agentici gli open weights contano perché combinano inferenza locale deterministica e alta produttività (400+ token al secondo in base all'hardware). In sintesi: un artefatto di modello con licenza, integrato come una libreria e self-hostato — con tutti i diritti e i doveri connessi.
- Categoria
- Infrastruttura AI
- Termini correlati
- Token al Secondo (TPS)Instradamento del ModelloInferenza Batch
Guardrail pronti per la produzione