OpenAI ha annunciato il fine tuning per GPT 3.5, il modello AI della versione gratuita di ChatGPT.
Fine tuning non significa chiusura di Chat GPT gratuita, ma l’inizio di una nuova fase di addestramento della rete neurale pre-addestrata, quindi che ha già ricevuto delle istruzioni e quindi capace di operare in numerosi ambiti e con numerosi comandi.
Nello specifico, la nuova versione di ChatGPT 3.5 riceverà un altro data set, più piccolo e specifico. Si legge che viene raffinata così la sua capacità di azione applicativa.
Infatti, quello che gli utenti potranno fare sarà creare chat virtuali e assistenti personalizzati anche utilizzando dati propri, documentazione aziendale e anche progetti, questo perché verranno inserite delle nuove e apposite API.
La comunicazione ufficiale
Dal rilascio di GPT 3.5 Turbo, sviluppatori e aziende hanno chiesto la possibilità di personalizzare il modello per creare esperienze uniche e differenziate per i propri utenti. Con questo lancio, gli sviluppatori possono ora eseguire ottimizzazioni supervisionate per migliorare le prestazioni di questo modello per i loro casi d’uso.
Nella nostra beta privata, i clienti che hanno perfezionato l’ottimizzazione sono stati in grado di migliorare significativamente le prestazioni del modello in casi d’uso comuni, come: miglior indirizzabilità, formattazione affidabile dell’output, tono personalizzato.
Oltre a migliorare le prestazioni, la messa a punto consente alle aziende anche di abbreviare le richieste garantendo prestazioni simili. La messa a punto con GPT-3.5-Turbo può anche gestire token 4k: il doppio dei nostri precedenti modelli ottimizzati. I primi tester hanno ridotto le dimensioni dei prompt fino al 90% perfezionando le istruzioni nel modello stesso, accelerando ogni chiamata API e riducendo i costi.
I costi
Le nuove possibilità AI in arrivo con il fine tuning per GPT 3.5 ha dei costi, ciò non coincide con la fine di ChatGPT nella versione gratuita.
Open AI informa che i costi di ottimizzazione sono suddivisi in due categorie, di formazione iniziale e utilizzo con il seguente schema:
- Formazione: $ 0,008 / 1.000 token
- Input di utilizzo: $ 0,012/1.000 token
- Output di utilizzo: $ 0,016/1.000 token
