Mistral: La Startup Francese che Rivoluziona l'IA Generativa per Dispositivi Edge

By UpGRD.it , 16/10/2024

Mistral: Innovazione nell'IA Generativa

La startup francese Mistral ha lanciato i suoi primi modelli di intelligenza artificiale generativa, progettati per essere utilizzati su dispositivi edge come laptop e smartphone.

I Nuovi Modelli: Les Ministraux

Questa nuova famiglia di modelli, denominata Les Ministraux, è versatile e può essere adattata per una vasta gamma di applicazioni, dalla generazione di testi di base alla collaborazione con modelli più avanzati per completare compiti specifici.

Modelli Disponibili

Attualmente, sono disponibili due modelli di Les Ministraux:

Ministral 3B
Ministral 8B

Entrambi i modelli vantano una finestra di contesto di 128.000 token, equivalente alla lunghezza di un libro di circa 50 pagine.

Richieste dei Clienti

Mistral ha dichiarato in un post sul blog che i suoi clienti più innovativi hanno richiesto sempre più spesso un'inferenza locale e rispettosa della privacy per applicazioni critiche, come traduzioni su dispositivo, assistenti intelligenti senza connessione a Internet, analisi locali e robotica autonoma. Les Ministraux sono stati sviluppati per offrire una soluzione efficiente in termini di calcolo e a bassa latenza per tali scenari.

Disponibilità e Costi

Il modello Ministral 8B è disponibile per il download a partire da oggi, ma solo per scopi di ricerca. Mistral richiede a sviluppatori e aziende interessate a implementazioni commerciali di contattarla per ottenere una licenza. In alternativa, i modelli Ministral 3B e Ministral 8B possono essere utilizzati tramite la piattaforma cloud di Mistral, Le Platforme, e altre piattaforme cloud partner nei prossimi mesi.

Ministral 8B: 0,10 € per milione di token in input/output (~750.000 parole)
Ministral 3B: 0,04 € per milione di token in input/output

Tendenze nel Settore

Negli ultimi tempi, si è assistito a una crescente preferenza per modelli più piccoli, che risultano più economici e rapidi da addestrare e ottimizzare rispetto ai modelli più grandi. Google continua a espandere la sua famiglia di modelli Gemma, mentre Microsoft offre la collezione di modelli Phi. Meta ha recentemente introdotto diversi modelli ottimizzati per hardware edge nella sua suite Llama.

Performance e Confronto

Mistral sostiene che i modelli Ministral 3B e Ministral 8B superano i modelli comparabili di Llama e Gemma, oltre al proprio Mistral 7B, in vari benchmark di intelligenza artificiale progettati per valutare la capacità di seguire istruzioni e risolvere problemi.

Espansione e Innovazione

Con sede a Parigi, Mistral ha recentemente raccolto 640 milioni di euro in capitale di rischio e continua ad ampliare gradualmente il proprio portafoglio di prodotti IA. Negli ultimi mesi, l'azienda ha lanciato un servizio gratuito per sviluppatori per testare i propri modelli, un SDK per consentire ai clienti di ottimizzare questi modelli e nuovi modelli, tra cui un generatore di codice chiamato Codestral.

Co-fondata da ex membri di Meta e DeepMind di Google, la missione dichiarata di Mistral è quella di creare modelli di punta che possano competere con i migliori modelli attuali, come GPT-4 di OpenAI e Claude di Anthropic, cercando di generare profitto nel processo. Sebbene la parte relativa al profitto si stia rivelando una sfida (come per la maggior parte delle startup di IA generativa), Mistral ha iniziato a generare entrate durante l'estate scorsa.

FAQ

Cosa sono i modelli Les Ministraux di Mistral?

Les Ministraux è una nuova famiglia di modelli di intelligenza artificiale generativa lanciata da Mistral, progettata per essere versatile e adattabile a diverse applicazioni, dalla generazione di testi alla collaborazione con modelli più avanzati.

Quali modelli sono disponibili nella famiglia Les Ministraux?

Attualmente, sono disponibili due modelli: Ministral 3B e Ministral 8B.

Qual è la finestra di contesto dei modelli Ministral?

Entrambi i modelli, Ministral 3B e 8B, vantano una finestra di contesto di 128.000 token, equivalente alla lunghezza di un libro di circa 50 pagine.

Quali sono le principali richieste dei clienti per i modelli di Mistral?

I clienti hanno richiesto inferenza locale e rispettosa della privacy per applicazioni critiche, come traduzioni su dispositivo, assistenti intelligenti offline, analisi locali e robotica autonoma.

Come posso accedere ai modelli Ministral?

Il modello Ministral 8B è disponibile per il download solo per scopi di ricerca, mentre i modelli possono essere utilizzati tramite la piattaforma cloud di Mistral, Le Platforme, e altre piattaforme cloud partner nei prossimi mesi.

Quali sono i costi associati all'uso dei modelli Ministral?

Il costo per l'uso del modello Ministral 8B è di 0,10 € per milione di token in input/output, mentre per il modello Ministral 3B è di 0,04 € per milione di token.

Quali sono le tendenze attuali nel settore dell'IA generativa?

C'è una crescente preferenza per modelli più piccoli, che sono più economici e rapidi da addestrare rispetto ai modelli più grandi. Aziende come Google e Microsoft stanno espandendo le loro famiglie di modelli, come Gemma e Phi.

Come si confrontano i modelli Ministral con quelli di altre aziende?

Mistral sostiene che i modelli Ministral 3B e 8B superano modelli comparabili di Llama e Gemma, oltre al proprio Mistral 7B, in vari benchmark di intelligenza artificiale.

Qual è la missione di Mistral?

La missione di Mistral è quella di creare modelli di punta che possano competere con i migliori modelli attuali, come GPT-4 di OpenAI e Claude di Anthropic, cercando di generare profitto nel processo.

Quali recenti sviluppi ha fatto Mistral?

Mistral ha recentemente raccolto 640 milioni di euro in capitale di rischio, ha lanciato un servizio gratuito per sviluppatori, un SDK per ottimizzare i modelli e un nuovo generatore di codice chiamato Codestral.