Home / Labs / Sistemi

I sistemi dietro i Labs

Uno sguardo ad alto livello su ciò che fa girare la nostra IA privata, senza i dettagli tecnici che non ti servono.

In breve
  • La tua IA gira su hardware dedicato riservato a te, non su un servizio condiviso.
  • I modelli sono privati e scelti per il compito. I tuoi documenti non li addestrano mai.
  • Le tue sedi la raggiungono con collegamenti privati e cifrati.
  • Proviamo nei Labs hardware più recente, economico e leggero, e ti diciamo con chiarezza cosa è pronto.

In breve

Quando fai una domanda sui tuoi documenti, un modello deve leggere la domanda e le carte rilevanti e scrivere una risposta. Servono molti calcoli, eseguiti da chip specializzati. Questa pagina spiega in parole semplici cosa sono quei chip, come li usiamo e cosa stiamo ancora provando.

La tua domandaRicerca e regole di accessoModello privato su hardware dedicatoI tuoi documenti, dove sono già
Ogni livello ha un compito. Solo il terzo richiede chip specializzati.

I tipi di chip dietro l'IA

I chip non sono tutti uguali. Ecco le famiglie di cui si parla, in termini semplici, e a che punto siamo con ciascuna.

Schede video (GPU)Il tuttofare dell'IA: veloci, flessibili e ben supportate. Potenti, ma costose e molto energivore.
A che punto siamoIn uso oggi
FPGAChip che si possono riprogrammare per adattarli a un certo modello. Potenzialmente più economici da usare e molto più leggeri a livello di energia.
A che punto siamoIn prova
ASICChip costruiti per un solo compito. Molto efficienti, ma poco flessibili.
A che punto siamoIn valutazione
Piccoli acceleratori di IA (TPU / NPU periferici)Moduli compatti e a basso consumo che si innestano in piccoli computer come un Raspberry Pi e li trasformano in piccole macchine neurali.
A che punto siamoPrototipo
Perché non pubblichiamo un elenco di componenti.Il chip giusto dipende dal lavoro, e il mercato cambia ogni pochi mesi. Per te conta il risultato: risposte rapide, privacy fin dall'inizio.

Modelli privati

Il modello è la parte che capisce la tua domanda e scrive la risposta. Usiamo modelli privati, riservati a ciascun cliente, e adattiamo la dimensione al compito:

  • Un modello piccolo e veloce, sempre pronto per le domande e le ricerche di tutti i giorni.
  • Un modello più grande, che avviamo quando un lavoro più difficile lo richiede, come riassumere un contratto lungo.

I tuoi documenti servono per risponderti. Non servono mai ad addestrare un modello.

I tuoi file restano nei tuoi sistemi. Ogni sede si collega all'IA con un collegamento privato e cifrato, e l'IA costruisce un indice in cui può cercare. Le regole di accesso stanno davanti a tutto, così una persona ottiene risultati solo dai file che potrebbe già aprire.

Una piccola scatola in ufficio

Uno dei nostri esperimenti è un piccolo computer a basso consumo in ufficio. Collega la rete dell'ufficio all'IA privata e rende veloci le ricerche più frequenti. È ancora un prototipo, e puoi seguirne i progressi nella pagina dei Labs.

Cosa puoi chiederci

Se ti servono più dettagli per una verifica di sicurezza o una valutazione sulla protezione dei dati, chiedi. Siamo felici di spiegare come è configurata la tua installazione, dove gira e chi può raggiungerla, con un accordo di riservatezza quando è opportuno.

Il passo successivoCurioso di come sarebbe per le tue sedi? Parliamone.
S

Softbee Labs. Sviluppiamo software e IA privata per le piccole e medie imprese, e scriviamo quello che impariamo strada facendo. Scopri l'IA privata.