Aggiornamento 02/08: grazie ad nuovo aggiornamento, NVIDIA ChatRTX guadagna un’interfaccia personalizzabile e l’integrazione con nuovi modelli AI. Trovate tutti i dettagli all’interno dell’articolo.
Tutte le grandi aziende tech hanno lanciato in questi mesi nuovi chatbot con intelligenza artificiale, ma all’appello è sempre mancata chi questa AI la rende possibile con i suoi chip: NVIDIA. Il colosso statunitense, tuttavia, ha deciso di ovviare a questa situazione proponendo agli appassionati di GPT un’app che permette di avere un chatbot completamente personalizzato direttamente sul proprio PC, senza la necessità di collegarsi ad internet.
Anche NVIDIA ha il suo chatbot, ma niente internet: funziona tutto in locale
Chat with RTX è una demo tecnica che consente di creare un modello LLM (Large Language Model) GPT personalizzato collegato ai propri contenuti: documenti, note, video o altri dati. Con la tecnologia RAG (generazione di recupero aumentata), il modello TensorRT-LLM e l’accelerazione RTX, gli utenti possono conversare con un chatbot personalizzato per ottenere velocemente risposte pertinenti: il tutto, inoltre, viene eseguito localmente sul proprio PC Windows con GPU RTX (serie 30 o 40 con almeno 8 GB di VRAM), quindi i risultati sono rapidi e sicuri.
Questo progetto di NVIDIA può leggere i file pdf, doc e xml, oltre a poter consultare facilmente anche YouTube: inserendo un URL di una playlist, l’applicazione caricherà automaticamente le trascrizioni dei video, consentendo agli utenti di interpellare il chatbot per conoscere i contenuti trattati nei filmati. Grazie all’integrazione di CLIP, inoltre, questa AI è in grado di cercare le immagini presenti sul PC fornendo soltanto una semplice descrizione.
Chat with RTX è disponibile per tutti tramite il sito ufficiale, ma prima di effettuare il download e la lunga installazione, assicuratevi di rispettare i requisiti minimi per l’utilizzo dell’intelligenza artificiale in locale.
Aggiornamento 02/08: nuova UI e nuovi modelli per ChatRTX
In questi giorni NVIDIA ha rilasciato un nuovo aggiornamento per ChatRTX (conosciuto anche come Chat with RTX) che permette finalmente di personalizzare l’interfaccia grafica ed estendere le capacità del bot. Sviluppata con Electron e Material UI, questa nuova interfaccia consente agli sviluppatori (ma anche ai comuni utenti) di creare nuove sezioni per l’app, personalizzandone la parte grafica.
Con il nuovo aggiornamento arrivano anche altri modelli LLM ad impreziosire l’esperienza d’uso del chatbot in locale: da oggi, infatti, gli utenti di ChatRTX possono utilizzare anche il nuovo Llama 3.1-8B ottimizzato proprio per le GPU NVIDIA GeForce RTX e le workstation NVIDIA RTX.
Sai che siamo anche su WhatsApp? Iscriviti subito ai canali di GizChina.it e GizDeals per restare sempre informato sulle notizie del momento e sulle migliori offerte del web!
⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.
