É possível rodar um chatbot de inteligëncia artificial localmente usando sua placa de vídeo NVIDIA RTX
by Renato Monteiro Batista
A NVIDIA lançou Chat with RTX
Já é possível ter um chatbot com Inteligência Artificial sendo executado localmente, no próprio computador PC, usando uma placa de video da NVIDIA da linha RTX.
Esse chatbot tem capacidade de fazer resumos de documentos ou mesmo playlists de videos no youtube. E, por rodar localmente não precisa de conexão à internet para funcionar, assim como os seus dados permanecem privados sem necessidade de upload.
O software ainda está na versão demo e o arquivo de instalação tem 35 GB, mas é uma ótima iniciativa para democratizar o acesso às tecnologias de Inteligência Artificial.
Para mais informações e download acesse a página oficial do NVIDIA Chat with RTX
Uma demonstração do funcionamento pode ser vista no vídeo Create A Personalized AI Chatbot with Chat With RTX no canal NVIDIA Geforce no youtube.
tags: nvidia - chatbot - ai - inteligencia-artificial - deep-learning - machine-learning - chat with RTX - RTX - large language model - LLM - retrieval-augmented generation - RAG - TensorRT-LLM - download