Eu sempre quis testar Inteligência Artificial diretamente no meu computador, para poder realmente brincar com as coisas, testar, errar, remover, recomeçar tudo de novo. Fui pesquisar como fazer e descobri que é super fácil.
Mas há um porém, se você quiser uma inteligência artificial que responda de forma rápida, será necessário ter um computador que atenda aos requisitos, não precisa ser muito caro não, desde que tenha uma placa de vídeo, já terá condições de rodar linguagens complexas.
A Nvidia entrou em contato comigo perguntando se eu tinha interesse em testar IA usando uma placa de vídeo deles, então enviaram um notebook com uma RTX 4060, para notebook mesmo.
Seria basicamente um computador, mais potente é verdade, que você compraria para trabalhar em gráficos ou mesmo para jogos. Esse PC suporta responder aos testes de IA de forma super rápida.
Como instalar Inteligência Artificial no seu computador de graça?
Mas vamos lá, como fazer para instalar Inteligência Artificial no seu computador e de graça? Existe um software chamado LM Studio, que permite você baixar linguagens e construir seu próprio ChatGPT de graça.
A Meta desenvolveu a Llama, uma linguagem de IA gratuita que está se difundindo pelo meio tech, até houve certa surpresa por parte da comunidade em saber que a linguagem seria oferecida pela Meta de forma grátis. Abaixo eu ensino como é o passo a passo para você instalar no seu computador.
Como instalar um ChatGPT (Llama) no PC
Tempo necessário: 5 minutos
Aprenda a instalar um ChatGPT direto no seu PC de graça, usando a linguagem Llama, fornecida de forma gratuita pela Meta.
Primeiro passo é baixar o LM Studio, um software grátis que vai permitir instalar as LLMs de forma simples, sem necessidade de você saber programar ou algo do tipo. Para instalar, acesse a página oficial do projeto: https://lmstudio.ai/download
Baixe para seu computador, tem versão para Windows, para Mac e para Linux.
Passo 3 é fazer a instalação do LM Studio, execute o instalador, ele vai retornar essa tela.
Agora aperte no botao Load Model para carregar a versão mais recente da Llama. O próprio LM Studio vai fornecer uma versão, mas você pode usar a pesquisa para encontrar uma mais recente ou a versão que você quiser.
Eu escolhi a versão 3.2 com 3B de instruções, ainda o modelo com 3.42GB, não tão pesado, mas também não tão simples.
Espere o Download completar. Então aperte no botão Load Model, para carregar o modelo baixado.
Pronto, agora você já tem oportunidade de gerar seu primeiro prompt usando o Llama 3.2 no seu computador.
O resultado foi os ingredientes e instruções de como fazer o bolo.
Fazendo testes
Agora que está instalado a gente pode brincar de testar as coisas. Por exemplo, eu pedi para o chat buscar uma página do Oficina da Net na internet, a página fala sobre o Eclispe Solar que deve acontecer hoje, no prompt eu pedi para acessar a página e resumir o que a matéria informa.
Como resultado ele me trouxe o resumo e até calculou quantos tokens (palavras) ele respondeu por segundo:
Essa velocidade é o que mencionei antes, conforme for a capacidade do seu computador de gerar respostas, será a velocidade que o Chat vai conseguir retornar. Para você ter ideia, o uso da GPU do notebook foi praticamente em 100%, o que é muito legal de ver. Mostrou que realmente as interfaces de inteligência artificial usam a placa de vídeo para calcular as possibilidades e responder as perguntas.
NVidia e IA
Para quem conhece a NVidia como conhecia, sendo a marca produtora de placas de vídeo para games, pode estar mudando de ideia, agora a NVidia se posiciona muito mais para fornecer hardware e software para produção de inteligência artificial.
Eu pedi para o chat resumir para você como que a Nvidia se tornou uma empresa de 1T de dólares, e o que a inteligência artificial contribuiu para isso:
A resposta foi:
E aí, está pronto para usar IA no seu PC? Eu estou!
😕 Poxa, o que podemos melhorar?
😃 Boa, seu feedback foi enviado!
✋ Você já nos enviou um feedback para este texto.
