IA Local: Modelos Open Source com Ollama e LM Studio
ATIA400
A execução local de modelos garante privacidade e confidencialidade dos dados, reduz custos e permite funcionamento offline — uma alternativa de valor para contextos empresariais com requisitos de segurança da informação.
• Compreender o que são modelos de IA locais (open source) e as suas vantagens face aos serviços cloud.
• Instalar e configurar o Ollama e o LM Studio em Windows, macOS e Linux.
• Descarregar, executar, atualizar e remover modelos, escolhendo o adequado ao hardware disponível.
• Conhecer os modelos mais usados — Llama 3, Qwen 3 8B, Mistral, Gemma, Phi e DeepSeek-R1 — e os conceitos de parâmetros e quantização (GGUF).
• Utilizar modelos locais em tarefas práticas: chat, resumos, tradução e análise de documentos.
• Integrar modelos locais com outras aplicações através da API local compatível com OpenAI.
• Aplicar boas práticas de privacidade e segurança na utilização de IA local.
Requisitos técnicos (BYOD): cada participante utiliza o seu próprio computador portátil (Windows 10/11, macOS ou Linux) com, pelo menos, 8 GB de RAM (recomendado: 16 GB), cerca de 20 GB de espaço livre em disco, permissões de administrador e ligação estável à internet para descarga dos modelos. GPU dedicada não é obrigatória — quando existe, o fator determinante é a memória da placa gráfica (VRAM), recomendando-se 8 GB para modelos de 7–8 mil milhões de parâmetros; nos Mac com Apple Silicon a memória é unificada. Todo o software utilizado é gratuito e open source — não são necessárias licenças.
(não existem exames)
Módulo 1 – Introdução aos Modelos de IA Locais
O que são modelos open source locais e em que diferem dos serviços cloud (ChatGPT, Copilot, Gemini, Claude).
Vantagens: privacidade, confidencialidade, custos e funcionamento offline.
Conceitos essenciais: parâmetros, quantização e formato GGUF.
Requisitos de hardware e escolha do modelo adequado: CPU, GPU, RAM e memória da placa gráfica (VRAM).
Módulo 2 – Instalação e Gestão de Modelos com Ollama e LM Studio
Instalação do Ollama em Windows, macOS e Linux.
Comandos essenciais: pull, run, list, ps e rm.
Instalação e utilização do LM Studio (interface gráfica).
Onde encontrar modelos: biblioteca do Ollama e Hugging Face.
Módulo 3 – Os Modelos Mais Usados na Prática
Llama 3 (Meta): o modelo generalista de referência.
Qwen 3 8B (Alibaba): eficiência e desempenho multilingue.
Mistral (Mistral AI) e Gemma (Google): equilíbrio entre dimensão e qualidade.
Phi (Microsoft) e DeepSeek-R1: modelos compactos e de raciocínio.
Comparação prática: qualidade, velocidade e consumo de recursos.
Exercícios: chat, resumos, tradução e análise de texto em português.
Módulo 4 – Utilização Avançada e Integração
Interfaces gráficas: Open WebUI e alternativas.
API local compatível com OpenAI: integração com aplicações e scripts.
Personalização de comportamento com Modelfiles e system prompts.
Interrogar documentos locais (RAG básico) com LM Studio ou AnythingLLM.
Boas práticas de segurança e privacidade; casos de uso empresariais.
Módulo 5 – Laboratório Prático: Assistente de IA Local
Montagem completa de um ambiente de IA local no computador de cada participante.
Escolha e descarga do modelo adequado ao hardware disponível.
Construção de um assistente privado com acesso a documentos internos.
Aplicação a uma tarefa real do dia a dia de cada participante.
Resolução de problemas comuns e otimização de desempenho.