A adoção de Inteligência Artificial Generativa (GenAI) nas empresas tem avançado mais depressa do que a compreensão de como funciona e do que implica utilizá-la de forma responsável. Antes de qualquer decisão sobre adoção, vale a pena perceber o que acontece “por dentro” da tecnologia e onde começam, de facto, as responsabilidades de quem a usa.
O que está realmente por trás de um assistente de IA
Qualquer assistente ou chatbot empresarial assenta num modelo de linguagem (LLM, do inglês Large Language Model), treinado em enormes volumes de texto para prever, com base em padrões estatísticos, a sequência mais provável de palavras a seguir a um determinado input. A interface que o utilizador vê, seja um chat, um copiloto integrado numa aplicação ou uma janela de pesquisa, é apenas a camada visível. O que determina o nível de controlo real sobre os dados não é essa interface, mas sim onde o modelo corre, sob que contrato foi implementado e com que configuração de segurança.
Duas empresas podem usar exatamente o mesmo modelo de IA e ter níveis de proteção de dados completamente diferentes, consoante o plano contratado, as definições de retenção aplicadas e se os dados introduzidos são ou não usados para retreinar modelos futuros. É por isso que a pergunta relevante não é “que modelo estamos a usar”, mas sim “sob que condições contratuais e técnicas esse modelo está a correr”.
Para as organizações, esta distinção é particularmente importante porque muitas das preocupações associadas à IA não estão relacionadas com a capacidade do modelo, mas com governação, conformidade, segurança e controlo sobre a informação processada.
Tokens e janela de contexto: os limites que ninguém vê
O texto que introduzimos numa ferramenta de IA não é lido de forma contínua, mas sim fragmentado em tokens: às vezes uma palavra inteira, outras vezes apenas parte dela, ou até um único sinal de pontuação. Isto tem impacto direto em três aspetos operacionais: custo, já que a maioria dos modelos cobra por tokens processados, tanto os que entram como os que saem; limites de cada interação, já que cada modelo tem uma janela de contexto máxima, ou seja, uma quantidade limitada de informação que consegue “ter em conta” numa única conversa; e velocidade de resposta, já que quanto mais informação é processada, maior o tempo de resposta.
Para uma empresa, isto significa que uma ferramenta pensada para lidar com documentos extensos, históricos completos de interações com clientes ou processos com múltiplas etapas precisa de ser desenhada especificamente para gerir esses limites. Quando a janela de contexto se esgota a meio de uma interação, o sistema tem de decidir o que “esquecer” e essa decisão, se não for bem gerida, pode fazer perder informação crítica a meio de um processo de negócio.
Na prática, estes limites técnicos ajudam também a explicar porque soluções aparentemente semelhantes podem produzir resultados muito diferentes quando aplicadas a cenários empresariais reais.
A diferença entre uma IA genérica e uma IA que conhece a empresa
Um modelo de IA, por si só, só sabe o que aprendeu durante o treino. Não tem acesso nativo a documentos internos, políticas ou dados específicos de uma organização.
É aqui que entra o RAG (Retrieval-Augmented Generation): uma técnica que, antes de gerar uma resposta, procura primeiro informação relevante numa base de conhecimento própria, como documentos, manuais, registos internos ou bases de dados, utilizando-a depois como contexto adicional para a resposta final.
Isto reduz significativamente o risco de alucinações: respostas geradas com confiança mas sem correspondência à realidade, como citar uma política que não existe ou inventar um número que parece plausível. Sem RAG, a resposta depende apenas do que o modelo considera mais provável com base no treino. Com RAG, a resposta fica ancorada em conteúdo real, verificável e atualizado, particularmente relevante em contexto empresarial, sem que seja necessário retreinar o modelo de raiz sempre que a informação interna muda.
O RAG é atualmente uma das abordagens mais utilizadas para aproximar a IA do conhecimento de uma organização. Mas não é a única.
Outras técnicas complementares usadas para tornar os modelos mais fiáveis incluem o fine-tuning, que especializa um modelo genérico num domínio específico através de dados de treino adicionais, tornando as respostas mais precisas nesse contexto; e os guardrails: comportamentos configurados para manter o modelo dentro de um âmbito definido – por exemplo, obrigando-o a indicar quando não tem informação suficiente ou impedindo que responda fora do seu domínio de atuação.
O valor destas abordagens aumenta ainda mais quando a IA consegue aceder aos sistemas e processos já utilizados pela organização, trabalhando sobre informação operacional real em vez de depender apenas do conhecimento genérico aprendido durante o treino.
Vieses: um problema de dados, não só de modelo
Um modelo de IA aprende exclusivamente a partir dos dados com que foi treinado e esses dados refletem inevitavelmente desigualdades, estereótipos e perspetivas dominantes presentes no mundo real.
Isto significa que um modelo pode produzir respostas enviesadas mesmo sem qualquer intenção nesse sentido, simplesmente porque reproduz padrões estatísticos aprendidos.
Em contextos onde a IA apoia decisões com impacto direto em pessoas, como triagem de candidaturas, atendimento ao cliente ou avaliação de risco, este é um dos motivos pelos quais o olhar crítico humano sobre o resultado gerado nunca deve ser dispensado, independentemente da sofisticação técnica da ferramenta.
De assistente a agente: quando a IA passa a agir
A evolução mais recente da IA empresarial não é apenas responder melhor. É agir.
Um agente de IA não se limita a devolver uma resposta a uma pergunta. Planeia passos, consulta sistemas ou ferramentas externas e executa ações concretas até atingir um objetivo, muitas vezes sem intervenção humana em cada etapa individual. Esta capacidade, normalmente referida como IA agêntica, levanta uma questão de governação que não existia com assistentes tradicionais: onde termina exatamente a autonomia do sistema e onde começa a validação humana obrigatória?
Na prática, isto traduz-se numa decisão que cada organização tem de tomar caso a caso. Que tipo de ações um sistema pode executar de forma totalmente automática – gerar um rascunho de resposta, por exemplo? E que tipo de ações exigem sempre confirmação humana antes de produzirem efeito, como enviar uma comunicação a um cliente ou aprovar uma transação?
O tipo de acesso a uma IA determina o nível de controlo
Nem todo o acesso a um modelo de IA é igual em termos de governação. Usar um chatbot público genérico dá à organização pouco ou nenhum controlo sobre retenção de dados, auditoria ou integração com sistemas internos. Já uma implementação via API (Application Programming Interface – interface de programação de aplicações), em que uma empresa constrói o seu próprio assistente sobre um modelo de terceiros, permite controlo direto sobre autenticação, políticas de retenção, registos de auditoria e integração com os sistemas existentes.
Num extremo mais restritivo ainda, algumas organizações optam por executar modelos open-source em infraestrutura própria, on-premises ou em cloud privada, mantendo os dados totalmente sob o seu controlo. Trata-se de uma opção que oferece o máximo de soberania sobre a informação, mas que exige também assumir toda a responsabilidade operacional pela infraestrutura.
Independentemente do nível de controlo escolhido, mantém-se sempre um modelo de responsabilidade partilhada: o fornecedor assegura a segurança da infraestrutura ou da plataforma; a organização continua responsável pela configuração, pelos acessos e pela utilização adequada dos dados que introduz no sistema.
O que pode (e não deve) entrar num prompt
Uma das perguntas mais práticas do dia a dia, e também uma das mais frequentemente ignoradas, é o que se pode efetivamente escrever numa ferramenta de IA. Dados pessoais identificáveis, informação de clientes, dados financeiros, credenciais de acesso e informação estratégica não devem ser partilhados em ferramentas de IA pública sem garantias contratuais específicas. Texto genérico, dados anonimizados, rascunhos sem contexto sensível ou perguntas conceptuais representam, em contrapartida, um risco muito menor.
Ter regras claras sobre este tema é muitas vezes mais importante para a segurança da organização do que qualquer funcionalidade técnica avançada incorporada na plataforma.
O que o AI Act já exige e o que foi adiado
Desde agosto de 2024 está em vigor o AI Act [Artificial Intelligence Act, Regulamento (UE) 2024/1689], o primeiro regulamento europeu dedicado especificamente à Inteligência Artificial, com uma aplicação faseada em função do nível de risco dos sistemas:
- Fevereiro de 2025 – entraram em vigor as proibições de práticas consideradas inaceitáveis, como determinadas formas de reconhecimento de emoções no local de trabalho ou a exploração de vulnerabilidades de indivíduos ou grupos.
- Agosto de 2025 – entraram em vigor as obrigações específicas para fornecedores de modelos de IA de uso geral (GPAI, do inglês General-Purpose AI), categoria que inclui muitos dos LLMs que servem de base a assistentes e chatbots.
- Agosto de 2026 – data inicialmente prevista para as obrigações mais exigentes, dirigidas a sistemas classificados como alto risco (e.x. recrutamento, avaliação de crédito, biometria) – entretanto adiada (ver abaixo).
Este último prazo foi adiado por um pacote legislativo aprovado em 2026, conhecido como Digital Omnibus, que procurou dar à Comissão Europeia e às entidades de normalização mais tempo para desenvolver as ferramentas e normas de conformidade necessárias. Os novos prazos passam para dezembro de 2027, no caso dos sistemas autónomos de alto risco, e para agosto de 2028, no caso da IA integrada em produtos já sujeitos a regulamentação específica, como dispositivos médicos ou maquinaria. O incumprimento pode implicar coimas até 35 milhões de euros ou 7% do volume de negócios global anual – valores que podem ultrapassar os previstos pelo próprio RGPD (Regulamento Geral sobre a Proteção de Dados).
Este adiamento não retira urgência ao tema. Apenas dá às organizações mais tempo para classificar corretamente os seus sistemas de IA, avaliar o respetivo nível de risco, documentar decisões e preparar mecanismos adequados de supervisão humana antes da entrada em vigor das obrigações mais exigentes. O AI Act continua complementar ao RGPD – enquanto o RGPD regula o tratamento de dados pessoais, o AI Act regula os sistemas de IA e os riscos que estes podem introduzir. Em muitos cenários empresariais, as organizações terão de assegurar o cumprimento de ambos os regulamentos em simultâneo.
Os alertas não vêm só de fora do setor
Um dos sinais mais reveladores de que a governação da IA não pode depender apenas da boa vontade das empresas que a desenvolvem, vem dos próprios laboratórios. Nos últimos anos, investigadores e especialistas em segurança ligados às organizações que lideram o desenvolvimento da tecnologia têm vindo a alertar para a necessidade de mecanismos mais robustos de supervisão.
Estas preocupações continuam atuais. Em setembro de 2026, Jacob Coxon, investigador que trabalhou na OpenAI e na Anthropic, anunciou publicamente a sua saída da indústria, alegando que os principais laboratórios estão a avançar demasiado depressa no desenvolvimento de sistemas cada vez mais capazes sem que existam garantias suficientes de controlo e segurança.
As suas preocupações foram amplamente debatidas dentro do próprio setor e acompanhadas por apelos de outros investigadores para um maior foco na segurança e na supervisão dos sistemas mais avançados.
Independentemente da probabilidade real dos cenários mais extremos frequentemente discutidos, o padrão é relevante para qualquer empresa que adote IA: a supervisão não deve depender apenas de salvaguardas internas e voluntárias das empresas fornecedoras. Deve também assentar em mecanismos externos de governação, auditoria e responsabilização, precisamente o papel que o AI Act e outros enquadramentos regulatórios semelhantes procuram desempenhar.
A responsabilidade não é só da lei, é também de quem usa a ferramenta todos os dias
Nenhum regulamento, por mais rigoroso que seja, substitui a responsabilidade direta de uma empresa e dos seus colaboradores no dia a dia.
Cabe a cada organização definir claramente o que pode e não pode ser introduzido numa ferramenta de IA, incluindo dados de clientes, informação financeira ou propriedade intelectual, e garantir que essas regras são conhecidas e compreendidas por quem as utiliza.
Cabe também a cada colaborador assumir uma postura crítica sobre os fins para que utiliza estas ferramentas. Gerar um rascunho de email é diferente de gerar conteúdo que substitui uma decisão que deveria ter validação humana. Resumir um documento público é diferente de processar dados sensíveis de clientes numa ferramenta sem garantias adequadas de segurança.
A linha entre um uso produtivo e um uso irresponsável da IA não está apenas nas capacidades da tecnologia. Está nas escolhas concretas de quem a opera todos os dias.
É esta dupla responsabilidade, da organização que define regras e forma as suas equipas, e das pessoas que as aplicam na prática, que determina se a adoção de IA numa empresa é efetivamente segura ou apenas parece sê-lo no papel.
A tecnologia acelera, a responsabilidade não desaparece
Nenhuma destas capacidades técnicas, seja RAG, guardrails, controlo via API ou supervisão de agentes, substitui a decisão humana sobre o que é aceitável partilhar, automatizar ou delegar.
Escolher bem uma ferramenta de IA para uso empresarial não é escolher a mais avançada. É escolher a que foi desenhada desde a origem para responder a exigências de controlo, rastreabilidade, integração, segurança e conformidade.
Quando a tecnologia está alinhada com os processos da organização e é acompanhada por regras claras de utilização, a IA pode tornar-se uma ferramenta poderosa de apoio à produtividade e à tomada de decisão.
É essa combinação entre capacidade tecnológica e governação que determina se a adoção de IA acrescenta valor real à operação ou se se transforma numa fonte adicional de risco.
