Estudo da Universidade de Coimbra, apoiado pela Indra Group, revela vulnerabilidades em modelos avançados de IA
Investigação propõe enquadramento inovador para avaliar a segurança dos modelos de IA e alerta para vulnerabilidades que desafiam a nova geração de sistemas inteligentes
Estudo mostra que mais de 80% dos modelos testados geraram código inseguro quando expostos a ataques de manipulação dissimulados
Lisboa, 26 de novembro de 2025. – A Universidade de Coimbra, em colaboração com a Indra Group, acaba de apresentar o whitepaper “IA e Cibersegurança: O Desafio da Confiança Digital”, que analisa os riscos, vulnerabilidades e dilemas éticos da Inteligência Artificial (IA) e propõe um enquadramento inovador para testar a segurança dos grandes modelos de linguagem (LLMs) — a tecnologia que sustenta a atual geração de assistentes de IA generativa.
Desenvolvido por João Donato, sob a orientação de João Campos, investigadores do Centro de Informática e Sistemas da Universidade de Coimbra (CISUC) e do Laboratório de Sistemas Inteligentes (LASI), este estudo faz um retrato real da maturidade da IA, uma tecnologia poderosa e transformadora, mas ainda longe de ser invulnerável.
Entre as conclusões mais relevantes, destaque para:
- Mais de 80% dos modelos testados geraram código inseguro quando expostos a ataques de manipulação dissimulados;
- As técnicas multi-turno e de role-play (como Crescendo ou Mr. Robot) continuam capazes de contornar mecanismos de segurança considerados robustos;
- Os modelos mais recentes, como o Llama 3.1:70b, mostram avanços na distinção entre risco real e aparente, mas mantêm fragilidades contextuais que exigem vigilância constante.
Segundo os investigadores da Universidade de Coimbra, o verdadeiro desafio da próxima geração de IA será o de encontrar o equilíbrio entre a utilidade e o risco, construindo sistemas “seguros por design”, onde a inovação e a segurança evoluem em conjunto.
“A segurança da IA precisa de ser mensurável, comparável e contínua. Só assim será possível criar confiança digital real e sustentável”, referem João Donato e João Campos, investigadores da Universidade de Coimbra e autores do estudo.
O Enquadramento proposto pelos investigadores permite precisamente avaliar e comparar a robustez dos modelos face a diferentes tipos de ataques, combinando métricas objetivas, cenários realistas e um “júri automatizado” de modelos independentes. O objetivo é o de transformar a investigação científica em valor prático, contribuindo para uma IA mais ética, transparente e segura.
O papel da tecnologia é decisivo na deteção precoce destas vulnerabilidades. Ferramentas avançadas de monitorização, algoritmos de análise comportamental e sistemas automatizados de auditoria são essenciais para identificar riscos antes que possam comprometer a integridade dos modelos de IA, garantindo maior segurança e confiança digital. Desde a otimização de processos até à criação de soluções inovadoras, a tecnologia é o motor que impulsiona competitividade, sustentabilidade e segurança.
Para a Indra Group, que apoiou o desenvolvimento e publicação do estudo, esta colaboração reflete um compromisso claro com o avanço do conhecimento e com a criação de conteúdo científico relevante, produzido em Portugal, na área da tecnologia e da Inteligência Artificial, que pode ser transformado em valor real para as empresas.
“Acreditamos que a confiança digital tem de ser o novo pilar da transformação tecnológica. Ao apoiar o desenvolvimento deste género de investigações, a Indra Group está a reforçar o seu compromisso em tornar a cibersegurança um motor de valor e confiança, antecipando riscos e promovendo uma IA ética e responsável”, afirma António Ribeiro, responsável de Cibersegurança da Minsait (Indra Group) em Portugal.
O whitepaper está também disponível em formato e-book, para consulta online, permitindo uma perspetiva inovadora sobre como Portugal pode posicionar-se na vanguarda da confiança digital e da inovação responsável por parte das empresas que estão a adotar estas tecnologias