
Português Nuno Mateus-Coelho considera que evolução dos agentes de IA está a criar novos riscos para a segurança informática; defende formação de pessoas, preparação dos serviços públicos e criação de centros de resposta.
Lisboa recebeu, entre 9 e 12 de novembro, mais uma edição da Web Summit, a maior conferência de tecnologia da Europa. O evento reuniu especialistas, investigadores, investidores e representantes de empresas tecnológicas de vários países para debater o futuro da inovação.
Entre os temas em destaque esteve a inteligência artificial, IA, cujas aplicações estão a transformar diferentes setores, mas também a levantar novas questões sobre segurança e controlo.
Quatro fases na evolução da IA
Uma das preocupações é a evolução dos chamados agentes de inteligência artificial, sistemas capazes de executar tarefas de forma autónoma. Para Nuno Mateus-Coelho, especialista em cibersegurança e IA, o problema começa quando estes sistemas ultrapassam as instruções que receberam e passam a executar operações que não estavam previstas.
Em entrevista à ONU News, a partir da Web Summit, o professor na Universidade Lusófona identifica quatro fases na evolução da IA. A primeira corresponde às ferramentas utilizadas diretamente pelas pessoas, por exemplo, para procurar informação ou esclarecer dúvidas. Uma segunda fase surge com os agentes que executam tarefas em nome dos utilizadores, como consultar correio eletrónico ou pesquisar informação em bases de dados.
É nas fases seguintes que identifica riscos mais significativos. Na terceira, os agentes podem decidir acrescentar tarefas às que lhes foram atribuídas. Numa auditoria de segurança informática, por exemplo, um sistema poderia começar por analisar os servidores de uma organização e, por iniciativa própria, alargar a pesquisa a outros sistemas na Internet.
Perigos e invasões
“Esta terceira mobilidade é perigosa, porque mostra que nós não dominamos totalmente este agente”, afirma.
A quarta fase, que considera a mais preocupante, corresponde a um cenário em que um agente deixa de estar limitado ao servidor onde foi instalado e procura outros sistemas para continuar a funcionar. Nesse caso, desligar o servidor original poderá já não ser suficiente para interromper a sua atividade.
“O agente de inteligência artificial, agora, já vai a um outro sítio. Invade, abre. E quando tentarem localizar onde eu estou, eu vou para outro computador, e vou para outro computador, e vou para outro computador”, afirmou.
Acesso à informação sensível
O especialista admite que, neste caso, um agente poderia aceder a informação sensível, incluindo dados financeiros ou informação estratégica de um Estado. Trata-se de um risco que coloca novas exigências aos mecanismos de proteção e controlo dos sistemas de inteligência artificial.
As consequências podem estender-se a serviços essenciais, como hospitais, bancos, mercados financeiros e outras infraestruturas críticas estão, sobretudo quando os ataques informáticos passam a contar com o apoio de agentes de IA.

Preparar as instituições e formar pessoas
Perante a rapidez da evolução tecnológica, Nuno Mateus-Coelho considera que Portugal precisa de acelerar a preparação dos serviços públicos e reforçar as competências na área da cibersegurança.
“O caminho será formar as pessoas, acima de tudo, os funcionários públicos, criar centros de competência, centros de resposta, para que, quando tivermos um problema, alguém esteja preparado para resolvê-lo”, defende em entrevista à ONU News.
O especialista considera que as grandes organizações já estão a criar estruturas internas dedicadas à segurança e à inteligência artificial e que os serviços públicos devem seguir o mesmo caminho. A formação dos trabalhadores e a existência de equipas capazes de responder a incidentes são, na sua perspetiva, fundamentais para reduzir os riscos.
Pacto Digital Global da ONU
Nuno Mateus-Coelho defende que a preparação não deve limitar-se aos governos nacionais, considerando que as Nações Unidas também precisam de reforçar as suas competências tecnológicas para responder aos desafios da transformação digital.
“Como é que nós controlamos no mundo da digitalização uma organização que ainda é profundamente analógica?”, questiona.
O especialista defende que a organização não deve depender de um único Estado ou parceiro tecnológico, tendo em conta as divergências geopolíticas que podem dificultar a cooperação.
A proposta enquadra-se num debate mais amplo sobre a governação internacional da inteligência artificial. O Pacto Digital Global, adotado pelos Estados-membros da ONU em setembro de 2024, estabelece um quadro de cooperação internacional para aproveitar o potencial das tecnologias digitais, reduzir desigualdades e promover uma governação da IA que respeite os direitos humanos.
*Sara de Melo Rocha é correspondente da ONU News em Lisboa.
Fonte: ONU NEWS