AI-augmented Secure Software Development

Objetivo temático: O AI-SSD pretende incorporar a AISE nos processos de garantia de qualidade, demonstrando que pode melhorar consideravelmente a capacidade de garantir a qualidade do software, com foco em confiabilidade e segurança do código.

Área Científica: Engenharia Eletrotécnica, Eletrónica e Informática

Síntese do Projeto: Hoje em dia executamos cada vez mais tarefas críticas através de sistemas de software complexos, o que torna a sua confiabilidade um aspecto de elevada importância. No entanto, a escala e a complexidade do software atual tornam impossível detectar todos os bugs e vulnerabilidades, levando a consequências potencialmente graves. Apesar dos avanços que tem havido no desenvolvimento de software seguro, alinhar segurança com requisitos de negócios e inovação rápida continua a ser um desafio. Iniciativas europeias recentes, como o NIS2 e o Ato de Ciberresiliência da UE (CRA), pretendem melhorar a cibersegurança em todo na Europa, impondo mecanismos de segurança robustos dentro do ciclo de vida do desenvolvimento de software.

Simultaneamente, o rápido crescimento das tecnologias de inteligência artificial e aprendizagem computacional (IA/ML) apresenta oportunidades para fornecedores de software adotarem técnicas de engenharia de software aumentada por IA (AISE). AISE promete aprimorar, simplificar e automatizar muitas tarefas rotineiras de engenharia de software. Modelos de linguagem grande (LLMs), por exemplo, disponibilizam sugestões de programação em tempo real, acelerando o fluxo de trabalho. A Gartner prevê que a AISE se tornará um paradigma transformador nos próximos cinco anos, uma visão também compartilhada no Plano Estratégico do Horizonte Europa para 2025-2027. DevSecOps, que integra segurança na framework DevOps para automatizar pipelines de desenvolvimento, tem tido avanços significativos nos últimos anos. No entanto, continua a ser um campo em evolução, com técnicas de AISE tendo um potencial substancial para avançar ainda mais os processos de DevSecOps. O AI-SSD pretende incorporar a AISE nos processos de garantia de qualidade, demonstrando que pode melhorar consideravelmente a capacidade de garantir a qualidade do software, com foco em confiabilidade e segurança do código. Esta visão está alinhada com as tendências de mercado, como a pesquisa da Linux Foundation de 2023, que identificou as garantias de qualidade como uma área importante para a aplicação de IA generativa de código aberto (GenAI).

Apesar de sua promessa, isto ainda está longe de ser uma realidade. No decorrer deste projecto serão desenvolvidas novas técnicas baseadas em GenAI para a confiabilidade e segurança de software durante as fases de desenvolvimento e validação, como correção de código e definição de casos de teste de uma forma automatizada. Estas técnicas serão desenvolvidas de modo a poderem ser integradas numa framework DevOps, demonstrando que a AISE pode permitir uma integração de técnicas de segurança dentro dos pipelines de automação, permitindo assim software de alta qualidade sob requisitos complexos e dinâmicos. Este projecto ir-se-á focar em orojetos grandes C/C++ de código aberto que serão usados para validar estas novas técnicas, demonstrando os benefícios da AISE em cenários do mundo real.

Área de intervenção: Cibersegurança

Investigador Responsável na UC: João Rodrigues de Campos

Unidade Orgânica UC: FCTUC/DEI

Instituições participantes no Projeto: Universidade de Coimbra

Instituição Financiadora/Gestora: Fundação para a Ciência e Tecnologia (FCT)

Programa de Financiamento: PRR - AVISO N.º 04/C05-i08/2024 - Aviso para Projetos de IC&DT – Inteligência Artificial, Ciência dos Dados e Cibersegurança de relevância na Administração Pública

Período de execução: 01.03.2025 a 31.01.2026 (11 meses)

Custo total elegível (EUR): 124.904,50 €

Apoio financeiro da UE: 124.904,50 €

Técnico do Projeto: Catarina Morais (catarina.morais@uc.pt)

Contacto: +351 239 247 025 (Ext: 210025)