IA generativa

Do que se trata

A IA generativa é um conjunto de sistemas capazes de produzir conteúdo novo: textos, imagens, vídeos, código-fonte e dados sintéticos. Treinados com grandes volumes de material, estes modelos identificam padrões e geram respostas pertinentes a pedidos específicos. Ao contrário dos sistemas de classificação ou de previsão, os modelos generativos difundem-se como uma camada transversal, integrada de forma progressiva no software profissional e dotando cada função de um assistente automatizado.

Questões e debates

Quatro questões estruturam o debate público. A propriedade intelectual: os modelos são treinados com conteúdos criados por pessoas sem compensação nem consentimento explícito dos autores, levantando dúvidas sobre remuneração e direitos de utilização. A desinformação: a capacidade de produzir conteúdo plausível em larga escala reduz o custo do engano e dificulta a verificação. Os enviesamentos: os modelos reproduzem e amplificam as desigualdades presentes nos seus dados de treino. Por fim, a transparência continua frágil: compreender como um modelo chega a uma resposta permanece difícil, complicando a responsabilidade jurídica e a confiança.

Regulação e enquadramento europeu

Na Europa, o regulamento sobre IA estabelece um quadro assente no risco. Os modelos de uso geral, conhecidos como modelos fundacionais, estão sujeitos a obrigações específicas: documentar os dados de treino, avaliar as capacidades sistémicas e prevenir conteúdos proibidos. A aplicação faz-se por etapas. As autoridades de proteção de dados esclarecem as exigências sobre transparência e tratamento de dados, enquanto a Comissão Europeia conduz a execução. As autoridades públicas europeias debatem ainda a soberania tecnológica e a supervisão dos modelos fundacionais.

O que a ActuIA acompanha

A ActuIA acompanha a evolução do enquadramento legal, os debates sobre propriedade intelectual e os equilíbrios entre inovação e proteção, os avanços na robustez e na auditoria dos modelos, os projetos-piloto nos setores público e privado e as controvérsias sobre usos problemáticos, como os conteúdos falsificados e a discriminação automatizada. Acompanhamos também as iniciativas de transparência e normalização, bem como as alternativas de código aberto aos modelos proprietários.