IA generativa para o português cresce com modelos Albertina e Gervásio

Ecossistema, líder mundial de grandes modelos de linguagem abertos para a língua portuguesa, é coordenado por António Branco, professor da Ciências ULisboa

robot e criança

A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B

Imagem cedida por AB

À família dos codificadores Albertina, foi agora acrescentado o Albertina 1.5B, o maior dos modelos desta família desenvolvido até ao momento, com 1.500 milhões de parâmetros, juntando-se assim aos outros modelos já existentes, com 100 e 900 milhões de parâmetros. Por sua vez, à família dos descodificadores Gervásio, foi também acrescentado um modelo maior, o Gervásio 7B, com 7.000 milhões de parâmetros, juntando-se ao modelo já existente com 1.000 milhões de parâmetros.O Gervásio 7B foi desenvolvido pelo NLX-Grupo da Fala e da Linguagem Natural da Ciências ULisboa. Para uma descrição detalhada, consulte a respetiva publicação: Santos et al., 2024, “Advancing Generative AI for Portuguese with Open Decoder Gervásio PT*”, 3rd Annual SIGUL Meeting, LREC-COLING2024. Para o desenvolvimento do Albertina 1.5B, com o Grupo NLX da Ciências ULisboa, colaborou uma equipa da Faculdade de Engenharia da Universidade do Porto. A respetiva descrição encontra-se em: Santos et al., 2024, “Fostering the Ecosystem of Open Neural Encoders for Portuguese with Albertina PT* Family”, 3rd Annual SIGUL Meeting, LREC.

Ecossistema de grandes modelos de linguagem de IA Generativa para a língua portuguesa foi expandido com novas versões dos modelos Albertina e Gervásio. A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B.

“Este ecossistema é crucial para a tecnologia da língua portuguesa e esta expansão representa um passo da maior importância na preparação da língua portuguesa para a era da Inteligência Artificial“, diz o seu coordenador, António Branco, professor do Departamento de Informática da Ciências ULisboa, acrescentando que “estas classes de modelos estão na base de toda a gama de aplicações de IA Generativa, incluindo as mais mediáticas, como os chatbots ou os tradutores automáticos, e sendo maiores, estes novos modelos têm melhor desempenho”.

Este ecossistema é líder mundial em termos de grandes modelos de linguagem desenvolvidos especificamente para a língua portuguesa que são totalmente abertos e documentados. São de código aberto, gratuitos e distribuídos em acesso aberto sob uma licença aberta, e as suas características e desempenho de topo encontram-se pormenorizadamente validados e documentados em artigos científicos.

Recorde-se que o primeiro modelo Albertina foi disponibilizado em maio de 2023, no que constituiu um marco histórico na preparação tecnológica da língua portuguesa para a era digital, ao ser o primeiro grande modelo de linguagem aberto desenvolvido especificamente para o português, para ambas as variantes, de Portugal e do Brasil, e disponibilizado para investigadores, em organizações públicas e privadas, grandes e pequenas, de todos os setores económicos.

O desenvolvimento deste ecossistema tem tido o apoio da PORTULAN CLARIN Infraestrutura de Investigação para a Ciência e Tecnologia da Linguagem, da Agenda do PRR Accelerat.ai, e da FCCN/FCT, e vai continuar a crescer com mais e melhores modelos.

“Como exemplo, entre muitos outros, da reutilização destes modelos abertos para todo o tipo de finalidades, e por isso do seu importantíssimo efeito multiplicador e democratizador da IA, há a assinalar o recente desenvolvimento por uma start-up do MediAlbertina, para a IA generativa aplicada à medicina em língua portuguesa, que foi possível porque o Albertina já existia para servir de base”, diz  António Branco.

Gabinete de Jornalismo da DCI Ciências ULisboa com Gonçalo Boffil
noticias@ciencias.ulisboa.pt
Já conhece o Albertina PT?
Manuel Martinho, vice-campeão europeu universitário de Taekwondo

Atleta de Taekwondo já aponta ao campeonato do mundo... e ao mestrado de Tecnologias da Informação!

Fachada de CIÊNCIAS

A Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS) vai arrancar o novo ano letivo de 2025/2026 com uma reformulação nos departamentos.

Divulgação de temas científicos

Museu de História Natural e Jardim Botânico agregam maioria das atividades

Céu

CIÊNCIAS ULisboa lamenta o triste acontecimento e apresenta as condolências aos seus familiares, amigos, colegas e antigos estudantes.

Vista do cabo de São Vicente

Estudo internacional com participação da Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS) traz nova explicação para os grandes sismos que afetaram Lisboa em 1755 e 1969.  

Reitoria da ULisboa

A Universidade de Lisboa está entre as 300 melhores universidades do mundo, segundo o mais antigo, influente e conceituado ranking mundial

Sete cientistas dão sugestões de verão

Dos passadiços aos meteoros, passando por livros e geocaching, ninguém fica de fora

Afonso Ferreira, investigador de CIÊNCIAS e MARE

Jovem investigador de CIÊNCIAS distinguido por estudo sobre fitoplâncton da Antártida

Ismael Tereno, professor de CIÊNCIAS

Missão da ESA pode ajudar a revelar alguns dos mistérios do Universo

Atuns-rabilho do Atlântico são capturados numa pescaria

Estudo prevê mudanças significativas na distribuição das principais espécies de atum no Oceano Atlântico

Telescópio de 3,6 metros do Observatório de La Silla

Investigadores de CIÊNCIAS criaram dispositivo de correção de dispersão cromática

O Ser Cientista recebeu 75 jovens do Secundário

Programa Ser Cientista juntou 75 jovens à volta de 17 projetos laboratoriais

Colisão de Theia com a Terra

Artigo científico promete início de novo paradigma para o estudo do planeta 

Cláudio Fernandes e Duarte Almeida

Depois de três meses de trabalhos informais, a nova Comissão recebeu luz verde para a constituição formal, através de um despacho da direção de CIÊNCIAS, que foi lançado no início de julho. A primeira reunião oficial já teve lugar e o novo elenco já começou a preparar os desafios para os próximos dois anos de atividade.

Foto de uma onda no mar

O oceano já faz muito por nós. Absorve cerca de 30% do dióxido de carbono (CO₂) que emitimos e retém mais de 90% do calor em excesso provocado pelas alterações climáticas. Mas será que pode fazer ainda mais?

Foto de Carlos M. Farinha

Carlos M. Farinha, co-responsável do Laboratório de Investigação em Fibrose Quística de CIÊNCIAS e um dos vice-diretores do BioISI – Biosystems and Integrative Sciences Institute, foi reeleito membro da Direção da European Cystic Fibrosis Society (ECFS).

ilustração de CIÊNCIAS

Primeira fase de candidaturas decorre entre 28 de julho e 4 de agosto

alunos no campus de Ciências

Os jovens vão participar em 17 projetos científicos durante uma semana

Margarida Amaral

A Investigadora do BioISI vai assumir novo cargo internacional

Meredith Ringel Morris, investigadora da Google DeepMind

Especialista da Google Deepmind deu palestra no Auditório de CIÊNCIAS 

O Simpósio Internacional sobre Interações e Agregação de Proteínas realizou-se no Caleidoscópio

Mais de 60 investigadores vieram participar no evento organizado por CIÊNCIAS e FCiências.ID

Foto de grupo dos participantes no encerramento da segunda semana do Verão na ULisboa.

Foi com a entrega dos insubstituíveis diplomas que terminou a 11 de julho mais uma edição do programa didático Verão na ULisboa no Campus da Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS). Durante duas semanas, 170 alunos do ensino básico e do ensino secundário lançaram mãos a experiências, desafios e explicações de princípios científicos com o propósito de conhecer o mundo que os rodeia e eventualmente novas vocações profissionais. 

Logotipo do 24º Encontro dos Caminhos para a Complexidade

A Inteligência Artificial foi o tema do 24º Encontro dos Caminhos da Complexidade

Ana Simões, professora da Faculdade de Ciências da Universidade de Lisboa

Professora de CIÊNCIAS diz que vai aproveitar o novo mandato para promover a inclusão e novas metodologias de estudo

Um astronauta olha em frente num jardim ensolarado

Estão abertas, até dia 30 de julho, as candidaturas para a 2.ª edição da Unite! Research School. Esta edição terá como temas a AI e Cibersegurança, Espaço e Tecnologia e Engenharia Biológica.

Páginas