IA generativa para o português cresce com modelos Albertina e Gervásio

Ecossistema, líder mundial de grandes modelos de linguagem abertos para a língua portuguesa, é coordenado por António Branco, professor da Ciências ULisboa

robot e criança

A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B

Imagem cedida por AB

À família dos codificadores Albertina, foi agora acrescentado o Albertina 1.5B, o maior dos modelos desta família desenvolvido até ao momento, com 1.500 milhões de parâmetros, juntando-se assim aos outros modelos já existentes, com 100 e 900 milhões de parâmetros. Por sua vez, à família dos descodificadores Gervásio, foi também acrescentado um modelo maior, o Gervásio 7B, com 7.000 milhões de parâmetros, juntando-se ao modelo já existente com 1.000 milhões de parâmetros.O Gervásio 7B foi desenvolvido pelo NLX-Grupo da Fala e da Linguagem Natural da Ciências ULisboa. Para uma descrição detalhada, consulte a respetiva publicação: Santos et al., 2024, “Advancing Generative AI for Portuguese with Open Decoder Gervásio PT*”, 3rd Annual SIGUL Meeting, LREC-COLING2024. Para o desenvolvimento do Albertina 1.5B, com o Grupo NLX da Ciências ULisboa, colaborou uma equipa da Faculdade de Engenharia da Universidade do Porto. A respetiva descrição encontra-se em: Santos et al., 2024, “Fostering the Ecosystem of Open Neural Encoders for Portuguese with Albertina PT* Family”, 3rd Annual SIGUL Meeting, LREC.

Ecossistema de grandes modelos de linguagem de IA Generativa para a língua portuguesa foi expandido com novas versões dos modelos Albertina e Gervásio. A família Albertina (codificadores) foi aumentada com o novo Albertina 1.5B, e a família Gervásio (descodificadores) com o Gervásio 7B.

“Este ecossistema é crucial para a tecnologia da língua portuguesa e esta expansão representa um passo da maior importância na preparação da língua portuguesa para a era da Inteligência Artificial“, diz o seu coordenador, António Branco, professor do Departamento de Informática da Ciências ULisboa, acrescentando que “estas classes de modelos estão na base de toda a gama de aplicações de IA Generativa, incluindo as mais mediáticas, como os chatbots ou os tradutores automáticos, e sendo maiores, estes novos modelos têm melhor desempenho”.

Este ecossistema é líder mundial em termos de grandes modelos de linguagem desenvolvidos especificamente para a língua portuguesa que são totalmente abertos e documentados. São de código aberto, gratuitos e distribuídos em acesso aberto sob uma licença aberta, e as suas características e desempenho de topo encontram-se pormenorizadamente validados e documentados em artigos científicos.

Recorde-se que o primeiro modelo Albertina foi disponibilizado em maio de 2023, no que constituiu um marco histórico na preparação tecnológica da língua portuguesa para a era digital, ao ser o primeiro grande modelo de linguagem aberto desenvolvido especificamente para o português, para ambas as variantes, de Portugal e do Brasil, e disponibilizado para investigadores, em organizações públicas e privadas, grandes e pequenas, de todos os setores económicos.

O desenvolvimento deste ecossistema tem tido o apoio da PORTULAN CLARIN Infraestrutura de Investigação para a Ciência e Tecnologia da Linguagem, da Agenda do PRR Accelerat.ai, e da FCCN/FCT, e vai continuar a crescer com mais e melhores modelos.

“Como exemplo, entre muitos outros, da reutilização destes modelos abertos para todo o tipo de finalidades, e por isso do seu importantíssimo efeito multiplicador e democratizador da IA, há a assinalar o recente desenvolvimento por uma start-up do MediAlbertina, para a IA generativa aplicada à medicina em língua portuguesa, que foi possível porque o Albertina já existia para servir de base”, diz  António Branco.

Gabinete de Jornalismo da DCI Ciências ULisboa com Gonçalo Boffil
noticias@ciencias.ulisboa.pt
Já conhece o Albertina PT?
Voluntárias da HortaFCUL mondam ninhos de plantas no Bioilhas@MARE

A HortaFCUL celebrou 15 anos de existência no ano passado. O relatório de atividades de 2024 da HortaFCUL já está disponível para leitura.

Foto de Luís Ferreira, Reitor da ULisboa, a discursar na cerimónia de entrega dos Prémios Científicos Universidade de Lisboa/CGD 2024.

Estão a decorrer as candidaturas para a edição de 2025 dos Prémios Científicos Universidade de Lisboa / Caixa Geral de Depósitos.

Fernando Vaz Dias

No dia 13 de janeiro, o Cientista regressou à escola, desta vez em Proença-a-Nova, para mostrar de quantas cores se pinta uma planta.

Foto de atividade didática realizada.

No passado dia 4 de dezembro de 2024, a Oficina das Energias | Núcleo de Estudantes de Engenharia da Energia e Ambiente de CIÊNCIAS, a convite da Ciência Viva, esteve no Clube Ciência Viva do Bairro da Cova da Moura a realizar o seu workshop “Carrinhos Solares”.

Nuno Garcia nomeado Presidente do Conselho de Administração da FCiências.ID

Nuno Garcia dos Santos, Professor Catedrático do Departamento de Física de CIÊNCIAS, foi nomeado Presidente do Conselho de Administração da FCiências.ID para o mandato de 2025 a 2028. 

Primeiro retiro científico do programa Gulbenkian Novos Talentos junta bolseiros de CIÊNCIAS

O primeiro retiro científico desta edição do programa Novos Talentos da Fundação Calouste Gulbenkian aconteceu em dezembro, em Coimbra, e os bolseiros de CIÊNCIAS, acompanhados dos seus tutores, tiveram oportunidade de participar e partilhar experiências e conhecimento.

José Francisco Rodrigues eleito presidente da Academia das Ciências de Lisboa

José Francisco Rodrigues, matemático e professor catedrático de CIÊNCIAS, foi eleito Presidente da Academia das Ciências de Lisboa (ACL) para o biénio 2025-2026.

Carlos Antunes, professor de CIÊNCIAS

Carlos Antunes, professor de CIÊNCIAS, refere que foi superado “o segundo maior valor de nível médio do mar (NMM) de 23,2 centímetros, registado em 2022”.

Foto de Paulo Costa

O Diário de Notícias (DN) convidou Paulo J. Costa do Instituto de Biossistemas e Ciências Integrativas (BioISI) e outros três cientistas de renome a ponderarem como a inteligência artificial (IA) e a tecnologia vão influenciar as suas áreas de investigação em 2025 e no futuro.

Foto de Luís Carriço, Diretor de CIÊNCIAS.

Luís Carriço aceitou o desafio do Jornal de Negócios e foi um dos 184 líderes nacionais a partilhar as suas perspetivas para 2025.

Foi_assim_que_aconteceu

Graças à nossa comunidade, CIÊNCIAS não parou e... Foi Assim Que Aconteceu.
Reveja alguns dos momentos e fique connosco.

Foto de Nuno Bandeira.

Nuno Bandeira, químico teórico do Instituto de Biossistemas e Ciências Integrativas (BioISI) de CIÊNCIAS, publicou um artigo na Nature Communications em que reafirma o conceito de “ligação química coletiva”

Banner Um ano de CIÊNCIAS em 90 Segundos.

O programa 90 Segundos de Ciência é um projeto de divulgação científica que desde 2016 dá voz aos investigadores portugueses em minuto e meio.

Telescópio Nancy Grace Roman, da NASA.

O telescópio espacial Roman tem uma contribuição da Agência Espacial Europeia, que selecionou para uma das comissões do consórcio norte-americano um investigador do Instituto de Astrofísica e Ciências do Espaço pela sua experiência no Consórcio Euclid.

Conceção artística do telescópio de raios X Athena.

A Agência Espacial Europeia aprovou o primeiro protótipo de um sistema de precisão para o maior telescópio nos raios X, desenvolvido por uma equipa liderada pelo Instituto de Astrofísica e Ciências do Espaço.

Foto de Inês Barroso.

Inês Barroso, alumna de CIÊNCIAS e professora na Universidade de Exeter no Reino Unido, figura na 570.ª posição do Best Female Scientists in the World Ranking da Research.com.

Foto da audiência da Sessão Especial de Natal de CIÊNCIAS.

A 12 de dezembro realizou-se a 1.ª edição da Sessão Especial de Natal de CIÊNCIAS, uma iniciativa dedicada a sensibilizar toda a sociedade, em especial os jove

Última lição de Pedro Miranda, professor de CIÊNCIAS, em sessão de homenagem de jubilação

No dia 11 de dezembro, a biblioteca José Pinto Peixoto do Instituto Dom Luiz (IDL) encheu-se de caras amigas, colegas e ex-alunos para receber a última lição de Pedro Miranda, professor catedrático de CIÊNCIAS e ex-diretor do IDL.

Universidade de Lisboa recebe o Selo de Qualidade Academia Voluntária

No dia 5 de dezembro, a Universidade de Lisboa recebeu o Selo de Qualidade Academia Voluntária, prémio atribuído pela Cooperativa António Sérgio para a Economia Social (CASES).

Equipa HortaFCUL.

Depois da construção do anfiteatro da FCULresta com pedras de um aterro do Estádio Universitário, a HortaFCUL foi em outubro à Faculdade de Medicina de Lisboa (FMUL) em nova missão de resgate.

O Talent Bootcamp veio a CIÊNCIAS e não podia ter sido um sucesso maior!

Nos dias 6 e 7 de dezembro teve lugar em CIÊNCIAS, a 223.ª edição do Talent Bootcamp que contou com 195 bootcampers inscritos, 107 alunos de CIÊNCIAS e também 174 profissionais de 119 empresas.

O escalo-do-sado foi identificado como uma espécie endémica da bacia do Sado

Sofia Mendes, doutoranda de CIÊNCIAS, no Centro de Ecologia, Evolução e Alterações Ambientais (CE3C), é a principal autora do artigo científico publicado recentemente que revela a descoberta de uma nova espécie de peixe de água doce.

João Sequeira na oficina do Cientista Regressa à Escola.

No dia 5 de dezembro, João Sequeira visitou a Escola Básica São João de Brito, escola onde estudou, e uma outra, a Escola Básica Teixeira de Pascoais, para ensinar alunos de duas turmas do 4.º ano tudo sobre a magia de fazer simulações em computador.

Comissão Externa de Aconselhamento de CIÊNCIAS

Em 2024, CIÊNCIAS mantém-se no topo do desempenho científico nas suas áreas de atuação, com a investigação e ensino fundamentados no conhecimento científico.

Participantes do Nighttime Lettter Writing falam em círculo

No dia 21 de novembro, CIÊNCIAS acolheu a primeira edição portuguesa do Nighttime Letter Writing, um evento de escrita de cartas à mão a apelar a doações para alunos com carências económicas.

Páginas