Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Gerhard Dorn, investigador da Universidade de Tecnologia de Graz, na Áustria, veio à Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS) explicar como é que o ensino da matemática pode mudar para produzir melhores resultados numa

Edifício C5

Número de investigadores citados voltou a aumentar em 2024

Empresa sediada no Tec Labs vai fazer testes em modelos animais

Unite!Widening pretende promover as melhores práticas na gestão da ciência

Candidaturas para profissionais administrativos terminam a 21 de setembro 

Ilustração de buraco negro

Os dados do Quasar RACS J0320-35 abriram novas pistas teóricas

Feira dos Núcleos de Estudantes

Feira registou estreia de três novos núcleos de estudantes 

Fotografia de grupo dos estudantes

CIÊNCIAS recebeu este mês 115 alunos em mobilidade, que irão estudar na nossa faculdade no primeiro semestre do ano letivo 2025/2026.

Foto da Reitoria da ULisboa vista a partir da Alameda da Cidade Universitária.

A Universidade de Lisboa (ULisboa) consolidou a sua posição como a instituição portuguesa mais bem classificada no Performance Ranking of Scientific Papers for World Universities 2025 da National Taiwan University (NTU), figurando entre as 200 melhores do mundo.

Miguel Pinto, doutorando de CIÊNCIAS

Doutorando de CIÊNCIAS vai pôr à prova teoria alternativa durante passagem pelos EUA 

Bolsas de apoio a estudos e investigação variam entre €1000 e €1500

Luís Carriço, diretor de CIÊNCIAS

Luís Carriço, diretor de CIÊNCIAS, revela as expectativas para o novo ano letivo 

Grande auditório no arranque do ano letivo

Cerimónia juntou alunos no Grande Auditório para o início do novo ano

Manuel Martinho, vice-campeão europeu universitário de Taekwondo

Atleta de Taekwondo já aponta ao campeonato do mundo... e ao mestrado de Tecnologias da Informação!

Fachada de CIÊNCIAS

A Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS) vai arrancar o novo ano letivo de 2025/2026 com uma reformulação nos departamentos.

Divulgação de temas científicos

Museu de História Natural e Jardim Botânico agregam maioria das atividades

Céu

CIÊNCIAS ULisboa lamenta o triste acontecimento e apresenta as condolências aos seus familiares, amigos, colegas e antigos estudantes.

Vista do cabo de São Vicente

Estudo internacional com participação da Faculdade de Ciências da Universidade de Lisboa (CIÊNCIAS) traz nova explicação para os grandes sismos que afetaram Lisboa em 1755 e 1969.  

Reitoria da ULisboa

A Universidade de Lisboa está entre as 300 melhores universidades do mundo, segundo o mais antigo, influente e conceituado ranking mundial

Sete cientistas dão sugestões de verão

Dos passadiços aos meteoros, passando por livros e geocaching, ninguém fica de fora

Afonso Ferreira, investigador de CIÊNCIAS e MARE

Jovem investigador de CIÊNCIAS distinguido por estudo sobre fitoplâncton da Antártida

Ismael Tereno, professor de CIÊNCIAS

Missão da ESA pode ajudar a revelar alguns dos mistérios do Universo

Atuns-rabilho do Atlântico são capturados numa pescaria

Estudo prevê mudanças significativas na distribuição das principais espécies de atum no Oceano Atlântico

Telescópio de 3,6 metros do Observatório de La Silla

Investigadores de CIÊNCIAS criaram dispositivo de correção de dispersão cromática

O Ser Cientista recebeu 75 jovens do Secundário

Programa Ser Cientista juntou 75 jovens à volta de 17 projetos laboratoriais

Colisão de Theia com a Terra

Artigo científico promete início de novo paradigma para o estudo do planeta 

Páginas