Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Vista Aérea do Observatório do Paranal

O Observatório do Paranal, no deserto do Atacama no Chile, que faz parte do Observatório Europeu do Sul (ESO), vai receber em 2025

Nuno Gonçalves e Inês Leite posam com os prémios junto aos restantes investigadores do Instituto de Astrofísica e Ciências do Espaço (IA)

Nuno Gonçalves e Inês Leite, estudantes de CIÊNCIAS, foram premiados na SPIE Astronomical Telescopes + Instrumentation, a maior conferência internacional sobre instrumentação para a Astronomia.

Ranking de Leiden: Há três áreas de investigação de CIÊNCIAS em que a ULisboa é líder nacional

A Universidade de Lisboa (ULisboa) está em primeiro lugar a nível nacional em três áreas de produção científica de CIÊNCIAS no reputado CWTS Leiden Ranking: Ciências da Vida e da Terra, Matemáti

Banner Curso PRODIGI

A partir de 2025 a Universidade de Lisboa em parceria com o Instituto Politécnico de Lisboa, vai disponibilizar uma nova formação online em competências digitais.

 

Inês Fragata, Margarida Matos, Sara Magalhães e Cristina Máguas.

CIÊNCIAS inaugura hoje oficialmente a infraestrutura laboratorial de investigação - Unidade de Evolução Experimental.

Imagem alusiva ao Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT)

O Mestrado em Bioestatística de CIÊNCIAS foi acreditado pela Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT).

Dois professores de CIÊNCIAS eleitos sócios da Academia das Ciências de Lisboa

Pedro Miguel Duarte e Luís Eduardo Neves Gouveia, professores de CIÊNCIAS, foram eleitos sócios da Academia das Ciências de Lisboa.

O Centro de Congressos da Alfândega do Porto é o palco da edição de 2024 do Encontro Ciência.

Luís Carriço (Diretor de CIÊNCIAS) e Carlos Martins (Presidente da EPAL) junto a um dos novos bebedouros.

A Faculdade de Ciências da Universidade de Lisboa aderiu ao desafio da EPAL - Empresa Portuguesa das Águas Livres de consumir Água da Torneira nas suas áreas comuns, representando mais um compromisso com o Ambiente e com

 Rodrigo Freitas, Francisco Graça e Diogo Ávila no Pódio dos 3000 metros obstáculos no Campeonato Nacional Universitário de Pista ao Ar Livre

Rodrigo Freitas, estudante de CIÊNCIAS, sagrou-se bicampeão no Campeonato Nacional Universitário (CNU) de Atletismo Pista Ar Livre.

Desde ontem que CIÊNCIAS dispõe de um novo espaço: o Lounge C7!

Carolina Margarido, Catarina Lima e Raquel Costa seguram o prémio de primeiro lugar na segunda fase do Future Innovators Program da Unicorn Factory Lisboa

Carolina Margarido, Catarina Lima e Raquel Costa venceram a segunda fase do Future Innovators Program da Unicorn Factory Lisboa

A cientista Ana Russo, investigadora do Instituto Dom Luiz (IDL), visitou duas escolas básicas do concelho de Sintra no dia 23 de abril para rea

Branca Edmée Marques, cientista alumna de CIÊNCIAS

Branca Edmée Marques, alumna de CIÊNCIAS, será homenageada no dia 20 de junho pelos Museus da Universidade de Lisboa

Vanessa Fonseca, Catarina Frazão Santos, Rita Cardoso, Cláudio Gomes, Ana Duarte Rodrigues e Paulo J. Costa posam com os prémios para uma foto numas escadas

A faculdade conseguiu obter o segundo lugar entre as Escolas da Universidade de Lisboa mais galardoadas.

Margarida Fortes, docente do Departamento de Biologia Vegetal de CIÊNCIAS dá uma aula em frente a um quadro com uma projeção imagética

Margarida Fortes, professora de CIÊNCIAS, visitou a Escola Secundária de Carcavelos para dar uma aula acerca da edição genética.

Um grupo de membros de Instituições do Ensino Superior, onde se inclui CIÊNCIAS, está reunido em frente a um jardim, em visita à Siemens

 A iniciativa teve como objetivo aproximar a academia do tecido empresarial.

Nuno Gonçalves alcança o segundo lugar na competição 3MT ULisboa.

Nuno Gonçalves foi distinguido com o segundo lugar, na final da competição ‘Três Minutos de Tese – 3MT ULisboa’, que se realizou esta quint

Inês Ventura

Inês Ventura, a desenvolver o seu doutoramento no Centro de Ciências do Mar e do Ambiente (MARE) e no Instituto de Biossistemas e Ciências Integrativas (

Universidade de Lisboa

A Universidade de Lisboa alcança a 260ª posição no QS World University Rankings (SUR) 2025, tornando-se na universidade portuguesa mais bem classificada neste ranking.

Signatários do acordo

Dia 5 de junho foi assinado o acordo para a construção do espectrógrafo ANDES (ArmazoNes high Dispersion Echelle Spectrograph – Espectrógrafo Echelle de alta dispersão do Armazones), entre o Observatório Europeu do Sul (

 Luís Carriço, Diretor de CIÊNCIAS, e David Gonçalves, Dean do Instituto da Ciência e do Ambiente da Universidade de São José (USJ) assinam acordo sentados a uma mesa

CIÊNCIAS assinou no dia 5 de junho um acordo de cooperação com o Instituto da Ciência e do Ambiente da Universidade de São José (USJ)

Páginas