Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Rosto de Henrique Cabral

Nesta fotolegenda destacamos uma passagem da entrevista com o biólogo Henrique Cabral e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Edifício C2

A primeira reunião do projeto PROSEU “PROSumers for the Energy Union: mainstreaming active participation of citizens in the energy transition”, financiado pelo Horizonte 2020 e com a duração de três anos, realiza-se no campus de Ciências, nos dias 22 e 23 de março.

Carrinho

Dez empresas discutem os últimos avanços no sector da mobilidade sustentável.

Sala de aulas

Parece razoável inferir que queremos ter estudantes que saibam como aprender e que conheçam como descobrir a informação que precisam a partir de uma variedade de fontes.

Papel ardido

Saí da FCUL ao fim da tarde rumo ao meu fim de semana. Para trás ficou um edifício imponente a fervilhar de vida, e ao mesmo tempo já a minha casa! A casa que nos ampara, nos ensina e, a mim, permitia uma entrada num mundo tão fortemente diferente do vivido por mim noutro lugar.

Pessoas na Politécnica recuperam objetos no rescaldo do incêndio

Ainda durante o rescaldo do incêndio iniciaram-se as operações de salvamento e recuperação do que ainda fosse possível salvar e recuperar.

Imagem abstrata

Dez países juntam-se para o estudo do património dos materiais plásticos.

Edifício da Escola Politécnica

Politénica (FCUL)... escrever e ou pensar sobre “ELA”, hoje, ainda me emociona...

Pormenor de uma palmeira

Agora era diferente. No fim da Ferreira Borges surgia sempre a mesma dúvida que me tolhia o passo: onde são as aulas hoje? E eu, traído pela minha própria desorganização, fazia todos os dias o mesmo esforço para encontrar uma qualquer lógica que me ajudasse a decidir para onde ir naquele dia. Politécnica? 24 de Julho? É claro que ter um horário comigo ajudaria...

Rosto de Marta Antunes

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de março é com Marta Antunes, técnico superior do Departamento de Geologia de Ciências.

Bombeiro apaga fogo

Era madrugada e o edifício da Faculdade de Ciências de Lisboa, na rua da Escola Politécnica, ardia. Dezoito de março, seriam duas horas da madrugada. Um salto da cama, um vestir rápido e uma fuga apressada ao encontro das labaredas.

Escola Politécnica

Passaram 40 anos do incêndio da “outra” Faculdade. São já poucos os que vivenciaram, alguns os que ficaram marcados. Para os mais novos, o “fogo na Politécnica” é apenas uma história que ouviram contar.

Mar

Qual o impacto das poeiras provenientes do Sahara na produtividade marinha do Oceano Atlântico tropical, particularmente nos coccolitóforos (fitoplâncton calcário)? Esta é a principal questão que irá marcar o trabalho de Catarina Guerreiro, investigadora do MARE.

pilhas de compostagem

O compostor da FCUL foi inaugurado há pouco mais de um ano, em 27 de novembro de 2016, numa parceria entre a HortaFCUL, o Gabinete de Segurança, Saúde e Sustentabilidade da FCUL e o cE3c - Centro de Ecologia, Evolução e Alterações Ambientais.

Gabriella Gilli

Gabriella Gilli, investigadora do Instituto de Astrofísica e Ciências do Espaço, pretende usar um novo modelo teórico tridimensional, análogo ao que é usado para descrever a atmosfera de Vénus, para antecipar as futuras observações de exoplanetas quentes de tipo terrestre.

Vladimir Konotop

Nesta fotolegenda destacamos uma passagem da entrevista com o físico Vladimir Konotop e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Bernadette Bensaude-Vincent

A ULisboa atribui a 2 de março o título de doutor honoris causa a Bernadette Bensaude-Vincent, por proposta da Faculdade de Ciências, homenageando uma personalidade de grande relevo cientifico com relações estreitas com o contexto científico português, demonstrando publicamente quanto lhe deve e quanto se sente honrada por lhe poder conceder este titulo.

Biblioteca com alunos

A entrada na faculdade é muito mais do que a transição para uma nova etapa académica, é o início de uma aventura no próprio desenvolvimento, onde se passa de jovem a adulto. Esta fase acarreta desafios para o próprio e nas relações com os outros, ficando este jovem adulto entre o medo e o desejo de crescer com tarefas académicas, sociais, pessoais e vocacionais para fazer face, simultaneamente.

Campus de Ciências

Dois investigadores do cE3c – Centro de Ecologia, Evolução e Alterações Ambientais receberam bolsas europeias Marie Sklodowska-Curie para desenvolver investigação nos próximos dois anos.

Concorrentes

A semifinal aconteceu a 17 de fevereiro, a final nacional a 12 de abril e a final internacional entre 5 e 10 de junho. Em Ciências foram apurados quatro finalistas, estudantes da ULisboa nos cursos de Física, Biologia, Engenharia Química e Matemática Aplicada e Computação.

Carlos Mateus Romariz Monteiro

Faleceu a 9 de fevereiro de 2018, com 97 anos, Carlos Mateus Romariz Monteiro.

Pessoa sentada junto a uma mesa

Passamos, quer no trabalho como em momentos de lazer, longos períodos sentados. Estar sentado é um descanso! Mas, será mesmo assim?

João Martins

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de fevereiro de 2018 é com João Martins, técnico superior do Departamento de Física de Ciências.

A cooperação (e colaboração) científica apoia-se sempre em ensinar e aprender (dar e receber), num registo de amizade e humildade, de motivação e de empolgamento. A paridade é fundamental, tal como o “foco e simplicidade”, a relevância e a utilidade (Steve Jobs).

João Carlos Marques, professor da Faculdade de Ciências e Tecnologia da Universidade de Coimbra é o novo diretor do MARE, sucedendo no cargo Henrique Cabral, professor do Departamento de Biologia Animal de Ciências.

Páginas