Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Conceção artística do telescópio de raios X Athena.

A Agência Espacial Europeia aprovou o primeiro protótipo de um sistema de precisão para o maior telescópio nos raios X, desenvolvido por uma equipa liderada pelo Instituto de Astrofísica e Ciências do Espaço.

Foto de Inês Barroso.

Inês Barroso, alumna de CIÊNCIAS e professora na Universidade de Exeter no Reino Unido, figura na 570.ª posição do Best Female Scientists in the World Ranking da Research.com.

Foto da audiência da Sessão Especial de Natal de CIÊNCIAS.

A 12 de dezembro realizou-se a 1.ª edição da Sessão Especial de Natal de CIÊNCIAS, uma iniciativa dedicada a sensibilizar toda a sociedade, em especial os jove

Última lição de Pedro Miranda, professor de CIÊNCIAS, em sessão de homenagem de jubilação

No dia 11 de dezembro, a biblioteca José Pinto Peixoto do Instituto Dom Luiz (IDL) encheu-se de caras amigas, colegas e ex-alunos para receber a última lição de Pedro Miranda, professor catedrático de CIÊNCIAS e ex-diretor do IDL.

Universidade de Lisboa recebe o Selo de Qualidade Academia Voluntária

No dia 5 de dezembro, a Universidade de Lisboa recebeu o Selo de Qualidade Academia Voluntária, prémio atribuído pela Cooperativa António Sérgio para a Economia Social (CASES).

Equipa HortaFCUL.

Depois da construção do anfiteatro da FCULresta com pedras de um aterro do Estádio Universitário, a HortaFCUL foi em outubro à Faculdade de Medicina de Lisboa (FMUL) em nova missão de resgate.

O Talent Bootcamp veio a CIÊNCIAS e não podia ter sido um sucesso maior!

Nos dias 6 e 7 de dezembro teve lugar em CIÊNCIAS, a 223.ª edição do Talent Bootcamp que contou com 195 bootcampers inscritos, 107 alunos de CIÊNCIAS e também 174 profissionais de 119 empresas.

O escalo-do-sado foi identificado como uma espécie endémica da bacia do Sado

Sofia Mendes, doutoranda de CIÊNCIAS, no Centro de Ecologia, Evolução e Alterações Ambientais (CE3C), é a principal autora do artigo científico publicado recentemente que revela a descoberta de uma nova espécie de peixe de água doce.

João Sequeira na oficina do Cientista Regressa à Escola.

No dia 5 de dezembro, João Sequeira visitou a Escola Básica São João de Brito, escola onde estudou, e uma outra, a Escola Básica Teixeira de Pascoais, para ensinar alunos de duas turmas do 4.º ano tudo sobre a magia de fazer simulações em computador.

Comissão Externa de Aconselhamento de CIÊNCIAS

Em 2024, CIÊNCIAS mantém-se no topo do desempenho científico nas suas áreas de atuação, com a investigação e ensino fundamentados no conhecimento científico.

Participantes do Nighttime Lettter Writing falam em círculo

No dia 21 de novembro, CIÊNCIAS acolheu a primeira edição portuguesa do Nighttime Letter Writing, um evento de escrita de cartas à mão a apelar a doações para alunos com carências económicas.

Foto Frederico Correia Cerqueira.

Frederico Correia Cerqueira, aluno do Mestrado em Engenharia Informática de CIÊNCIAS, e Manuel Santos, do Instituto Superior de Engenharia de Lisboa, desenvolveram o projeto BinBot: um robot alimentado por energia solar que pode ser a solução para revolucionar a limpeza urbana, de espaços comerciais, festivais de música e outros eventos.

Equipas do Health Crossing Borders e do Lotus.

Os pitches dos projetos Health Crossing Borders e Lotus foram distinguidos com o 1.º e o 2.º lugar, respetivamente, na categoria de estudantes da competição promovida pela H-INNOVA Health INNOVAtion HUB na Digital Health Summit 2024, que decorreu no Funchal na ilha da Madeira, nos dias 26 e 27 de novembro.

Cristina Branquinho, Sofia Augusto e Helena Cristina Serrano

Cristina Branquinho, Sofia Augusto e Helena Cristina Serrano, investigadoras de CIÊNCIAS no Centro de Ecologia, Evolução e Alterações Ambientais (CE3C), são 3 das autoras do capítulo “Drivers of change and their impacts on the WEFE nexus in the Mediterranean region”. 

Alan Phillips, investigador de Ciências, pelo sétimo ano consecutivo na lista de autores mais citados

Alan Phillips, investigador do Instituto de Biossistemas e Ciências Integrativas (BioISI), desenvolve o seu trabalho na área da Microbiologia e foi, este ano, reconhecido pela 7.ª vez consecutiva como um dos investigadores mais citados a nível mundial na categoria de Ciência Vegetal e Animal, na lista Highly Cited Researchers 2024 da Clarivate Analytics.

GEOxyz

No dia 6 de novembro, a GEOxyz, empresa de referência na área de hidrografia e serviços geofísicos e geotécnicos, abriu oficialmente um novo escritório em CIÊNCIAS.

Alunos do Colégio Moderno visitam CIÊNCIAS

Cerca de 200 alunos dos 3.º e 4.º anos participaram, nos dias 18 e 21 de novembro, em atividades de sensibilização no âmbito da Semana Europeia da Prevenção de Resíduos. Logo ao início da manhã, em ambos os dias, os mais pequeninos receberam as boas-vindas do Diretor de CIÊNCIAS, Luís Carriço.

Filipe Duarte Santos.

O Prémio Ciência Viva Media 2024 foi atribuído ao podcast 'A Escala do Clima' de Filipe Duarte Santos, geofísico e professor catedrático de CIÊNCIAS, em colaboração com o jornalista Francisco Sena Santos.

Professor Rui Agostinho

O percurso do professor Rui Agostinho foi celebrado numa sessão de homenagem com sala lotada, onde as cadeiras foram ocupadas por colegas de décadas e alunos de hoje, onde o carinho e a emoção pelo docente foram palpáveis.

Jorge Buescu

“Comunicar e divulgar Ciência de forma rigorosa é uma tarefa cada vez mais importante”. Quem o diz é o professor Jorge Buescu, matemático de CIÊNCIAS, hoje galardoado com o Grande Prémio Ciência Viva 2024.

Foto da equipa do projeto TaMuK a receber o prémio.

O projeto TaMuKTargeting Mutated KRAS, recebe o prémio Basinnov Innovation Award 2024, pelo desenvolvimento de um novo metalofármaco destinado ao tratamento de cancros com mutação na proteína KRAS, entre os quais se destacam os cancros colorretal e do pâncreas.

Semana Europeia da Prevenção de Resíduos em ciências

O programa inclui uma mini palestra com as Professoras Teresa Dias e Cristina Cruz do Departamento de Biologia Vegetal.

Logótipo da ULisboa, sobre um fundo em tons de vermelho e preto

A ULisboa destaca-se a nível mundial nas áreas de Engenharia Naval e Oceânica (4.º lugar), Engenharia Civil e Ciências Veterinárias (ambas em 44.º lugar), Engenharia Mecânica (50.º lugar), conforme divulgado pelo Global Ranking of Academic Subjects 2024 do Ranking de Shanghai.

Imagem de moléculas de CO2 e fotos dos investigadores.

A inovadora descoberta dos cientistas do Departamento de Química e Bioquímica (DQB) poderá contribuir para a diminuição das emissões de carbono da indústria e para a transição para um modelo de produção mais verde.

Foto de Maria Adelaide Ferreira a discursar na Ocean Summit

Lisboa foi palco da primeira edição da Ocean Summit, um evento que junta especialistas oriundos de quatro continentes, para falarem de inovação para a sustentabilidade do oceano.

Páginas