Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Filipe Duarte Santos.

O Prémio Ciência Viva Media 2024 foi atribuído ao podcast 'A Escala do Clima' de Filipe Duarte Santos, geofísico e professor catedrático de CIÊNCIAS, em colaboração com o jornalista Francisco Sena Santos.

Professor Rui Agostinho

O percurso do professor Rui Agostinho foi celebrado numa sessão de homenagem com sala lotada, onde as cadeiras foram ocupadas por colegas de décadas e alunos de hoje, onde o carinho e a emoção pelo docente foram palpáveis.

Jorge Buescu

“Comunicar e divulgar Ciência de forma rigorosa é uma tarefa cada vez mais importante”. Quem o diz é o professor Jorge Buescu, matemático de CIÊNCIAS, hoje galardoado com o Grande Prémio Ciência Viva 2024.

Foto da equipa do projeto TaMuK a receber o prémio.

O projeto TaMuKTargeting Mutated KRAS, recebe o prémio Basinnov Innovation Award 2024, pelo desenvolvimento de um novo metalofármaco destinado ao tratamento de cancros com mutação na proteína KRAS, entre os quais se destacam os cancros colorretal e do pâncreas.

Semana Europeia da Prevenção de Resíduos em ciências

O programa inclui uma mini palestra com as Professoras Teresa Dias e Cristina Cruz do Departamento de Biologia Vegetal.

Logótipo da ULisboa, sobre um fundo em tons de vermelho e preto

A ULisboa destaca-se a nível mundial nas áreas de Engenharia Naval e Oceânica (4.º lugar), Engenharia Civil e Ciências Veterinárias (ambas em 44.º lugar), Engenharia Mecânica (50.º lugar), conforme divulgado pelo Global Ranking of Academic Subjects 2024 do Ranking de Shanghai.

Imagem de moléculas de CO2 e fotos dos investigadores.

A inovadora descoberta dos cientistas do Departamento de Química e Bioquímica (DQB) poderá contribuir para a diminuição das emissões de carbono da indústria e para a transição para um modelo de produção mais verde.

Foto de Maria Adelaide Ferreira a discursar na Ocean Summit

Lisboa foi palco da primeira edição da Ocean Summit, um evento que junta especialistas oriundos de quatro continentes, para falarem de inovação para a sustentabilidade dos oceanos.

Foto da sessão aberta ao público que decorreu em CIÊNCIAS

Entre os dias 28 e 30 de outubro o consórcio internacional responsável pela missão Ariel da Agência Espacial Europeia (ESA) reuniu-se em CIÊNCIAS e no Pavilhão do Conhecimento – Centro Ciência Viva.

Professores e Investigadores de CIÊNCIAS

Na passada quarta-feira, a região de Valência, em Espanha, foi assolada por cheias devastadoras: em 8 horas choveu o equivalente a um ano, num fenómeno provocado por uma gota fria, ou DANA - depresión aislada en niveles altos, na sigla em espanhol.

Foto de grupo dos bolseiros Gulbenkian Novos Talentos 2024 de CIÊNCIAS.

Este ano foram 13 os estudantes de CIÊNCIAS premiados com Bolsas Gulbenkian Novos Talentos, marcando uma subida em relação aos 11 do ano passado.

Imagem da Reitoria da Universidade de Lisboa com o logo do NTU Ranking.

A ULisboa continua a ser a melhor universidade portuguesa e uma das 200 melhores do mundo em várias áreas científicas investigadas em CIÊNCIAS, da Geociência à Física.

Nuno Garcia, Professor Auxiliar de CIÊNCIAS e investigador no LASIGE, foi o formador do curso.

Realizou-se hoje em CIÊNCIAS a primeira sessão de formação deste Programa, que contou com a presença da Ministra da Juventude e Modernização, Margarida Balseiro Lopes.

Primeira reunião do projeto Twinning 3BATwin

Nos dias 2 e 3 de outubro realizou-se, em CIÊNCIAS, a reunião de abertura do projeto ‘3BAtwin - Bone, Brain, Breast and Axillary Medical Microwave Imaging’, um projeto Twinning europeu coordenado pela FCiências.ID, com a coordenação científica da investigadora Raquel Conceição.

Foto de grupo da organização do evento

Terminou, no passado dia 19 de outubro, no Grande Auditório de Ciências ULisboa, a 16.ª edição do Workshop on BioMedical Engineering, um evento onde professores, investigadores e estudantes se juntam para construir um espaço “onde a Tecnologia encontra a Medicina”.

Sessão de Posters CIÊNCIAS Research & Innovation Day 2024

Centenas de participantes, entre investigadores e comunidade académica, juntaram-se no Grande Auditório para debater o tempo da Ciência e a Ciência do tempo. Salvatore Capozziello, keynote speaker, confirmou que as teorias sustentam a possibilidade de viagens no tempo.

Polvos e peixes caçam em equipa

Os investigadores Eduardo Sampaio e Rui Rosa, do MARE - Centro de Ciências do Mar e do Ambiente, provaram que os polvos e os peixes caçam em equipa de forma organizada.

Distribuição geográfica e afiliações institucionais dos membros do ERGA-Portugal

O Atlas Europeu de Genomas de Referência (ERGA) é um projeto-piloto que visa desvendar o património genómico de 98 espécies, contribuindo para o seu conhecimento e conservação.

Estação RAEGE Santa Maria, Açores. A estação alberga um conjunto de equipamentos que nos permite estudar o nosso planeta através de tecnologia espacial.

Pedro Martins, estudante de doutoramento de CIÊNCIAS e do Instituto de Astrofísica e Ciências do Espaço (IA), contribuiu para a inauguração do novo programa de observação em astrofísica RAEGE-Az, em colaboração com a Rede Atlântica de Estações Geodinâmicas e Espaciais (RAEGE), na ilha de Santa Maria, nos Açores.

Prémio Nobel da Física 2024 - John J. Hopfield e a Geoffrey E. Hinton | Prémio Nobel da Química 2024 - Demis Hassabis, John M. Jumper e David Baker

A Inteligência Artificial (IA) tem sido o grande destaque deste ano nos prémios Nobel dedicados à Ciência.

Sólveig Thorsteinsdóttir, Susana Martins e Ana Rita Carlos

Nos últimos três anos e meio, investigadores de dois laboratórios do Centro de Ecologia, Evolução a Alterações Ambientais (CE3C) desenvolveram um estudo inovador, que revela novas informações sobre a distrofia muscular congénita tipo 1A (MDC1A).

Tec Labs Demo Day 2024

O Tec Labs - Centro de Inovação de CIÊNCIAS, espaço de referência na promoção do empreendedorismo científico e tecnológico em Portugal, realizou mais uma edição do aguardado Demo Day.

Utilizador a interagir com ecrã, mostrando os logótipos associados ao PRR

CIÊNCIAS participa nesta nova formação, oferecida pela Universidade de Lisboa e pelo Instituto Politécnico de Lisboa.

Formações_no_âmbito_do_Programa_Ferramentas_de_Produtividade_e_Tecnologias_Emergentes

Em outubro arrancam, em CIÊNCIAS, quatro formações do programa ‘IP>AP – Ferramentas de Produtividade e Tecnologias Emergentes’ do Instituto Nacional de Administração, no âmbito da ComCiências.

Novos Alunos de Erasmus para o semestre de 2024/2025

Os novos alunos, de 15 nacionalidades diferentes, foram acolhidos numa sessão de boas-vindas, na sexta-feira, que contou com apresentações do Gabinete de Mobilidade e Acolhimento, da PSP e do Gabinete de Apoio Psicológico de CIÊNCIAS.

Páginas