Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
grupo de alunos do programa

"Na Ciências ULisboa temo-nos esforçado ao longo dos anos para desenvolver um programa que trará uma semana inesquecível a estes jovens", escreve Ana Sofia Santos, monitora central do Verão na ULisboa, no artigo de opinião sobre o programa.

rapariga a rir

"A ideia de que o sentido de humor pode facilitar o ajustamento, a gestão e a regulação emocional parece ter bastante fundamento. Mas, como, onde e como entram os limites do humor nesta questão?", escreve Samuel Silva, psicólogo no GAPsi Ciências ULisboa.

Instalações do Quake

Os cientistas Susana Custódio e Luís Matias escrevem sobre o Centro do Terramoto de Lisboa, que nasceu de uma vontade de contar a fascinante história do sismo de 1755. A Faculdade e o IDL Ciências ULisboa são parceiros do Quake. 

mar

Novo artigo científico publicado na Frontiers in Marine Science alerta para a necessidade de uma visão global para o oceano no acordo internacional atualmente em elaboração no quadro das Nações Unidas. Artigo conta com a participação de dois professores e investigadores da Ciências ULisboa.

imagem ilustrativa do prémio

O Prémio DHFC 2021 foi atribuído a Daniele Molinini, investigador do CFCUL, membro do grupo de investigação Filosofia das Ciências Formais, Metodologia e Epistemologia.

Hugo Duminil-Copin

"Hugo Duminil-Copin é um físico-matemático que trabalha em teoria das probabilidades. Um daqueles que, durante os vinte últimos anos, regressou à fonte histórica de inspiração das matemáticas, a física teórica", escreve Jean-Claude Zambrini, professor do DM Ciências ULisboa, no ensaio dedicado ao matemático galardoado com a medalha Fields.

posters afixados

“Jovens investigadores” é o projeto da EBS Alfredo da Silva, no Barreiro, que permite aos alunos estabelecerem uma relação de proximidade com professores e investigadores do ensino superior, nomeadamente da Ciências ULisboa.

Pessoa a trabalhar na FCULresta

Já existem mais três miniflorestas plantadas na AML e muitas outras estão a germinar. “A FCULresta cumpre assim um outro objetivo, o de inspirar e apoiar a plantação de mais florestas urbanas biodiversas”, escrevem David Avelar, António Alexandre e Diogo Mendes.

June Huh

"O que motiva June Huh é a busca da beleza na Matemática, e a descoberta de ligações entre diferentes áreas desta disciplina", escreve Carlos A. A. Florentino, professor do DM Ciências ULisboa, no ensaio dedicado ao matemático galardoado com a medalha Fields.

Alina Shchepetkina com outra investigadora

A expedição South Atlantic Transect II (IODP 393) zarpou a 11 de junho de 2022 da Cidade do Cabo, na África do Sul, e tem uma duração de 61 dias. A equipa a bordo tem cientistas de várias partes do globo na expectativa de obter respostas para algumas questões apaixonantes e relacionadas com alterações nos ambientes da Terra durante os últimos 61 milhões de anos. Uma dessas cientistas é Alina Shchepetkina, investigadora do Instituto Dom Luiz da Ciências ULisboa.

Membros da direção da Faculdade, Conselho de Escola e Reitor da ULisboa

Luís Carriço, professor do Departamento de Informática e investigador do LASIGE, tomou posse como diretor da Ciências ULisboa, esta quarta-feira, dia 20 de julho, numa cerimónia que juntou vários membros da Faculdade e Universidade, na sala de atos, sita no edifício C6. A boa disposição imperou no ato solene, durante o qual os professores Margarida Santos-Reis, Hugo Miranda, Jorge Relvas, Maria João Gouveia e Pedro Almeida foram indigitados subdiretores da Faculdade.

ímanes moleculares

Nuno A. G. Bandeira, investigador do DQB e do BioISI Ciências ULisboa, escreve sobre um estudo, que constitui um marco na evolução do conhecimento e na busca de melhores materiais para aplicação na spintrónica e computação à escala quântica.

Foto do instrumento NIRPS

O espectrógrafo NIRPS, a sigla inglesa para Near-Infrared high resolution spectrograph, ou espectrógrafo no infravermelho próximo de alta resolução, cujo desenvolvimento e construção contou com a participação do Instituto de Astrofísica e Ciências do Espaço (IA), observa na banda do infravermelho, no Telescópio ESO de 3,6 metros do Observatório de La Silla, no Chile, complementando assim espectrógrafos como o HARPS e o ESPRESSO. 

fundo marinho

Novo artigo publicado na Nature Ecology and Evolution, por uma equipa de 30 investigadores de todo o mundo, da qual fazem parte dois investigadores portugueses com ligação à Ciências ULisboa, resulta da consulta prévia de cerca de 680 especialistas e outros profissionais ligados ao meio marinho.

Anfiteatro no C8 e paryicipantes do evento

"A Conferência Internacional Hi-Phi teve um sucesso muito para além do expectável e mostrou a vitalidade do diálogo entre a História e a Filosofia das Ciências", escrevem Ana Duarte Rodrigues e João L. Cordovil, coordenadores científicos respetivamente do CIUHCT e do CFCUL, na crónica sobre o importante acontecimento.

3 alunos no labotarório

Dois anos depois de um interregno, “Ser Cientista” está de volta de 25 a 29 de julho e propõe a jovens alunos que experimentem a “vida” de um investigador.

Pedreira

O mestrado em Geologia tem como objetivo formar profissionais com uma formação sólida em áreas chave das Ciências da Terra e que possam responder aos desafios da sociedade do século XXI. Artigo de opinião do Departamento de Geologia a propósito deste novo plano de estudos.

saída de campo da Geologia

A Faculdade tem um novo ciclo de estudos acreditado pela  Agência e Avaliação e Acreditação do Ensino Superior (A3ES), para substituição dos mestrados na área da Geologia com 90 ECTS. O novo mestrado em Geologia tem a duração de dois anos, com 120 ECTS.

Mesa com vários oradores no grande auditório da Faculdade

A sessão de abertura do 30th International Carbohydrate Symposium foi antecipada e presencial, tendo sido gravada em Ciências ULisboa, para ser apresentada internacionalmente a 10 de julho, primeiro dia do simpósio. A cientista Amélia Pilar Rauter, nesta crónica, descreve o que aconteceu nessa sessão, o antes e depois… O simpósio termina a 15 de julho e segundo a presidente da International Carbohydrate Organisation  serão apresentadas as invenções e descobertas mais recentes, muitas delas relevantes para a sociedade.

dois alunos no laboratório

Doze alunos do Clube Ciência Viva da Escola Secundária Padre António Vieira visitaram um dos laboratórios da Faculdade. A visita foi organizada pelo professor Octávio Paulo, orientada por dois alunos da Faculdade.

Imagem do palco do evento com oradores em destaque

“A iniciativa alcançou o sucesso científico desejado, prontamente reconhecido pela maioria dos seus participantes, (...) o que confirma o interesse crescente que os temas dos riscos urbanos têm vindo a suscitar, no seio da comunidade técnica e científica internacional”, escreve Paula Teves-Costa, presidente da Comissão Organizadora da ICUR2022.

evento da ECFS com pormenor para sigla da sociedade

Carlos M. Farinha, professor do Departamento de Química e Bioquímica da Ciências ULisboa e investigador do Grupo de Investigação em Fibrose Quística, incluído no Grupo de Genómica Funcional e Proteostase do BioISI, foi eleito membro do Conselho de Direção da Sociedade Europeia de Fibrose Quística (ECFS sigla em inglês).

Dua jovens observam espécies no campus da Faculdade

"O BioBlitz é uma metodologia para realizar uma avaliação rápida da biodiversidade de um local num determinado período de tempo", escrevem Patrícia Tiago e Sergio Chozas, coordenadores do +Biodiversidade @CIÊNCIAS. Há cerca de um mês dinamizaram um BioBlitz no campus da Faculdade. Leia a crónica dos cientistas sobre o assunto.

Imagem de satélite da erupção do vulcão Hunga Tonga-Hunga Ha'apai

Estudo publicado na Nature e liderado por investigadores do Instituto Dom Luiz da Ciências ULisboa e do Instituto Português do Mar e da Atmosfera (IPMA) explica o mecanismo por detrás da geração e propagação do tsunami incomum, ocorrido após a explosão colossal do vulcão Hunga Tonga-Hunga Ha'apai, em Tonga.

Imagens do campus, laboratórios e salas de aula

Entrevista com os professores Cláudio M. Gomes, Margarida Gama Carvalho e Carlos Cordeiro - membros da Comissão de Coordenação do Mestrado em Bioquímica e Biomedicina -, sobre o mestrado em Bioquímica e Biomedicina. Até maio de 2022, cerca de 165 alunos concluíram com sucesso este mestrado, criado em 2009.

Páginas