Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

“Os ensinamentos adquiridos em Ciências estão na base das investigações que tenho desenvolvido, foi através deles que adquiri os conceitos e conhecimentos que me permitem desenvolver o estudo dos materiais. Por outro lado, a interação com diferentes áreas da Geologia permite absorver muita informação importante para a interpretação de muitos dos achados”, explica a investigadora Elisabete Malafaia.

Jean-Paul Montagner, Institut de Physique du Globe, Université Paris-Diderot, Paris, France

António Castelo, Aidnature

"Recordo-me sobretudo dos professores e da matéria que dava nas aulas. A minha pancada com evolução é forte e já nessa altura era. Ainda hoje nada me dá mais prazer do que aprender e compreender como funciona a vida na terra. Tive muito bons professores durante o curso e isso foi fundamental até quando, mais tarde, saí para fazer o mestrado em Inglaterra", conta o antigo aluno de Biologia de Ciências, António Castelo.

Expedição Aidnature

“Cada animal, cada comportamento é um desafio. O momento em que conseguimos a imagem de que estamos à espera e que imaginámos na nossa cabeça, é de uma adrenalina enorme, que contrasta com a paz que é estar horas no campo à espera”, declara António Castelo, antigo aluno do curso de Biologia de Ciências, agora biólogo na Aidnature.

 Nos dias 29 e 31 de outubro de 2014 realiza-se uma reunião em Heildelberg, na Alemanha, com o intuito de apresentar os 106 novos membros ao EMBO Council.

Ano Internacional da Cristalografia 2014

O Departamento de Geologia da Faculdade de Ciências da Universidade de Lisboa associa-se à comemoração do Ano Internacional da Cristalografia.

MATEMÁTICA E ENSINO

De acordo com o Despacho do Senhor Diretor da Faculdade, a eleição do Presidente do Departamento de Matemática terá lugar no próximo dia 30 de Maio.

Conferência no dia 16 de Maio, 11h30, anfiteatro 3.2.15, Edifício C3, FCUL, Campo Grande, Lisboa.

Marta Lourenço

Marta Lourenço, membro do Centro Interuniversitário de História das Ciências e da Tecnologia, da Secção Autónoma de História e Filosofia das Ciências e subdiretora do Museu Nacional de História Natural e da Ciência foi galardoada com a Medalha George Sarton pela Universidade de Gent.

Imagem de Octávio Pinto

O seminário integrado na disciplina de Agricultura e Florestas, do mestrado em Ecologia e Gestão Ambiental, realiza-se dia 7 de maio, pelas 11h15, no edifício C2, 2.º piso, sala 2.2.14.

Christoph Meyer

Christoph Meyer começou a trabalhar no Centro de Biologia Ambiental de Ciências, em fevereiro de 2009. A estadia em Ciências tem corrido bem.

Tectonics and Neotectonics of the western North America and Associated Hazards

Conferência no dia 29 de Maio, 12h00, sala 6.2.56, Edifício C6, FCUL, Campo Grande, Lisboa.

EuroGP2014

Stefano Ruberto, Leonardo Vanneschi, Mauro Castelli & Sara Silva foram distinguidos com o best paper award for EuroGP 2014, durante a "17th European Conference on Genetic Programming", ocorrida entre 23 e 25 de abril, em Granada, Espanha.

A Biblioteca do Conhecimento Online, celebra o seu 10.º Aniversário

“Nestas formações, ensina-se, entre outros aspetos, a detetar situações de paragem cardiorrespiratória precocemente, a saber ligar o 112 rapidamente, sabendo dizer o que é importante, e iniciar manobras básicas, como compressões torácicas para manter alguma circulação e oxigenação dos órgãos vitais até à chegada de ajuda”, explicou o formador do INEM, Rui Rebelo.

The biosphere-atmosphere interactions mediate the largest exchanges in the global carbon cycle. Understanding the role of climate and other environmental factors on the carbon cycle of terrestrial ecosystems is key for assessing vulnerabilities and future feedback into the climate system.

A reportagem multimédia “Sonhar com o futuro” inclui testemunhos de candidatos ao ensino superior e que participaram na edição do ano passado do Dia Aberto.

Carla Nunes, Maria M. M. Santos e Carlos Baleizão

Os desafios que os novos mecanismos de financiamento suscitam apelam à criação de equipas multidisciplinares e complementares que incrementem o impacto da investigação desenvolvida.

Com o objetivo de mostrar as funções, tarefas e responsabilidades do cientista, o Departamento de Química e Bioquímica, o Departamento de Biologia Vegetal  e o IBEB receberam nos seus laboratórios 12 alunos do 12.º ano do Colégio São João de Brito.

Imagem editada pelo DI

O project Lusica e a contribuição para a exposição Retro Computing no 

Pormenor do cartaz do Programa de Estímulo à Investigação 2013

Entre 1994 e 2013, a Fundação Calouste Gulbenkian atribuiu bolsas a 32 alunos da Faculdade de Ciências da Universidade de Lisboa ao abrigo do Programa de Estímulo à Investigação. Na última edição Alexandra Symeonides e Sara Realista foram as felizes contempladas.

Alexandra Symeonides

“A Fundação Calouste Gulbenkian, com este incentivo, está a permitir-me começar uma atividade de investigação na área da análise estocástica mas, sobretudo, está a permitir-me ganhar bagagem para vir a explorar esta área em projetos a outros níveis”, reforça a investigadora do Grupo de Física Matemática da Universidade de Lisboa.

Páginas