Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Henrique Leitão foi eleito membro efetivo da Académie International d'Histoire des Sciences, pela relevância da sua carreira e produção intelectual. Para o historiador das ciências foi uma “honra enorme” receber a distinção, “a maior ambição de qualquer estudioso ou cientista”.

Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL.

Laying down the rules for the participation and dissemination in 'Horizon 2020 – the Framework Programme for Research and Innovation (2014-2020).

EUA represents over 850 universities and university associations across 47 European countries. Its highly diverse membership covers the full spectrum of universities participating in European research programmes.

Vai realizar-se de 18 a 20 de Março de 2013, em honra do Professor Ross Leadbetter, o "Symposium on Recent Advances in Extreme Value Theory ".

Face de Maria Amélia Martins-Loução

O Flora-On sistematiza informação fotográfica, geográfica, morfológica e ecológica de todas as espécies de plantas vasculares autóctones ou naturalizadas listadas para a flora de Portugal. Atualmente, através deste portal acede a 164 famílias, 836 géneros e 2991 espécies.

Cortejo académico na Aula Magna

A cerimónia de abertura do ano letivo de 2012/2013 marca uma nova etapa do ensino superior público.
Exegi monumentum aere perennius - Ergui um monumento mais duradouro que o bronze.
Da nova Universidade de Lisboa vê-se o mundo...

Crianças dos 5 aos 9 anos descobrem as Ciências na FCUL

A FCUL abriu as portas do conhecimento aos alunos do Colégio Infantes de Portugal, de Palmela. Durante uma manhã, os laboratórios de Biologia e de Química e Bioquímica foram explorados por cerca de 20 crianças com idades compreendidas entre os 5 e os 9 anos.

Encontra-se aberto concurso externo para o Banco de Portugal - Departamento de Supervisão Prudencial, com vista ao preenchimento de vagas de Técnico Superior para a área de supervisão

“A inovação é tipo ‘ovo de Colombo’, depois de se saber, parece fácil. Só que ‘saber’ significa um longo caminho de amadurecimento do conhecimento”, declara Maria Filomena Camões, docente do Departamento de Química e Bioquímica da FCUL, a propósito da atribuição da Bolsa Europeia de Excelência de Investigação.

A. M. Galopim de Carvalho num dos geoparques

O pioneiro da Geoconservação em Portugal sente-se agradado pelo reconhecimento dos mais de 20 anos de serviço em prol da preservação e salvaguarda dos geoparques, considerando o tributo um importante incentivo para a defesa territorial, para a promoção da geodiversidade e para o desenvolvimento sustentável baseado no património geológico.

Isaac Carrêlo e Rita Almeida, alunos do curso de Engenharia e Energia do Ambiente e Eva Barrocas, do curso de Biologia, viajaram até Cabo Verde para fazer parte da equipa Turtle Foundation. Durante um mês de experiências intensas, protegeram tartarugas e levaram os ensinamentos apreendidos na FCUL até à comunidade local.

Mapa

O Memorando de Entendimento celebrado com Portugal estabelece oito áreas programáticas para a respetiva alocação de verbas para 2009/2014. A abertura de concursos para Portugal deve acontecer ainda este ano.

Palestra por Jennifer de Jonge

Centro de Biotecnologia Vegetal/IBB

Evolução Tecnológica e o Cadastro Territorial Multifinalitário no Brasil

VicenTuna anima Sessão de Boas-vindas

Receber os novos alunos numa sessão de boas-vindas é uma das tradições da FCUL. Agora, o espírito da cerimónia pode ser conhecido pela voz dos profissionais e alunos que fizeram parte da última sessão, através de uma reportagem multimédia presente na página do YouTube da Faculdade, bem como na pasta de vídeos do Facebook.

Pormenor de obra de arte

Atualmente, o antigo aluno da FCUL é post-doc na Universidade Federal do Rio Grande - Fundação Universidade do Rio Grande, no Brasil, sendo responsável por projetos na área da Biologia Antártica – Biologia Polar.

Miguel Ramos

Miguel Ramos, professor do Departamento de Matemática da FCUL, faleceu esta quinta-feira, dia 3 de janeiro. O corpo será velado no dia 5 de janeiro, entre as 17h00 e as 24h00, na Capela da Igreja das Furnas, em São Domingos de Benfica, assim como no dia 6 de janeiro, a partir das 12h00, seguindo-se a missa pelas 15h00. A cerimónia de cremação ocorre no Cemitério dos Olivais.

Miguel Ramos (1963-2013)

Páginas