Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Rosto de Vera Carvalho

As inscrições para o programa Erasmus terminam a 10 de fevereiro. Se tens interesse neste programa de mobilidade conhece a história de Vera Carvalho, aluna Erasmus na Dinamarca.

Pormenor de obra de arte

Para os fundadores do AppEEL, este laboratório pode ser considerado o primeiro centro no mundo a reunir investigadores que estudam a evolução sociocultural a partir das teorias que formam parte da Síntese Expandida.

 

O Departamento de Matemática recebeu ontem, dia  4 de Fevereiro, cerca de 70 alunos (9º ano) do  Agrupamento de Escolas D. Miguel de Almeida - Abrantes.

Entre os empregos mais bem pagos contam-se os que estão ligados às engenharias.

Capa

Esta coleção de Livros Brancos foi organizada pela META-NET, uma rede de excelência parcialmente financiada pela Comissão Europeia, que levou a cabo uma análise dos recursos e tecnologias da linguagem atualmente disponíveis. A análise abordou as 23 línguas oficiais europeias assim como outras línguas importantes na Europa a nível nacional e regional. 

O Prémio João Branco é uma iniciativa conjunta da Universidade de Aveiro e da família do designer Jo

Dia 4 Fevereiro 2013 – 14:00h às 19:30h (Sala 2.2.15)

Primeiro plenário do IPBES

Grupo liderado por Henrique Miguel Pereira, investigador do Centro de Biologia Ambiental da FCUL, submete à apreciação da comunidade científica o desenvolvimento de um sistema de monitorização da biodiversidade baseado num conjunto de variáveis essenciais.

Rosto de Maria Antónia Amaral Turkman

“Ao longo dos últimos dois séculos a Estatística foi indispensável em confirmar muitas das maiores descobertas científicas e inovações da humanidade, tais como a partícula bosão de Higgs e a Revolução Verde na agricultura”, declaram Daniel Paulino, presidente da Sociedade Portuguesa de Estatística e Maria Antónia Amaral Turkman, coordenadora do CEAUL.

Dois artigos -- contando com docentes e investigadores do GeoFCUL no seu elenco de autores -- assinalados no “TOP 25 Hottest Papers” de Abril-Junho de 2011 da revista Journal of South American Earth Studies (Sciencedirect / Elsevier).

Henrique Leitão foi eleito membro efetivo da Académie International d'Histoire des Sciences, pela relevância da sua carreira e produção intelectual. Para o historiador das ciências foi uma “honra enorme” receber a distinção, “a maior ambição de qualquer estudioso ou cientista”.

Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL.

Laying down the rules for the participation and dissemination in 'Horizon 2020 – the Framework Programme for Research and Innovation (2014-2020).

EUA represents over 850 universities and university associations across 47 European countries. Its highly diverse membership covers the full spectrum of universities participating in European research programmes.

Vai realizar-se de 18 a 20 de Março de 2013, em honra do Professor Ross Leadbetter, o "Symposium on Recent Advances in Extreme Value Theory ".

Face de Maria Amélia Martins-Loução

O Flora-On sistematiza informação fotográfica, geográfica, morfológica e ecológica de todas as espécies de plantas vasculares autóctones ou naturalizadas listadas para a flora de Portugal. Atualmente, através deste portal acede a 164 famílias, 836 géneros e 2991 espécies.

Cortejo académico na Aula Magna

A cerimónia de abertura do ano letivo de 2012/2013 marca uma nova etapa do ensino superior público.
Exegi monumentum aere perennius - Ergui um monumento mais duradouro que o bronze.
Da nova Universidade de Lisboa vê-se o mundo...

Crianças dos 5 aos 9 anos descobrem as Ciências na FCUL

A FCUL abriu as portas do conhecimento aos alunos do Colégio Infantes de Portugal, de Palmela. Durante uma manhã, os laboratórios de Biologia e de Química e Bioquímica foram explorados por cerca de 20 crianças com idades compreendidas entre os 5 e os 9 anos.

Encontra-se aberto concurso externo para o Banco de Portugal - Departamento de Supervisão Prudencial, com vista ao preenchimento de vagas de Técnico Superior para a área de supervisão

“A inovação é tipo ‘ovo de Colombo’, depois de se saber, parece fácil. Só que ‘saber’ significa um longo caminho de amadurecimento do conhecimento”, declara Maria Filomena Camões, docente do Departamento de Química e Bioquímica da FCUL, a propósito da atribuição da Bolsa Europeia de Excelência de Investigação.

Páginas