Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

O Centro de Estatística e Aplicações da Universidade de Lisboa vai organizar de 4 a 6 de Junho de 2014 um curso intitulado "On Flexible Bayesian Methods for Diagnosis and ROC Curve Estimation".

Conferência no dia 21 de Maio, pelas 16h00, sala 6.2.56, Edifício C6, FCUL, Campo Grande, Lisboa.

Dia: 22 de Maio (Dia Internacional da Biodiversidade)

Apesar de já existir há dois anos e meio, e como há sempre novos funcionários/Docentes a entrar, vimos por este meio divulgar mais uma vez o Sistema de Impressão FCUL para funcionários/Docentes da FCUL.

Dinâmica da Actividade Cerebral -

Perspectivas e oportunidades num dos grandes problemas científicos deste século

Medalha internacional de História das Ciências, Marta Lourenço

Ana Eiró, Fernando Bragança Gil, Maria Alzira Ferreira, Luís Mendes Vítor, Virgílio Meira Soares, Fernando Catarino, Fernando Parente, Noémio Marques, Galopim de Carvalho, são algumas das individualidades de Ciências que Marta Lourenço recorda, em jeito de agradecimento, pelos ensinamentos transmitidos.

A iniciativa existe desde 2008. “Um pequeno Roteiro pela Energia Solar Fotovoltaica na Faculdade de Ciências” inclui visitas guiadas ao Campus Solar e à central de mini geração fotovoltaica nos telhados da Faculdade de Ciências, e ainda a palestra “A revolução solar vem aí!”, proferida pelo professor António Vallêra.

“Os ensinamentos adquiridos em Ciências estão na base das investigações que tenho desenvolvido, foi através deles que adquiri os conceitos e conhecimentos que me permitem desenvolver o estudo dos materiais. Por outro lado, a interação com diferentes áreas da Geologia permite absorver muita informação importante para a interpretação de muitos dos achados”, explica a investigadora Elisabete Malafaia.

Jean-Paul Montagner, Institut de Physique du Globe, Université Paris-Diderot, Paris, France

António Castelo, Aidnature

"Recordo-me sobretudo dos professores e da matéria que dava nas aulas. A minha pancada com evolução é forte e já nessa altura era. Ainda hoje nada me dá mais prazer do que aprender e compreender como funciona a vida na terra. Tive muito bons professores durante o curso e isso foi fundamental até quando, mais tarde, saí para fazer o mestrado em Inglaterra", conta o antigo aluno de Biologia de Ciências, António Castelo.

Expedição Aidnature

“Cada animal, cada comportamento é um desafio. O momento em que conseguimos a imagem de que estamos à espera e que imaginámos na nossa cabeça, é de uma adrenalina enorme, que contrasta com a paz que é estar horas no campo à espera”, declara António Castelo, antigo aluno do curso de Biologia de Ciências, agora biólogo na Aidnature.

 Nos dias 29 e 31 de outubro de 2014 realiza-se uma reunião em Heildelberg, na Alemanha, com o intuito de apresentar os 106 novos membros ao EMBO Council.

Ano Internacional da Cristalografia 2014

O Departamento de Geologia da Faculdade de Ciências da Universidade de Lisboa associa-se à comemoração do Ano Internacional da Cristalografia.

MATEMÁTICA E ENSINO

De acordo com o Despacho do Senhor Diretor da Faculdade, a eleição do Presidente do Departamento de Matemática terá lugar no próximo dia 30 de Maio.

Conferência no dia 16 de Maio, 11h30, anfiteatro 3.2.15, Edifício C3, FCUL, Campo Grande, Lisboa.

Marta Lourenço

Marta Lourenço, membro do Centro Interuniversitário de História das Ciências e da Tecnologia, da Secção Autónoma de História e Filosofia das Ciências e subdiretora do Museu Nacional de História Natural e da Ciência foi galardoada com a Medalha George Sarton pela Universidade de Gent.

Imagem de Octávio Pinto

O seminário integrado na disciplina de Agricultura e Florestas, do mestrado em Ecologia e Gestão Ambiental, realiza-se dia 7 de maio, pelas 11h15, no edifício C2, 2.º piso, sala 2.2.14.

Christoph Meyer

Christoph Meyer começou a trabalhar no Centro de Biologia Ambiental de Ciências, em fevereiro de 2009. A estadia em Ciências tem corrido bem.

Tectonics and Neotectonics of the western North America and Associated Hazards

Conferência no dia 29 de Maio, 12h00, sala 6.2.56, Edifício C6, FCUL, Campo Grande, Lisboa.

EuroGP2014

Stefano Ruberto, Leonardo Vanneschi, Mauro Castelli & Sara Silva foram distinguidos com o best paper award for EuroGP 2014, durante a "17th European Conference on Genetic Programming", ocorrida entre 23 e 25 de abril, em Granada, Espanha.

A Biblioteca do Conhecimento Online, celebra o seu 10.º Aniversário

“Nestas formações, ensina-se, entre outros aspetos, a detetar situações de paragem cardiorrespiratória precocemente, a saber ligar o 112 rapidamente, sabendo dizer o que é importante, e iniciar manobras básicas, como compressões torácicas para manter alguma circulação e oxigenação dos órgãos vitais até à chegada de ajuda”, explicou o formador do INEM, Rui Rebelo.

Páginas