Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Se ficou curioso e quer obter mais informações sobre estes fenómenos astronómicos, pode participar na palestra “Eclipses Solares”, no dia 20 de março de 2015, entre as 17h00 e as 18h00, no grande auditório de Ciências da ULisboa.

Miguel Centeno Brito

A ideia de criar um barómetro surgiu como resposta a um desafio lançado pela Área de Sustentabilidade da ULisboa. O professor de Ciências da ULisboa, Miguel Centeno Brito espera que “a aplicação desta metodologia seja alargada a outras universidades nacionais, e europeias, contribuindo para o crescimento do movimento green campus”.

Gheorghe Dunca

No âmbito do mestrado integrado em Engenharia da Energia e do Ambiente, Gheorghe Dunca desenvolveu um barómetro de eficiência energética, já testado em algumas escolas da ULisboa.

Seminário Informal em Matemática no próximo dia 20 de Março, 6ªfeira, às 14h na sala 6.2.44.

 

Tema: Abordagem geométrica à teoria da representação, apresentado por João Dias.

O PAPSummer é o mais recente projecto da PAPS (Portuguese-American Postgraduate Society) e tem como objectivo dar a oportunidade e o privilégio a estudantes portugueses do ensino superior de realizar um estágio, com a duração de 4 semanas, em un

As coberturas ecológicas apresentam diversas vantagens, como por exemplo, a retenção da precipitação e a redução do efeito de ilha de calor, contribuindo para uma melhor qualidade de vida nas cidades.

Ao evocar o Terramoto de 1755, pretende-se ir construindo uma cultura de prevenção nos caminhos de Lisboa e, com isso, aumentar a resiliência e a segurança da capital face aos riscos de catástrofes. Ao passar pelo Campo Grande, o mote é o mesmo: “Ciências Faculdade + Resiliente + Segura”.

O Departamento de Engenharia Geográfica, Geofísica e Energia (DEGGE) de Ciências da ULisboa realiza um seminário sobre mobilidade sustentável no dia 19 de março de 2015.

À semelhança do que tem acontecido nos últimos anos, o Departamento de Química e Bioquímica de Ciências da ULisboa promove a realização de ações de formação para professores dos ensinos bá

O CVUniversitário é um curso teórico e prático de voluntariado universitário que pretende promover competências em voluntariado e contribuir para a implementação, disseminação e reconhecimento desta práti

A Exigo Consultores é uma empresa de consultoria em actividade desde 2001, focada na consultoria para o sector de saúde, principalmente a consultoria em economia da saúde, epidemiologia, análise matemática e esta

Se és Licenciado em Estatística Aplicada, Matemática Aplicada ou Matemática ou se és finalista de algum destes cursos, o Grupo Actualial pode ter a oferta de emprego que procuras.

Desvendado mistério com mais de meio século na atmosfera de Vénus.

Os painéis fotovoltaicos e a cobertura ecológica são dois exemplos de ações que visam a sustentabilidade do nosso campus e que podem ser replicadas noutros locais do país.

A Auchan Portugal Hipermercados pretende admitir Técnico de Reporting.

EU Joint Programme – Neurodegenerative Disease Research

A Unidade de Expressão Génica e Regulação do BioISI integra um dos dez consórcios europeus financiados pelo projeto “Common RNA-dependent pathways for motor-neuron degeneration in spinocerebellar muscular atrophy and amyotrophic lateral sclerosis”.

Dia 25 de Fevereiro, na Sala de Conferências da Reitoria da Universidade de Lisboa, das 10h00 às 12h30

A Bioenergetics, a equipa de Ciências da ULisboa, chegou à final do Leadership Tournament, venceu o desafio intermédio lançado pela SDG e prepara-se para participar na próxima edição do Global Management Challenge (GMC).

O Colégio Doutoral Mente-Cérebro tem como objetivo potenciar a capacidade organizacional, científica, formativa e técnica da Universidade de Lisboa (UL) no estudo da mente e do cérebro. O Colégio encontra-se aberto a todos os colegas com atividade nesta área que se proponham integrá-lo.

A. M. Galopim de Carvalho

2015 é o Ano Internacional dos Solos. O recurso fundamental à sobrevivência da humanidade surgiu no Silúrico superior, há cerca de 425 milhões de anos.

A Divisão de Ciências Físicas e Engenharia da King Abdullah University of Science and Technology (KAUST) está a oferecer oportunidades de estágios remunerados para estudantes, no seu campus da Arábia Saudita.

Pedro Veiga

Existem muitas tecnologias para aumentar a segurança no mundo dos computadores, mas muito mais importantes são os comportamentos de cada utilizador, em especial quando usam as populares e “gratuitas” aplicações.

Páginas