Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A exposição está a partir de 26 de Abril no Museu Nacional de História Natural e da Ciência.

As provas de doutoramento em Biologia, especialidade de Microbiologia, da Mestre Egídia Maria Valente de Azevedo realizam-se no próximo dia 26 de Abril, pelas 10h:30 na Sala de Actos da

O grande momento do dia é a sessão solene, que inclui este ano o lançamento do segundo volume dos Professores Cientistas e a inauguração do Quadro de Honra.

Sobre Namoros e Casamentos

Jorge Buescu

Quinta-feira, dia 12 de Abril de 2012, às 18h30, na sala 6.1.36

Vela

Ricardo Leandro é o vencedor da Competição Europeia. O estudante da FCUL apresentou a melhor ideia: um coletor solar térmico de baixo custo, acoplável a um módulo fotovoltaico.

A palestra "O Princípio do Tempo" proferida por Pedro Gil Ferreira é uma das iniciativas do “VII Encontro Ibérico de Cosmologia”, que decorre em abril nas instalações da FCUL.

Jovem usa microscópio

A FCUL estimula a abertura permanente à sociedade civil, promovendo acontecimentos que visam a disseminação de conhecimentos e a interligação com diferentes agentes sociais.

Os vários objectivos do DEGGE: Tudo o que nos define, e tudo o que apoiamos

O ENEI'12 vai realizar-se na FCUL.

ESTRUTURA E GESTÃO DO DEPARTAMENTO DE BIOLOGIA ANIMAL (DBA)

Apresentação do Departamento

Paleontólogos do MNHN da UL e do GeoFCUL em foco na revista TVmais.

A FCUL participa em "Programa de Estudos Avançados" com mais quatro instituições universitárias portuguesas e brasileiras.

O DQB e a FCUL acolheram, mais uma vez, a realização de provas semifinais das Olimpíadas de Química Júnior 2012 no sábado, 14 de abril de 2012.

Pessoas estudam numa mesa na biblioteca

“Acho que qualquer aluno consegue ser bom, se tiver uma boa disciplina de trabalho e objetivos concretos”. Quem o diz é Gonçalo Faria da Silva, estudante do 3.º ano de Biologia.

No penúltimo dia de março realiza-se a quinta e última sessão do workshop destinado a preparar os estudantes para a obtenção do 1.º emprego.

 

Alunos da FCUL

A Schlumberger realiza uma sessão de recrutamento em Ciências. As grandes empresas procuram os melhores profissionais. A FCUL apoia a inserção profissional dos seus diplomados.
 

O evento é uma organização conjunta da Norton/Symantec e do mestrado em Segurança Informática do DI-FCUL.

O DM está na Futurália

Para Duarte Flor, presidente da associação académica e aluno do 12.º ano em Ciências, é importante que os candidatos ao ensino superior visitem as instalações de uma faculdade.

Desenho de uma figura masculina

“Existe um espaço onde o sentimento de pertença a uma escola pode ser reavivado", afirma Miguel Ramos.

Aluna junto a uma das colunas do átrio do C6

A mostra pictórica da atividade científica da FCUL é inaugurada a 13 de março. Conheça as razões pelas quais deve visitar a exposição.

O que são líquidos iónicos? Num dos primeiros programas do ano, o Com Ciência entrevistou o professor e investigador da FCUL, Carlos Nieto de Castro sobre esta classe de solventes.

Desenho de uma figura masculina

A data de lançamento do livro ainda não é pública, mas o evento deverá ocorrer brevemente, na Faculdade de Belas-Artes da UL.

Ontem evocou-se o Dia das Doenças Raras. A fibrose quística é um desses males incomuns. A investigação científica é importante em todos os setores, mas ganha especial sentido em áreas como esta.

Páginas