Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

O significado profundo das coisas... “Com motivação, trabalho e a equipa certa, tudo é possível”.

Estudo mostra que as galáxias que habitam a rede cósmica/os grandes filamentos têm uma muito maior probabilidade de formar estrelas. Os resultados mostram também que isso se deve, muito provavelmente, à maior probabilidade de interação entre galáxias nestas estruturas.

O Link2Jobs, projeto da TESE, vai realizar dia 10 de Dezembro em Lisboa (no CNAI, das 14:30h-18:30h) o workshop "Tens as competências que os empregadores procuram?", para jovens entre os 18 e os 25 anos que querem dar o salto

O Seminário Informal de Matemática (SIM) é uma iniciativa dos alunos do Mestrado em Matemática e do Doutoramento em Matemática.

SASULisboa App

A aplicação móvel foi desenvolvida pelo Departamento de Informática da Faculdade de Ciências, pela Unidade de Tecnologias de Informação dos SASUlisboa e pelo Departamento de Informática dos Serviços Centrais, em articulação com a SAPO Labs da PT Comunicações.

Este novo dinossáurio foi encontrado em 1999 num bloco caído das arribas na Praia de Porto das Barcas, na Lourinhã.

Nuno Neves, professor do DI-FCUL, foi consultado como especialista no âmbito do desastre do Citius, em notícia d

Game Over!

A cooperação entre Ciências e a Universidade Nacional Timor Lorosa’e é possível e desejável

Renato Liscar é timorense e estuda Geologia em Ciências. A cooperação entre Ciências e a Universidade Nacional Timor Lorosa’e é possível e desejável.

Unidades de I&D (2015-2020)

Novo Seminário CIO terá lugar no dia 2 de Dezembro, terça-feira, às 14H30, na sala 6.4.30, Piso 4 do Edf.

No dia 21 de novembro de 2014 às 10h30, no Auditório da Escola Secundária da Portela, Luís Correi

Nelson Nunes

Os Prémios Breakthrough 2015 são entregues no dia 22 de novembro.

No passado dia 18 de novembro, o Departamento de Matemática celebrou o aniversário do Professor João Paulo Carvalho Dias com um lanche.

 

Pormenor da capa da publicação

O Centro de Ecologia, Evolução e Alterações Ambientais (Ce3C) da Faculdade de Ciências da Universidade de Lisboa lançou o INFOCE3C - Notícias sobre Ecologia, Evoluç&atild

Entrevista com… Alexandre Simões

Alexandre Simões, aluno do Departamento de Matemática de Ciências, foi distinguido pelo Programa de Estímulo à Investigação da Fundação Calouste Gulbenkian, com o trabalho “Métodos topológicos para o estudo de equações diferenciais”.

Sara Freitas, aluna de doutoramento de Ciências, foi distinguida pelo Programa de Estímulo à Investigação da Fundação Calouste Gulbenkian, com o trabalho  "Validação de um Modelo de Potencial Solar Fotovoltaico no Meio Urbano incluindo Fachadas”.

Foi lançado na semana passada um novo inquérito de Emprego Universia em 10 países da Rede Universia: Argentina, Brasil, Chile, Colômbia, Espanha, México, Peru, Portugal, Porto Rico e Uruguai, para avaliar a opinião da comunidade da rede Universia sobre

Encontro CARIBU

No âmbito da parceria a ULisboa recebeu quatro estudantes de África e do Pacífico. A candidata selecionada para a Faculdade de Ciências está a frequentar o mestrado em Geologia Aplicada.

A pouco e pouco vamos pavimentando o caminho para a sustentabilidade, junta-te a nós na actividade que mais te motivar!

Campus de Ciências

A substituição do torniquete por uma porta de vidro na biblioteca do C4, evitando o ruído de entradas e saídas, é um dos exemplos das melhorias implementadas com base neste serviço.

Raquel Barata

O Borboletário, inaugurado em 2006 no mesmo dia do Jardim, completa amanhã oito anos e constitui a primeira estufa de criação de borboletas da fauna Ibérica aberta ao público.

DGEEC disponibiliza informação sobre a produção científica portuguesa e respectivo impacto.

Páginas