Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Pedro Castro

Nesta fotolegenda destacamos uma passagem da entrevista com o engenheiro químico Pedro Castro e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Alunos no Campus de Ciências

"É necessário um equilíbrio entre aquilo que eu e o outro precisamos", explica a psicóloga Andreia Santos, na sua rubrica habitual.

CAP

A 8.ª conferência Communicating Astronomy with the Public, ocorrida em março, no Japão, juntou mais de 450 comunicadores de ciência, de 53 países. João Retrê, do Instituto de Astrofísica e Ciências do Espaço foi um deles.

relógio solar

“O que é o Planeta Terra?” foi a questão que marcou o início dos workshops “Relógio Solar” e “Robot/Pintor” que decorreram no passado dia 9 de abril na Faculdade de Ciências e que contaram com a participação de 15 alunos do Colégio da Beloura em Sintra com idades entre os 4 e os 5 anos.

Rosto do investigador

O prémio é concedido pelos editores do Journal of Coordination Chemistry a um jovem químico, autor do melhor artigo do ano. Pela primeira vez é atribuído a um português, no âmbito de um trabalho realizado por investigadores da Faculdade de Ciências da Universidade de Lisboa, nomeadamente no Centro de Química e Bioquímica e no Instituto de Biossistemas e Ciências Integrativas .

Célia Lee

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de abril é com Célia Lee, que trabalha no suporte à investigação e à prestação de serviços no Instituto Dom Luiz.

 BARCOSOLAR.EU

Sara Freitas, doutoranda de Sistemas Sustentáveis de Energia, colabora no Festival Solar Lisboa, que acontece em maio e inclui muitas atividades gratuitas, tais como passeios num catamarã solar, semelhantes aos que ocorreram em abril no Parque das Nações e que contaram com a presença do grupo Energy Transition do Instituto Dom Luiz.

Erica Sá, bióloga, bolseira e membro da equipa do MARE, faleceu dia 11 de abril, aos 36 anos. A Faculdade lamenta o triste acontecimento, apresentando as condolências aos seus familiares, amigos e colegas.

Centro de Dados da FCUL

"Wittgenstein coloca (em 1934) a pergunta “Pode uma máquina pensar?”, 16 anos antes de Alan Turing (no artigo “Computing Machinery and Intelligence” da revista Mind, novembro, 1950). E, essa especulação feita no campo da Filosofia tem um significado interessante nos dias de hoje, aparecendo como uma previsão significativa (Oliveira, 2017)", escreve Helder Coelho em mais um ensaio.

Imagem da Orion A

A missão Gaia dedica-se a observar estrelas. A sua finalidade é mapear a Via Láctea em 3D. O primeiro lançamento de dados ocorreu em 2016. O próximo acontece a 25 de abril e corresponde à primeira entrega com distâncias, velocidades e vários outros parâmetros astrofísicos para a maioria das estrelas.

Trabalho em Bio Hacking

Ciências colabora com o módulo Bio Hacking na iniciativa Young Creators 2018. Esta é a segunda vez que a Faculdade integra o projeto.

Equipa de trabalho CEAUL

O Centro de Estatística e Aplicações da Universidade de Lisboa realizou o seu primeiro workshop no dia 17 de março.

Homem a espreguiçar

Sabendo que no nosso dia-a-dia, por motivos laborais ou outros, ficamos sentados muito tempo, que medidas deveremos tomar para minimizar os seus efeitos?

Pormenor da Lua

Martin Schilller e Martin Bizzarro, investigadores da Universidade de Copenhaga, na Dinamarca e Vera Assis Fernandes, investigadora do Museu de História Natural de Berlim, na Alemanha e colaboradora do Instituto Dom Luiz, desafiam a teoria dominante sobre a formação dos corpos planetários do sistema solar e a própria origem do sistema Terra - Lua.

Conceção artística de um exoplaneta a passar (transitar) em frente da sua estrela

A missão Ariel tem como objetivo descrever as atmosferas dos exoplanetas. A equipa de investigação é composta por 12 investigadores, sete deles têm ligação a Ciências.

Imagem de motivação

Uma das formas de lidar com a ansiedade e o medo é ganhar perspetiva.

Rosto de Henrique Cabral

Nesta fotolegenda destacamos uma passagem da entrevista com o biólogo Henrique Cabral e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Edifício C2

A primeira reunião do projeto PROSEU “PROSumers for the Energy Union: mainstreaming active participation of citizens in the energy transition”, financiado pelo Horizonte 2020 e com a duração de três anos, realiza-se no campus de Ciências, nos dias 22 e 23 de março.

Carrinho

Dez empresas discutem os últimos avanços no sector da mobilidade sustentável.

Sala de aulas

Parece razoável inferir que queremos ter estudantes que saibam como aprender e que conheçam como descobrir a informação que precisam a partir de uma variedade de fontes.

Papel ardido

Saí da FCUL ao fim da tarde rumo ao meu fim de semana. Para trás ficou um edifício imponente a fervilhar de vida, e ao mesmo tempo já a minha casa! A casa que nos ampara, nos ensina e, a mim, permitia uma entrada num mundo tão fortemente diferente do vivido por mim noutro lugar.

Pessoas na Politécnica recuperam objetos no rescaldo do incêndio

Ainda durante o rescaldo do incêndio iniciaram-se as operações de salvamento e recuperação do que ainda fosse possível salvar e recuperar.

Imagem abstrata

Dez países juntam-se para o estudo do património dos materiais plásticos.

Edifício da Escola Politécnica

Politénica (FCUL)... escrever e ou pensar sobre “ELA”, hoje, ainda me emociona...

Pormenor de uma palmeira

Agora era diferente. No fim da Ferreira Borges surgia sempre a mesma dúvida que me tolhia o passo: onde são as aulas hoje? E eu, traído pela minha própria desorganização, fazia todos os dias o mesmo esforço para encontrar uma qualquer lógica que me ajudasse a decidir para onde ir naquele dia. Politécnica? 24 de Julho? É claro que ter um horário comigo ajudaria...

Páginas