Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A FCUL volta a marcar presença na Futurália, na FIL, no Parque das Nações, juntamente com outras unidades orgânicas da UL, entre 13 e 16 de março.

“Foi o professor Henrique Leitão que me alertou para o facto de a questão do real impacto de Pedro Nunes na náutica do seu tempo estar por resolver.

“Foi o professor Henrique Leitão que me alertou para o facto de a questão do real impacto de Pedro Nunes na náutica do seu tempo estar por resolver. A tese e o prémio foram passos saborosos de um caminho longo mas que tem todo o potencial de ser gratificante e divertido”, reforça Bruno Almeida, vencedor do Prémio Cultura 2012 atribuído pela Sociedade de Geografia de Lisboa.

A reportagem multimédia sobre o Dia Aberto em Ciências inclui testemunhos de candidatos ao ensino superior, alunos e professores da FCUL, colaboradores desta iniciativa.

Prémio SAHFC 2012 - Marta Macedo

Prémio SAHFC

  A Comissão Executiva da Secção Autónoma de História e Filosofia das Ciências (SAHFC) atribui a anualmente o Prémio SAHFC.

O Grupo de Surdez do BioFIG-FCUL, coordenado por Graça Fialho, já analisou cerca de 400 famílias portuguesas afetadas com surdez hereditária. A primeira tese de doutoramento realizada em Portugal na área da genética da surdez foi defendida em 2012, na UL, por Tiago Matos.

Anfiteatro da FCUL

Cerca de 100 alunos de 15 escolas secundárias da zona de Lisboa participaram na 9.ª edição da ação de divulgação da Física de Partículas.

“Portugal é o principal destino dos estudantes brasileiros de graduação bolsistas do Programa Ciência sem Fronteiras.

“Acho que este tipo de ações é bastante útil porque, nesta altura, precisamos de todas as informações possíveis para podermos fazer uma escolha certa”, declara Maria Buzaglo, aluna do 12.º ano, a frequentar o curso de Ciências e Tecnologias na Escola Secundária de Pedro Nunes.

Alunos no átrio do C3

O Gabinete de Mobilidade, Estágios e Inserção Profissional organizou uma sessão de acolhimento aos cerca de 30 novos alunos de mobilidade para o 2.º semestre.

Em 2000, a UL atribuiu o título de doutor honoris causa a Laurens de Haan. Em 2013, outro gigante dos Extremos, Ross Leadbetter, honrará a UL ao aceitar a mesma distinção. Quando a universidade honra investigadores desta importância está também a honrar-se.

O Departamento de Matemática da FCUL e o CMAF organizam dois mini-cursos de Sistemas Dinâmicos de 17 a 24 de Abril 2013. Os oradores serão Rafael Ortega da Universidade de Granada e Pedro Miguel Duarte do DM da FCUL.

Gulf Labor Markets and Migration Program (GLMMP), a joint program of the European University Institute (EUI - Florence) and the Gulf Research Center (GRC - Jeddah, Geneva, Cambridge), seeks two Research Assistants (Demographer/Statistician and Lawyer).

Rosto de Vanda Brotas

Estudar a clorofila, único parâmetro biológico visível do espaço, constitui uma ferramenta essencial para se perceber se o clima está a mudar. Este artigo foi publicado no jornal "Público" no passado dia 16 de fevereiro.

Servidor da FCUL

As ações de modernização e de alargamento do Centro de Dados da FCUL ocorreram no verão de 2012. A Unidade de Informática continua a apostar na renovação das condições tecnológicas do campus.

Ilustração de animais

A Âncora Editora define-se como uma editora generalista, que tem vindo a dedicar-se, sobretudo, à publicação de autores portugueses. Até agora A. M. Galopim de Carvalho é o autor com o maior número de livros editados.

O projecto de investigação NAADIR que envolve a Faculade de Arquitectura da Universidade Técnica de Lisboa e a Faculdade de Ciências da Universidade de L

Átrio do C6

Para os SASUL ainda é prematuro avaliar o Programa Alimentação UL, cujo orçamento se estima ser na ordem dos 192.000,00 €.

Iain Mattaj, diretor-geral do EMBL

“Estou impressionado com a energia que existe na Faculdade e o número de pessoas que aqui trabalham. Acho que estão bem organizados para trabalhar em equipa!”, declara Iain Mattaj, diretor-geral do European Molecular Biology Laboratory, depois de visitar alguns dos laboratórios da FCUL.

Logotipo da inicativa Programa Alimentação UL

O Menu Estudante custa 2,40€ e inclui sopa, prato principal, sobremesa, pão e bebida. A partir de fevereiro o Espaço Estudante, localizado no edifício C6, também vai dispor de micro-ondas permitindo dessa forma o aquecimento de refeições.

Ester Luísa Rodrigues Dias, professora jubilada do extinto Departamento de Educação da FCUL, faleceu no dia 11 de fevereiro de 2013.

As ações de formação e de sensibilização em segurança e saúde do trabalho procuram divulgar conhecimentos teóricos e práticos de maneira a prevenir acidentes de trabalho e doenças profissionais, permitindo também  intervenções eficazes e eficientes em casos de emergência.

Sala de aula com alunos sentados e tomando notas

"Os estudantes da FCUL, incluindo os estudantes de licenciatura, dispõem do background e conhecimentos certos para participar nestes módulos", esclarece Nathalie Gontier, coordenadora do laboratório AppEEL e das respetivas Escolas de Inverno e de Verão.

Páginas