Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

O Departamento de Matemática da FCUL e o CMAF organizam dois mini-cursos de Sistemas Dinâmicos de 17 a 24 de Abril 2013. Os oradores serão Rafael Ortega da Universidade de Granada e Pedro Miguel Duarte do DM da FCUL.

Gulf Labor Markets and Migration Program (GLMMP), a joint program of the European University Institute (EUI - Florence) and the Gulf Research Center (GRC - Jeddah, Geneva, Cambridge), seeks two Research Assistants (Demographer/Statistician and Lawyer).

Rosto de Vanda Brotas

Estudar a clorofila, único parâmetro biológico visível do espaço, constitui uma ferramenta essencial para se perceber se o clima está a mudar. Este artigo foi publicado no jornal "Público" no passado dia 16 de fevereiro.

Servidor da FCUL

As ações de modernização e de alargamento do Centro de Dados da FCUL ocorreram no verão de 2012. A Unidade de Informática continua a apostar na renovação das condições tecnológicas do campus.

Ilustração de animais

A Âncora Editora define-se como uma editora generalista, que tem vindo a dedicar-se, sobretudo, à publicação de autores portugueses. Até agora A. M. Galopim de Carvalho é o autor com o maior número de livros editados.

O projecto de investigação NAADIR que envolve a Faculade de Arquitectura da Universidade Técnica de Lisboa e a Faculdade de Ciências da Universidade de L

Átrio do C6

Para os SASUL ainda é prematuro avaliar o Programa Alimentação UL, cujo orçamento se estima ser na ordem dos 192.000,00 €.

Iain Mattaj, diretor-geral do EMBL

“Estou impressionado com a energia que existe na Faculdade e o número de pessoas que aqui trabalham. Acho que estão bem organizados para trabalhar em equipa!”, declara Iain Mattaj, diretor-geral do European Molecular Biology Laboratory, depois de visitar alguns dos laboratórios da FCUL.

Logotipo da inicativa Programa Alimentação UL

O Menu Estudante custa 2,40€ e inclui sopa, prato principal, sobremesa, pão e bebida. A partir de fevereiro o Espaço Estudante, localizado no edifício C6, também vai dispor de micro-ondas permitindo dessa forma o aquecimento de refeições.

Ester Luísa Rodrigues Dias, professora jubilada do extinto Departamento de Educação da FCUL, faleceu no dia 11 de fevereiro de 2013.

As ações de formação e de sensibilização em segurança e saúde do trabalho procuram divulgar conhecimentos teóricos e práticos de maneira a prevenir acidentes de trabalho e doenças profissionais, permitindo também  intervenções eficazes e eficientes em casos de emergência.

Sala de aula com alunos sentados e tomando notas

"Os estudantes da FCUL, incluindo os estudantes de licenciatura, dispõem do background e conhecimentos certos para participar nestes módulos", esclarece Nathalie Gontier, coordenadora do laboratório AppEEL e das respetivas Escolas de Inverno e de Verão.

Rosto de Vera Carvalho

As inscrições para o programa Erasmus terminam a 10 de fevereiro. Se tens interesse neste programa de mobilidade conhece a história de Vera Carvalho, aluna Erasmus na Dinamarca.

Pormenor de obra de arte

Para os fundadores do AppEEL, este laboratório pode ser considerado o primeiro centro no mundo a reunir investigadores que estudam a evolução sociocultural a partir das teorias que formam parte da Síntese Expandida.

 

O Departamento de Matemática recebeu ontem, dia  4 de Fevereiro, cerca de 70 alunos (9º ano) do  Agrupamento de Escolas D. Miguel de Almeida - Abrantes.

Entre os empregos mais bem pagos contam-se os que estão ligados às engenharias.

Capa

Esta coleção de Livros Brancos foi organizada pela META-NET, uma rede de excelência parcialmente financiada pela Comissão Europeia, que levou a cabo uma análise dos recursos e tecnologias da linguagem atualmente disponíveis. A análise abordou as 23 línguas oficiais europeias assim como outras línguas importantes na Europa a nível nacional e regional. 

O Prémio João Branco é uma iniciativa conjunta da Universidade de Aveiro e da família do designer Jo

Dia 4 Fevereiro 2013 – 14:00h às 19:30h (Sala 2.2.15)

Primeiro plenário do IPBES

Grupo liderado por Henrique Miguel Pereira, investigador do Centro de Biologia Ambiental da FCUL, submete à apreciação da comunidade científica o desenvolvimento de um sistema de monitorização da biodiversidade baseado num conjunto de variáveis essenciais.

Rosto de Maria Antónia Amaral Turkman

“Ao longo dos últimos dois séculos a Estatística foi indispensável em confirmar muitas das maiores descobertas científicas e inovações da humanidade, tais como a partícula bosão de Higgs e a Revolução Verde na agricultura”, declaram Daniel Paulino, presidente da Sociedade Portuguesa de Estatística e Maria Antónia Amaral Turkman, coordenadora do CEAUL.

Dois artigos -- contando com docentes e investigadores do GeoFCUL no seu elenco de autores -- assinalados no “TOP 25 Hottest Papers” de Abril-Junho de 2011 da revista Journal of South American Earth Studies (Sciencedirect / Elsevier).

Páginas