Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A Companhia de Seguros Generali , procura Actuário Júnior para integrar na sua equipa.

Pela primeira vez o Departamento de Matemática de Ciências realiza ações de formação parcialmente à distância.

Príncipe de Girona

O objetivo do meu trabalho é entender alguns dos processos moleculares e celulares que ocorrem durante o desenvolvimento de novos vasos sanguíneos”, explicou o antigo aluno de Ciências.

Príncipe Girona - Rui Benetido

Rui Benedito já trabalhou com estudantes de Biologia vindos de Portugal, Espanha, Inglaterra e Alemanha, a avaliação que faz é a de que “os estudantes saem muito bem preparados da FCUL. Os alunos de Ciências portugueses são muito apreciados no estrangeiro”. Por isso, deixa o convite: “tenho posições disponíveis no meu laboratório para estudantes portugueses!”.

Candidatura GeoFCUL ao X CNG 2018

O Departamento de Geologia da Faculdade de Ciências da ULisboa organizou a segunda sessão do CNG, em 1986, e candidatou-se a organizar o X CNG em 2018, durante o IX Congresso Nacional de Geologia, que decorreu em julho no Porto.

Cinquenta e cinco jovens experimentam a realidade da investigação científica na Faculdade de Ciências da ULisboa. O desafio começa esta segunda-feira, dia 21 de julho e prolonga-se até quinta-feira, dia 24.

Biologia 2014/2015

Para Ana Rita Ruivo, do 12.º ano da Escola Secundária Quinta do Marquês, passar alguns dias do seu verão em Ciências foi importante porque a ajudou a “clarificar que [assuntos] correspondem aos [diferentes] cursos” e também porque lhe permitiu “[ter contacto com] experiências que nunca tinha feito”.

António Branco, professor do Departamento de Informática de Ciências, é o coordenador do QTLeap, um projeto europeu de investigação para a tradução automática.

“É a primeira vez que tenho contacto com este ambiente. Gosto de programação e o curso que quero seguir é Engenharia Informática. Aqui, vou ganhar alguns conhecimentos”, referiu o aluno do 11.º ano da Escola Secundária da Amadora, Miguel Almeida, um dos participantes do FCUL Rally Pro.

Coleção de culturas

Este é um exemplo de como as coleções biológicas, enquanto infraestruturas científicas, podem ser instrumentais para o avanço da ciência e no potenciar e estreitar de parcerias transversais.

 A Exigo Consultores, empresa de consultoria em actividade desde 2001, focada na consultoria para o sector de saúde, principalmente a consultoria em economia da saúde, epidemiologia, análise matemática e estatística, procura

Parabéns ao aluno Pedro Lencastre, da edição de 2012/2013 do mestrado em Matemática Financeira da Faculdade de Ciências da ULisboa e do ISCTE-IUL, que ganhou uma bolsa da Global Association of Risk Professionals (GARP) para a elaboração da sua tese de mestrado na área de riscos financeiros.

alumna de Ciências e investigadora da ULisboa, galardoada este ano com o Portuguese Young Chemists Award, procura descobrir um fármaco que venha a ser útil à sociedade.

No âmbito de uma parceria estabelecida entre a Faculdade de Ciências da Universidade Agostinho Neto (FCUAN) e a Faculdade de Ciências da Universidade de Lisboa (FCUL), teve início em abril de 2014 o Mestrado em Microbiologia Aplicada da FCUAN

No âmbito de uma parceria estabelecida entre a Faculdade de Ciências da Universidade Agostinho Neto (FCUAN) e a Faculdade de Ciências da Universidade de Lisboa (FCUL), teve início em abril de 2014 o Mestrado em Microbiologia Aplicada da FCUAN

A segunda edição do FCUL Rally Pro realizou-se na tarde de 2 de julho.

De 7 de julho a 5 de setembro de 2014 as bibliotecas do C4 e do C8 têm alteração no horário de funcionamento.

Pedro Garret, Investigador de Ciências

A informação com possíveis cenários climáticos até ao final do século já está disponível para consulta de autarquias, responsáveis por licenciamentos de obras, proprietários que queiram construir e autoridades de proteção civil.

Alunos no campus de Ciências

“Quem não gostaria de gerir uma empresa sem o verdadeiro risco mas, ainda assim, de uma forma bastante realista?”, questiona João Guilherme Rodrigues, aluno de Ciências e um dos 21 concorrentes da Faculdade ao Global Management Challenge (GMC).

Qual é a maior alegria de um professor? Para a maioria é com certeza o bem-estar e o sucesso dos seus alunos.

Escolha de Ramo em Geologia / 2014

Listas definitivas divulgadas em 23 de Julho de 2014.

Helder Coelho, professor do Departamento de Informática da FCUL e um dos investigadores fundadores da Inteligência Artificial

“Tenho pensado em fazer um curso, uma formação extra virada para a área da Energia, não só para ajudar os meus alunos mas também por mim, por satisfação, para aprender”, conta Carlos Paulino, professor do ensino secundário.

Páginas