Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Denís Graña e José Sebio desenvolveram este projeto no âmbito da disciplina de Aplicações na Web do mestrado em Engenharia Informática de Ciências.

O Centro de Investigação Operacional realizará no dia 19 de junho, quinta-feira, às 14H30, na sala 6.4.31, um Seminário intitulado The Recoverable Robust Facility Location Prob

Mapa

A FCT e a FAPESP pretendem lançar em 2014 um concurso para projetos de investigação, com equipas conjuntas, em todos os domínios científicos.

Observatório Astronómico

O Edifício das Matemáticas, que faz parte do complexo arquitetónico do Observatório Astronómico, foi também recentemente modelado em 3D por um grupo de alunos da Faculdade de Ciências da ULisboa.

Mais uma visita a uma escola, na região oeste, para uma sessão com duas palestras...

Aberta aos sábados, até às 17h00, entre 7 e 28 de junho.

Ambiente subaquático

O passeio a bordo do galeão ocorre durante a manhã. Os participantes além de recolherem o lixo subaquático também poderão fotografar a biodiversidade. Da parte da tarde estão previstas outras ações como a identificação de sons de animais marinhos, a observação de plâncton à lupa e a recolha de amostras para análises genéticas.

HoliBraille

Diogo Marques e Tiago Guerreiro, investigadores de Ciências, assinam juntamente com outros cinco investigadores o artigo "Augmenting Braille Input through Multitouch Feedback".

2ª fase de candidaturas para o Mestrado em Matemática para Professores: de 18 de Agosto a 3 de Setembro. Este ano iniciar-se-á o ensino em regime de b-learning neste mestrado.

Prémio Jovem Investigador da Sociedade Europeia de Aterosclerose

Ana Catarina Alves, doutoranda do centro BioFIG, distingue-se com o trabalho "Novel functional APOB mutations outside LDL-binding region causing familial hypercholesterolaemia".

Durante o terceiro debate foram apresentados os resultados de um estudo de opinião com incidência em temáticas como a educação para o mar, a Economia verde, a eficiência energética ou a reindustrialização.

Parabéns à Alexandra Symeonides, Fábio Silva, Filipe Gomes, João Dias, João Enes, Pedro Pinto e Sílvia Reis, alunos ou ex-alunos do mestrado em Matemática do Departamento de Matemática de Ciências, pela obtenção duma bolsa de doutoramento LisMath.

A sessão de abertura do Fórum do Mar ocorre no dia 28 de maio, pelas 9h30, com a presença do Senhor Secretário de Estado do Mar.

Logo do evento

O Departamento de Informática da FCUL (DI-FCUL) organiza este ano a segunda edição do&nb

Luís Correia, atual presidente do Departamento de Informática e diretor do LabMAg, foi entrevistado no contexto do projeto europeu ASSISIbf&nbs

No âmbito da unidade curricular Estatística Ciência e Sociedade, realiza-se no dia 29 de maio, pelas 12h, na sala 6.2.50 um Seminário da autoria dos alunos Carlos Botelho, Soraia Graça e Vasco Guerra, intitulado 

O Centro de Investigação Operacional realizará no dia 5 de Junho, pelas 15 horas, na sala 6.4.31, um Seminário intitulado : "Column Generation in Routing: Classical CVRP and Transport

António Amorim

As emissões das florestas podem ter um papel fundamental nos momentos iniciais da formação das nuvens.

Abstract: Routing problems are naturally formulated by enumerating possible routes and combining them to derive an improved solution. This combination is done by solving a set partitioning problem that assures the set of chosen routes to visit all routing customers exactly once.

Conferência no dia 30 de Maio, pelas 11h30, sala 6.2.53, Edifício C6, FCUL, Campo Grande, Lisboa, no âmbito do “Dia do Geológo”

 

O Professor Pedro Ferraz de Abreu, Professor Catedrático Convidado da Faculdade de Ciências da Universidade de Lisboa e Investigador do Massachusetts Institute of Technology (MIT) está a visitar vários estados do Brasil como Brasília,

Rita e Mariana, alunas do pré-escolar daquele colégio, deram conta de alguns pormenores do que aprenderam nos telhados do edifício C4: “vimos muitos painéis solares. Nunca tínhamos visto! O senhor disse que o Sol batia neles, depois aqueciam e produziam eletricidade”.

SESSÕES DE APRESENTAÇÃO & ESCLARECIMENTO

 

- 23 Maio 2014 (6ªF), 17:00-18:30h, sala 2.2.14

o    Biologia da Conservação (BC)

“Houve muitos [episódios] interessantes e inesperados. Os mais marcantes foram o encontro, o conhecimento e o convívio com alunos excecionais”, declara Filipe Duarte Santos, professor do Departamento de Física de Ciências, sobre a sua experiência ao longo dos anos na Faculdade.

O DEIO divulga mais uma oferta de emprego.

Páginas