Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A próxima sessão da Cicloficina realiza-se a 7 de março de 2016, pelas 17h00, no parque de bicicletas do C5.

O “Workshop Corpora and Tools for Processing Corpora”, coorganizado pelo projeto QTLeap, realiza-se a 12 de julho de 2016, em Tomar, no âmbito do “PROPOR 2016 – Intern

Campus da Faculdade

O exercício de evacuação do edifício C2 aconteceu durante a manhã de 26 de fevereiro e contou com a presença da Proteção Civil de Lisboa, do Regimento de Sapadores Bombeiros de Lisboa e da Polícia Segurança Pública - Esquadra do Campo Grande. 

“Estatística no Ensino Secundário” é o tema do próximo Curso Livre de Ciências, organizado pelo Departamento de Matemática (DM) de Ciências. Neste ano letivo cerca de 50 professores participaram nos quatro Cursos Livres de Ciências organizados por Carlota Gonçalves, professora do DM de Ciências.

O 7.º artigo mais lido entre janeiro e março de 2015, na categoria Earth and Planetary Sciences, na revista Precambrian Research é da autoria de dois professores do Departamento de Geologia e investigadores do IDL, Telmo Santos e Paulo Fonseca.

O projeto QTLeap organiza o SedMT2016 e é o patrocinador do Prémio para Melhor Artigo atribuído no âmbito deste workshop.

Quando me desloco, pelas ligações (veredas) do campo da ULisboa, faço uma escolha de um tema para meditar sobre o seu interesse, enquanto ando a pé. Quase sempre consigo dividi-lo em pedaços, para depois os analisar.

Aproximadamente 213 alunos da ULisboa já frequentaram o INOV Contacto, segundo dados transmitidos pela AICEP. Em 2015/2016 foram atribuídos a nível nacional 280 estágios, 24 deles a diplomados da ULisboa, desses oito são recém-graduados de Ciências.

O artigo “Critical fragmentation properties of random drilling: How many random holes need to be drilled to collapse a wooden cube?” foi capa do volume 115 da Physical Review Letters, publicada a 5 de fevereiro de 2016.

Os três eixos estratégicos – Learning, Selection e Evolution – apoiam de forma estruturada a transferência do conhecimento em Ciências ULisboa e incentivam a criação de spin-offs ou o licenciamento de tecnologias.

​“Born small, die young: Intrinsic, size-selective mortality in marine larval fish” foi publicado online na Scientific Reports.

O que fazem e o que pensam alguns membros da comunidade de Ciências?

Bolhas de ar e películas líquidas são de grande importância em áreas tão diversas como as indústrias mineira, transformadora e alimentar e a segurança de materiais, tendo ainda aplicações potenciais em micro e nanotecnologias.

Os estágios irão ocorrer na Alemanha, Espanha, Estados Unidos da América, França, Moçambique e Suécia.

O “Contact Making Event - Farming With Young People" superou as expectativas que levávamos na bagagem. Para além das importantes ferramentas que descobrimos (Erasmus+, dinâmicas de grupo…) e dos novos contactos que fizemos, as éticas e os princípios da Permacultura foram partilhados com todos.

O Arquivo.pt é uma nova ferramenta de suporte à investigação em diversas áreas científicas, como a Sociologia, História ou Comunicação.

A iniciativa foi dinamizada pela professora Suzana Nápoles e contou com a presença de 22 alunos do ensino básico.

O sismo foi registado pelas estações sísmicas do Instituto Dom Luiz.

Anualmente são analisadas pelo Núcleo de Planeamento, Avaliação e Gestão da Qualidade cerca de 800 disciplinas, dos vários cursos da nossa Faculdade.

O mestrado em Microbiologia resulta de um consórcio entre quatro escolas da ULisboa.

Ana Bastos, pós-doutorada no Laboratoire des Science du Climat et de L’Environement, em França, começou a investigar este tema durante o doutoramento em Ciências ULisboa.

Os alunos recrutados são dos cursos de Bioinformática e Biologia Computacional, Engenharia Biomédica e Biofísica, Matemática Aplicada e Tecnologias da Informação e Comunicação.

Octávio Pinto

O que fazem e o que pensam alguns membros da comunidade de Ciências ULisboa?

Jonathan Félix Rio Veloso, estudante da licenciatura em Tecnologias de Informação com minor em Biologia, faleceu na noite de 10 de janeiro. O funeral do aluno realiza-se no dia 12 de janeiro, pelas 14h30, na aldeia de Nozelos, situada no concelho de Valpaços.

 "Com um simples azulejo” é uma iniciativa do DM dirigida a alunos dos 1.º e 2.º ciclos do ensino básico destinada a explorar transformações geométricas no plano.

Páginas