Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Novo estudo com recurso a análises genéticas revela que o sapo-asiático que está a invadir a ilha de Madagáscar terá origem numa população do Camboja e Vietname.

“Ao transformarmos o problema dos resíduos orgânicos, numa oportunidade para  melhorarmos o solo do campus de Ciências, ou seja, a matriz que suporta a vida, estamos a melhorar as plantas que aqui crescem com externalidades positivas para o ambiente”, declara David Avelar, guardião da HortaFCUL.

Exposição de design inclui projetos de comunicação de ciência, fruto de uma parceria entre o Instituto de Astrofísica e Ciências do Espaço e a Faculdade de Belas-Artes da Universidade de Lisboa.

Miguel Morgado-Santos, doutorando de Ciências, descobriu um peixe apenas com genes de pai, da espécie bordalo (Squalius alburnoides). Este é o primeiro caso de androgénese natural em vertebrados, sem qualquer manipulação durante o processo de reprodução.

Mafalda Carapuço continua a falar sobre a onda da Nazaré. Em maio passado esteve na Biblioteca São Francisco Xavier, com uma turma do 2.º ano da Escola Moinhos do Restelo. Este mês participou no colóquio "Nazaré e o Mar", ocorrido na Biblioteca Municipal da Nazaré.

Será a ética determinante na sustentabilidade de uma sociedade de consumo? Este é o tema aborado por Sofia Guedes Vaz, no dia 22 de junho, pelas 17h30, no MUHNAC-ULisboa.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de junho é com Nuno Rato, coordenador do Gabinete de Orçamento e Prestação de Conta da Direção Financeira e Patrimonial de Ciências.

Ao longo do ano são muitos os alunos dos ensinos básico e secundário que visitam a Faculdade. Este ano letivo cerca de 63 estudantes, entre os 9 e 10 anos, da Escola Básica Maria Lamas, em Odivelas, conheceram os Departamentos de Biologia Animal, Biologia Vegetal e Química e Bioquímica.

A empresa Surftotal associou-se ao Instituto Dom Luiz e à Faculdade de Ciências da Universidade de Lisboa, num projeto que visa testar a utilização de surfcams instaladas na costa portuguesa para melhor monitorização costeira.

“É um jogo que trabalha consistentemente o raciocínio e a capacidade de prever os acontecimentos, muito como no xadrez. Para além disso, ajuda nas relações interpessoais, visto que é um jogo de parceiros e é necessário muita confiança mútua para ter sucesso”, reforça Afonso Ribeiro, aluno do 1.º ano de Matemática Aplicada, membro do curso de Bridge da FCUL.

O concurso de programação do Departamento de Informática recebeu 45 participantes, alunos do ensino secundário, na edição de 2017.

Hoje em dia quando se fala de imaginação (criatividade, inovação) queremos dizer, na maior parte dos casos, antecipação e surpresa. Um empresário, um investigador, um professor querem captar a atenção do outro, inventando e brincando com o possível ou o provável. Por isso, falamos frequentemente de criar imagens, ideias, ou mesmo histórias (veja-se o tópico criatividade computacional, e o grupo de Amílcar Cardoso da Universidade de Coimbra).

O Air4, um protótipo para medição de gases indicadores da qualidade do ar, associado a um modelo de análise de mapas e a uma aplicação mobile, ficou em 2.º lugar no 1.º Hackathon de Tra

No Dia da Criança Galopim de Carvalho lança “O Avô e os Netos Falam de Geologia”, editado pela Âncora Editora e apresentado durante a Feira do Livro de Lisboa.

Foi em setembro do ano passado que a HortaFCUL decidiu abraçar o projeto de ajudar a construir uma Horta Pedagógica na Escola Básica de Santo António em Alvalade, em parceria com Direção e Associação de Pais da Escola e apoiado pelo programa de estímulo à aprendizagem financiado pela Gulbenkian.

Miguel Centeno Brito, professor do DEGGE, foi um dos participantes das II Jornadas da Energia, que ocorreram em abril passado, tendo sido um dos convidados do programa da Rádio Renascença Insónia.

Este ano as Jornadas celebraram a efeméride dos 35 anos da criação da licenciatura em Química Tecnológica.

 É necessário estabelecer redes de monitorização mais robustas e de larga escala para avaliar o impacto das alterações climáticas e da poluição atmosférica na Bacia do Mediterrâneo, refere comunicado de imprensa do cE3c - Centro de Ecologia, Evolução e Alterações Ambientais.

A primeira abordagem a uma reconstituição tridimensional da circulação atmosférica de Vénus pode ser lida no artigo “Venus's winds and temperatures during the MESSENGER's flyby: An approximation to a three-dimensional instantaneous state of the atmosphere”, publicado na Geophysical Research Letters.

O ano passado “The Sphere of the Earth” integrou a exposição “Formas & Fórmulas”, patente no Museu Nacional de História Natural e da Ciência. De lá para cá e por sugestão de José Francisco Rodrigues, um dos comissários desta mostra, Daniel Ramos começou a atualizar o referido programa tornando-o ainda mais rico em termos de funcionalidades e design, com uma multitude de visualizações cartográficas e da geometria da esfera e pela primeira vez em Português. Assim surgiu Mappae Mundi.

As plantas estão por todo o lado, são-nos indispensáveis de diversas formas, mas a nossa consciência, individual e coletiva, da sua importância, é ainda muito limitada.

“Não só quero continuar a adquirir competências, como quero passar a mensagem de que a Comunicação de Ciência é essencial para que a ciência seja compreendida e bem sucedida. É nosso dever informarmos a sociedade dos progressos científicos que vão sendo alcançados”, declara Rúben Oliveira, aluno do mestrado em Biologia da Conservação, finalista do concurso FameLab Portugal.

“O que realmente me aqueceu o coração foi o facto de que, depois da apresentação, algumas pessoas dedicaram tempo a dirigirem-se a mim para discutir o tema em mais profundidade, explicar-me os seus pontos de vista e opiniões”, declara Helena Calhau, aluna do 2.º ano da licenciatura em Física.

Ao serviço de quem está a ciência e a tecnologia? Devemos ter medo das suas utilizações? Há mesmo o perigo de uma superinteligência fazer-nos mal? Em 2014 e 2015, um conjunto de personalidades pôs em causa o controlo (ou a sua falta) da disciplina da Inteligência Artificial (IA) e abriu o debate com os temas da superinteligência e do domínio dos humanos por máquinas mais inteligentes. Graças a Elan Musk, Bill Gates, Stephen Hawking, Nick Bostrom e Noam Chomsky podemos estar mais descansados com o alerta (na singularidade defende-se que a Inteligência Artificial ultrapassará a humana para criar uma IA geral ou forte), mas mesmo assim cuidado.

“Sempre achei as áreas da educação e comunicação bastante interessantes, sonho desde jovem em incorporar um pouco destas duas áreas na minha carreira científica”, declara Hugo Bettencourt, aluno do mestrado integrado em Engenharia Biomédica e Biofísica.

Páginas