Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Aplicações médicas e industriais a partir de organismos que produzem bioadesivos... Sim, é possível. No âmbito de uma Ação COST, a Rede Europeia de Especialistas em Bioadesão, trabalha para criar novos produtos.

O tempo tem demonstrado ser possível avançar na criação de mais e melhores condições de equidade para os alunos com Necessidades Educativas Especiais. Mas este é um desafio permanente para as instituições de ensino, como também o é para cada um de nós e a cada momento, num permanente processo de implicação pessoal em prol de algo que tanto prezamos: a igualdade de oportunidades.

Num desporto o treino é comum e faz parte de um plano para conseguir os melhores resultados, estimulando as capacidades físicas a superarem os desempenhos. Mas, também se podem treinar as mentes para fazer ciência.

O dia-a-dia de Luis Filipe Lages Martins divide-se entre a atividade de investigação em Metrologia com aplicação na Engenharia Civil e a gestão laboratorial da Unidade de Metrologia Aplicada do LNEC – Laboratório Nacional de Engenharia Civil. O primeiro estudante a obter o grau de doutor em Engenharia Física pela Faculdade de Ciências da Universidade de Lisboa nasceu em Lisboa e aos 34 anos acaba de ser distinguido com o Prémio Inovação em Metrologia.

Luís Filipe Lages Martins, bolseiro de pós-doutoramento do LNEC – Laboratório Nacional de Engenharia Civil, é o vencedor da 1.ª edição do Prémio Inovação em Metrologia da Sociedade Portuguesa de Metrologia (SPMet).

Em parceria com a Universidade de Lisboa e outras instituições que lecionam o curso de Química, a Sociedade Portuguesa de Química atribui prémios de mérito aos alunos com melhores resultados alcançados nesta área científica.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O 11.º Dictum et factum é com Aurora Sardinha, assistente técnica do Tec Labs – Centro de Inovação de Ciências.

Já só faltam dois eventos para a digressão Ignite IAstro terminar. Amanhã acontece um deles, na Covilhã, o último irá ocorrer na Guarda, a 3 de dezembro.

Onde estou? Para onde vou? As células do lugar ajudam-nos a cartografar (guiar) as nossas viagens no mundo, e constituem uma espécie de andaime espaço/temporal/cerebral que suporta a memória autobiográfica. Como o cérebro computa? Não é com Java, mas com um outro tipo de linguagem ainda a descobrir. O caminho para a compreensão dos códigos neuronais da cognição está aberto, e o desafio está lançado simultaneamente à Biologia, à Ciência da Computação e à Filosofia.

capa do livro

A banda desenhada "Reportagem Especial - Adaptação às Alterações Climáticas em Portugal" é lançada em Ciências esta segunda-feira, 7 de novembro de 2016, pelas 17h00, no auditório da Fundação da Faculdade, sito edifício C1, piso 3.

A ciência contemporânea enfrenta um conjunto de novos desafios que podem limitar a sua legitimidade, o seu valor e alcance. Estas notas abordam alguns destes riscos tentando apontar possíveis caminhos para os ultrapassar.

O ESPRESSO vai permitir descobrir planetas semelhantes à Terra, estudar a variabilidade das constantes fundamentais da Física e será essencial para complementar os dados da missão espacial PLATO.

Faleceu recentemente, com 95 anos, Ricardo Augusto Quadrado. Foi um professor de Cristalografia e Mineralogia da FCUL, e da Universidade da Madeira, extremamente marcante para quantos tiveram o privilégio de com ele privar. 

“Ainda há muito para fazer”, responde Nuno Araújo, quando questionado quanto ao futuro desta investigação, que dá um passo significativo num dos maiores desafios da Física da Matéria Condensada e que diz respeito ao desenvolvimento de técnicas experimentais, económicas e eficazes, capazes de sintetizar as estruturas desejadas de forma espontânea.

“O mergulho científico não se reduz à Biologia (…). Se estás interessado em fazer mergulho científico, esta é uma ótima oportunidade para dares os primeiros passos”, esta é a mensagem em jeito de convite do Núcleo de Mergulho Científico de Ciências ULisboa para alunos, professores, investigadores e outros funcionários de Ciências.

Os cientistas João C. Duarte, Filipe M. Rosas e Wouter P. Schellart apresentam o novo supercontinente chamado Aurica.

As florestas de Madagáscar estão em risco, mas um estudo publicado online na revista “Biological Conservation” demonstra que as áreas protegidas da ilha estão a ser eficazes no combate à desflorestação.

Pela primeira vez uma cientista portuguesa é a presidente eleita da European Society for the History of Science.

Na Science de 7 de outubro, no vol. 354, issue 6308, Pamela J. Hines explica como o cérebro se constrói, a mobilidade dos neurónios, das zonas onde proliferam para as localizações finais, e revela que qualquer problema que ocorra durante a migração pode afetar o desenvolvimento de uma criança, nos aspetos físicos e comportamentais.

A resistência aos antimicrobianos é um fenómeno inevitável, pelo que a vigilância, prevenção e controlo são fulcrais, mesmo que futuramente se desenvolvam novos antibióticos, pois será apenas uma questão de tempo até que a resistência a estes seja desenvolvida.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O décimo Dictum et factum é com Fernando Lopes, coordenador do Gabinete de Apoio à Investigação da Direção de I&D de Ciências.

Com o objetivo de sensibilizar e preparar para o risco sísmico e melhorar a qualidade de ensino da Sismologia e das Ciências da Terra em Portugal, Susana Custódio, Graça Silveira, Luís Matias e Catarina Matos desenvolveram um estudo sobre a educação para os sismos, adaptado à realidade de Portugal e a diferentes grupos etários e que foi capa de uma das edições deste ano da revista “Seismological Research Letters”.

O projeto RESISTIR coordenado por Ciências e pela Maxdata Software e cofinanciado pelo Portugal 2020 visa criar até abril de 2019 um sistema de informação - inovador, modular, inteligente e adaptável - para apoiar a tomada de decisão clínica no domínio da vigilância epidemiológica, resistência aos antimicrobianos, controlo de infeção e gestão hospitalar.

O “coração da cidade” foi invadido por uma “onda de ciência e tecnologia” em mais uma edição da Noite Europeia dos Investigadores. O tema deste ano foi a “Ciência no dia-a-dia”.

“Geography and major host evolutionary transitions shape the resource use of plant parasites” da autoria de Joaquín Calatayud, José Luis Hórreo, Jaime Madrigal-González, Alain Migeon, Miguel Á. Rodríguez, Sara Magalhães e Joaquín Horta salienta a necessidade de estudos mais globais em Ecologia.

Páginas