Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

João Luís Andrade e Silva, professor catedrático aposentado da Faculdade de Ciências da Universidade de Lisboa, faleceu esta sexta-feira, dia 10 de novembro, aos 89 anos. A Faculdade lamenta o triste acontecimento, apresentando as condolências aos seus familiares, amigos e colegas.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de novembro é com Emília Real, assistente técnica do Departamento Física de Ciências.

Nos últimos anos, a UNESCO financiou o projeto internacional - "Complex Systems Digital Campus (UniTwin)" - recorrendo a uma plataforma de e-Meeting, e esse exercício mostrou o caminho certo (alternativo aos massive open online courses ou MOOC) para esta nova experiência pedagógica da informática na educação. Quer isto dizer que a tecnologia, quando bem explorada, pode ser mesmo benéfica.

Em junho deste ano Alice Nunes terminou o programa doutoral em Biologia e Ecologia das Alterações Globais. Esta quinta-feira, durante o 16.º Encontro Nacional de Ecologia, a decorrer até amanhã no Salão Nobre da Reitoria da ULisboa, apresenta esse trabalho – “Plant functional trait response to climate in Mediterranean drylands: contribution to restoration and combat of desertification”, classificado em segundo lugar nesta primeira edição do Prémio da SPECO.

O prémio Nobel da Química foi atribuído em 2017, em partes iguais, a três investigadores, Jacques Dubochet (Universidade de Lausana, Suiça), Joachim Frank (Universidade de Columbia, Nova Iorque, EUA) e Richard Henderson (Laboratório MRC de Biologia Molecular, Cambridge, UK) pelo desenvolvimento da microscopia crioelectrónica que permite a resolução da estrutura de biomoléculas em solução com alta resolução.

Em 2017 a “Medalha Dr. Janusz Pawliszyn” foi atribuída a José Manuel Florêncio Nogueira, professor do Departamento de Química e Bioquímica, coordenador do grupo de Ciência e Tecnologia de Separação do Centro de Química e Bioquímica de Ciências e representante português na European Society for Separation Science.

Em 2017 o Centro Interuniversitário de História das Ciências e da Tecnologia celebra dez anos. Para comemorar a efeméride, a unidade de I&D realiza no próximo dia 8 de novembro, a partir das 18h00, no anfiteatro da FCiências.ID, sito no edifício C1, piso 3, a primeira distinguished lecture com Jürgen Renn, prestigiado historiador das ciências e diretor do Max Planck Institute for the History of Science.

A representação do campus da Faculdade de Ciências da Universidade de Lisboa em 3D utilizando tecnologias inovadoras fornece dados de apoio à gestão e utilização de recursos.

“Nos meus projetos lido diariamente com a Biologia, a que aprendi na faculdade e ao longo da minha vida, e com o desenho que me acompanha como forma de olhar, entender e comunicar”, declara o ilustrador científico Pedro Salgado, antigo aluno de Ciências.

.

Cerca de 39 alunos do BioSys participaram no segundo encontro de estudantes deste programa doutoral. O evento ocorreu em Beja este mês. Também em outubro terminam as candidaturas a 11 bolsas de doutoramento da próxima edição do BioSys.

Uma vez mais Ciências participou na Maratona Interuniversitária de Programação (MIUP), este ano organizada pela Universidade do Minho. A equipa de Ciências - Caracóis Hipocondríacos -, composta pelos alunos Nuno Burnay, Robin Vassantlal e Guilherme Espada, ficou em 3.º lugar, ao resolver quatro dos nove problemas da competição.

Imagina que tens um jarro vazio e um conjunto de pedras grandes, seixos, gravilha e areia. Agora, imagina que para encher o jarro, vais colocando primeiro a areia e a gravilha e só no fim, as pedras maiores... O que achas que acontece? Será que vai caber tudo e de que forma?... E se colocássemos as pedras grandes primeiro?

As alterações climáticas podem mudar a natureza do impacto do lagostim-vermelho-da-Louisiana (Procambarus clarkii) nos ecossistemas.

Recentemente, dois estudos sobre como pensamos, um do Instituto Max Planck (para a História da Ciência, Alemanha) e outro da Escola de Medicina de Harvard (EUA), de maio de 2017 (revista NeuroImage, de Elinor Amit e Evelina Fedorenko), clarificaram as diferenças que nós temos quando refletimos sobre alguma matéria, fazemos coisas, ou emulamos a realidade.

Ciências participa na KIC EIT Health que visa promover o empreendedorismo para o desenvolvimento de uma vida saudável e de um envelhecimento ativo. Os alunos podem inscrever-se na unidade curricular que lhes permite participar no projeto, sendo que uma parte é feita na Dinamarca.

A experiência ATLAS acontece há 25 anos e a data será celebrada com palestras, bem como com uma homenagem à responsável pela participação portuguesa na experiência, a cientista Amélia Maio.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de outubro é com Francisco Oliveira, assistente técnico do Núcleo de Manutenção do Gabinete de Obras, Manutenção e Espaços da Área de Serviços Técnicos de Ciências.

O Prémio Nobel da Física de 2017 foi atribuído a Rainer Weiss, Barry Barish e Kip Thorne. Francisco Lobo, investigador do Departamento de Física de Ciências e do Instituto de Astrofísica e Ciências do Espaço, comenta o tema.

Há cinco anos o biólogo marinho Pedro M. Lourenço encontrou microfibras em dejetos de aves. Foi nessa ocasião que surgiu a ideia de avaliar a abundância de microplásticos nos estuários, iniciando assim um estudo sobre a poluição por plásticos.

“Para além da importância no contexto científico, este trabalho também tem uma forte importância no contexto industrial, pois permite otimizar os gastos de energia domésticos e industriais”, explica o investigador do Centro de Química Estrutural de Ciências, Francisco Bioucas.

Mais de 100 cientistas reúnem-se em Lisboa, na Faculdade de Ciências, para abordar a temática dos nanofluidos.

A origem dos raios cósmicos de elevada energia foi desvendada. O LIP, do qual Ciências faz parte, colaborou na obtenção dos resultados.

O minhocário será usado para investigar o processo de vermicompostagem, numa experiência piloto em parceria com o Gabinete de Segurança, Saúde e Sustentabilidade da Área de Serviços Técnicos de Ciências e com o Centro de Ecologia, Evolução e Alterações Ambientais (cE3c).

Há um mineral peculiar que pode ajudar a desvendar o contributo do vulcanismo de Decão sobre a extinção em massa e a morte dos dinossauros: a akaganéite. Os resultados do estudo foram publicados na Nature Scientific Reports.

Ciências participa com mais de 30 de atividades de divulgação de ciência, espalhadas por Lisboa, Lousal e até na ilha Terceira.

Páginas