Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Laje rochosa - primeiras evidências de vertebrados do fundo do mar

A descoberta de fósseis extremamente raros, que representam as primeiras evidências de peixes de águas profundas, atrasa a invasão da planície abissal em 80 milhões de anos. Estas descobertas foram publicadas este mês num novo estudo na revista científica Proceedings of the National Academy of Sciences (PNAS).

Grupo de pessoas

A 13ª Conferência Internacional SedNet - Continuum Sedimentar: aplicando uma abordagem de gestão integrada realizou-se na Ciências ULisboa, entre 5 a 9 de setembro. O programa intensivo de cinco dias começou com workshops sobre a gestão dos sedimentos a diferentes níveis, incluiu apresentações e uma visita de campo ao Porto de Lisboa e às dunas e praias de Cascais.

O Departamento de Matemática da Ciências ULisboa e o Museu Nacional de História da Ciência juntam-se numa homenagem que marca o centenário do nascimento do professor João Santos Guerreiro, a realizar no próximo dia 23 de setembro, entre as 14h00 e as 18h00, no Anfiteatro Manuel Valadares, no MUHNAC.

peixes

Os organismos estão a tornar-se mais pequenos através de uma combinação de substituição de espécies e mudanças dentro das espécies: trata-se da conclusão de um novo estudo publicado na revista Science, que analisou dados de todo o mundo dos últimos 60 anos e de diversas espécies de animais e plantas.

Filipe Rosas

​Filipe Rosas é o novo coordenador do Instituto Dom Luiz (IDL).

Susana Custódio com alunos

Portugal obteve uma medalha de prata e três medalhas de bronze na 16.ª edição da International Earth Science Olympiad (IESO 2023), que assinala a 8.ª participação portuguesa. A SGP e a CNOG agradecem à Faculdade o apoio científico prestado no âmbito do programa de preparação da equipa portuguesa para a 16.ª edição da IESO.

3 homens sentados

MARGINS surgiu com o objetivo de estudar as interações socioecológicas entre comunidades humanas e ambiente na zona costeira da Guiné-Bissau e compreender a inter-relação de arrozais e mangais como parte de uma unidade afetada pelas mudanças climáticas. No projeto estão envolvidos docentes, investigadores do IDL e cE3c e estudantes da Faculdade.

Auditório com pessoas

Este ano, na 1.ª fase do Concurso Nacional de Acesso ao ensino superior concorreram aos 16 cursos da Faculdade 5086 candidatos, tendo sido colocados 872 novos alunos em Ciências ULisboa, 527 em 1.ª opção. Até 5 de setembro decorre a apresentação da candidatura à 2.ª fase. A sessão de boas-vindas aos novos alunos de 2023/2024 acontece no dia 18 de setembro.

abelha mumificada

Um novo estudo publicado na revista internacional Papers in Paleontology dá conta da descoberta de centenas de abelhas mumificadas no interior dos seus casulos, num novo sítio paleontológico descoberto no litoral de Odemira.

mural

Há um novo mural no campus da Faculdade, para apreciar junto à FCULresta, que celebra os dois anos corridos desde a primeira semente lançada. "Só em Portugal, inspirados também pela FCULresta, foram criados ou melhorados um total de 6 espaços verdes resilientes" escrevem os responsáveis pelo projeto, neste artigo de opinião sobre a minifloresta. 

ratinho ruivo

O ratinho-ruivo (Mus spretus) aprende a identificar que novos alimentos é seguro incluir na sua alimentação através do cheiro presente no hálito de outros ratinhos da sua espécie, segundo o artigo “Interaction time with conspecifics induces food preference or aversion in the wild Algerian mouse”, da autoria das cientistas Rita S. Andrade, Ana M. Cerveira, Maria da Luz Mathias e Susana A. M. Varela, publicado em agosto na revista Behavioural Processes.

vista de uma ilha para outra (Açores)

O Prémio Frederico Machado 2022-2023, o primeiro de índole científica a ser atribuído nos Açores, foi ganho pelas equipas lideradas por Mariana Andrade, aluna da Ciências ULisboa e investigadora do Instituto Dom Luiz (IDL), na área das Geociências, e por Pedro Afonso, investigador do Instituto de Investigação em Ciências do Mar da Universidade dos Açores (OKEANOS), na área das Ciências do Mar.

plantas com QR code do Relatório de Sustentabilidade

O primeiro Relatório de Sustentabilidade da Ciências ULisboa resulta da monitorização e análise de um conjunto de atividades enquadradas nos Objetivos de Desenvolvimento Sustentável (ODS), entre 2019 e 2021.

banner do evento

A EUPVSEC 2023 realiza-se de 18 a 22 de setembro de 2023, no Centro de Congressos de Lisboa. João Serra, professor do Departamento de Engenharia Geográfica, Geofísica e Energia da Ciências ULisboa, foi novamente convidado a ser o chairman da maior e mais importante conferência europeia dedicada à energia fotovoltaica. 

copa das arvores vista de baixo

Já são conhecidos os três vencedores da edição de 2023 do Prémio de Doutoramento em Ecologia Fundação Amadeu Dias, um prémio da Sociedade Portuguesa de Ecologia (SPECO) e da Fundação Amadeu Dias que procura valorizar o trabalho de recém doutorados ao longo do seu programa doutoral. No pódio estão duas alumnae da Ciências ULisboa.

apresentação do livro

Foi concluído recentemente o projeto “Aqua – O uso eficiente da água nos jardins da idade moderna”, um trabalho interdisciplinar que cruza as áreas da História da Ciência, a Engenharia Hidráulica e a Arquitetura Paisagista.

uma rapariga e um rapaz

Todos os anos a Faculdade atribui diplomas e prémios de mérito académico aos seus estudantes, com o apoio de várias entidades e empresas, que valorizam a missão da Faculdade e que passa por investigar, ensinar e estimular a transferência do conhecimento e da inovação e a abertura à sociedade civil.

Exoplaneta e núvens

A Agência Espacial Europeia validou o desenho dos instrumentos científicos da missão Ariel, que conta com a participação do Instituto de Astrofísica e Ciências do Espaço. A missão vai observar a composição química de mil planetas em órbita de outras estrelas, e transformar a compreensão sobre como se formam e evoluem os sistemas planetários.

foto de grupo

No passado dia 26 de julho o Tec Labs - Centro de Inovação recebeu a visita de uma comitiva de representantes da Assembleia Legislativa do Estado de Goiás, Brasil, com o objetivo de conhecer em profundidade o ecossistema de empreendedorismo e inovação nacional e os seus principais stakeholders.

árvores no campus da Faculdade

Ciências ULisboa vai implementar no ano letivo de 2023/2024 o projeto “Ciências em Harmonia”. Comprometida com o bem-estar da sua comunidade estudantil e a promoção de competências individuais e sociais dos seus estudantes, a Faculdade vai procurar dar resposta a uma preocupação: a do bem-estar no ensino superior, envolvendo toda a comunidade académica na celebração da diversidade e promoção de inclusão. As atividades têm início já em setembro e vão prolongar-se durante todo o ano letivo.

logotipo do CWTS

ranking de Leiden, que avalia a produção científica de instituições de ensino superior a nível mundial, posicionou a ULisboa na liderança da Península Ibérica, colocando-a na 28.ª posição na Europa e no 131.º lugar a nível mundial.

enguia

No dia 26 julho, pelas 16h00, decorrerá na Ciências ULisboa a sessão de encerramento do projeto “Livro Vermelho e Sistema Nacional de Informação dos Peixes Dulciaquícolas e Diádromos de Portugal Continental”. O novo Livro Vermelho revela que os peixes de água doce e migradores diádromos se encontram numa situação preocupante.

3 raparigas a apontarem para um ecrã num laboratório

Acontece este ano mais uma edição do “Ser Cientista”. A 8.ª edição do programa, que decorre entre os próximos dias 24 e 28 de julho, visa proporcionar aos alunos do ensino secundário uma aproximação à realidade da investigação científica, pela integração no dia-a-dia dos cientistas de diferentes áreas de Ciências.

António Costa, Elvira Fortunato e Salomé Pais

Salomé Pais foi galardoada com a Medalha de Mérito Científico 2023, durante o Encontro com a Ciência e a Tecnologia em Portugal, decorrido no início de julho em Aveiro. Para a professora catedrática aposentada do Departamento de Biologia Vegetal da Ciências ULisboa esta distinção “simboliza o reconhecimento de uma vida dedicada à ciência”.

imagem de divulgação da exposição Mirabilia

É hoje inaugurada a exposição Mirabilia “Coisas Admiráveis”, que decorre no âmbito das comemorações dos 10 anos da ULisboa e do Dia da Universidade de Lisboa. A exposição integra objetos “admiráveis” das 18 escolas da ULisboa, entre eles um telescópio utilizado por um equipa da Ciências ULisboa na campanha internacional de observação “Venus Twilight Experiment”.

Páginas