Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Esquema do vaso

Um grupo de guardiões da HortaFCUL realizou várias oficinas intituladas “Permacultura de Levar para Casa” no Centro Cultural de Belém, integradas na exposição “Agricultura e Arquitetura: Do Lado do Campo”. Durante a exibição da exposição, realizaram-se 24 oficinas, abrangendo um total de 500 alunos de diversas idades, desde a pré-primária ao 9º ano de escolaridade (dos 4 aos 14 anos).

Pormenor do Estudo em fio dos Painéis de São Vicente, por Almada Negreiros (1950)

Pedro Freitas, professor do Departamento de História e Filosofia das Ciências e investigador do Centro Interuniversitário de História das Ciências e da Tecnologia, escreve sobre Almada Negreiros, figura maior da cultura portuguesa do século XX.

abutre

"Centenas de cadáveres destes abutres encontravam-se sem cabeça, empilhados e intencionalmente escondidos sob arbustos", escreve Mohamed Henriques, doutorando do programa doutoral Biologia e Ecologia das Alterações Globais, juntamente com outros investigadores e conservacionistas numa carta publicada em outubro na Science.

O Dia da Investigação acontece a 28 de outubro de 2020

O Dia da Investigação acontece a 28 de outubro e será transmitido através do canal YouTube da Ciências ULisboa, anuncia a Faculdade em comunicado de imprensa. Consulte o programa e saiba quais são os temas em análise e os oradores das várias sessões, inscreva-se no evento e para ter uma ideia do que o espera assista à reportagem.

Flávio Gomes Oliveira a verificar se as armadilhas capturaram algum musaranho

Flávio Gomes Oliveira, doutorando do programa doutoral em Biologia e Ecologia das Alterações Globais, é um dos autores de um estudo publicado em outubro na Behavioral Ecology, cujos resultados integram a sua tese de doutoramento. Nesta entrevista o jovem investigador faz um balanço dos primeiros anos do doutoramento e deixa conselhos para quem quer seguir esta área.

Musaranho-de-dentes-brancos a ser devolvido à natureza

Um estudo realizado em Lisboa por um grupo de investigadores do CESAM, polo da Ciências ULisboa e da Universidade Adam Mickiewicz de Poznań, na Polónia, detetou diferenças substanciais no comportamento e metabolismo dos musaranhos-de-dentes-brancos que ocorrem na capital portuguesa, quando comparados com indivíduos provenientes de áreas naturais.

Emmanuelle Charpentier e a Jennifer Doudna

Este ano, o Prémio Nobel da Química foi atribuído às cientistas Emmanuelle Charpentier e Jennifer Doudna pelo "desenvolvimento de um método de edição do genoma", denominado CRISPR/Cas9. Leia o artigo da autoria de Lúcia Santos e Madalena Pinto, estudantes de doutoramento no polo da Faculdade do BioISI e Federico Herrera, professor do Departamento de Química e Bioquímica e investigador do BioISI.

Chuva intensa

Um estudo publicado na Nature Communications revela um aumento significativo da quantidade de humidade proveniente das regiões fornecedoras de água precipitável, água transportada até aos continentes pelos chamados rios atmosféricos (ARs).

Logotipo dos Prémios Científicos ULisboa/Caixa Geral de Depósitos 2019

A cerimónia de entrega dos Prémios Científicos ULisboa/CGD 2019 estava prevista para 20 de outubro, na Reitoria da ULisboa, mas face à evolução da pandemia da COVID-19 e na sequência da resolução do Conselho de Ministros emitida recentemente, a cerimónia será adiada para data a anunciar quando as condições de segurança estejam novamente reunidas. Das 30 distinções desta última edição, cinco são para professores e investigadores da Ciências ULisboa.

Roger Penrose, Reinhard Genzel e Andrea Ghez

O Prémio Nobel da Física 2020 distingue um dos teóricos mais distintos dos últimos 60 anos, o matemático e físico sir Roger Penrose e os astrónomos Reinhardt Genzel e Andrea Ghez, que revelaram a presença de um buraco negro extremamente massivo na região central da Via Láctea. Leia o artigo dos cientistas José Pedro Mimoso e Nelson Nunes, em colaboração com José Afonso e António Amorim.

Imagem abstrata

Ciências ULisboa integra a Rede de Inovação da Imprensa Nacional-Casa da Moeda (INCM), cujo objetivo é promover a ponte entre a investigação produzida em ambiente académico e o contexto industrial e empresarial.

Logotipo Radar Tec Labs

Oitava rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade. A empresa em destaque é a QPLab.

Campus da Ciências ULisboa

Ciências ULisboa volta a preencher a totalidade das vagas, no âmbito da 1.ª fase do Concurso Nacional de Acesso (CNA) ao ensino superior: 1001 candidatos conseguiram colocação nas 13 licenciaturas e nos três mestrados integrados desta faculdade, 449 como 1.ª opção. O número de vagas aumentou na maioria dos cursos, assim como as notas dos últimos alunos colocados nesta 1ª fase.

Cidade

Melhorar o funcionamento e a otimização energética de edifícios e equipamentos, resolvendo algumas das suas limitações, é um dos objetivos do projeto “Self Assessment Towards Optimization of Building Energy (SATO)”, liderado pela Ciências ULisboa e que tem início marcado para o próximo mês de outubro. O projeto integra 16 parceiros europeus da academia e dos sectores público e empresarial e representa a primeira grande colaboração científica entre o LASIGE e o IDL.

Papéis, canetas e braços

Vários alunos da Ciências ULisboa, da Universidade do Algarve (Ualg) e da Faculdade de Medicina Dentária (FMD) da ULisboa apresentaram este verão projetos de iniciação à investigação, desenvolvidos no âmbito da iniciativa “Sê Investigador por Três Semanas!”, promovida pelo Centro de Estatística e Aplicações da Universidade de Lisboa (CEAUL), com o objetivo de cativar os jovens para esta atividade.

cabra-montês

Dezenas de cientistas, técnicos e vigilantes da natureza do ICNF - Instituto da Conservação da Natureza e das Florestas, bem como cidadãos uniram-se em prol do novo Livro Vermelho dos Mamíferos de Portugal continental. O objetivo é melhorar até 2021 o conhecimento destas espécies e dessa forma contribuir para o estabelecimento de medidas e ações de conservação.

Imagens de perfil de 19 cientistas

Entre março e julho deste ano, as redes sociais da Faculdade deram a conhecer 19 pessoas e histórias de investigação, no âmbito da iniciativa “O que faço aqui?”, disponível no site da Faculdade.

Pessoa com livros

"Neste momento tão dinâmico em que vivemos será importante pensar sobre aquilo que se pode ou não controlar e ir aprendendo a navegar perante a realidade que se apresenta a cada momento", escreve a psicólogia Andreia Santos.

Alunos e professoras no campus da Faculdade

O novo ano letivo começou esta semana e a Faculdade deu as boas-vindas aos alunos do Advanced Quantitative Methods on Health Care Innovation, cujas aulas online começaram esta terça-feira e se prolongam em Portugal até ao próximo dia 15 de outubro.

Estação de Extração de RNA

“Foi incrível perceber que numa adversidade, o ser humano tem a capacidade de se reinventar e criar novos projetos", diz Daniel Salvador, voluntário no CT Ciências ULisboa, entre maio e julho, licenciado e mestre pela Ciências ULisboa, atualmente estudante do 4.º ano do doutoramento em Saúde Ambiental da Faculdade de Medicina da ULisboa.

Criança em casa acompanhada pela presença de um adulto

Uma equipa de nove estudantes da ULisboa - LxUs -, supervisionados por Hugo Ferreira, professor do Departamento de Física e investigador do Instituto de Biofísica e Engenharia Biomédica da  Ciências ULisboa, ganhou o Translation Potential Runner-Up Award na 5.ª edição do SensUs Student Competition, 2.º lugar na categoria de potencial de translação, um prémio que valoriza a capacidade de criação de um modelo de negócio, viável e com qualidade.

Pormenor da visão artística da observação da "estrela bebé"

Pela primeira vez foi possível observar como é que uma “estrela bebé” adquire massa até chegar à sua massa final. Arcos de campo magnético ligam a “estrela bebé” ao disco circundante e a massa flui. Os resultados desta observação encontram-se publicados na revista Nature. O artigo resulta de uma colaboração no âmbito do GRAVITY, um instrumento desenvolvido por um consórcio internacional e do qual fazem parte cientistas do CENTRA, polo da Ciências ULisboa.

Marta Palma no CT Ciências ULisboa

“A maior aprendizagem é perceber que de facto existem pessoas maravilhosas, com uma enorme generosidade e grande sentido de voluntarismo e muito dinâmicas. E que trabalhando juntos, podemos de facto fazer a diferença”, diz Marta Palma, funcionária do Departamento de Biologia Animal e voluntária no Centro de Testes Ciências ULisboa.

Homem em banco de jardim, observando o rio

Andreia Santos, psicóloga do GApsi Ciências ULisboa, deixa um alerta: "o nível de cansaço sentido pelas pessoas a assistir a conferências, palestras através de um ecrã é superior ao de assistir ao mesmo de forma presencial".

Vanessa Mendonça

“Este prémio simboliza não só o reconhecimento do meu trabalho, mas também de toda a equipa que nele participou”, conta Vanessa Mendonça, segunda classificada pelo Prémio de Doutoramento em Ecologia - Fundação Amadeu Dias 2020. Vanessa Mendonça concluiu o mestrado e o doutoramento na Faculdade e atualmente é investigadora do MARE.

Páginas