Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Identidade gráfica da crónica com imagem de Andreia Sofia Teixeira

A crónica da autoria da Comissão de Imagem do Departamento de Informática da Ciências ULisboa visa realçar a investigação feita pelos docentes e investigadores deste departamento. A segunda crónica dá a conhecer Andreia Sofia Teixeira.

Pessoas junto ao edifício do MARE, na Ciências ULisboa

Com o intuito de colaborar no desenvolvimento de um parque eólico offshore flutuante ao largo da Figueira da Foz, o MARE e a IberBlue Wind (IBW) assinaram a 5 de dezembro passado um protocolo que estabelece os moldes da parceria futura. A colaboração da IBW com o MARE irá permitir estudar os eventuais impactos da instalação da infraestrutura nos ecossistemas marinhos da área de implementação, e propor soluções que mitiguem os eventuais impactos negativos na componente ecológica e na atividade da pesca.

A Ciências ULisboa foi palco do mais recente workshop da International Atomic Energy Agency (IAEA). O “Regional Workshop on Nuclear and Radiation Education - Strategies and Approaches to Enhance Capacity Building in Nuclear Education and Training” realizou-se entre os dias 4 e 7 de dezembro e contou com a presença de 37 representantes de 25 países europeus e asiáticos, assim como de especialistas internacionais e delegados da IAEA.

Ricardo Trigo e membros da ULisboa e CGD

Ricardo Trigo é professor no Departamento de Engenharia Geográfica, Geofísica e Energia e investigador no Instituto Dom Luiz, no RG1 – Climate change, atmosphere-land-ocean processes and extremes. Este ano foi distinguido, pela segunda vez, pela ULisboa e Caixa Geral da Depósitos (CGD) com um prémio científico, na área das Ciências da Terra e Geofísica. O primeiro prémio científico atribuído pela ULisboa e pela CGD ao cientista ocorreu em 2017. Leia a entrevista com o cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

salão nobre da Reitoria da ULisboa

Na edição de 2023 dos Prémios Científicos ULisboa / Caixa Geral de Depósitos (CGD) foram atribuídos 20 prémios e 20 menções honrosas a professores e investigadores da Universidade. Os cientistas da Ciências ULisboa alvo desta distinção foram Alysson Bessani, Ricardo Trigo e Vladimir Konotop, com prémios no valor de 6.500€; e Carla Silva, Jaime Coelho, José P. Granadeiro e Rita Margarida Tavares, com menções honrosas.

Alysson Bessani e membros da ULisboa e CGD

Alysson Bessani é professor no Departamento de Informática e investigador no LASIGE Computer Science and Engineering Research Centre da Ciências ULisboa. Este ano foi distinguido pela ULisboa e pela Caixa Geral da Depósitos (CGD) com um prémio científico, na área das Ciências da Computação e Engenharia Informática. Leia a entrevista com o cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

Luís Carriço e memebros da ULisboa e CGD

José P. Granadeiro é professor no Departamento de Biologia Animal e investigador no grupo de investigação Biologia da Adaptação e Processos Ecológicos do Centro de Estudos do Ambiente e do Mar (CESAM). Este ano foi distinguido pela ULisboa e pela Caixa Geral da Depósitos (CGD) com uma menção honrosa, na área de Biologia, Engenharia Biológica, Bioquímica e Biotecnologia. Leia a entrevista com o cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

Imagem gráfica da rubrica com fotografia de André Rodrigues

A crónica da autoria da Comissão de Imagem do Departamento de Informática da Ciências ULisboa visa realçar a investigação feita pelos docentes e investigadores deste departamento. A primeira dá a conhecer André Rodrigues.

Carla Silva com membros da ULisboa e da CGD

Carla Silva é professora no Departamento de Engenharia Geográfica, Geofísica e Energia e investigadora no Instituto Dom Luiz, no RG5 – Energy Transition. Este ano foi distinguida pela ULisboa e pela Caixa Geral da Depósitos com uma menção honrosa, na área de Engenharia do Ambiente e Energia. Leia a entrevista com a cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

Rita Margarida Cardoso e membros da ULisboa e CGD

Rita Margarida Cardoso é investigadora no Departamento de Engenharia Geográfica, Geofísica e Energia e investigadora no Instituto Dom Luiz (IDL), no RG1 – Climate change, atmosphere-land-ocean processes and extremes. Este ano foi distinguido pela ULisboa e pela Caixa Geral da Depósitos (CGD) com uma menção honrosa, na área das Ciências da Terra e Geofísica. Leia a entrevista com a cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

Vladimir Konotop e membros da ULisboa e da CGD

Vladimir Konotop é professor no Departamento de Física e investigador no Centro de Física Teórica e computacional da Ciências ULisboa. Este ano foi distinguido pela segunda vez, pela ULisboa e pela Caixa Geral da Depósitos (CGD) com um prémio científico, na área de Física e Materiais. O primeiro prémio científico atribuído pela ULisboa e pela CGD ao cientista ocorreu em 2017. Leia a entrevista com o cientista e saiba o que pensa sobre esta distinção e em que consiste a sua investigação.

José Ricardo Paula

José Ricardo Paula, investigador auxiliar júnior no Departamento de Biologia Animal da Ciências ULisboa e no Centro de Ciências do Mar e do Ambiente (MARE), é o vencedor da 4.ª edição do FLAD Science Award Atlantic, atribuído pela Fundação Luso-Americana para o Desenvolvimento (FLAD). De acordo com o comunicado de imprensa emitido pela FLAD, “José Ricardo Paula irá receber 300 mil euros de financiamento, em três anos, para desenvolver uma ideia inovadora, nomeadamente, o projeto ‘ATLANTICDIVERSA’, que pretende contribuir para compreender o papel dos mutualismos de limpeza na conservação da Biodiversidade do Atlântico, com recurso a tecnologias emergentes, como a Inteligência Artificial”.

Movimento de partículas ativas em meios desordenados

Sabia que quando um conjunto de robots ou bactérias se move num espaço onde há vários objetos livres, esses robots ou bactérias desviam esses objetos para poderem passar? Um grupo de investigadores da Ciências ULisboa e das universidades de College of London (Reino Unido) e de Gothenburg (Suécia) conseguiu mostrar que o rasto deixado por esse movimento contribui para a formação de grupos, funcionando como um mecanismo efetivo de comunicação entre eles.

Fotografia de Catarina Frazão Santos

Catarina Frazão Santos, investigadora no DBA Ciências ULisboa e no MARE, em entrevista ao canal YouTube da Faculdade, a propósito da distinção do ERC, com uma bolsa de arranque, no valor de quase 1,5 milhões de euros, dá a conhecer a sua pessoa, os objetivos e expetativas do projeto PLAnT, refletindo também sobre o contributo da Faculdade para o seu percurso profissional e a importância da sua área de investigação.

Identidade gráfica do café ciências da exposição cem medidas

“Cem Meias Medidas: desenhos e gravuras de Inez Wijnhorst” está patente ao público na Galeria Ciências até fevereiro de 2024. O curador da exposição - Pedro  Freitas - escreve uma crónica sobre esta mostra inaugurada a 21 de novembro. A 12 de dezembro, pelas 17h00, na Galeria Ciências, o curador e a autora participam numa mesa-redonda, que conta ainda com a participação do cientista Henrique Leitão. Os três pretendem explorar a exposição através dos seguintes pontos de vista: o da criação e da intenção dos desenhos, o do seu conteúdo matemático e físico, e o das suas eventuais interações com a história da ciência.

Conceção artística de um buraco negro

Num artigo publicado na revista científica Astronomy & Astrophysics, uma equipa internacional liderada por Rodrigo Carvajal, do Instituto de Astrofísica e Ciências do Espaço e da Ciências ULisboa, e que inclui dez investigadores do IA, apresenta um método de aprendizagem automática (machine learning) que reconhece galáxias superluminosas no início do Universo.

Ignacio Schoendorff, diretor geral da Gilead, Perpétua Gomes, da Comissão de Avaliação dos Projetos de Investigação em Virologia, Margarida Gama Carvalho e a sua equipa

O projeto de investigação miThic-eSwitch na área da Virologia – Infeção pelo Vírus da Imunodeficiência Adquirida/ Síndrome da Imunodeficiência Adquirida, coordenado por Margarida Gama Carvalho, professora do DQB e líder de um dos grupos do BioISI, foi um dos vencedores da 9.ª edição do Programa Gilead GÉNESE, com um prémio no valor de 34 mil euros.

Fotografia de António M. Vallêra

“Neste ensaio analiso a descarbonização simultânea dos transportes terrestres e do sistema elétrico, tomando Portugal como um caso de estudo, e comparo os resultados de vários modelos possíveis para esta transição”, diz António M. Vallêra, autor do livro “The Transition”.

Carlos Marques da Silva à frente do globo do C6

O estudo coordenado por Carlos Marques da Silva, professor do Departamento de Geologia da Ciências ULisboa e investigador do Instituto Dom Luiz (IDL), venceu a 2.ª edição do Prémio Paleontologia e Estratigrafia de Portugal, atribuído pela Sociedade Portuguesa de Paleontologia (SPdP) e pela empresa Chronosurveys.

Exemplo de linhas de costa derivadas da ferramenta CASSIE

Daniel Pais, estudante de doutoramento em Geologia na Ciências ULisboa, é um dos autores do  artigo - “Benchmarking satellite-derived shoreline mapping algorithms” - publicado na Communications Earth & Environment, e que apresenta uma avaliação inédita da precisão na deteção da linha de costa, através de imagens satélites disponíveis ao público.

Representantes do Tec Labs e das suas startups e spin-offs posam para fotografia

O Tec Labs esteve no LISPOLIS a celebrar os resultados da call INNOV-ID, promovida pela Agência Nacional de Inovação e pela Portugal Ventures e que financiou nos últimos três anos, com mais de 5,5 milhões de euros, mais de 55 projetos inovadores e startups nascidos no ecossistema científico e tecnológico português. Nesta terceira call, como ignition partner da Portugal Ventures, o Tec Labs conseguiu ajudar duas startups do seu ecossistema  - a Generosa e a KeepIT - garantindo um investimento de 100 mil euros cada.

várias pessoas sentadas em volta de uma mesa

No dia 6 de novembro, o MARE ULisboa recebeu nas suas instalações Tibor Králik, embaixador da Eslováquia em Portugal, numa reunião preparatória da visita de estado a Portugal da presidente daquele país, Zuzana Čaputová, agendada para os dias 5 e 6 de dezembro.

Zita numa sala com livros

"Portugal é mais mar que terra”, diz a professora cientista - Maria José Costa – bióloga marinha, nesta curta entrevista a propósito do Grande Prémio Ciência Viva 2023, que lhe é atribuído, pela sua colaboração na disseminação da cultura científica nas áreas da biodiversidade marinha, ambiente e literacia do oceano.

Alan Phillips, investigador no Departamento de Biologia Vegetal da Ciências ULisboa e no Laboratório de Genómica e Microbiologia Translacional, no Instituto de Biossistemas e Ciências Integrativas (BioISI), foi novamente distinguido na lista de investigadores altamente citados de 2023 da Clarivate Analytics, na categoria de Ciência Vegetal e Animal. O investigador Alan Philips desenvolve trabalho na área da Microbiologia e foi, este ano, reconhecido pela 6ª vez consecutiva pela Clarivate como um dos investigadores mais citados a nível mundial.

Atribuição dos prémios BfK

"Em Ciências ULisboa decidimos candidatar à edição deste ano do BfK o projeto “Block-Based Accessible Tangible System” desenvolvido por Filipa Rocha, estudante de doutoramento em Informática no LASIGE Ciências ULisboa e participante no Impact Program do nosso ScienceIN2Business. A ideia do projeto é tornar a aprendizagem digital mais acessível às crianças com dificuldades visuais". Leia a crónica do Tec Labs sobre o assunto.

Páginas