Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Imagem artística da precessão de Schwarzschild

Observações levadas a cabo pelo Very Large Telescope (VLT) do European Southern Observatory (ESO), situado no deserto chileno do Atacama, revelam pela primeira vez que a S2, uma das estrelas em órbita do buraco negro supermassivo, situado no centro da Via Láctea, se desloca tal como previsto pela Teoria da Relatividade Geral de Einstein.

Livro e caneta

Mais um artigo da equipa do GAPsi Ciências ULisboa, desta vez da psicóloga Bruna Francisco, que deixa uma questão em forma de desafio: “O que tens descoberto sobre ti, durante esta quarentena?”.

Fotografia de peixe do género Squalius em Portugal

O projeto “Acaso ou maldição? As consequências da hibridação num mundo em mudança”, premiado recentemente com uma bolsa Young Investigator pelo Human Frontier Science Program (HFSP), no valor de cerca de 1,1 milhões de euros, vai procurar responder a esta grande questão da Biologia, nos próximos três anos, de acordo com comunicado de imprensa emitido recentemente.

Maria de Sousa

Maria de Sousa, imunologista, professora emérita da Universidade do Porto e do Instituto de Ciências Biomédicas Abel Salazar e investigadora honorária do Instituto de Investigação e Inovação em Saúde, faleceu durante a madrugada de dia 14 de abril. A Faculdade lamenta o triste acontecimento, apresentando as condolências aos familiares, amigos e colegas.

Imagem de uma figura feminina

Cláudio Pina Fernandes, coordenador do GAPsi Ciências ULisboa, escreve sobre a complexidade das emoções e alerta: "é importante termos estratégias que nos permitam regulá-las".

Navio oceanográfico alemão Meteor

“Pela 1.ª vez foi possível realizar um estudo completo e sistemático ao longo de um segmento da fronteira de placas Açores/Gibraltar”, diz João C. Duarte, professor do Departamento de Geologia (DG) da Ciências ULisboa, investigador do Instituto Dom Luiz (IDL) e um dos membros da equipa portuguesa presente na campanha oceanográfica M162 – GLORIA FLOW.

Artigo de opinião realça a importância dos jornalistas confirmarem as suas fontes

“Um estudo isolado pode sempre, ser, apenas uma coincidência, uma imperfeição estatística, um acaso”, escreve Tiago Marques, professor do DBA Ciências ULisboa e investigador do CEAUL, num artigo que realça a importância dos jornalistas confirmarem as suas fontes.

Ciências ULisboa vai criar um Centro de Testes à COVID-19

Ciências ULisboa vai criar um Centro de Testes (CT) à COVID-19 no seu campus, no Campo Grande, em Lisboa. Os testes de despistagem à COVID-19 deverão começar daqui a duas semanas consistindo, numa primeira fase, em cerca de 100 análises diárias, estando  também previsto a sequenciação e o rastreamento epidemiológico.

Imagem com um ponto de interrogação

Andreia Santos, psicóloga no GAPsi Ciências ULisboa, escreve sobre os diálogos internos que se manifestam numa sensação de urgência, insuficiência e falta de controlo, que são reflexo de um sentimento de culpa. Conheça algumas dicas que podem ajudar a lidar com estas dúvidas, que são tão comuns como naturais.

Imagem gráfica da rubrica Radar Tec Labs

Terceira rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade. A empresa em destaque é a Vawlt Technologies.

Imagem gráfica do projeto "O que faço aqui?"

Rodrigo Amaro e Silva, Patrícia Jordão, Sérgio Chozas, Ana Cristina Pires e Miguel Inácio são os primeiros entrevistados no âmbito do projeto “O que faço aqui?”, lançado recentemente nas redes sociais e no site da Faculdade.

Composição fotográfica alusiva à missão da Faculdade

“Portugal pode por isso estar certo de que, nesta época de crise, toda a comunidade da Ciências Ulisboa beneficia de um ambiente de trabalho seguro e sustentável, que não compromete a qualidade da sua missão”, escreve Pedro Almeida, subdiretor da Faculdade.

Tec Labs - Centro de Inovação Ciências ULisboa

No Tec Labs – Centro de Inovação e incubadora da Ciências ULisboa são várias as empresas, spin-off, proto-company e startups a trabalhar para encontrar soluções que ajudem doentes, profissionais, unidades hospitalares e autoridades governamentais nesta “luta”, que só poderá ser vencida pelo esforço conjunto.

Skype, Zoom e Houseparty são boas apostas para combinar eventos sociais

"Socializar por meio de momentos lúdicos, rir e partilhar ideias sobre novos projetos são excelentes formas de dirigir a nossa atenção para além da preocupação. Ajuda-nos a colocar o foco da nossa energia ao serviço daquilo que nos faz bem e sentirmo-nos ligados", escreve a psicóloga Andreia Santos.

Mapa

O Centro de Física Teórica e Computacional da Ciências ULisboa participa no desenvolvimento do mapa de risco de propagação da COVID-19 por contágio comunitário em Portugal, um projeto coordenado pelas Universitat Rovira i Virgili, em Tarragona, e Universidad de Zaragoza, em Zaragoza, ambas em Espanha e que em Portugal tem como parceiros a NOS, a Data Science Portuguese Association e a Closer Consulting.

Grupo de investigadores do HIT-CF Europe

Cerca de 502 pessoas com mutações raras de fibrose quística (FQ) foram recrutadas pelo projeto inovador HIT-CF Europe, financiado pela União Europeia através do Horizonte 2020 e que conta com a participação de Margarida Amaral, professora do Departamento de Química e Bioquímica da Ciências ULisboa, coordenadora do Instituto de Biossistemas e Ciências Integrativas (BioISI) e líder do grupo português neste consórcio.

Medicamentos

Ao longo dos últimos dias, vários colegas da Ciências ULisboa e de outras faculdades entraram em contacto com Manuel Carmo Gomes, professor do Departamento de Biologia Vegetal, manifestando disponibilidade para contribuir com o seu conhecimento e meios no auxílio à análise dos dados, modelação e projeção do futuro da epidemia.

O Conselho Pedagógico da Ciências ULisboa preparou um conjunto de orientações relacionadas com as ferramentas de apoio ao ensino à distância, disponíveis no site da Faculdade e que visam ajudar os professores, investigadores e alunos durante este período de tempo sem aulas presenciais, uma medida implementada no âmbito do Plano de Contingência em Ciências COVID-19.

Imagem gráfica associada ao Plano de Contingência em Ciências COVID-19

A Direção da Ciências ULisboa determinou um conjunto de medidas que pretendem contribuir para a contenção da propagação do novo coronavírus e que vigoram até ao próximo dia 27 de março, podendo ser ajustadas conforme a necessidade e a evolução da situação.

Reunião de arranque do Colégio POLAR2E

O POLAR2E tem como objetivo criar sinergias em áreas como as ciências da criosfera, a modelação climática, a ecologia de ambientes extremos, a deteção remota, a construção em ambientes extremos, a astrobiologia e a engenharia aeroespacial dentro da Universidade.

Grupo de campus ambassadors da Jerónimo Martins, de diferentes faculdades de todo o país

No ano letivo de 2019/2020, todos os estudantes da Faculdade com interesse e dúvidas quanto aos Young Talent Programmes da Jerónimo Martins (JM) poderão contactar Catarina Bernardo, por email ou via LinkedIn! A aluna finalista de Biologia da Faculdade está disponível para responder a dúvidas sobre as várias oportunidades da JM para jovens universitários.

Imagem gráfica da rubrica Radar Tec Labs

Segunda rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade. A empresa em destaque é a UpHill.

Na sequência das orientações da Direção-Geral da Saúde e procurando evitar desta forma alarmismos desnecessários, sem descurar uma atuação prudente e responsável, Ciências ULisboa elaborou o Plano de Contingência em Ciências COVID-19.

Primeira reunião do IDEA-FAST

Tiago Guerreiro, professor do DI e investigador do LASIGE Ciências ULisboa, participa no IDEA-FAST, um projeto inovador na área da saúde digital, com um orçamento de 42 milhões de euros.

Estatística

“O CEAUL tem pessoas com uma contribuição notável para a Estatística em Portugal”, escreve o investigador Tiago Marques, a propósito do último congresso da Sociedade Portuguesa de Estatística.

Páginas