Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

O Lisbon Green Hackathon 2017 acontece nos dias 11 e 12 de março. As inscrições terminam a 1 de março. No âmbito do evento estão previstas outras atividades, nomeadamente um ciclo de workshops, sessões de networking, debates e apresentações de startups.

O Tec Labs abriu portas ao ecossistema de inovação e empreendedorismo de Lisboa. O dia foi marcado pela apresentação de novidades para 2017, pelo networking entre os convidados e pela partilha de eventuais projetos e parcerias futuras.

O “Dr. Celestino” era não só um petrólogo excecional e um geólogo de campo incansável, como, e acima de tudo, uma pessoa encantadora pela sua delicadeza de trato. Os colegas do Departamento de Geologia e os ex-colegas do IICT sentirão certamente a falta da sua presença assídua e das interessantes e interessadas conversas sobre a Geologia de Cabo Verde.

Em fevereiro o Tec Labs – Centro de Inovação de Ciências abre as portas aos parceiros do ecossistema empreendedor nacional.

Seguramente já terá ouvido falar em dados geográficos. Pelo nome, deduz-se que estejam relacionados com mapas e lugares. No entanto, estes dados vão muito para além das coordenadas geográficas, representando, entre outros, redes de transporte, águas subterrâneas, populações, temperatura e recursos energéticos.

O filme “O Primeiro Encontro” (“Arrival”) de Dennis Villeneuve (2016) aborda a hipótese de Sapir-Whorf, de 1939, que diz que “a linguagem pode influenciar os nossos pensamentos”. Hoje em dia, a validade desta ideia está assegurada, graças às neurociências, e é possível afirmar que aprender uma língua permite estabelecer imensas ligações no cérebro, alterando a sua estrutura, e influenciando o modo de olhar para o mundo, e ainda moldando a personalidade.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de fevereiro é com Ricardo Pereira, assistente técnico do Departamento de Engenharia Geográfica, Geofísica e Energia de Ciências.

O cE3c acaba de lançar o programa "Vamos Jogar aos Insetos em Ordem nas Escolas?", no âmbito do qual vai oferecer 200 exemplares do jogo "Insetos em Ordem" às primeiras 50 escolas públicas, que aderirem à iniciativa.

No total, desde há 57 anos, a Fundação Calouste Gulbenkian atribuiu 83 mil bolsas de estudo em diferentes áreas. Os estudantes de Ciências fazem parte destas contas.

O financiamento atribuído ao professor do Departamento de Informática e investigador do Laboratório de Sistemas Informáticos de Grande Escala (LaSIGE) de Ciências, relaciona-se com a sua participação no projeto Hyperledger da Linux Foundation, em que a IBM, a Intel e dezenas de outras empresas colaboram para construir tecnologias de blockchain para negócios.

Partilhar o fascínio da investigação em Astronomia com crianças dos 7 aos 12 anos é um dos objetivos da iniciativa IAstro Júnior, quatro sessões gratuitas, em Lisboa e no Porto, organizadas pelo Instituto de Astrofísica e Ciências do Espaço e pela revista Visão Júnior.

António Branco, professor do Departamento de Informática de Ciências, volta a coordenar uma nova investigação em tradução automática profunda, desta vez entre Chinês e Português, no domínio das transações de compra e venda online.

Quando falamos de um mecanismo o que queremos dizer de facto?

O Nutriageing é um projeto a pensar nos cidadãos que se interessam por temas como nutrição, partindo de argumentos científicos simples. O seu site é composto por vídeos, receitas, explicações e dicas nutricionais.

Um novo estudo genético demonstra que as populações de duas espécies de golfinhos (Tursiops aduncus e Sousa spp.) que habitam as águas da Baía de Bengala, no Bangladesh, são diferentes do ponto de vista genético quando comparados com populações de golfinhos das mesmas espécies que vivem em áreas vizinhas.

Teresa Graça Costa Antunes Pereira da Costa, professora aposentada do Departamento de Biologia Vegetal (DBV) e ex-membro do antigo Centro de Biologia Ambiental de Ciências, faleceu aos 69 anos, no dia 23 de janeiro de 2017. A Faculdade lamenta o triste acontecimento, apresentando as condolências aos seus familiares, amigos e colegas.

Novo estudo demonstra pela primeira vez que é possível integrar à escala global os resultados obtidos através dos dois métodos mais utilizados no mundo para avaliar a “saúde” dos ecossistemas a partir dos líquenes que neles se encontram.

A 7.ª cadeira funcionou pela primeira vez no ano letivo de 1840/1841, caracterizando-se pela abordagem histórico-natural das matérias lecionadas que pouco se modificaram ao longo dos anos.

O ESNF2017 é o primeiro simpósio europeu dedicado apenas ao tema nanofluidos. Os organizadores pretendem que este momento fomente a colaboração entre cientistas, engenheiros e empresas.

Está a nascer um laboratório vivo de permacultura (PermaLab) na FCUL, uma zona que convida a implementação de projetos propostos pela permacultura e sua monitorização com metodologias científicas.

Maria Isabel Cordeiro Sevinate Pinto Rebelo Lopes, professora aposentada do Departamento de Biologia Vegetal e ex-membro do antigo Centro de Biologia Ambiental de Ciências, faleceu aos 67 anos, no dia 12 de janeiro de 2017. A Faculdade lamenta o triste acontecimento, apresentando as condolências aos seus familiares, amigos e colegas.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O primeiro Dictum et factum de 2017 é com Ânia Finuras, bolseira de gestão da Área de Comunicação e Imagem de Ciências.

Adaptar para a mudança. Este foi o lema do AdaptForChange, um projeto que teve início em abril de 2015 e que ao longo de quase dois anos contribuiu para um conhecimento profundo do estado das florestas do Alentejo e que culminou com o desenvolvimento do Plano de Adaptação de Mértola às Alterações Climáticas, a implementar nos próximos anos.

Cerca de 2783 árvores, arbustos e herbáceas vão ser plantados no Estádio Universitário, até ao próximo mês de março.

O recente falecimento abre mais uma lacuna na geração dos cientistas e professores que muito contribuíram para o desenvolvimento da Química em Portugal.

Páginas