Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A iniciativa possibilita aos estudantes a recolha de informação sobre diversas áreas do saber das 18 escolas da Universidade de Lisboa.

Ciências presta homenagem a Dmitri Ivanovich Mendeleev a 8 de fevereiro de 2018, data em que se assinala o 184º aniversário do seu nascimento. Nesse dia, 118 alunos do 9.º ano do Colégio de Santa Doroteia, em Lisboa, visitam a tabela periódica existente neste campus universitário.

O artigo “The Little Ice Age in Iberian mountains” publicado em fevereiro de 2018 na Earth-Science Reviews caracteriza com maior precisão o último grande evento frio do hemisfério norte, de acordo com comunicado de imprensa emitido esta quinta-feira.
A Little Ice Age (LIA) ou a Pequena Idade do Gelo ocorreu aproximadamente entre 1300 e 1850 e afetou as comunidades dos Pirenéus. Os resultados desta investigação está a ter algum impacto em Espanha.

Pormenor da capa do livro

“Ao contrário do que aparentava no início deste projeto, foi relativamente fácil dar um ritmo de arte sequencial (banda desenhada) ao argumento.

A 2.ª edição do mestrado em Gestão e Governança Ambiental da Faculdade de Ciências da Universidade Agostinho Neto (FCUAN) deverá arrancar no último trimestre do ano letivo 2018/2019 e contará novamente com o apoio de Ciências. Na 1.ª edição 16 estudantes concluíram com sucesso os programas de estudo.

Cinquenta alunos do 4.º ano do Colégio Colibri, de Massamá, foram cientistas por um dia nos Departamentos de Biologia Animal e Biologia Vegetal.

Quando João Graça Gomes iniciou o estágio “Cenarização Sistema Elétrico 100 % Renovável em 2040”, com a duração de um ano, no Departamento Técnico da Associação Portuguesa de Energias Renováveis (APREN), sob a orientação de José Medeiros Pinto, engenheiro e secretário-geral daquela associação, quis “dar o melhor e mostrar a qualidade do ensino de engenharia na FCUL”. O ano passado foi distinguido com um dos prémios de maior destaque da engenharia nacional.

João Graça Gomes, engenheiro do Departamento Técnico da APREN e mestre em Engenharia da Energia e do Ambiente, foi galardoado com o Prémio - Melhor Estágio Nacional em Engenharia Eletrotécnica da Ordem dos Engenheiros.

Nesta fotolegenda destacamos uma passagem da entrevista com o climatologista Ricardo Trigo e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Por forma a gerir a ansiedade de uma forma mais eficaz antes dos momentos de avaliação são propostas algumas estratégias que não eliminam a ameaça mas podem ajudar a lidar de um modo mais eficaz com a ansiedade.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O primeiro Dictum et factum de 2018 é com Marta Daniela Santos, responsável pelo Gabinete de Comunicação do cE3c – Centro de Ecologia, Evolução e Alterações Ambientais.

Ciências será o palco de uma eliminatória regional do Famelab 2018, um dos maiores concursos internacionais de comunicação de ciência.

Ler Filosofia (através de Espinosa) permite olhar o mundo, de forma crítica e pensar em profundidade. Em Ciência, observar e refletir são indispensáveis, para caminharmos, abrindo novas linhas de pesquisa.

Vinte e três alunos estiveram na Faculdade de Ciências a estudar as bases metodológicas para a classificação sistemática de plantas. O curso inseriu-se no projeto HEI-PLADI, um programa ERASMUS + e ocorreu pela primeira vez em Portugal.

Parte do antigo bar do edifício C1 de Ciências dá agora lugar a um novo laboratório de investigação em Ecologia Evolutiva. Aqui vai ser explorado um sistema biológico composto por duas espécies de ácaro aranha, Tetranychus urticae Tetranychus ludeni, que competem por um alimento - a planta do tomate.

O livro Faça Sol ou Faça Vento reúne seis histórias infantojuvenis sobre energias renováveis. Todas elas são escritas por autores com ligação à Faculdade de Ciências da ULisboa.

Será possível ter uma pessoa dentro de um scanner e dizer-lhe para mudar a atividade de diferentes zonas do seu cérebro, com base no que estamos a observar num monitor desse mesmo scanner? Pode a Inteligência Artificial (IA) abordar e interatuar com a Neurociência, e vice-versa?

Quase a terminar o ano, surgem as frequentes resoluções de ano novo, um conjunto de ideias e desejos para aquele que se perspetiva ser um ano talvez igual ou melhor que o anterior. Existem assim duas perspetivas temporais: o ano que passou (o passado) e o que vem (futuro), e é sobre a integração destas duas perspetivas que gostaria de deixar uma reflexão.

Estas duas imagens foram produzidas por André Moitinho, Márcia Barros, Carlos Barata do Centro Multidisciplinar para a Astrofísica (CENTRA) e Hélder Savietto da Fork Research no âmbito da missão Gaia.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de dezembro é com Rodrigo Maia, técnico superior do Laboratório de Isótopos Estáveis do Departamento de Biologia Vegetal de Ciências.

A cidade é um bom exemplo de um sistema adaptativo, inteligente e complexo. Fala-se hoje muito em cidades espertas, onde os peões e os habitantes só encontram motivos para viverem contentes, porque tudo é pensado para os ajudar, graças à capacidade analítica sobre os dados das pessoas e das cidades. A sua manutenção é imprescindível, e a sua renovação deve obedecer à inteligência e jamais à usura. Nem sempre isso ocorre.

O projeto AQUA LINE, da empresa PEN Wave, vencedor do concurso MAREINOV Montepio, destina-se a produzir de forma inovadora microalgas e copépodes para o sector da aquicultura.

André Borges, Bernardo Tavares e Luis Martins, alunos do mestrado integrado em Engenharia da Energia e do Ambiente venceram o 1.º Hackathon de Transportes Internacional de Moscovo. A equipa classificada em 1.º lugar contou ainda com estudantes de Espanha e Colômbia.

O Prémio Luso-Espanhol de Química 2017 foi atribuído a Amélia Pilar Rauter, professora do Departamento de Química e Bioquímica e coordenadora do Grupo da Química dos Glúcidos do Centro de Química e Bioquímica de Ciências.

O quinto livro de António Damásio, colocado à venda a 3 de novembro, aborda o diálogo da vida com os sentimentos, como formadores da consciência e motor da ciência, e o que daí resulta, em especial para a cultura (ou ainda, sobre a estranha ordem, da sensação à emoção e depois ao sentimento). Os sentimentos são sinais da nossa vida e também os motivadores da criação intelectual dos homens. E, daí resultam multitudes de condutas, padrões variados de comportamentos. Enfim, os sentimentos facilitam a formação da nossa personalidade.

Páginas