Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Quando João Graça Gomes iniciou o estágio “Cenarização Sistema Elétrico 100 % Renovável em 2040”, com a duração de um ano, no Departamento Técnico da Associação Portuguesa de Energias Renováveis (APREN), sob a orientação de José Medeiros Pinto, engenheiro e secretário-geral daquela associação, quis “dar o melhor e mostrar a qualidade do ensino de engenharia na FCUL”. O ano passado foi distinguido com um dos prémios de maior destaque da engenharia nacional.

João Graça Gomes, engenheiro do Departamento Técnico da APREN e mestre em Engenharia da Energia e do Ambiente, foi galardoado com o Prémio - Melhor Estágio Nacional em Engenharia Eletrotécnica da Ordem dos Engenheiros.

Nesta fotolegenda destacamos uma passagem da entrevista com o climatologista Ricardo Trigo e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Por forma a gerir a ansiedade de uma forma mais eficaz antes dos momentos de avaliação são propostas algumas estratégias que não eliminam a ameaça mas podem ajudar a lidar de um modo mais eficaz com a ansiedade.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O primeiro Dictum et factum de 2018 é com Marta Daniela Santos, responsável pelo Gabinete de Comunicação do cE3c – Centro de Ecologia, Evolução e Alterações Ambientais.

Ciências será o palco de uma eliminatória regional do Famelab 2018, um dos maiores concursos internacionais de comunicação de ciência.

Ler Filosofia (através de Espinosa) permite olhar o mundo, de forma crítica e pensar em profundidade. Em Ciência, observar e refletir são indispensáveis, para caminharmos, abrindo novas linhas de pesquisa.

Vinte e três alunos estiveram na Faculdade de Ciências a estudar as bases metodológicas para a classificação sistemática de plantas. O curso inseriu-se no projeto HEI-PLADI, um programa ERASMUS + e ocorreu pela primeira vez em Portugal.

Parte do antigo bar do edifício C1 de Ciências dá agora lugar a um novo laboratório de investigação em Ecologia Evolutiva. Aqui vai ser explorado um sistema biológico composto por duas espécies de ácaro aranha, Tetranychus urticae Tetranychus ludeni, que competem por um alimento - a planta do tomate.

O livro Faça Sol ou Faça Vento reúne seis histórias infantojuvenis sobre energias renováveis. Todas elas são escritas por autores com ligação à Faculdade de Ciências da ULisboa.

Será possível ter uma pessoa dentro de um scanner e dizer-lhe para mudar a atividade de diferentes zonas do seu cérebro, com base no que estamos a observar num monitor desse mesmo scanner? Pode a Inteligência Artificial (IA) abordar e interatuar com a Neurociência, e vice-versa?

Quase a terminar o ano, surgem as frequentes resoluções de ano novo, um conjunto de ideias e desejos para aquele que se perspetiva ser um ano talvez igual ou melhor que o anterior. Existem assim duas perspetivas temporais: o ano que passou (o passado) e o que vem (futuro), e é sobre a integração destas duas perspetivas que gostaria de deixar uma reflexão.

Estas duas imagens foram produzidas por André Moitinho, Márcia Barros, Carlos Barata do Centro Multidisciplinar para a Astrofísica (CENTRA) e Hélder Savietto da Fork Research no âmbito da missão Gaia.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de dezembro é com Rodrigo Maia, técnico superior do Laboratório de Isótopos Estáveis do Departamento de Biologia Vegetal de Ciências.

A cidade é um bom exemplo de um sistema adaptativo, inteligente e complexo. Fala-se hoje muito em cidades espertas, onde os peões e os habitantes só encontram motivos para viverem contentes, porque tudo é pensado para os ajudar, graças à capacidade analítica sobre os dados das pessoas e das cidades. A sua manutenção é imprescindível, e a sua renovação deve obedecer à inteligência e jamais à usura. Nem sempre isso ocorre.

O projeto AQUA LINE, da empresa PEN Wave, vencedor do concurso MAREINOV Montepio, destina-se a produzir de forma inovadora microalgas e copépodes para o sector da aquicultura.

André Borges, Bernardo Tavares e Luis Martins, alunos do mestrado integrado em Engenharia da Energia e do Ambiente venceram o 1.º Hackathon de Transportes Internacional de Moscovo. A equipa classificada em 1.º lugar contou ainda com estudantes de Espanha e Colômbia.

O Prémio Luso-Espanhol de Química 2017 foi atribuído a Amélia Pilar Rauter, professora do Departamento de Química e Bioquímica e coordenadora do Grupo da Química dos Glúcidos do Centro de Química e Bioquímica de Ciências.

O quinto livro de António Damásio, colocado à venda a 3 de novembro, aborda o diálogo da vida com os sentimentos, como formadores da consciência e motor da ciência, e o que daí resulta, em especial para a cultura (ou ainda, sobre a estranha ordem, da sensação à emoção e depois ao sentimento). Os sentimentos são sinais da nossa vida e também os motivadores da criação intelectual dos homens. E, daí resultam multitudes de condutas, padrões variados de comportamentos. Enfim, os sentimentos facilitam a formação da nossa personalidade.

Uma das melhores decisões de Ricardo Rocha foi estudar Biologia em Ciências. Aqui fez amigos e aprendeu. Na entrevista que se segue fica a conhecer o antigo aluno de Ciências, membro do cE3c e investigador pós-doutorado da Universidade de Cambrigde, galardoado com o 1.º lugar do Prémio de Doutoramento em Ecologia - Fundação Amadeu Dias, lançado este ano pela primeira vez pela Sociedade Portuguesa de Ecologia.

A procrastinação é uma das grandes causas do insucesso académico e fonte de muito sofrimento e conflito interno. Para conquistar a procrastinação podemos começar por nos questionarmos: porque é que ando, constantemente a adiar.

Um estudo publicado na revista científica Science, do qual Vítor Sousa, investigador do Centro de Ecologia, Evolução e Alterações Ambientais (cE3c), é coautor, demonstra que há mais de 34 000 anos os grupos de seres humanos caçadores-recoletores desenvolveram redes sociais complexas para escolher parceiros e evitar riscos da endogamia.

No âmbito dos projetos “MoTHER – Mobilidade e Transição em Habitações Especiais e Reativas” e “HIPE – Habitações Interativas para Pessoas Excecionais”, Manuel J. Fonseca, Luís Carriço e Tiago Guerreiro, professores do Departamento de Informática e investigadores do Laboratório de Sistemas Informáticos de Grande Escala, irão desenvolver soluções tecnológicas para melhorar a qualidade de vida, nomeadamente a autonomização de pessoas com lesões vertebro medulares, alojadas em residências da Santa Casa da Misericórdia de Lisboa.

A Associação Ciências Solidária foi constituída por escritura pública em 6 de abril de 2016, por iniciativa da Direção da Faculdade de Ciências, com o apoio de vários membros da comunidade. É um projeto de proximidade, baseado na responsabilidade social, com o fim de contribuir para a construção de uma comunidade mais justa e solidária.

A Semana da Ciência e Tecnologia celebra-se no país entre 20 e 26 de novembro. O ponto alto acontece a 24 com o Dia Nacional da Cultura Cientifica. Ciências junta-se à efeméride com dezenas de iniciativas.

Páginas