Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

“O Malcolm Love é uma pessoa incrível e ensinou-nos muitas coisas, desde como agir numa entrevista, como contar uma história de forma fascinante, como controlar o nervosismo e principalmente como cativar o público quando falamos”, conta Andreia Maia, aluna do mestrado em Biologia Molecular e Genética, finalista do concurso FameLab Portugal.

A que cheira a sardinha? Cheira bem, cheira a Portugal. Na próxima quinta-feira, 18 de maio, junte-se a Miguel Santos e a Susana Garrido, dois investigadores do IPMA envolvidos no processo de avaliação do estado dos recursos da pesca em águas nacionais e internacionais para mais uma sessão de 60 Minutos de Ciência, desta vez no Edifício Caleidoscópio.

Cristina Branquinho e Paula Matos propõem utilização dos líquenes como um novo indicador ecológico global.

Mais de mil alunos do ensino secundário visitaram o campus de Ciências no dia 3 de maio.

Assunção Bispo

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de maio é com Assunção Bispo, assistente técnica do Departamento de História e Filosofia das Ciências.

Andreia Maia, Helena Calhau, Hugo Bettencourt e Rúben Oliveira são os alunos de Ciências que apresentam assuntos científicos de forma simples e descomplicada em três minutos, na edição 2017 do FameLab Portugal.

Pela 13ª vez, realizou-se em Ciências a fase de semifinal das Olimpíadas de Química Júnior. 67 alunos dos 8.º e 9.º anos conheceram a Faculdade, o Departamento de Química e Bioquímica e testaram conhecimentos de Química, em provas escritas e experimentais.

A 8.ª edição da feira anual de emprego de Ciências aconteceu em abril. Esclarecimento de dúvidas através do contacto pessoal com empresas, workshops, treino de entrevistas de emprego e análises de currículos foram algumas das atividades que marcaram os dois dias.

“Alargar horizontes, mudar atitudes” é o lema do “Girls in ICT @CienciasULisboa” que acontece este sábado, dia 6 de maio de 2017, em Ciências.

A pergunta “Pode uma máquina pensar?” abre a busca por agentes inteligentes capazes de interatuarem com os seres humanos através de linguagens (a proposta do jogo de imitação como teste de inteligência), e sobretudo de serem autónomos em ambientes sofisticados.

Realiza-se este mês a 7th International Conference on Risk Analysis, em Chicago. Nela, a professora de Ciências Maria Ivette Gomes é homenageada pelo seu trabalho na área da Análise de Risco.

Faltam poucos dias para o Dia Aberto. A Faculdade volta a abrir portas aos alunos do ensino secundário no próximo dia 3 de maio.

Nos dias 27 e 28 de abril de 2017 realiza-se a 8.ª edição da feira anual de emprego da Faculdade de Ciências da Universidade de Lisboa.

sistema ótico

A componente tecnológica do espectrógrafo ESPRESSO que irá conduzir a luz dos telescópios do VLT para o instrumento, o coudé train, a ser instalado no ESO, é feita por uma equipa portuguesa da qual fazem parte professores e investigadores de Ciências. Neste artigo, fique a conhecer o trabalho realizado pelo grupo.

No mesmo espaço, associações de voluntariado, voluntários e estudantes de Ciências com interesse na disciplina de Voluntariado Curricular reuniram-se. O objetivo foi dar a conhecer o trabalho feito na disciplina de Voluntariado Curricular, através da partilha de histórias e experiências.

O Núcleo de Física e Engenharia Física da Faculdade de Ciências da Universidade de Lisboa foi fundado no dia 19 de maio de 2016, curiosamente no dia do Físico, com o intuito de representar os estudantes de Física e Engenharia Física.Uma das atividades organizadas com o intuito de alargar a perspetiva profissional destes alunos foi a Conferência Física Fora da Academia.

A distribuição geográfica atual dos tojos do género Stauracanthus - arbustos espinhosos que ocorrem nas dunas interiores das praias portuguesas - deve-se a acontecimentos geológicos de grande escala ocorridos no Mar Mediterrâneo há cerca de cinco milhões de anos.

O planeta Terra está em constante mudança. Pegue em qualquer livro de Geologia e uma das primeiras frases que vai encontrar será esta ou uma muito parecida. Se continuar a ler, ficará a saber que a Terra tem mais de 4500 milhões de anos e que nem sempre foi como a conhecemos. Antes, existiam supercontinentes rodeados por vastos oceanos que, ao longo de milhões de anos, se fragmentaram e relocalizaram dando forma aos seis continentes e cinco oceanos que compõem atualmente o planeta azul.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de abril é com Ana Pereira, técnica superior do Gabinete de Empregabilidade da Área de Mobilidade e de Apoio ao Aluno de Ciências.

O dryVHP venceu o prémio Inovação Ageas – Novo Mundo. Construir aparelhos de esterilização mais rápidos e eficazes, ou aparelhos de esterilização portáteis e não elétricos para missões humanitárias é o objetivo deste projeto, desenvolvido em Ciências.

O programa CSA (community supported agriculture) refere-se a uma comunidade de produtores e consumidores que partilham os benefícios e os riscos da produção numa inspiradora experiência de responsabilidade conjunta em torno do alimento. 

“Estes programas de bolsas e estímulos são muito importantes para os alunos que, como eu, ambicionam tornar-se investigadores”, declara o aluno de Ciências, um dos vencedores da edição 2016/2017 do prémio Novos Talentos em Matemática, da Fundação Calouste Gulbenkian.

Raquel Conceição, chair da Ação MiMed-TD1301 e Pedro Almeida, um dos representantes nacionais da Ação COST FAST, participaram no “Portugal in the Spotlight”. Os professores de Ciências deram a conhecer o sucesso das ações COST em que estão envolvidos, participando ainda no debate “Making the added value of networking tangible. The Portuguese perspective".

A Faculdade visita escolas secundárias há 19 anos e em parceria com a empresa Inspiring Future, desde 2014, por forma a divulgar a sua oferta formativa. Este ano letivo foram agendadas 95. Até agora Ciências já esteve em 56 escolas, após as férias escolares irá visitar mais 39.

A história ensinou-nos que quem faz a língua é quem a fala e escreve e estou em crer que todos estes e muitos outros termos, goste-se ou não, vieram para ficar.

Páginas