Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

O que fazem e o que pensam alguns membros da comunidade de Ciências? O quinto Dictum et factum é com Andreia Rezende, técnica superior do Gabinete Jurídico de Ciências.

Trinta e três pessoas submeteram até ao final do passado mês de março mais de 200 fotografias no âmbito do Concurso de Fotografia de Ciências 2016. Durante o Dia de Ciências – a 19 de abril de 2016 – foram atribuídos os prémios e as menções honrosas às melhores imagens do concurso.

Um grupo de investigadores do Centro de Química e Bioquímica de Ciências, da Osaka Prefecture University (OPU), no Japão, do Rutherford Appleton Laboratory, no Reino Unido e de duas instituições francesas - o Institut de Chimie de Clermont-Ferrande e o CNRS - sintetizou um novo nanomaterial considerado como catalisador verde de nova geração. 

O Dia de Ciências 2016 foi celebrado no dia do aniversário da Faculdade – 19 de abril – e juntou, como em anos anteriores, alunos, professores, investigadores, outros funcionários desta faculdade, seus familiares e amigos.

António Branco, professor do Departamento de Informática de Ciências, participa na cerimónia “CPLP 20 anos - A Diversidade Cultural que Nos Une”, cujo objetivo é comemorar o Dia da Língua Portuguesa e da Cultura da CPLP, celebrado a 5 de maio de 2016, no Palácio Conde de Penafiel, em Lisboa.

Diz-se que nem sempre pensamos por linhas direitas, quase sempre seguimos por curvas, em ziguezagues, corrigindo o que estava confuso, unindo e simplificando, recorrendo a imagens e metáforas, para ajudar os outros a capturarem a essência das coisas.

A próxima sessão da Cicloficina realiza-se a 2 de maio de 2016, pelas 17h00, no parque de bicicletas do C5.

A iniciativa do Departamento de Informática de Ciências - organizada no âmbito do Girls in ICT Day - visa promover uma reflexão sobre as potencialidades das Tecnologias da Informação e Comunicação junto de jovens raparigas, pais e professores. 

logotipo da iniciativa

A inscrição no Dia Aberto é gratuita, obrigatória e não tem data limite. Os visitantes a 27 de abril de 2016 podem conhecer a faculdade sozinhos ou acompanhados, em 30 minutos ou o dia inteiro.

O plano de atividades deve ser um ato participado, de modo a congregar os esforços que as partes estão dispostas a investir no todo. As unidades de serviços souberam dar este passo importante, estabelecendo objetivos anuais e metas de concretização para as atividades previstas.

Daniel Kahneman, um psicólogo que obteve o prémio Nobel da Economia em 2002, escreveu o livro “Thinking Fast and Slow” (2011) para nos ensinar que a inteligência precisa da intuição, e isso explica aqueles modos de pensar, com duas velocidades.

Paul Schmit, embaixador do Grão-Ducado do Luxemburgo em Portugal visita a Faculdade de Ciências da Universidade de Lisboa no âmbito da receção de boas-vindas aos alunos do “2nd Intensive Study Programme (ISP)”, um curso avançado em Segurança Informática, destinado a alunos de mestrado

O que fazem e o que pensam alguns membros da comunidade de Ciências? O quarto Dictum et factum é com Ricardo Ferreira, bolseiro da Segurança do Trabalho.

Os estudantes da Escola Técnica e Liceal Salesiana de Santo António e do Colégio dos Plátanos venceram as semifinais das Olimpíadas de Química Júnior 2016 ocorridas em Ciências este sábado, dia 9 de abril.

A mostra itinerante “A ULisboa é para todos”- inaugurada esta segunda-feira - está em exibição até 15 de abril, no átrio do edifício C3, no campus de Ciências.

Quando Ana Henriques Pato terminou em 2002 o ensino secundário, na Escola Secundária Fernão Mendes Pinto, em Almada, com a média de 18 valores, escolheu Ciências. A sua ligação à Faculdade não ficou por aí.

O Departamento de Química e Bioquímica de Ciências volta uma vez mais a aderir a este concurso com 13 anos e que este ano conta com cerca de 266 escolas inscritas, segundo dados disponibilizados pela Sociedade Portuguesa de Química.

Os estudantes de Ciências elegem no dia 28 de abril os três alunos representantes do Conselho de Escola para os próximos dois anos.

O Instituto Dom Luiz organiza a conferência “COP 21 - Desafios para Portugal depois da Conferência de Paris”, no próximo dia 22 de abril de 2016, no edifício C8, no anfiteatro 8.2.30, sito na Faculdade de Ciências da Universidade de Lisboa.

Nove em cada dez dos inquiridos têm conhecimento do projeto HortaFCUL.

Arquitetos, filósofos, advogados, Maria João Collares Pereira refere que os formandos eram sobretudo das humanidades, por isso “para ensinar coisas complicadas a pessoas com esta formação é preciso saber divulgar ciência”.

O quadrado design-ideias-tecnologia-negócios tem vindo a marcar os últimos anos das start-ups, as suas perspetivas e novas possibilidades, com uma inovação extraordinária que atrai os consumidores e faz crescer o valor de uma empresa.

“Todos chegaram ao final com um projeto, um protótipo como se pretendia e com algumas ideias bem interessantes!”, comenta Bernardo Tavares, um dos organizadores do primeiro Lisbon Green Hacakthon.

O que fazem e o que pensam alguns membros da comunidade de Ciências ULisboa?

Ciências participa no dia 19 de março de 2016 nas Masterclasses Internacionais em Física de Partículas.

Páginas