Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

As Olimpíadas Internacionais de Ciências da Terra ocorreram nos dias 29 e 30 de agosto, em Nice, na Côte d'Azur, em França. Pelo terceiro ano consecutivo, os estudantes do ensino secundário português voltaram a conquistar medalhas.

Depois de ter passado pela Austrália, África do Sul, EUA e Reino Unido, entre outros países, a EMAPI chega a Portugal.

Valiant acredita que a ciência da aprendizagem permanece apenas explorada parcialmente, e que o uso das previsões (via a Aprendizagem) no mundo atual, tão sujeito às mudanças e às surpresas, é particularmente interessante. Por exemplo, os sistemas biológicos são altamente adaptativos, e compreender o que eles fazem, passo a passo, e porquê tem êxito, levaram-no a considerá-los como tópicos ideais para uma teoria da aprendizagem e da ciência da computação.

O “5th International Tsunami Field Symposium” realiza-se de 3 a 7 de setembro de 2017, em Lisboa e no Algarve e reúne a elite mundial no estudo de depósitos de tsunami, destaque para os dois oradores convidados - Alastair Dawson e Raphael Paris.

O projeto “Caixa Sismológica”, do Agrupamento D. Maria II, com sede na Escola Básica e Secundária Gama Barros, no Cacém, venceu o concurso internacional “Ciência na Escola”, 1.º escalão – Educação Pré-escolar, promovido pela Fundação Ilídio Pinho. Neste escalão do concurso, participaram 48 projetos, dos quais só 12 chegaram à fase final, em Coimbra.

Após perto de dez anos de planeamento e construção, o espectrógrafo ESPRESSO vai ser instalado no Very Large Telescope, do ESO, no Chile. O Instituto de Astrofísica e Ciências do Espaço é um dos membros do consórcio, pelo que terá acesso a 273 noites de observação com o VLT.

Cerca de 360 pessoas estiveram presentes na sessão Ignite IAstro e que integrou o programa do XXVII Encontro Nacional de Astronomia e Astrofísica. Em outubro a digressão ruma até à Ribeira Grande, nos Açores.

Os autores do artigo apresentam a história evolutiva de duas espécies de lagartos endémicos da Austrália - Carlia triacanth e Carlia johnstonei - revelando como se adaptaram a alterações climáticas do passado.

Com o fortalecimento da Aprendizagem (Machine Learning), a escola clássica da Inteligência Artificial ou IA (Good Old Fashion AI, GOFAI), apoiada em sistemas simbólicos, ficou entrincheirada. O livro mais recente do professor Hector Levesque, “Common Sense, the Turing Test, and the Quest for Real AI”, da MIT Press (2017), vem ajudar a não esquecermos o que a IA nos tem ensinado, ano após ano, acerca da mente, e, em particular, que o pensamento é um processo computacional. Como pode, então, a computação iluminar o pensamento?

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de agosto é com Cristina Manessiez, técnica superior da Biblioteca de Ciências.

Investigadores de Ciências e do Instituto Universitário de Lisboa desenvolvem hardware capaz de resolver tarefas robóticas, em contexto real, em menos tempo do que o alcançado até então. Os resultados foram publicados na revista científica Royal Society.

Em 2017 os Prémios Científicos ULisboa/Caixa Geral de Depósitos foram atribuídos a Vladimir Konotop e Ricardo Trigo. O ano passado foi a vez de Henrique Cabral e Eric Font. Ainda não é conhecida a data da cerimónia pública de entrega das referidas distinções.

Na lista de artigos e livros notáveis da ACM Computing Reviews, a Best of Computing, encontram-se publicações de professores e investigadores do Departamento de Informática de Ciências.

grupo de participantes

Alunos do ensino secundário participaram em projetos de investigação na Faculdade de Ciências da ULisboa. O culminar da atividade deu-se com um Congresso Científico, onde os "novos cientistas" apresentaram os resultados do trabalho realizado.

A palestra "Por que não anda o tempo para trás?” acontece dia 29 de julho, pelas 21h30, no Planetário Calouste Gulbenkian, Centro Ciência Viva de Belém.

Durante duas semanas, estudantes do ensino básico e secundário conheceram o ambiente da Faculdade e os métodos de trabalho dos cursos aqui lecionados.

“Tina dos Tsunamis” ocorreu no passado dia 29 de junho, durante o campo de férias Exploradores, com um grupo de 25 crianças, entre os 7 e os 14 anos do bairro do 2.º Torrão, em Almada.

Para compreendermos as capacidades de cada um de nós é preciso entender como as células nervosas se comportam e como interatuam entre si, isto é, pode sempre existir uma outra hipótese que consiga explicar um pouco mais. E, existem sempre os factos e as interpretações.

A Faculdade de Ciências da Universidade de Lisboa organiza de 24 a 28 de julho de 2017 a 4.ª edição do “Ser Cientista”.

No próximo ano letivo Ciências apresenta três novos cursos: Biologia dos Recursos Vegetais, Cultura Científica e Divulgação das Ciências e Data Science.

Preparado para mineração nos fundos marinhos profundos? E para viver sem telemóvel? Venha visitar a exposição Mar Mineral e compreender a relação.

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de julho é com Andreia Santos, técnica superior do Gabinete de Apoio Psicopedagógico (GAPsi) da Área de Mobilidade e Apoio ao Aluno de Ciências.

O primeiro mestrado em Gestão e Governança Ambiental da Universidade Agostinho Neto foi frequentado por 24 alunos. Os primeiros dez estudantes apresentaram as teses em maio, numa cerimónia que contou com a presença de Maria de Fátima Jardim, ministra de Ambiente de Angola. As próximas defesas deverão ocorrer em outubro.

Em 2017, o Prémio Bronstein foi atribuído a Mercedes Martín-Benito, investigadora do Instituto de Astrofísica e Ciências do Espaço e da Faculdade de Ciências da Universidade de Lisboa, em reconhecimento pelo seu importante contributo para a Cosmologia Quântica em Loop.

Em 2017 a Faculdade de Ciências da Universidade de Lisboa acolhe o IV Encontro Internacional da Casa das Ciências, que ocorre entre 10 e 12 de julho.

Páginas