Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Nos dias 9 e 10 de Agosto a plataforma Moodle da FCUL vai estar inacessivel devido a uma manutenção de rotina.

As nossas desculpas pelos possiveis incómodos causados.

Liliana Caldeira junto aos posters

A investigação sempre foi um objetivo, que ganhou força após o prémio para melhor poster ser-lhe atribuído numa importante conferência internacional. Até ao final do ano, Liliana Caldeira, aluna de doutoramento em Engenharia Biomédica e Biofísica da FCUL, deverá defender a tese.

Pontos de interrogação

"Aquando da candidatura, o projeto estava numa fase embrionária e foi o Programa de Estímulo à Investigação da FCG que deu força e motivação para avançar”, diz Jocelyn Lochon, um dos vencedores da edição 2011 do Programa de Estímulo à Investigação.

Aluna entrevistada, sentada numa rocha

“O mais importante é saber gerir o tempo, ter alguma disciplina, definir os objetivos a alcançar e não dispersar”. A declaração pertence a Ana Bastos, jovem investigadora da FCUL e uma das vencedoras em 2011 do Programa de Estímulo à Investigação da Fundação Calouste Gulbenkian (FCG).

Cara do aluno entrevistado

“Acredito que o meu projeto vá ter efeitos na área da Saúde Pública. Ainda que não seja já nesta fase, espero poder contribuir para evoluções, por exemplo, ao nível da vacinação”, refere Tomás Aquino, um dos vencedores da edição de 2011 do Programa de Estímulo à Investigação.

A Bial, procura um Bioestatista para a oportunidade de emprego que pode ser visualisada em maior detalhe na página através do link:

Information dissemination in unknown radio networks with large labels

Professor Shailesh Vaya,
Xerox Research Centre, India,

July 20 at 10h00 on room 6.3.38

Estudantes sentados, junto a uma mesa

O pedido de apoio à formação pós-graduada na área da Geologia do Petróleo deve ser apresentado até 15 dias úteis, após o último dia do prazo de inscrição no respetivo curso.

Já é possível solicitar a criação de Unidades Curriculares na plataforma Moodle para o ano letivo 2012/2013.

Os pedidos podem ser realizados no Portal da FCUL, após inicio de sessão.

O Centro de Informática terminou, no passado dia 12 de Julho, a migração de um equipamento central na rede da FCUL.

A excelência de sempre na construção do futuro. Escolhe um dos nossos cursos de Física, Astronomia e Astrofísica, Engenharia Física, ou Engenharia Biomédica e Biofísica. [ + ]

Alunos da FCUL no pátio do C6

O “6th SPJ-OCS” realiza-se pela primeira vez em Portugal. Os organizadores do evento acreditam que “este congresso contribui para dar uma imagem do potencial científico de Portugal” nesta área.

Chieko Asakawa and Hironobu Takagi

17 Julho 2012 - 10h30
Anfiteatro da Fundação da FCUL

Chieko Asakawa and Hironobu Takagi

17 Julho 2012 - 10h30
Anfiteatro da Fundação da FCUL

Pormenor de obra artística

Os promotores do FP7 acreditam que “centenas de instituições científicas de toda a União Europeia irão apresentar propostas” e esperam captar novos participantes, nomeadamente pequenas e médias empresas, incrementando dessa forma a competitividade europeia.

Carlos Miguel Farinha, bioquímico docente do DQB e investigador do BioFIG , foi premiado em junho com o Romain Pauwels Research Award, atribuído pela European Respiratory Society.

 

2ª fase de candidaturas:  15 a 22 de Julho.

O mestrado em Matemática para Professores é uma excelente oportunidade para consolidar,  recordar e aprender muitos temas relacionados com a matemática escolar.

No dia 12 de Julho foram feitas as apresentações de quatro trabalhos feitos no âmbito da disciplina de Projecto em Matemática para o Ensino do Mestrado em Matemática para Professores.

A Universidade de Lisboa e a Fundação Amadeu Dias estão a atribuir bolsas aos alunos de 1º Ciclo de qualquer área do saber, leccionado na Universidade de Lisboa e que já tenham concluído o 1.º ano curricular, ou alunos que frequentem&n

Em 18 anos, o Programa de Estímulo à Investigação premiou 34 jovens investigadores e 19 instituições da Universidade de Lisboa. Na última edição, dos oito premiados, três são jovens cientistas da FCUL. As candidaturas à próxima edição decorrem até 21 de setembro.

Cartaz do Seminário

No dia dia 16 de Julho, pelas 11H00, na sala 6.4.30, realizar-se-á um Seminário organizado pelo Centro de Investigação Operacional com o título 'Lagrangian-Based Branch-and-Bound for Two-Echelon Uncapacitated Facility Location with Single Assignment Cons

Os resultados das experiências ATLAS e CMS divulgados recentemente pelo CERN, também foram apresentados publicamente na FCUL, numa sessão organizada pela professora do Departamento de Física Amélia Maio, a responsável pela participação portuguesa na experiência ATLAS.

Apresentações dos Projectos de Física dia 19 de Julho, às 10h, na sala 8.2.17:

O que faz o profissional que passa os seus dias no laboratório? E quem se dedica a resolver equações ou a estudar animais e plantas? Cinquenta alunos da associação EPIS descobriram as respostas a estas e a outras questões.

Páginas