Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Ao fim de um ano, o projeto cumpriu uma das metas estabelecidas: a aplicação de um sistema de tradução automática em cenário de uso real, num serviço de helpdesk informático fornecido pela Higher Functions - Sistemas Informáticos Inteligentes, Lda..

No passado dia 6 de janeiro, o Departamento de Matemática celebrou o aniversário do Professor Armando Machado com um lanche.

 

As inscrições decorrem até 11 de fevereiro.

Entre os dias 3 e 31 de janeiro de 2015 a biblioteca do C4 também está aberta aos sáb

Na sequência da avaliação das unidades de investigação promovida em 2014 pela FCT, o CCMM passou a integrar o Centro de Química Estrutural da Universidade de Lisboa.

In the very recent international evaluation that FCT (Foundation for Science and Technology) has carried out of Portuguese scientific R&D units, BioISI was assessed as Excellent (classification: 24/25)

Santander Top Training 2015

Através do Santander Top Training, o Banco Santander Totta desenvolve jovens talentos promovendo o seu crescimento profissional enquadrado numa equipa inovadora e de prestigio. 

Entrevista com... Pedro Raposo, curador Adler

“Haverá sempre altos e baixos, mas estou em crer que se soubermos muito bem o que queremos, se procurarmos estudar e trabalhar com os melhores na área que nos interessa, se formos persistentes, e se mantivermos uma atitude cosmopolita, colheremos sempre algum fruto do nosso esforço”, declara Pedro Raposo.

Universidad de Las Fuerzas Armadas na ULisboa

Cinco alunos equatorianos estudam na ULisboa. Em Ciências, a comitiva visitou o Centro de Sistemas de Energia Sustentáveis (SESUL) e o Laboratório de Sistemas, Instrumentação e Modelação em Ciências e Tecnologias do Ambiente e do Espaço (SIM).

Pedro Raposo -  próximo Curador do Planetário Adler, em Chicago

Pedro Raposo, pós-doc do Centro Interuniversitário de História das Ciências e Tecnologia (CIUHCT), vai ser o próximo curador do Planetário Adler, em Chicago, o mais importante planetário dos Estados Unidos da América, e uma das instituições científico-culturais líderes neste país.

Encontrar fármacos mais eficazes é um dos principais objetivos de quem estuda esta doença genética.

Entre os dias 22 de dezembro de 2014 5 de janeiro de 2015 a biblioteca do C4 está aberta todos os dias úteis entre as 9h00 e as 17h00.

Um modelo de previsão desenvolvido na União Europeia, mostrou que a doença por vírus Ébola terá infetado na África Ocidental entre 14.000 e 22.000 pessoas no final de novembro.

“Este Prémio traz em si o incentivo de que é preciso continuar [a fazer] mais e melhor. Embora este Prémio tenha o meu nome, dedico-o e só o reconheço como sendo de um grupo de pessoas com quem trabalho, do meu centro de investigação e da Faculdade”, declarou Henrique Leitão.

Prémio Pessoa 2014

Henrique Leitão, investigador principal da Secção Autónoma de História e Filosofia das Ciências e membro do Centro Interuniversitário de História das Ciências e da Tecnologia, é o vencedor do Prémio Pessoa 2014.

Encontram-se abertas as inscrições para o "Management Trainee Programme" do Grupo Jerónimo Martins até ao final de Janeiro de 2015.

Henrique Leitão, Investigador Principal da Secção Autónoma de História e Filosofia das Ciências e do Centro Interuniversitário de História das Ciências e Tecnologia foi o vencedor do Prémio Pessoa 2014

No mesmo dia em que este prémio foi anunciado, a APOM atribuiu à Exposição “360º Ciência Descoberta”, que comissariou, o prémio para a melhor exposição organizada em Portugal em 2013 e para a melhor museografia.

Jorge Mendonça

Na sequência do falecimento de Jorge Miguel Oliveira Mendonça, estudante do 3º ano da licenciatura em Matemática da Faculdade de Ciências da ULisboa, ficam as palavras dos professores, amigos e colegas do Departamento de Matem&

Um grupo de nove alunos angolanos, finalistas do Departamento de Ciências da Computação da Universidade Agostinho Neto, visita o Departamento de Informática de Ciências da ULisboa na manhã de 17 de dezembro.

Paula Estrócio e Sousa

A ULisboa participou na Educa Angola – 4ª Feira de Amostras do Sistema Educativo e que se realizou em Luanda, entre 6 e 9 de novembro.

João Mata

A atual erupção do vulcão da ilha do Fogo, a primeira deste século, carateriza-se essencialmente por atividade havaiano-estromboliana. Os efeitos da destruição são muitos e têm sido noticiados pela comunicação social portuguesa gerando uma “onda” de solidariedade.

Melhores alunos 2013/2014 - "Maxdata Excelência em Informática"

A sessão de entrega dos prémios "Maxdata Excelência em Informática" aos melhores alunos dos cursos de Informática da Faculdade de Ciências da ULisboa, no ano letivo de 2013/2014, ocorreu no dia 3 de dezembro.

O projeto QTLeap, que explora formas inovadoras de alcançar traduções de maior qualidade, é coordenado pela Universidade de Lisboa, através do Departamento de Informática de Ciências. A primeira reunião anual está marcada para os dias 5 e 6 de dezembro, na Faculdade de Ciências da ULisboa.

O Instituto do Petróleo e Gás (ISPG) encontra-se a desenvolver em conjunto com a Universidade Heriot-Watt um curso de mestrado em Engenharia do Petróleo que irá realizar-se em Portugal, previsivelmente a partir de 02 de Fevereiro de 2015, no Campus da Faculdade de

Páginas