Já conhece o Albertina PT?

Primeiro grande modelo aberto de IA para a língua portuguesa

cérebro

O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou

Unsplash+ com Getty Images
António Branco
“Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina", diz António Branco
Fonte GICD DCI Ciências ULisboa

O primeiro grande modelo de Inteligência Artificial generativa para a língua portuguesa, para cada uma das variantes, do Brasil e de Portugal, gratuito, em código aberto e com acesso universal está disponível desde este mês e tem 900 milhões de parâmetros.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital."
António Branco

O Albertina PT destina-se a investigadores e organizações, públicas e privadas, grandes e pequenas, de todos os sectores económicos. No momento da sua publicação, o seu desempenho estabelece o estado da arte para o Português relativamente a modelos neuronais de linguagem publicados e abertos. É este tipo de modelos de linguagem que suportam toda a gama de aplicações de IA que estão a fazer furor, desde chatbots até tradução automática.

"Trata-se de um marco histórico muito importante na preparação tecnológica da língua portuguesa para a era digital", diz em comunicado de imprensa, António Branco, professor do Departamento de Informática da Ciências ULisboa, coordenador do NLX | Grupo da Fala e Linguagem Natural da Ciências ULisboa e coordenador da equipa deste projeto, desenvolvido em parceria com a Faculdade de Engenharia da Universidade do Porto (FEUP).

O Albertina PT é um codificador da família BERT, baseado na arquitetura neural Transformer e desenvolvido sobre o modelo DeBERTa.

Para António Branco, o Albertina “constitui um passo crucial para democratizar esta tecnologia, que deixa de estar confinada às bigtechs e aos laboratórios de investigação, e vê todo o seu potencial disponível para alavancar a criação de valor e a melhoria da vida das pessoas”.
O desenvolvimento de grandes modelos neuronais de IA generativa para a língua portuguesa ainda agora começou. “Vamos continuar a desenvolver novas versões do Albertina, e também vamos desenvolver outros modelos de linguagem com arquiteturas neuronais diferentes da arquitetura da Albertina, uma vez que cada um à sua maneira é mais apropriado para diferentes finalidades e condições de utilização”, acrescenta António Branco.

Os investigadores do NLX Ciências ULisboa - João Rodrigues, Luís Gomes, João Silva, António Branco e Rodrigo Santos - e os investigadores do Laboratório de Inteligência Artificial e Ciência de Computadores da FEUP - Henrique Lopes Cardoso e Tomás Osório - apresentam os resultados deste trabalho no artigo "Advancing Neural Encoding of Portuguese with Transformer Albertina PT*", submetido recentemente na arXiv.

“Este primeiro resultado e as reações que estamos a receber são muito encorajadores, e o balanço é muito positivo”, conclui António Branco.

O Albertina nos media
Expresso, Economia dia a dia, Human Resources, RTP, Correio da Manhã, Pplware Online.

Ana Subtil Simões, Gabinete de Jornalismo Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Álvaro de Campos

TABACARIA

O Departamento de Informática da Faculdade de Ciências da Universidade de Lisboa (DI-FCUL) vai organizar a 3 de julho deste ano a primeira edição do 

“Eu sempre gostei de fazer desenho geométrico e sempre me interessei pelos azulejos e seus painéis e pela calçada portuguesa pela sua beleza, pela arte, e porque têm potencialidades científicas, estéticas e didáticas praticamente ilimitadas”, conta o investigador do Grupo de Física-Matemática, distinguido recentemente com o Prémio Abordagem Inovadora “SOS Azulejo 2012”.

As bibliotecas do C4 e C8 têm horários alargados durante a época de exames de 1 a 29 de Junho.

Mestrados DBA 2013-2014

Investigadores do projeto “Climate Change Iniciative – Ocean Colour”

A equipa do projeto “Climate Change Iniciative – Ocean Colour” esteve reunida na FCUL, nos dias 21 e 22 de maio. Os investigadores avaliaram as ações em curso e discutiram alguns assuntos com a comunidade de end-users.

Jorge Manuel Ribeiro Rezende galardoado com o prémio “Abordagem Inovadora”

Intervenção na cerimónia de entrega dos Prémios 'SOS Azulejo' 2012:

Sessões dias 24 e 25 de junho 2013

"Gás de Xisto"?! Sim? Não? Porquê? Como? Onde?

Cerimónia de escritura do Instituto do Petróleo e do Gás

A transferência de conhecimento e tecnologia para a sociedade faz-se mediante o reforço das relações entre as comunidades científica e empresarial. Para J. M. Pinto Paixão, diretor da FCUL, esta é a oportunidade ideal para constituir parcerias suportadas no conhecimento e no exercício de uma cidadania plena.

Acções de Formação em Geologia na FCUL / 2013

Departamento de Geologia da FCUL

Informações sobre o procedimentos de escolha de ramo na Licenciatura em Geologia, 2013-14, do Departamento de Geologia da FCUL.

Alunos de Estatística Aplicada da FCUL

Atualmente, o uso e a aplicação da estatística têm a sua razão de ser não apenas na legitimação da indução, mas também na possibilidade de incorporar a incerteza nas suas conclusões: outro testemunho da sua proximidade ao real.

 

O Departamento de Informática (DI), da Faculdade de Ciências da Universidade de Lisboa (FCUL), convida as empresas e instituições para o estabelecimento de Parcerias e a submeter propostas de trabalhos na área de Engenharia Informática e da Seguranç

Sessão de esclarecimento dia 31 de maio 2013, 11h, anfiteatro 2.4.16

Colocação por unidade curricular- informação atualizada

 

Conhece as reais causas das expulsões de 1947? Como eram as relações da Faculdade de Ciências com o Instituto Superior Técnico? Uma das últimas edições da FCUL procura responder a estas e a outras questões.

Alexandre Ribeiro, criador do jogo Fangz destacado recentemente na App Store dos EUA, voltou àquela que foi a sua instituição de ensino superior, a FCUL, para partilhar experiências, curiosidades e dificuldades vivenciadas ao longo da conceção do jogo, aproveitando para responder às dúvidas dos interessados.

Conferência por Isabel Sacramento Grilo, Department of Geological Sciences SDSU, San Diego, California. EUA.

No âmbito do Ano Internacional de Estatística, a Sociedade Portuguesa de Estatística (SPE)  e o Centro de Estatística e Aplicações da Universidade de Lisboa (CEAUL)  promovem uma

Visitantes e colaboradores do Dia Aberto em Ciências comentam a iniciativa que em 2013 reuniu cerca de 1400 pessoas, entre alunos do básico e secundário e seus professores.

Inquéritos Pedagógicos. 2.º Semestre de 2012-13

Os Inquéritos Pedagógicos são uma ferramenta fundamental para a avaliação da qualidade do ensino na FCUL

Fangz, jogo criado por aluno da FCUL que conquistou a Apple

Alexandre Ribeiro, antigo aluno do Departamento de Informática da FCUL, é o primeiro português a conseguir destacar uma aplicação nacional na App Store dos EUA. Para além deste destaque, foi eleito jogo da semana no fórum da Touch Arcade, “o site de maior reputação no mundo dos jogos para plataformas móveis”.

Sessões de esclarecimento/apresentação

Páginas