No Campus com Helder Coelho

Atualidade dos Analisadores Semânticos

Helder Coelho

Nos últimos anos, a possibilidade de falar com uma máquina (relógio, telemóvel, computador portátil, automóvel), um dos sonhos da Inteligência Artificial, tornou-se trivial, pois a tecnologia da linguagem (tradução, reconhecimento, análise, síntese) evoluiu bastante desde a aposta da Apple no Siri em 2011 (veja-se o "Technology Quarterly" do "Economist" de 5 de janeiro de 2017, e a melhoria da precisão no reconhecimento das palavras ou na tradução, cada vez mais perto dos 100%). No entanto, esta vitória da ciência (na idade da avalanche dos dados ou Big Data) não foi fácil e, o que estava em causa, o poder de análise semântica (semantic parser) cresceu (scaled up) graças à fusão dos aspetos lógicos e estatísticos. Mais, o analisador é agora capaz de aprender (Liang, 2016), e foram os avanços da Aprendizagem Mecânica e dos Modelos Estatísticos (Hidden Markov Model, a via da força bruta) os principais responsáveis pelo entusiasmo da indústria e dos mercados. A Microsoft, a Facebook, a Google foram também para a luta e parecem estar empenhadas em melhorar os seus resultados.

Duas linhas de investigação confrontaram-se nos últimos 40 anos, o lado da linguística formal, defendido por Noam Chomsky, e o lado da teoria da informação, que se apoiou em Claude Shannon. E, não se deve esquecer Zellig Harris, o qual defendeu uma aliança forte entre os princípios gramaticais e os informacionais, e o mesmo aconteceu com a via da teoria das linguagens formais.

As técnicas matemáticas ganharam espaço e estão hoje na frente pelos avanços e a lidar com as avalanches de dados. Na presente década, graças aos esforços de um grupo pequeno de empresas, a via da teoria da informação ganhou adeptos, sobretudo devido aos sucessos no reconhecimento da voz (discurso), na busca de informação, e na tradução das línguas. Ferramentas online como o BabelFish (apoiada em regras) e o Google Translate, passaram a ser usadas e prezadas. Empresas mais pequenas, como a Nuance (e o programa Dragon Dictate), mostraram que as tecnologias das redes neuronais são úteis (a DeepMind da Google inaugurou, em 2014, um novo modo de sintetizar os discursos orais, recorrendo a redes neuronais profundas).

O mercado do processamento da língua natural (PLN), segmentado em codificação automatizada, análise de textos, reconhecimento de carateres óticos, resposta interativa em voz, reconhecimento de padrões e imagens, e analítica da voz, tenderá a aumentar muito nos próximos dez anos.

A compreensão de uma língua natural (Português) passou a poder ser decomposta em duas etapas, a tradução das frases lógicas (representação do seu significado) e a produção de ações. E, os analisadores semânticos são capazes de aprender as formas lógicas que estão associadas aos pares frases/ações. A compreensão é organizada com vários módulos, como o executor, a gramática, o modelo, o analisador e o aprendiz. E, o sistema por detrás da compreensão é ensinado e, após o treino, aumenta a sua precisão de trabalho. Mas, devemos ter um certo cuidado pois as línguas estão cheias de ambiguidades e exceções.

Compreensão profunda + raciocínio lógico
(sintaxe, semântica e pragmática)

A composição do significado de uma frase (expressão) é o resultado do arranjo/combinação das subexpressões (partes significantes da frase).

No início (anos 60), e nas duas décadas seguintes, era muito difícil ir além de domínios limitados (fechados) e de enfrentar as complexidades de uma língua em geral, apenas com regras feitas à mão. A evolução da aprendizagem mecânica, foi influenciada pelas técnicas estatísticas, já adotadas pelo reconhecimento de padrões (discurso com voz), e também graças ao modo repetitivo de explorar exemplos de comportamento (entrada/saída) e de os obrigar ao encaixe num modelo (estatístico). A revolução passou ainda pelo enfraquecimento da supervisão (na passagem das formas lógicas anotadas às respostas) e pela ampliação (scaling up) dos analisadores semânticos a domínios mais abertos e complicados. Se os primeiros sistemas exigiam as formas anotadas, os novos começaram a ser treinados com as respostas (via aprendizagem). E, finalmente, a aplicação dos analisadores a diferentes domínios e além do que é mais comum, a pergunta/resposta, tais como a navegação de robôs, a identificação de objetos em cenas, ou a conversão da língua natural em expressões regulares.

O escalamento (scaling up) é, hoje em dia, um dos problemas interessantes da Informática. Consiste em passar de um protótipo (em geral com uma escala pequena) para um sistema mais realista, e na maioria dos casos não exige apenas grandes computadores (alta velocidade e poder de processamento, enormes memórias).

Por exemplo, em simulação social baseada em agentes inteligentes, requer paciência para afinar os principais parâmetros, tornar os agentes cognitivos parecidos com os seres humanos, e multitudes de agentes diferentes em cenários com paisagens bem sofisticadas (o filme Avatar de James Cameron é um bom exemplo de um empreendimento que levou dez anos a realizar, recorrendo a novas tecnologias e ferramentas). No caso de conflitos sociais (como as manifestações de protesto em rua) passar de 1.000 agentes para 2.000 é trivial, mas o salto para 10.000 impõe muito trabalho, tempo e paciência para as afinações.

No futuro, os desafios são ainda grandes, como por exemplo a representação semântica da linguagem ou que supervisão se deverá adotar para aprender a semântica. Recentemente, houve bastante interesse em recorrer às redes neuronais, e suas extensões, para atacar as tarefas mais populares do processamento da língua natural, a tradução mecânica e a pergunta/resposta (veja-se o sucesso do sistema Watson da IBM e da interface Siri da Apple, desde 2011). A paridade entre a tecnologia e o desempenho humano está ainda longe, medida em 2/3 anos, embora os produtos comecem a surgir, como os automóveis com controles ativados por voz. Para alguns, criar discurso ou compreendê-lo são duas operações opostas.

No Departamento de Informática (DI) da Faculdade de Ciências da Universidade de Lisboa (Ciências ULisboa), o grupo do professor António Branco, por detrás da unidade de investigação e desenvolvimento NLX (criada no início de 2000), disponibilizou um serviço o LX-Service para se observarem algumas das ferramentas desenvolvidas em cerca de 20 anos de estudo (LX-Suite, LX-Conjugator, LXGram, POS Tagger, LX-Tokenizer, Lematizador verbal). Recentemente foi aprovado o projeto CNPTDeepMT (Tradução Automática Profunda entre Chinês e Português, no domínio do eCommerce), com a duração de três anos, o apoio da FCT e do Ministério da Ciência e Tecnologia da China e a ser realizado na unidade NLX no DI Ciências ULisboa.

Referência
Liang, P. Learning Executable Semantic Parsers for Natural Language Understanding, Communications of the ACM, Setembro, Vol. 59, Nº 9, 2016.

Helder Coelho, professor do Departamento de Informática de Ciências
info.ciencias@ciencias.ulisboa.pt
Banner O Planeta Vivo

“Temos este mundo, ou nada. E temos um grande problema se não entendermos o planeta que queremos salvar.” Esta citação de Carl Sagan é o mote do documentário ‘O Planeta Vivo’, que estreou no passado dia 3 de julho na RTP.

Vista Aérea do Observatório do Paranal

O Observatório do Paranal, no deserto do Atacama no Chile, que faz parte do Observatório Europeu do Sul (ESO), vai receber em 2025 um telescópio made in Portugal para observar o Sol.

Nuno Gonçalves e Inês Leite posam com os prémios junto aos restantes investigadores do Instituto de Astrofísica e Ciências do Espaço (IA)

Nuno Gonçalves e Inês Leite, estudantes de CIÊNCIAS, foram premiados na SPIE Astronomical Telescopes + Instrumentation, a maior conferência internacional sobre instrumentação para a Astronomia.

Ranking de Leiden: Há três áreas de investigação de CIÊNCIAS em que a ULisboa é líder nacional

A Universidade de Lisboa (ULisboa) está em primeiro lugar a nível nacional em três áreas de produção científica de CIÊNCIAS no reputado CWTS Leiden Ranking: Ciências da Vida e da Terra, Matemáti

Banner Curso PRODIGI

A partir de 2025 a Universidade de Lisboa em parceria com o Instituto Politécnico de Lisboa, vai disponibilizar uma nova formação online em competências digitais.

 

Inês Fragata, Margarida Matos, Sara Magalhães e Cristina Máguas.

CIÊNCIAS inaugura hoje oficialmente a infraestrutura laboratorial de investigação - Unidade de Evolução Experimental.

Imagem alusiva ao Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT)

O Mestrado em Bioestatística de CIÊNCIAS foi acreditado pela Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT).

Dois professores de CIÊNCIAS eleitos sócios da Academia das Ciências de Lisboa

Pedro Miguel Duarte e Luís Eduardo Neves Gouveia, professores de CIÊNCIAS, foram eleitos sócios da Academia das Ciências de Lisboa.

O Centro de Congressos da Alfândega do Porto é o palco da edição de 2024 do Encontro Ciência.

Luís Carriço (Diretor de CIÊNCIAS) e Carlos Martins (Presidente da EPAL) junto a um dos novos bebedouros.

A Faculdade de Ciências da Universidade de Lisboa aderiu ao desafio da EPAL - Empresa Portuguesa das Águas Livres de consumir Água da Torneira nas suas áreas comuns, representando mais um compromisso com o Ambiente e com

 Rodrigo Freitas, Francisco Graça e Diogo Ávila no Pódio dos 3000 metros obstáculos no Campeonato Nacional Universitário de Pista ao Ar Livre

Rodrigo Freitas, estudante de CIÊNCIAS, sagrou-se bicampeão no Campeonato Nacional Universitário (CNU) de Atletismo Pista Ar Livre.

Desde ontem que CIÊNCIAS dispõe de um novo espaço: o Lounge C7!

Carolina Margarido, Catarina Lima e Raquel Costa seguram o prémio de primeiro lugar na segunda fase do Future Innovators Program da Unicorn Factory Lisboa

Carolina Margarido, Catarina Lima e Raquel Costa venceram a segunda fase do Future Innovators Program da Unicorn Factory Lisboa

A cientista Ana Russo, investigadora do Instituto Dom Luiz (IDL), visitou duas escolas básicas do concelho de Sintra no dia 23 de abril para rea

Branca Edmée Marques, cientista alumna de CIÊNCIAS

Branca Edmée Marques, alumna de CIÊNCIAS, será homenageada no dia 20 de junho pelos Museus da Universidade de Lisboa

Vanessa Fonseca, Catarina Frazão Santos, Rita Cardoso, Cláudio Gomes, Ana Duarte Rodrigues e Paulo J. Costa posam com os prémios para uma foto numas escadas

A faculdade conseguiu obter o segundo lugar entre as Escolas da Universidade de Lisboa mais galardoadas.

Margarida Fortes, docente do Departamento de Biologia Vegetal de CIÊNCIAS dá uma aula em frente a um quadro com uma projeção imagética

Margarida Fortes, professora de CIÊNCIAS, visitou a Escola Secundária de Carcavelos para dar uma aula acerca da edição genética.

Um grupo de membros de Instituições do Ensino Superior, onde se inclui CIÊNCIAS, está reunido em frente a um jardim, em visita à Siemens

 A iniciativa teve como objetivo aproximar a academia do tecido empresarial.

Nuno Gonçalves alcança o segundo lugar na competição 3MT ULisboa.

Nuno Gonçalves foi distinguido com o segundo lugar, na final da competição ‘Três Minutos de Tese – 3MT ULisboa’, que se realizou esta quint

Inês Ventura

Inês Ventura, a desenvolver o seu doutoramento no Centro de Ciências do Mar e do Ambiente (MARE) e no Instituto de Biossistemas e Ciências Integrativas (

Universidade de Lisboa

A Universidade de Lisboa alcança a 260ª posição no QS World University Rankings (SUR) 2025, tornando-se na universidade portuguesa mais bem classificada neste ranking.

Signatários do acordo

Dia 5 de junho foi assinado o acordo para a construção do espectrógrafo ANDES (ArmazoNes high Dispersion Echelle Spectrograph – Espectrógrafo Echelle de alta dispersão do Armazones), entre o Observatório Europeu do Sul (

 Luís Carriço, Diretor de CIÊNCIAS, e David Gonçalves, Dean do Instituto da Ciência e do Ambiente da Universidade de São José (USJ) assinam acordo sentados a uma mesa

CIÊNCIAS assinou no dia 5 de junho um acordo de cooperação com o Instituto da Ciência e do Ambiente da Universidade de São José (USJ)

Páginas