No Campus com Helder Coelho

Atualidade dos Analisadores Semânticos

Helder Coelho

Nos últimos anos, a possibilidade de falar com uma máquina (relógio, telemóvel, computador portátil, automóvel), um dos sonhos da Inteligência Artificial, tornou-se trivial, pois a tecnologia da linguagem (tradução, reconhecimento, análise, síntese) evoluiu bastante desde a aposta da Apple no Siri em 2011 (veja-se o "Technology Quarterly" do "Economist" de 5 de janeiro de 2017, e a melhoria da precisão no reconhecimento das palavras ou na tradução, cada vez mais perto dos 100%). No entanto, esta vitória da ciência (na idade da avalanche dos dados ou Big Data) não foi fácil e, o que estava em causa, o poder de análise semântica (semantic parser) cresceu (scaled up) graças à fusão dos aspetos lógicos e estatísticos. Mais, o analisador é agora capaz de aprender (Liang, 2016), e foram os avanços da Aprendizagem Mecânica e dos Modelos Estatísticos (Hidden Markov Model, a via da força bruta) os principais responsáveis pelo entusiasmo da indústria e dos mercados. A Microsoft, a Facebook, a Google foram também para a luta e parecem estar empenhadas em melhorar os seus resultados.

Duas linhas de investigação confrontaram-se nos últimos 40 anos, o lado da linguística formal, defendido por Noam Chomsky, e o lado da teoria da informação, que se apoiou em Claude Shannon. E, não se deve esquecer Zellig Harris, o qual defendeu uma aliança forte entre os princípios gramaticais e os informacionais, e o mesmo aconteceu com a via da teoria das linguagens formais.

As técnicas matemáticas ganharam espaço e estão hoje na frente pelos avanços e a lidar com as avalanches de dados. Na presente década, graças aos esforços de um grupo pequeno de empresas, a via da teoria da informação ganhou adeptos, sobretudo devido aos sucessos no reconhecimento da voz (discurso), na busca de informação, e na tradução das línguas. Ferramentas online como o BabelFish (apoiada em regras) e o Google Translate, passaram a ser usadas e prezadas. Empresas mais pequenas, como a Nuance (e o programa Dragon Dictate), mostraram que as tecnologias das redes neuronais são úteis (a DeepMind da Google inaugurou, em 2014, um novo modo de sintetizar os discursos orais, recorrendo a redes neuronais profundas).

O mercado do processamento da língua natural (PLN), segmentado em codificação automatizada, análise de textos, reconhecimento de carateres óticos, resposta interativa em voz, reconhecimento de padrões e imagens, e analítica da voz, tenderá a aumentar muito nos próximos dez anos.

A compreensão de uma língua natural (Português) passou a poder ser decomposta em duas etapas, a tradução das frases lógicas (representação do seu significado) e a produção de ações. E, os analisadores semânticos são capazes de aprender as formas lógicas que estão associadas aos pares frases/ações. A compreensão é organizada com vários módulos, como o executor, a gramática, o modelo, o analisador e o aprendiz. E, o sistema por detrás da compreensão é ensinado e, após o treino, aumenta a sua precisão de trabalho. Mas, devemos ter um certo cuidado pois as línguas estão cheias de ambiguidades e exceções.

Compreensão profunda + raciocínio lógico
(sintaxe, semântica e pragmática)

A composição do significado de uma frase (expressão) é o resultado do arranjo/combinação das subexpressões (partes significantes da frase).

No início (anos 60), e nas duas décadas seguintes, era muito difícil ir além de domínios limitados (fechados) e de enfrentar as complexidades de uma língua em geral, apenas com regras feitas à mão. A evolução da aprendizagem mecânica, foi influenciada pelas técnicas estatísticas, já adotadas pelo reconhecimento de padrões (discurso com voz), e também graças ao modo repetitivo de explorar exemplos de comportamento (entrada/saída) e de os obrigar ao encaixe num modelo (estatístico). A revolução passou ainda pelo enfraquecimento da supervisão (na passagem das formas lógicas anotadas às respostas) e pela ampliação (scaling up) dos analisadores semânticos a domínios mais abertos e complicados. Se os primeiros sistemas exigiam as formas anotadas, os novos começaram a ser treinados com as respostas (via aprendizagem). E, finalmente, a aplicação dos analisadores a diferentes domínios e além do que é mais comum, a pergunta/resposta, tais como a navegação de robôs, a identificação de objetos em cenas, ou a conversão da língua natural em expressões regulares.

O escalamento (scaling up) é, hoje em dia, um dos problemas interessantes da Informática. Consiste em passar de um protótipo (em geral com uma escala pequena) para um sistema mais realista, e na maioria dos casos não exige apenas grandes computadores (alta velocidade e poder de processamento, enormes memórias).

Por exemplo, em simulação social baseada em agentes inteligentes, requer paciência para afinar os principais parâmetros, tornar os agentes cognitivos parecidos com os seres humanos, e multitudes de agentes diferentes em cenários com paisagens bem sofisticadas (o filme Avatar de James Cameron é um bom exemplo de um empreendimento que levou dez anos a realizar, recorrendo a novas tecnologias e ferramentas). No caso de conflitos sociais (como as manifestações de protesto em rua) passar de 1.000 agentes para 2.000 é trivial, mas o salto para 10.000 impõe muito trabalho, tempo e paciência para as afinações.

No futuro, os desafios são ainda grandes, como por exemplo a representação semântica da linguagem ou que supervisão se deverá adotar para aprender a semântica. Recentemente, houve bastante interesse em recorrer às redes neuronais, e suas extensões, para atacar as tarefas mais populares do processamento da língua natural, a tradução mecânica e a pergunta/resposta (veja-se o sucesso do sistema Watson da IBM e da interface Siri da Apple, desde 2011). A paridade entre a tecnologia e o desempenho humano está ainda longe, medida em 2/3 anos, embora os produtos comecem a surgir, como os automóveis com controles ativados por voz. Para alguns, criar discurso ou compreendê-lo são duas operações opostas.

No Departamento de Informática (DI) da Faculdade de Ciências da Universidade de Lisboa (Ciências ULisboa), o grupo do professor António Branco, por detrás da unidade de investigação e desenvolvimento NLX (criada no início de 2000), disponibilizou um serviço o LX-Service para se observarem algumas das ferramentas desenvolvidas em cerca de 20 anos de estudo (LX-Suite, LX-Conjugator, LXGram, POS Tagger, LX-Tokenizer, Lematizador verbal). Recentemente foi aprovado o projeto CNPTDeepMT (Tradução Automática Profunda entre Chinês e Português, no domínio do eCommerce), com a duração de três anos, o apoio da FCT e do Ministério da Ciência e Tecnologia da China e a ser realizado na unidade NLX no DI Ciências ULisboa.

Referência
Liang, P. Learning Executable Semantic Parsers for Natural Language Understanding, Communications of the ACM, Setembro, Vol. 59, Nº 9, 2016.

Helder Coelho, professor do Departamento de Informática de Ciências
info.ciencias@ciencias.ulisboa.pt
Mão a segurar num telemóvel com o google maps em fundo

Mais uma crónica por ocasião das comemorações do centenário do curso de Engenharia Geográfica/Geoespacial, desta vez da autoria de Ana Cristina Navarro Ferreira, professora do DEGGE Ciências ULisboa.

Jorge Relvas

Jorge Relvas, professor do Departamento de Geologia da Ciências ULisboa e investigador do Instituto Dom Luiz, é o primeiro português a ser distinguido com a medalha da Society for Geology Applied to Mineral Deposits.

Faleceu no passado dia 28 de junho de 2021 Maria da Conceição Vieira de Carvalho, professora do DM Ciências ULisboa, investigadora do CMAFcIO e investigadora visitante permanente na Rutgers University, nos USA. Ciências ULisboa lamenta o triste acontecimento, apresentando as condolências aos seus familiares, amigos e colegas.

Encontro Ciência 2021 - Dezoito cientistas recebem as medalhas de mérito científico

O Ciência 2021 atribuiu 18 medalhas de mérito científico, destaque para os professores cientistas da Faculdade - Fernando Catarino, Isabel Âmbar e Maria José Costa (Zita). Por ocasião deste importante acontecimento surgiram três conversas com os membros da Faculdade: "a cereja em cima do bolo". 

Logotipo Radar

Décima sétima rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade.

engenheiro a operar com digitalização a laser 3D

Mais uma crónica por ocasião das comemorações do centenário do curso de Engenharia Geográfica/Geoespacial, desta vez da autoria de João Calvão Rodrigues, professor do DEGGE Ciências ULisboa.

Pessoa com a mão no ar

"Será que a sociedade portuguesa reconhece a excelência da investigação científica produzida em Portugal? Não basta produzir conhecimento científico de elevada qualidade, para que este seja reconhecido pelo público como tal", escreve Ana Subtil Simões, editora da Newsletter de Ciências.

Rui Gonçalvez Deus fardado

Rui Gonçalves Deus, oficial da Marinha e especialista em Investigação Operacional, dá-nos a conhecer o seu percurso académico e profissional, e conta-nos de que forma a passagem pela Faculdade o ajudou a alcançar o sucesso profissional.

 Estrutura molecular

Os compostos alílicos de Mo(II) têm sido estudados na Ciências ULisboa há vários anos, tendo sido demonstrada a sua atividade como precursores de catálise na oxidação de olefinas.

Seringa

Num estudo recentemente publicado na revista Nature Communications uma equipa de investigadores liderada por Ganna Rozhnova, professora na University Medical Center Utrecht e colaboradora do Instituto de Biossistemas e Ciências Integrativas (BioISI) na Ciências ULisboa, analisou diferentes cenários de relaxamento das medidas de contenção da pandemia enquanto progredia o processo de vacinação para o SARS-CoV-2 em Portugal.

José Cordeiro

A 1.ª edição do concurso à Bolsa Fulbright para Investigação com o apoio da FLAD – Fundação Luso-Americana para o Desenvolvimento para o ano académico de 2021/2022 selecionou quatro candidatos. Entrevista com José Cordeiro, mestrando em Estatística e Investigação Operacional na Ciências ULisboa.

Atividade realizada no âmbito da Higrografia

"A Hidrografia sofreu drásticas mudanças de desenvolvimento e progresso desde o advento do posicionamento por satélite (GPS) e dos sistemas acústicos de varrimento (multifeixe)", escreve Carlos Antunes, professor do DEGGE Ciências ULisboa, por ocasião das comemorações do centenário do curso de Engenharia Geográfica/Geoespacial.

relógios

As professoras Ana Nunes e Ana Simões apresentam em entrevista os objetivos do repositório digital de cursos e apontamentos de antigos professores da Ciências ULisboa, nomeadamente João Andrade e Silva, Noémio Macias Marques, José Vassalo Pereira, António Almeida Costa e José Sebastião e Silva.

Simulação de larga escala do Universo

Andrew Liddle, investigador do Departamento de Física da Ciências ULisboa e do Instituto de Astrofísica e Ciências do Espaço, integra a colaboração internacional Dark Energy Survey (DES), que catalogou quase um oitavo de todo o céu, ao longo de seis anos, com o intuito de revelar a natureza da energia escura, responsável pela expansão acelerada do Universo.

Sumário gráfico do trabalho

Um grupo de investigadores utilizou gânglios linfáticos, amígdalas e sangue para mostrar como as células que controlam a produção de anticorpos são formadas e atuam. Estes dados permitirão desenhar estratégias que controlem a regulação do sistema, podendo contribuir para a resolução de doenças autoimunes ou alergias.

Logotipo Radar

Décima sexta rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade.

Pessoa lendo um jornal

A agenda temática avalia a importância que os meios de comunicação de massas têm quando distribuem determinados temas, dando atenção a certos assuntos e esquecendo outros.

lagoas de filtração

As águas residuais podem ser usadas para identificar precocemente novos surtos da COVID-19 e investigar a diversidade dos genomas do vírus SARS-CoV-2 que circulam numa comunidade, segundo comunicado de imprensa emitido pela Águas de Portugal. Os resultados do projeto de investigação COVIDETECT foram apresentados a 26 de maio.

Combinação de imagens de técnicas e aplicações da Geodesia

"Um dos marcos interessantes da contribuição da Geodesia para a sociedade foi a definição do metro formulada em 1791 , que teve como base a medição do arco de meridiano entre Dunkerque e Barcelona, efetuada ao longo de sete penosos anos (em plena revolução francesa)", escreve Virgilio de Brito Mendes, professor do DEGGE Ciências ULisboa, por ocasião do centenário do curso.

Fluviário de Mora

A exposição permanente do Fluviário de Mora inclui “Sons dos Peixes” produzida no âmbito do projeto de investigação “Deteção de Peixes Invasores em Ecossistemas Dulciaquícolas através de Acústica Passiva - Sonicinvaders”, liderado pelo polo da Faculdade do MARE – Centro de Ciências do Mar e do Ambiente.

Modelo do espectrógrafo MOONS no VLT

Portugal colidera o projeto do Espectrógrafo Multiobjetos no Ótico e Infravermelho próximo, ou MOONS, assim como alguns dos seus grupos de trabalho. Um dos componentes principais do MOONS é o corretor de campo e foi desenhado por uma equipa do Instituto de Astrofísica e Ciências do Espaço.

Planta

A fenotipagem (medição sistemática de caracteres fenotípicos, i.e., do corpo das plantas) foi eleita, depois dos grandes avanços verificados na fenotipagem nas últimas décadas, como um grande desígnio atual da comunidade da ciência das plantas. Leia a crónica da autoria de Jorge Marques da Silva, professor do DBV Ciências ULisboa e presidente da SPBP.

Vista aérea de florestas de mangal no arquipélago dos Bijagós

O estudo da autoria de Mohamed Henriques, José Pedro Granadeiro, Theunis Piersma, Seco Leão, Samuel Pontes e Teresa Catry realizado no ecossistema influenciado por mangal será publicado em julho deste ano no Marine Environmental Research, volume 169.

Cartas com Ciência

O conhecimento e a empatia não têm fronteiras, prova disso é o projeto Cartas com Ciência, que parte das palavras dos cientistas para criar laços e encurtar distâncias no que à educação diz respeito.

Satélite

"Com a Engenharia Geográfica/Geoespacial sabemos de onde vimos, para onde vamos, qual o melhor caminho e ainda o que vamos encontrar", escreve Paula Redweik, professora do DEGGE por acasião do centenário do curso.

Páginas