No Campus com Helder Coelho

Atualidade dos Analisadores Semânticos

Helder Coelho

Nos últimos anos, a possibilidade de falar com uma máquina (relógio, telemóvel, computador portátil, automóvel), um dos sonhos da Inteligência Artificial, tornou-se trivial, pois a tecnologia da linguagem (tradução, reconhecimento, análise, síntese) evoluiu bastante desde a aposta da Apple no Siri em 2011 (veja-se o "Technology Quarterly" do "Economist" de 5 de janeiro de 2017, e a melhoria da precisão no reconhecimento das palavras ou na tradução, cada vez mais perto dos 100%). No entanto, esta vitória da ciência (na idade da avalanche dos dados ou Big Data) não foi fácil e, o que estava em causa, o poder de análise semântica (semantic parser) cresceu (scaled up) graças à fusão dos aspetos lógicos e estatísticos. Mais, o analisador é agora capaz de aprender (Liang, 2016), e foram os avanços da Aprendizagem Mecânica e dos Modelos Estatísticos (Hidden Markov Model, a via da força bruta) os principais responsáveis pelo entusiasmo da indústria e dos mercados. A Microsoft, a Facebook, a Google foram também para a luta e parecem estar empenhadas em melhorar os seus resultados.

Duas linhas de investigação confrontaram-se nos últimos 40 anos, o lado da linguística formal, defendido por Noam Chomsky, e o lado da teoria da informação, que se apoiou em Claude Shannon. E, não se deve esquecer Zellig Harris, o qual defendeu uma aliança forte entre os princípios gramaticais e os informacionais, e o mesmo aconteceu com a via da teoria das linguagens formais.

As técnicas matemáticas ganharam espaço e estão hoje na frente pelos avanços e a lidar com as avalanches de dados. Na presente década, graças aos esforços de um grupo pequeno de empresas, a via da teoria da informação ganhou adeptos, sobretudo devido aos sucessos no reconhecimento da voz (discurso), na busca de informação, e na tradução das línguas. Ferramentas online como o BabelFish (apoiada em regras) e o Google Translate, passaram a ser usadas e prezadas. Empresas mais pequenas, como a Nuance (e o programa Dragon Dictate), mostraram que as tecnologias das redes neuronais são úteis (a DeepMind da Google inaugurou, em 2014, um novo modo de sintetizar os discursos orais, recorrendo a redes neuronais profundas).

O mercado do processamento da língua natural (PLN), segmentado em codificação automatizada, análise de textos, reconhecimento de carateres óticos, resposta interativa em voz, reconhecimento de padrões e imagens, e analítica da voz, tenderá a aumentar muito nos próximos dez anos.

A compreensão de uma língua natural (Português) passou a poder ser decomposta em duas etapas, a tradução das frases lógicas (representação do seu significado) e a produção de ações. E, os analisadores semânticos são capazes de aprender as formas lógicas que estão associadas aos pares frases/ações. A compreensão é organizada com vários módulos, como o executor, a gramática, o modelo, o analisador e o aprendiz. E, o sistema por detrás da compreensão é ensinado e, após o treino, aumenta a sua precisão de trabalho. Mas, devemos ter um certo cuidado pois as línguas estão cheias de ambiguidades e exceções.

Compreensão profunda + raciocínio lógico
(sintaxe, semântica e pragmática)

A composição do significado de uma frase (expressão) é o resultado do arranjo/combinação das subexpressões (partes significantes da frase).

No início (anos 60), e nas duas décadas seguintes, era muito difícil ir além de domínios limitados (fechados) e de enfrentar as complexidades de uma língua em geral, apenas com regras feitas à mão. A evolução da aprendizagem mecânica, foi influenciada pelas técnicas estatísticas, já adotadas pelo reconhecimento de padrões (discurso com voz), e também graças ao modo repetitivo de explorar exemplos de comportamento (entrada/saída) e de os obrigar ao encaixe num modelo (estatístico). A revolução passou ainda pelo enfraquecimento da supervisão (na passagem das formas lógicas anotadas às respostas) e pela ampliação (scaling up) dos analisadores semânticos a domínios mais abertos e complicados. Se os primeiros sistemas exigiam as formas anotadas, os novos começaram a ser treinados com as respostas (via aprendizagem). E, finalmente, a aplicação dos analisadores a diferentes domínios e além do que é mais comum, a pergunta/resposta, tais como a navegação de robôs, a identificação de objetos em cenas, ou a conversão da língua natural em expressões regulares.

O escalamento (scaling up) é, hoje em dia, um dos problemas interessantes da Informática. Consiste em passar de um protótipo (em geral com uma escala pequena) para um sistema mais realista, e na maioria dos casos não exige apenas grandes computadores (alta velocidade e poder de processamento, enormes memórias).

Por exemplo, em simulação social baseada em agentes inteligentes, requer paciência para afinar os principais parâmetros, tornar os agentes cognitivos parecidos com os seres humanos, e multitudes de agentes diferentes em cenários com paisagens bem sofisticadas (o filme Avatar de James Cameron é um bom exemplo de um empreendimento que levou dez anos a realizar, recorrendo a novas tecnologias e ferramentas). No caso de conflitos sociais (como as manifestações de protesto em rua) passar de 1.000 agentes para 2.000 é trivial, mas o salto para 10.000 impõe muito trabalho, tempo e paciência para as afinações.

No futuro, os desafios são ainda grandes, como por exemplo a representação semântica da linguagem ou que supervisão se deverá adotar para aprender a semântica. Recentemente, houve bastante interesse em recorrer às redes neuronais, e suas extensões, para atacar as tarefas mais populares do processamento da língua natural, a tradução mecânica e a pergunta/resposta (veja-se o sucesso do sistema Watson da IBM e da interface Siri da Apple, desde 2011). A paridade entre a tecnologia e o desempenho humano está ainda longe, medida em 2/3 anos, embora os produtos comecem a surgir, como os automóveis com controles ativados por voz. Para alguns, criar discurso ou compreendê-lo são duas operações opostas.

No Departamento de Informática (DI) da Faculdade de Ciências da Universidade de Lisboa (Ciências ULisboa), o grupo do professor António Branco, por detrás da unidade de investigação e desenvolvimento NLX (criada no início de 2000), disponibilizou um serviço o LX-Service para se observarem algumas das ferramentas desenvolvidas em cerca de 20 anos de estudo (LX-Suite, LX-Conjugator, LXGram, POS Tagger, LX-Tokenizer, Lematizador verbal). Recentemente foi aprovado o projeto CNPTDeepMT (Tradução Automática Profunda entre Chinês e Português, no domínio do eCommerce), com a duração de três anos, o apoio da FCT e do Ministério da Ciência e Tecnologia da China e a ser realizado na unidade NLX no DI Ciências ULisboa.

Referência
Liang, P. Learning Executable Semantic Parsers for Natural Language Understanding, Communications of the ACM, Setembro, Vol. 59, Nº 9, 2016.

Helder Coelho, professor do Departamento de Informática de Ciências
info.ciencias@ciencias.ulisboa.pt
Rosto de Henrique Cabral

Nesta fotolegenda destacamos uma passagem da entrevista com o biólogo Henrique Cabral e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Edifício C2

A primeira reunião do projeto PROSEU “PROSumers for the Energy Union: mainstreaming active participation of citizens in the energy transition”, financiado pelo Horizonte 2020 e com a duração de três anos, realiza-se no campus de Ciências, nos dias 22 e 23 de março.

Carrinho

Dez empresas discutem os últimos avanços no sector da mobilidade sustentável.

Sala de aulas

Parece razoável inferir que queremos ter estudantes que saibam como aprender e que conheçam como descobrir a informação que precisam a partir de uma variedade de fontes.

Papel ardido

Saí da FCUL ao fim da tarde rumo ao meu fim de semana. Para trás ficou um edifício imponente a fervilhar de vida, e ao mesmo tempo já a minha casa! A casa que nos ampara, nos ensina e, a mim, permitia uma entrada num mundo tão fortemente diferente do vivido por mim noutro lugar.

Pessoas na Politécnica recuperam objetos no rescaldo do incêndio

Ainda durante o rescaldo do incêndio iniciaram-se as operações de salvamento e recuperação do que ainda fosse possível salvar e recuperar.

Imagem abstrata

Dez países juntam-se para o estudo do património dos materiais plásticos.

Edifício da Escola Politécnica

Politénica (FCUL)... escrever e ou pensar sobre “ELA”, hoje, ainda me emociona...

Pormenor de uma palmeira

Agora era diferente. No fim da Ferreira Borges surgia sempre a mesma dúvida que me tolhia o passo: onde são as aulas hoje? E eu, traído pela minha própria desorganização, fazia todos os dias o mesmo esforço para encontrar uma qualquer lógica que me ajudasse a decidir para onde ir naquele dia. Politécnica? 24 de Julho? É claro que ter um horário comigo ajudaria...

Rosto de Marta Antunes

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de março é com Marta Antunes, técnico superior do Departamento de Geologia de Ciências.

Escola Politécnica

Passaram 40 anos do incêndio da “outra” Faculdade. São já poucos os que vivenciaram, alguns os que ficaram marcados. Para os mais novos, o “fogo na Politécnica” é apenas uma história que ouviram contar.

Bombeiro apaga fogo

Era madrugada e o edifício da Faculdade de Ciências de Lisboa, na rua da Escola Politécnica, ardia. Dezoito de março, seriam duas horas da madrugada. Um salto da cama, um vestir rápido e uma fuga apressada ao encontro das labaredas.

Mar

Qual o impacto das poeiras provenientes do Sahara na produtividade marinha do Oceano Atlântico tropical, particularmente nos coccolitóforos (fitoplâncton calcário)? Esta é a principal questão que irá marcar o trabalho de Catarina Guerreiro, investigadora do MARE.

pilhas de compostagem

O compostor da FCUL foi inaugurado há pouco mais de um ano, em 27 de novembro de 2016, numa parceria entre a HortaFCUL, o Gabinete de Segurança, Saúde e Sustentabilidade da FCUL e o cE3c - Centro de Ecologia, Evolução e Alterações Ambientais.

Gabriella Gilli

Gabriella Gilli, investigadora do Instituto de Astrofísica e Ciências do Espaço, pretende usar um novo modelo teórico tridimensional, análogo ao que é usado para descrever a atmosfera de Vénus, para antecipar as futuras observações de exoplanetas quentes de tipo terrestre.

Vladimir Konotop

Nesta fotolegenda destacamos uma passagem da entrevista com o físico Vladimir Konotop e que pode ser ouvida no canal YouTube e na área multimédia deste site.

Bernadette Bensaude-Vincent

A ULisboa atribui a 2 de março o título de doutor honoris causa a Bernadette Bensaude-Vincent, por proposta da Faculdade de Ciências, homenageando uma personalidade de grande relevo cientifico com relações estreitas com o contexto científico português, demonstrando publicamente quanto lhe deve e quanto se sente honrada por lhe poder conceder este titulo.

Biblioteca com alunos

A entrada na faculdade é muito mais do que a transição para uma nova etapa académica, é o início de uma aventura no próprio desenvolvimento, onde se passa de jovem a adulto. Esta fase acarreta desafios para o próprio e nas relações com os outros, ficando este jovem adulto entre o medo e o desejo de crescer com tarefas académicas, sociais, pessoais e vocacionais para fazer face, simultaneamente.

Campus de Ciências

Dois investigadores do cE3c – Centro de Ecologia, Evolução e Alterações Ambientais receberam bolsas europeias Marie Sklodowska-Curie para desenvolver investigação nos próximos dois anos.

Concorrentes

A semifinal aconteceu a 17 de fevereiro, a final nacional a 12 de abril e a final internacional entre 5 e 10 de junho. Em Ciências foram apurados quatro finalistas, estudantes da ULisboa nos cursos de Física, Biologia, Engenharia Química e Matemática Aplicada e Computação.

Carlos Mateus Romariz Monteiro

Faleceu a 9 de fevereiro de 2018, com 97 anos, Carlos Mateus Romariz Monteiro.

Pessoa sentada junto a uma mesa

Passamos, quer no trabalho como em momentos de lazer, longos períodos sentados. Estar sentado é um descanso! Mas, será mesmo assim?

João Martins

O que fazem e o que pensam alguns membros da comunidade de Ciências? O Dictum et factum de fevereiro de 2018 é com João Martins, técnico superior do Departamento de Física de Ciências.

A cooperação (e colaboração) científica apoia-se sempre em ensinar e aprender (dar e receber), num registo de amizade e humildade, de motivação e de empolgamento. A paridade é fundamental, tal como o “foco e simplicidade”, a relevância e a utilidade (Steve Jobs).

João Carlos Marques, professor da Faculdade de Ciências e Tecnologia da Universidade de Coimbra é o novo diretor do MARE, sucedendo no cargo Henrique Cabral, professor do Departamento de Biologia Animal de Ciências.

Páginas