No Campus com Helder Coelho

A Forma do futuro

Robô e criança

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças

unsplash - Andy Kelly

Helder Coelho
Imagem cedida por HC

“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017

O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).

Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).

Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas  eram os seres humanos e não as máquinas.

De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).

Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.

Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!

Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!

Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?

Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).

Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.

Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).

Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.

Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Um grupo de membros de Instituições do Ensino Superior, onde se inclui CIÊNCIAS, está reunido em frente a um jardim, em visita à Siemens

 A iniciativa teve como objetivo aproximar a academia do tecido empresarial.

Nuno Gonçalves alcança o segundo lugar na competição 3MT ULisboa.

Nuno Gonçalves foi distinguido com o segundo lugar, na final da competição ‘Três Minutos de Tese – 3MT ULisboa’, que se realizou esta quint

Inês Ventura

Inês Ventura, a desenvolver o seu doutoramento no Centro de Ciências do Mar e do Ambiente (MARE) e no Instituto de Biossistemas e Ciências Integrativas (

Universidade de Lisboa

A Universidade de Lisboa alcança a 260ª posição no QS World University Rankings (SUR) 2025, tornando-se na universidade portuguesa mais bem classificada neste ranking.

Signatários do acordo

Dia 5 de junho foi assinado o acordo para a construção do espectrógrafo ANDES (ArmazoNes high Dispersion Echelle Spectrograph – Espectrógrafo Echelle de alta dispersão do Armazones), entre o Observatório Europeu do Sul (

 Luís Carriço, Diretor de CIÊNCIAS, e David Gonçalves, Dean do Instituto da Ciência e do Ambiente da Universidade de São José (USJ) assinam acordo sentados a uma mesa

CIÊNCIAS assinou no dia 5 de junho um acordo de cooperação com o Instituto da Ciência e do Ambiente da Universidade de São José (USJ), com vista à cooperação científica em várias áreas de interesse comum.

Equipa do projeto 'Ciências em Harmonia'

Esta terça-feira, 28 de maio, o projeto ‘Ciências em Harmonia’ assinalou o seu primeiro ano de atividades: um marco comemorado com um convívio informal com a comunidade, que

António Branco

António Branco, docente do Departamento de Informática de CIÊNCIAS, foi um dos oradores convidados da conferência que

Sabemos que no futuro um sismo de magnitude significativa voltará a atingir Lisboa. Não sabemos é quando. E se o pudéssemos prever? E se existisse uma probabilidade forte de ser já em 2027?

Ana Santos, finalista 3MT ULisboa

Ao longo dos próximos dias, daremos a conhecer os quatro finalistas de CIÊNCIAS que irão participar na final da competição

Painel e sessão de Perguntas & Respostas | Estreia de documentário

Perto de 120 pessoas assistiram este sábado, 25 de maio, à estreia do documentário ‘O que se esconde na luz? A ciência da missão espacial Euclid’, produzido pelo Instituto de Astrofísica e Ciências do Espaço (IA).

Investigadores do Instituto Dom Luiz, de CIÊNCIAS, instalaram um sismómetro na Escola Básica Professor Delfim Santos, que se encontra a menos de um quilómetro do Estádio da Luz, em Lisboa, onde vão ter lugar os concertos.

Banner Bênção de Finalistas & Queima das Fitas 2024

Este fim de semana a Alameda da Universidade de Lisboa vai voltar a encher-se de finalistas de CIÊNCIAS e de tantas outras faculdades e universidades. A cerimónia de Bênção de Finalistas decorre amanhã dia 25 de maio, a partir das 11h30.

 

3MT ULisboa 2024

Quatro dos doze finalistas da competição ‘Três Minutos de Tese – Universidade de Lisboa’ são de CIÊNCIAS.

Pinguins-de-adélia

Num artigo agora publicado na Science, investigadores de instituições de renome a nível mundial propõem uma estratégia para envolver todas as partes interessadas na governança do Oceano Antártico através de um processo de ordenamento do espaço marinho (OEM) inteligente do ponto de vista climático.

Impressão artística da missão Euclides no espaço.

A 25 de maio (sábado), às 21h00, vamos ver e compreender as novas imagens de entre as maiores alguma vez feitas do Universo, no Grande Auditório de CIÊNCIAS (Edifício C3). A entrada é livre.

Redes Doutorais Marie Curie Projeto PROMOTE

CIÊNCIAS vai participar numa das propostas vencedoras do concurso 2023 das Redes Doutorais de Ações Marie Skłodowska-Curie (MSCA DN).

Foto de entrega de prémio aos vencedores

No âmbito do projeto Invasives e como atividade inserida na

Dia Nacional dos Cientistas - 16 de maio

O Dia Nacional dos Cientistas foi instituído em 2016 por Resolução da Assembleia da República com o objetivo de reconhecer e celebrar a contribuição vital dos cientistas para o progresso da sociedade.

CIÊNCIAS e OKEANOS em parceria para monitorizar biodiversidade e alterações dos ecossistemas marinhos

Projeto internacional SEAGHOSTS visa a monitorização e conservação das populações de painhos, as aves marinhas mais pequenas do planeta.

Reitoria da ULisboa

O CWUR 2024 avaliou de entre 20.966 instituições de ensino superior e atribuiu à ULisboa o 211.º lugar (top 1.1%) e a 80.ª posição no panorama europeu.

Páginas