No Campus com Helder Coelho

A Forma do futuro

Robô e criança

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças

unsplash - Andy Kelly

Helder Coelho
Imagem cedida por HC

“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017

O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).

Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).

Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas  eram os seres humanos e não as máquinas.

De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).

Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.

Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!

Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!

Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?

Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).

Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.

Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).

Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.

Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt
Banner Prémio de Doutoramento em Ecologia - Fundação Amadeu Dias

Já são conhecidos os vencedores da edição 2024 do Prémio de Doutoramento em Ecologia - Fundação Amadeu Dias, organizado pela Sociedade Portuguesa de Ecologia (SPECO).

Jorge Buescu, professor do Departamento de Matemática (DM) de CIÊNCIAS, reeleito Vice-Presidente da European Mathematical Society (EMS)

Jorge Buescu, professor do Departamento de Matemática (DM) de CIÊNCIAS, foi reeleito Vice-Presidente da European Mathematical Society (EMS).

Verão na ULisboa em CIÊNCIAS

Foi com um sorriso na cara e com vontade de um dia regressarem, que os estudantes do programa Verão na ULisboa deixaram o campus de CIÊNCIAS, após as cerimónias de entrega de diplomas que decorreram nos dias 5 e 12 de julho.

Assinatura do Protocolo com a REDCORP

o passado dia 9 de julho a Direção de CIÊNCIAS assinou um protocolo de cooperação com a REDCORP, empresa de empreendimentos mineiros responsável pelo Projeto Lagoa Salgada.

CIÊNCIAS assinA um protocolo de colaboração com a Raiz Vertical Farms nas instalações de CIÊNCIAS, tendo sido assinado pelo Diretor da faculdade, Luís Carriço, e pela co-fundadora da startup Rede Vertical Farms, Inês Barros.

CIÊNCIAS assinou um protocolo de colaboração com a Raiz Vertical Farms, com o objetivo de instalar uma horta vertical no campus da faculdade.

Equipa do CSD Lab do BioISI

Uma equipa de investigadores do Laboratório de Estrutura e Dinâmica Celular (CSD Lab) do Instituto de Biossistemas e Ciências Integrativas (BioIS

Diogo Rodrigues Fernandes

Diogo Rodrigues Fernandes, doutorando de CIÊNCIAS e investigador no Centro de Ecologia, Evolução e Alterações Ambientais (

Banner O Planeta Vivo

“Temos este mundo, ou nada. E temos um grande problema se não entendermos o planeta que queremos salvar.” Esta citação de Carl Sagan é o mote do documentário ‘O Planeta Vivo’, que estreou no passado dia 3 de julho na RTP.

Vista Aérea do Observatório do Paranal

O Observatório do Paranal, no deserto do Atacama no Chile, que faz parte do Observatório Europeu do Sul (ESO), vai receber em 2025 um telescópio made in Portugal para observar o Sol.

Nuno Gonçalves e Inês Leite posam com os prémios junto aos restantes investigadores do Instituto de Astrofísica e Ciências do Espaço (IA)

Nuno Gonçalves e Inês Leite, estudantes de CIÊNCIAS, foram premiados na SPIE Astronomical Telescopes + Instrumentation, a maior conferência internacional sobre instrumentação para a Astronomia.

Ranking de Leiden: Há três áreas de investigação de CIÊNCIAS em que a ULisboa é líder nacional

A Universidade de Lisboa (ULisboa) está em primeiro lugar a nível nacional em três áreas de produção científica de CIÊNCIAS no reputado CWTS Leiden Ranking: Ciências da Vida e da Terra, Matemáti

Banner Curso PRODIGI

A partir de 2025 a Universidade de Lisboa em parceria com o Instituto Politécnico de Lisboa, vai disponibilizar uma nova formação online em competências digitais.

 

Inês Fragata, Margarida Matos, Sara Magalhães e Cristina Máguas.

CIÊNCIAS inaugura hoje oficialmente a infraestrutura laboratorial de investigação - Unidade de Evolução Experimental.

Imagem alusiva ao Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT)

O Mestrado em Bioestatística de CIÊNCIAS foi acreditado pela Deep Tech Talent Initiative (DTTI), um programa do European Institute of Innovation and Technology (EIT).

Dois professores de CIÊNCIAS eleitos sócios da Academia das Ciências de Lisboa

Pedro Miguel Duarte e Luís Eduardo Neves Gouveia, professores de CIÊNCIAS, foram eleitos sócios da Academia das Ciências de Lisboa.

O Centro de Congressos da Alfândega do Porto é o palco da edição de 2024 do Encontro Ciência.

Luís Carriço (Diretor de CIÊNCIAS) e Carlos Martins (Presidente da EPAL) junto a um dos novos bebedouros.

A Faculdade de Ciências da Universidade de Lisboa aderiu ao desafio da EPAL - Empresa Portuguesa das Águas Livres de consumir Água da Torneira nas suas áreas comuns, representando mais um compromisso com o Ambiente e com

 Rodrigo Freitas, Francisco Graça e Diogo Ávila no Pódio dos 3000 metros obstáculos no Campeonato Nacional Universitário de Pista ao Ar Livre

Rodrigo Freitas, estudante de CIÊNCIAS, sagrou-se bicampeão no Campeonato Nacional Universitário (CNU) de Atletismo Pista Ar Livre.

Desde ontem que CIÊNCIAS dispõe de um novo espaço: o Lounge C7!

Carolina Margarido, Catarina Lima e Raquel Costa seguram o prémio de primeiro lugar na segunda fase do Future Innovators Program da Unicorn Factory Lisboa

Carolina Margarido, Catarina Lima e Raquel Costa venceram a segunda fase do Future Innovators Program da Unicorn Factory Lisboa

A cientista Ana Russo, investigadora do Instituto Dom Luiz (IDL), visitou duas escolas básicas do concelho de Sintra no dia 23 de abril para rea

Branca Edmée Marques, cientista alumna de CIÊNCIAS

Branca Edmée Marques, alumna de CIÊNCIAS, será homenageada no dia 20 de junho pelos Museus da Universidade de Lisboa

Vanessa Fonseca, Catarina Frazão Santos, Rita Cardoso, Cláudio Gomes, Ana Duarte Rodrigues e Paulo J. Costa posam com os prémios para uma foto numas escadas

A faculdade conseguiu obter o segundo lugar entre as Escolas da Universidade de Lisboa mais galardoadas.

Páginas