No Campus com Helder Coelho

A Forma do futuro

Robô e criança

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças

unsplash - Andy Kelly

Helder Coelho
Imagem cedida por HC

“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017

O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).

Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).

Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas  eram os seres humanos e não as máquinas.

De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).

Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.

Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!

Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!

Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?

Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).

Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.

Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).

Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.

Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Os cadernos e as comissões eleitorais estão publicitados no portal da FCUL, assim como o Despacho D/101/2012, que integra o calendário de eleições.

A eleição do Presidente do Departamento de Física  terá lugar de 3 a 5 de Julho de 2012

Comissão Eleitoral

Informações úteis:

Constituição da Comissão Eleitoral

A festa dos finalistas de Geologia juntou familiares, amigos, colegas e professores.

Conforme o despacho D/101/2012,  as eleições para a Presidência do Departamento de Informática, irão decorrer entre 3 e 5 de Julho de 2012 na secretaria do departamento.

 

Estão abertas as inscrições para o ‘Mestrado em Matemática para Professores’ (1ª fase de candidaturas até dia 15 de Junho)

 

No âmbito do nº 3 do artigo 9º do Regulamento Eleitoral, e de acordo com o calendário de eleições para Presidentes dos Departamentos, já se encontra disponível o 

A Eleição do Presidente do Departamento de Biologia Animal terá lugar de 3 a 5 de Julho de 2012 na Secretaria do Departamento

A inscrição nos exames dos dias 4 e 5 de junho podem ser excecionalmente realizadas até às 23h59m de 1 de junho.

A eleição do Presidente do DBV  terá lugar de 3 a 5 de Julho de 2012

Matéria escura

Um grupo de 19 cientistas, 14 deles investigadores do Centro de Física Nuclear da UL e do Instituto Tecnológico e Nuclear da UTL, publicaram recentemente novos resultados que contrariam as alegadas descobertas sobre a matéria escura.

PSMR2012 Conference

Estudante de doutoramento no IBEB ganha prémio para o melhor Poster

Tomás Aquino

Bolseiro do CFMC distinguido pela Fundação Calouste Gulbenkian

Imagem de Kairos em pedra

O próximo e quinto número da revista do Centro de Filosofia das Ciências da UL é lançado em novembro. A submissão de textos termina a 30 de setembro.

Encontra-se aberto concurso para bolsa de estágio na área de suporte aos laboratórios letivos e de investigação do Departamento de Informática da Faculdade de Ciências.

Simulação de uma proteína

Quatro lições sobre proteínas.  As investigadoras Maria José R. Gomes e Patrícia Faísca apresentam quatro razões para não faltar à quinta iniciativa do projeto Ciência na UL.

O Dr. Rui Lopes ex-aluno do Departamento de Informática e investigador no LASIGE, actualmente a trabalhar na Google, foi um dos responsáveis da equipa de desenvolvimento do doodle de hoje (23 de Maio).

A Investigação dos Doutores de Amanhã

Lâmpada

"O objetivo é partilhar com os colegas das outras faculdades a experiência que tivemos, e estamos a ter, com a implementação do modelo de gestão por objetivos, assente na identificação dos processos", diz Ana Rocha, secretária-coordenadora da FCUL.

Vários círculos com várias cores

A reunião de entrada livre e sujeita a prévia inscrição inclui sessões plenárias e workshops sob o tema genérico “Prosseguir a excelência, promovendo as competências da UL”.

Produtos alimentares

“Partilhar o que se tem pode ser um convite a algum sacrifício – mas a solidariedade não pode ser só um sentimento, tem de ser um compromisso de ação”, refere Graça Vieira, professora aposentada da FCUL, a propósito da campanha "Vamos dar com o coração".

Plantas em vasos

Hoje é um dia fascinante. Dia de nos fascinarmos com as plantas, com a sua beleza, com o que nos dão, e nos possibilitam – a vida tal como a conhecemos.

Flor sujeita a tratamento para expressão de um gene

Nesta época do ano, não há nada que mais nos descanse o espírito como um campo repleto de cores: branco, amarelo, lilás, vermelho, com flores de diferentes tamanhos e odores.

Seminário do DF

Anúncio de Seminário do DF

Encontra-se aberto concurso para a atribuição de 1 (uma) Bolsa de Investigação, no âmbito do projecto de investigação “Erro de não-resposta nas sondagens telefónicas com telemóveis: causas, efeitos e correcçã

Páginas