No Campus com Helder Coelho

A Forma do futuro

Robô e criança

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças

unsplash - Andy Kelly

Helder Coelho
Imagem cedida por HC

“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017

O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).

Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).

Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas  eram os seres humanos e não as máquinas.

De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).

Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.

Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!

Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!

Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?

Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).

Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.

Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).

Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.

Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

Abstract: Routing problems are naturally formulated by enumerating possible routes and combining them to derive an improved solution. This combination is done by solving a set partitioning problem that assures the set of chosen routes to visit all routing customers exactly once.

Conferência no dia 30 de Maio, pelas 11h30, sala 6.2.53, Edifício C6, FCUL, Campo Grande, Lisboa, no âmbito do “Dia do Geológo”

 

O Professor Pedro Ferraz de Abreu, Professor Catedrático Convidado da Faculdade de Ciências da Universidade de Lisboa e Investigador do Massachusetts Institute of Technology (MIT) está a visitar vários estados do Brasil como Brasília,

Rita e Mariana, alunas do pré-escolar daquele colégio, deram conta de alguns pormenores do que aprenderam nos telhados do edifício C4: “vimos muitos painéis solares. Nunca tínhamos visto! O senhor disse que o Sol batia neles, depois aqueciam e produziam eletricidade”.

SESSÕES DE APRESENTAÇÃO & ESCLARECIMENTO

 

- 23 Maio 2014 (6ªF), 17:00-18:30h, sala 2.2.14

o    Biologia da Conservação (BC)

“Houve muitos [episódios] interessantes e inesperados. Os mais marcantes foram o encontro, o conhecimento e o convívio com alunos excecionais”, declara Filipe Duarte Santos, professor do Departamento de Física de Ciências, sobre a sua experiência ao longo dos anos na Faculdade.

O DEIO divulga mais uma oferta de emprego.

Acesso Gratuíto Cochrane Library via b-on

O Institut Français du Portugal, O Centro de Oceanografia da Universidade de Lisboa e a Fundação Calouste Gulbenkian apresentam o Coloquio internacional “Oceanos: de ambiente frágil a recurso sustentável”.

No dia 7 de Maio o Departamento de Matemática da FCUL associou-se à AÇÃO ESCOLA SOS AZULEJO com a atividade “Com um simples azulejo” em que participaram alunos do 3º ano de escolaridade da Escola Básica Santo António do Agrupamento de Esc

DI-FCUL visita Escola Secundária Rainha D. Leonor

Muhnac

Venha conhecer as rotas do conhecimento que ligam o Muhnac a outros museus e locais da cidade.

Está disponível um acesso gratuito ao ChemInform RxnFinder

Doutoramento e Mestrado em Ciência Cognitiva 

6ª Edição, 2014-15

A revista mais prestigiada na área da Biologia Computacional publicou um artigo que resulta de uma investigação financiada pela Fundação para a Ciência e a Tecnologia e que inclui investigadores de Ciências e da Universidade de Harvard.

O Centro de Investigação Operacional vai realizar no dia 21 de maio, pelas 14h30, na sala 6.4.30 um seminário intitulado Formulations and Exact&nbs

O Centro de Estatística e Aplicações da Universidade de Lisboa vai organizar de 4 a 6 de Junho de 2014 um curso intitulado "On Flexible Bayesian Methods for Diagnosis and ROC Curve Estimation".

Conferência no dia 21 de Maio, pelas 16h00, sala 6.2.56, Edifício C6, FCUL, Campo Grande, Lisboa.

Dia: 22 de Maio (Dia Internacional da Biodiversidade)

Apesar de já existir há dois anos e meio, e como há sempre novos funcionários/Docentes a entrar, vimos por este meio divulgar mais uma vez o Sistema de Impressão FCUL para funcionários/Docentes da FCUL.

Dinâmica da Actividade Cerebral -

Perspectivas e oportunidades num dos grandes problemas científicos deste século

Medalha internacional de História das Ciências, Marta Lourenço

Ana Eiró, Fernando Bragança Gil, Maria Alzira Ferreira, Luís Mendes Vítor, Virgílio Meira Soares, Fernando Catarino, Fernando Parente, Noémio Marques, Galopim de Carvalho, são algumas das individualidades de Ciências que Marta Lourenço recorda, em jeito de agradecimento, pelos ensinamentos transmitidos.

A iniciativa existe desde 2008. “Um pequeno Roteiro pela Energia Solar Fotovoltaica na Faculdade de Ciências” inclui visitas guiadas ao Campus Solar e à central de mini geração fotovoltaica nos telhados da Faculdade de Ciências, e ainda a palestra “A revolução solar vem aí!”, proferida pelo professor António Vallêra.

“Os ensinamentos adquiridos em Ciências estão na base das investigações que tenho desenvolvido, foi através deles que adquiri os conceitos e conhecimentos que me permitem desenvolver o estudo dos materiais. Por outro lado, a interação com diferentes áreas da Geologia permite absorver muita informação importante para a interpretação de muitos dos achados”, explica a investigadora Elisabete Malafaia.

Páginas