No Campus com Helder Coelho

A Forma do futuro

Robô e criança

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças

unsplash - Andy Kelly

Helder Coelho
Imagem cedida por HC

“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017

O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).

Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).

Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas  eram os seres humanos e não as máquinas.

De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).

Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.

A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.

Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!

Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!

Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?

Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).

Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.

Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).

Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.

Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
info.ciencias@ciencias.ulisboa.pt

A exposição está a partir de 26 de Abril no Museu Nacional de História Natural e da Ciência.

As provas de doutoramento em Biologia, especialidade de Microbiologia, da Mestre Egídia Maria Valente de Azevedo realizam-se no próximo dia 26 de Abril, pelas 10h:30 na Sala de Actos da

O grande momento do dia é a sessão solene, que inclui este ano o lançamento do segundo volume dos Professores Cientistas e a inauguração do Quadro de Honra.

Sobre Namoros e Casamentos

Jorge Buescu

Quinta-feira, dia 12 de Abril de 2012, às 18h30, na sala 6.1.36

Vela

Ricardo Leandro é o vencedor da Competição Europeia. O estudante da FCUL apresentou a melhor ideia: um coletor solar térmico de baixo custo, acoplável a um módulo fotovoltaico.

A palestra "O Princípio do Tempo" proferida por Pedro Gil Ferreira é uma das iniciativas do “VII Encontro Ibérico de Cosmologia”, que decorre em abril nas instalações da FCUL.

Jovem usa microscópio

A FCUL estimula a abertura permanente à sociedade civil, promovendo acontecimentos que visam a disseminação de conhecimentos e a interligação com diferentes agentes sociais.

Os vários objectivos do DEGGE: Tudo o que nos define, e tudo o que apoiamos

O ENEI'12 vai realizar-se na FCUL.

ESTRUTURA E GESTÃO DO DEPARTAMENTO DE BIOLOGIA ANIMAL (DBA)

Apresentação do Departamento

Paleontólogos do MNHN da UL e do GeoFCUL em foco na revista TVmais.

A FCUL participa em "Programa de Estudos Avançados" com mais quatro instituições universitárias portuguesas e brasileiras.

O DQB e a FCUL acolheram, mais uma vez, a realização de provas semifinais das Olimpíadas de Química Júnior 2012 no sábado, 14 de abril de 2012.

Pessoas estudam numa mesa na biblioteca

“Acho que qualquer aluno consegue ser bom, se tiver uma boa disciplina de trabalho e objetivos concretos”. Quem o diz é Gonçalo Faria da Silva, estudante do 3.º ano de Biologia.

No penúltimo dia de março realiza-se a quinta e última sessão do workshop destinado a preparar os estudantes para a obtenção do 1.º emprego.

 

Alunos da FCUL

A Schlumberger realiza uma sessão de recrutamento em Ciências. As grandes empresas procuram os melhores profissionais. A FCUL apoia a inserção profissional dos seus diplomados.
 

O evento é uma organização conjunta da Norton/Symantec e do mestrado em Segurança Informática do DI-FCUL.

O DM está na Futurália

Para Duarte Flor, presidente da associação académica e aluno do 12.º ano em Ciências, é importante que os candidatos ao ensino superior visitem as instalações de uma faculdade.

Desenho de uma figura masculina

“Existe um espaço onde o sentimento de pertença a uma escola pode ser reavivado", afirma Miguel Ramos.

Aluna junto a uma das colunas do átrio do C6

A mostra pictórica da atividade científica da FCUL é inaugurada a 13 de março. Conheça as razões pelas quais deve visitar a exposição.

O que são líquidos iónicos? Num dos primeiros programas do ano, o Com Ciência entrevistou o professor e investigador da FCUL, Carlos Nieto de Castro sobre esta classe de solventes.

Desenho de uma figura masculina

A data de lançamento do livro ainda não é pública, mas o evento deverá ocorrer brevemente, na Faculdade de Belas-Artes da UL.

Ontem evocou-se o Dia das Doenças Raras. A fibrose quística é um desses males incomuns. A investigação científica é importante em todos os setores, mas ganha especial sentido em áreas como esta.

Páginas