Lisbon AI Seminar

AI and the Future of Human Values

Feedback loops, techno-moral change and transformative experiences

Sala 2.2.21, Ciências ULisboa (com transmissão via Zoom)

Por Rui Vieira da Cunha (MLAG UPorto, Business School UCP).

The alignment problem in artificial intelligence, which concerns the challenge of ensuring that AI systems act in ways that are beneficial to humans, is often approached as a technical hurdle (Russell 2019). However, this paper posits that the true intractability of the problem lies less in its lack of objectivity and more in the dynamic nature of human values, which are continually reshaped by technological advancements (Vallor 2016).

The paper argues that as technology becomes deeply embedded in our lives, it not only serves as a tool but also actively shapes our understanding of the world and, consequently, our values. This fluidity of values in the face of technological change makes the static alignment of AI to a particular set of values a Sisyphean task (Bostrom 2014). In this regard, the views of Ian Hacking (1999) on the looping effects of human kinds can be used in the context of AI and technology, where the categorizations and understandings propagated by these systems can lead to a recursive effect on human self-conception and values.

Moreover, the insights of John Danaher on the process of techno-moral change underscore the fluidity and evolutionary nature of morality in the face of technological progress (Danaher&Skaug Saetra 2022).

A further and most relevant theoretical guide of the paper is the concept of transformative change, as introduced by L.A. Paul (2014). Paul’s exploration of life-altering decisions, where the very act of undergoing an experience can change one’s preferences and values, mirrors the challenges we face with AI and the possibility that they induce transformative changes in individuals and societies (Harari 2015), leading to shifts in values that are unpredictable and challenging to align with. Recognizing the intertwined nature of technology, values, and transformative experiences is crucial for understanding the profound challenges of the AI alignment problem (Floridi 2013).

Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
Danaher, J., and H. Sætra. “Mechanisms of Techno-Moral Change: A Taxonomy and Overview.” Ethical Theory and Moral Practice 2023.
Floridi, Luciano. The Ethics of Information. Oxford: Oxford University Press, 2013.
Hacking, Ian. The Social Construction of What? Cambridge, MA: Harvard University Press, 1999.
Harari, Yuval Noah. Homo Deus: A Brief History of Tomorrow. New York: Harper, 2015.
Paul, L.A. Transformative Experience. Oxford: Oxford University Press, 2014.
Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
Vallor, Shannon. Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford: Oxford University Press, 2016.

14h30-15h30
Klaus Gärtner, Paulo Castro, João Luís Cordovil (CFCUL/RG2)
Foto do logótipo da FCiências.ID

1 de julho, 14h00: CIÊNCIAS e a FCiências.ID convidam a sua comunidade científica a assistir à sessão de apresentação dos projetos de Investigação e Desenvolvimento (I&D) realizados no âmbito dos Concursos Internos de Projetos de Investigação e Inovação de CIÊNCIAS.

Estátua representativa da biodiversidade do planeta Terra

Seminário Doutoral III (Doutoramento em Biologia - Especialidade de Biologia Evolutiva), por João Miguel Moreno.

Logótipo, data e local do evento

Com o tema “Ciência, Inovação e Sociedade”, o encontro será um palco de promoção e discussão do impacto científico, social, cultural e económico da investigação em Portugal.

Título e local do evento

O evento visa promover o diálogo interdisciplinar sobre estruturas de proteínas, doenças conformacionais e tecnologias baseadas em proteínas.

Horta Solar

E se fosse possível experimentar um curso universitário antes de concorrer ao ensino superior? Agora já é!

Título/data do evento e vários objetos museológicos

Este curso visa fornecer uma visão atualizada do potencial das coleções museológicas para a investigação da biodiversidade. Mais especificamente, pretende apresentar estudos de caso sobre o valor dos museus e a utilização de coleções e espécimes no século XXI, utilizando novas tecnologias e métodos analíticos.

Computabilidade na Europa (CiE) - uma série interdisciplinar de conferências internacionais organizada pela Associação Computabilidade na Europa (ACiE).

Título e datas do programa de estágios

Preparados para explorar a investigação de perto?

Águas subterrâneas

Curso acreditado para efeitos de progressão na carreira dos professores na dimensão cientifico-pedagógica dos grupos 420 e 520.

Um workshop com o objetivo de reunir académicos que abordam a história da ecologia - e a evolução da própria disciplina - a partir de uma variedade de perspetivas.

A 10.ª edição do Ser Cientista realiza-se entre 21 e 25 de julho - vem investigar connosco!

Pormenor de lâmpada

Candidaturas a decorrer de 01 a 30 de setembro.

Microplásticos no ocerano

O curso procura dar formação sobre a problemática da contaminação por detritos de plástico dos nossos ecossistemas, bem como alertar para os potenciais efeitos deletérios nos organismos, utilizando uma abordagem de ensino científico, com um discurso adequado a formandos sem formação científica - candidaturas até 03 de agosto.

Logótipo do evento, sobre fotografia dos Açores

Um simpósio internacional que reúne investigadores especializados em várias disciplinas (taxonomia, ecologia da vegetação, biogeografia, filogeografia, paleoecologia ou conservação da biodiversidade), focados na flora e vegetação terrestre e marinha da região da Macaronésia (Açores, Madeira, Selvagens, Canárias e Cabo Verde).

Quatro investigadores num laboratório

O curso visa capacitar investigadores, docentes e técnicos para integrar os princípios da economia circular em ambientes laboratoriais académicos - candidaturas até 16 de setembro.

Três investigadores num laboratório

O curso visa capacitar profissionais para aplicar os princípios da economia circular em ambientes laboratoriais industriais, promovendo práticas sustentáveis e eficientes - candidaturas até 17 de setembro.

Composição de imagens relativas à área das ciências forenses

O curso visa dotar os formandos com os conhecimento necessários à integração de equipas profissionais multidisciplinares nas áreas Médico-Legais e Forenses, em Laboratórios ou Serviços Médico-Legais e Forenses - candidaturas até 27 de julho.

Cientista a trabalhar com tubos de ensaio

Os participantes neste curso irão adquirir os conhecimentos essenciais à integração de equipas profissionais multidisciplinares na área das Análises Clínicas/Patologia Clínica, em laboratórios privados, públicos, hospitalares ou do Estado - candidaturas até 27 de julho.

Logótipo do evento

Physics Day é um evento promovido pelo Departamento de Física da Faculdade de Ciências da ULisboa, com um duplo objetivo: valorizar a diversidade e excelência da formação dos doutorados e promover um espaço de diálogo direto entre empresas e estudantes.

Gotas de água

O curso visa capacitar os formandos para a aplicação dos índices de qualidade ecológica utilizados na avaliação da qualidade ambiental em sistemas de transição, no âmbito da Diretiva Quadro da Água (DQA) - candidaturas até 31 de agosto.

Saída de campo (Geologia)

O curso, com candidaturas até 20 de julho, convida os professores do Ensino Básico e Secundário a explorar a Geologia a partir das rochas que afloram nas imediações da sua escola.

Composição de três imagens relativas à área da deteção remota

2.ª edição do curso, com candidaturas até 18 de outubro.

A conferência visa reunir os principais especialistas no domínio da Imagiologia Médica por Micro-ondas (MMWI) e incluirá palestras, apresentações e pósteres de resumos revistos por pares e artigos de conferências, bem como workshops em áreas satélite de investigação com interesse para a investigação em MMWI.