Lisbon AI Seminar

AI and the Future of Human Values

Feedback loops, techno-moral change and transformative experiences

Sala 2.2.21, Ciências ULisboa (com transmissão via Zoom)

Por Rui Vieira da Cunha (MLAG UPorto, Business School UCP).

The alignment problem in artificial intelligence, which concerns the challenge of ensuring that AI systems act in ways that are beneficial to humans, is often approached as a technical hurdle (Russell 2019). However, this paper posits that the true intractability of the problem lies less in its lack of objectivity and more in the dynamic nature of human values, which are continually reshaped by technological advancements (Vallor 2016).

The paper argues that as technology becomes deeply embedded in our lives, it not only serves as a tool but also actively shapes our understanding of the world and, consequently, our values. This fluidity of values in the face of technological change makes the static alignment of AI to a particular set of values a Sisyphean task (Bostrom 2014). In this regard, the views of Ian Hacking (1999) on the looping effects of human kinds can be used in the context of AI and technology, where the categorizations and understandings propagated by these systems can lead to a recursive effect on human self-conception and values.

Moreover, the insights of John Danaher on the process of techno-moral change underscore the fluidity and evolutionary nature of morality in the face of technological progress (Danaher&Skaug Saetra 2022).

A further and most relevant theoretical guide of the paper is the concept of transformative change, as introduced by L.A. Paul (2014). Paul’s exploration of life-altering decisions, where the very act of undergoing an experience can change one’s preferences and values, mirrors the challenges we face with AI and the possibility that they induce transformative changes in individuals and societies (Harari 2015), leading to shifts in values that are unpredictable and challenging to align with. Recognizing the intertwined nature of technology, values, and transformative experiences is crucial for understanding the profound challenges of the AI alignment problem (Floridi 2013).

Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
Danaher, J., and H. Sætra. “Mechanisms of Techno-Moral Change: A Taxonomy and Overview.” Ethical Theory and Moral Practice 2023.
Floridi, Luciano. The Ethics of Information. Oxford: Oxford University Press, 2013.
Hacking, Ian. The Social Construction of What? Cambridge, MA: Harvard University Press, 1999.
Harari, Yuval Noah. Homo Deus: A Brief History of Tomorrow. New York: Harper, 2015.
Paul, L.A. Transformative Experience. Oxford: Oxford University Press, 2014.
Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
Vallor, Shannon. Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford: Oxford University Press, 2016.

14h30-15h30
Klaus Gärtner, Paulo Castro, João Luís Cordovil (CFCUL/RG2)

RSS Meetup, por Nuno Lopes (IST, ULisboa).

Earth Systems Seminar, por Ana Machado (DEGGE/IDL).

Seminário do Departamento de Física de Ciências ULisboa, por Henrique Leitão (DHFC-FCUL, PI RUTTER ERC AdG).

Logótipo do evento

No dia 04 de abril, pelas 14h30, será gravado um episódio em direto do podcast "A Escala do Clima" de Filipe Duarte Santos (Professor Jubilado de CIÊNCIAS).

A iniciativa, promovida pela Rede Campus Sustentável (da qual CIÊNCIAS faz parte), é direcionada para o incentivo à colaboração entre as pessoas que pertencem a estruturas existentes ou em fase de constituição.

Fotografia de coleção de insetos

The course includes several case studies of insect adaptation, and the most recent overview on insect evodevo, plasticity, ecophysiological responses and conservation under global change.

Fotografia de aluna

Uma iniciativa aberta a toda a comunidade académica da ULisboa.

Título/data/local do evento e fotografia aérea de vias urbanas

Conferência da redeMOV, por Gabriel Costa Valença.

Logótipo CIE

A leading venue for presenting and discussing the latest research, industrial practice and innovations in dependable and secure computing.

Edição anterior da Jobshop Ciências

O maior evento de empregabilidade de CIÊNCIAS, a decorrer nos dias 08 e 09 de abril.

Seminário do Centro de Física Teórica e Computacional, por João Neves (CFTC).

RSS Meetup, por Rodrigo Bruno (IST, ULisboa).

Título do evento

A collaborative initiative supported by five Portuguese research centers, aimed at strengthening and connecting the geometry research community in Portugal.

Equipa da Raiz Vertical Farms

Uma Experiência Única sobre Agricultura Urbana e Energia Renovável.

Seminário do Instituto de Astrofísica e Ciências do Espaço, por Amidou Sorgho (Instituto de Astrofísica de Andalucía - IAA-CSIC, Spain).

Título/data/local do evento e fotografia da cidade de Lisboa

The conference aims to bring together students and young researchers working in Mathematics, Statistics, and Applications with a view to fostering discussions and collaborations amongst participants.

Título/data/local do evento e representação de ser humano

Workshop de Medicina Nuclear, organizado pelo Instituto de Biofísica e Engenharia Biomédica.

Título "Para um ensino humanista das ciências" e logótipos das entidades organizadoras

O evento tem como tema principal "Para um ensino humanista das ciências" e conta com a participação de vários professores de CIÊNCIAS.

Microplásticos em suspensão no oceano

O curso tem como objetivo dar formação sobre a problemática da contaminação por detritos de plástico dos nossos ecossistemas, bem como alertar para os potenciais efeitos deletérios nos organismos - candidaturas até 22 de março.

Banner do Dia de Ciências 2025

A 29 de abril assinalamos o 114.º aniversário de CIÊNCIAS.

Junte-se a nós no Grande Auditório de CIÊNCIAS para uma tarde de celebração que reúne toda a comunidade da Faculdade.

Logótipo C-Academy

O curso oferece uma base sólida sobre os fundamentos e práticas essenciais para proteger sistemas e dados num mundo cada vez mais digital - candidaturas até 13 de abril.

Fotografia de fábrica a emitir poluição para a atmosfera

The course aims at enabling the participants to use different methods to measure the impacts of pollutants on ecosystems.

Banner Dia Aberto de CIÊNCIAS 2025.

Bem-vindos a Ciências ULisboa!

Um concurso de programação dirigido aos alunos do ensino secundário (11.º e 12.º anos), que visa promover a prática e o gosto pela programação.

Fotografia de Chapim-azul

The goal of this course is to provide the participants with the most recent and practical knowledge on the use of Functional Diversity.

Páginas