Lisbon AI Seminar

AI and the Future of Human Values

Feedback loops, techno-moral change and transformative experiences

Sala 2.2.21, Ciências ULisboa (com transmissão via Zoom)

Por Rui Vieira da Cunha (MLAG UPorto, Business School UCP).

The alignment problem in artificial intelligence, which concerns the challenge of ensuring that AI systems act in ways that are beneficial to humans, is often approached as a technical hurdle (Russell 2019). However, this paper posits that the true intractability of the problem lies less in its lack of objectivity and more in the dynamic nature of human values, which are continually reshaped by technological advancements (Vallor 2016).

The paper argues that as technology becomes deeply embedded in our lives, it not only serves as a tool but also actively shapes our understanding of the world and, consequently, our values. This fluidity of values in the face of technological change makes the static alignment of AI to a particular set of values a Sisyphean task (Bostrom 2014). In this regard, the views of Ian Hacking (1999) on the looping effects of human kinds can be used in the context of AI and technology, where the categorizations and understandings propagated by these systems can lead to a recursive effect on human self-conception and values.

Moreover, the insights of John Danaher on the process of techno-moral change underscore the fluidity and evolutionary nature of morality in the face of technological progress (Danaher&Skaug Saetra 2022).

A further and most relevant theoretical guide of the paper is the concept of transformative change, as introduced by L.A. Paul (2014). Paul’s exploration of life-altering decisions, where the very act of undergoing an experience can change one’s preferences and values, mirrors the challenges we face with AI and the possibility that they induce transformative changes in individuals and societies (Harari 2015), leading to shifts in values that are unpredictable and challenging to align with. Recognizing the intertwined nature of technology, values, and transformative experiences is crucial for understanding the profound challenges of the AI alignment problem (Floridi 2013).

Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
Danaher, J., and H. Sætra. “Mechanisms of Techno-Moral Change: A Taxonomy and Overview.” Ethical Theory and Moral Practice 2023.
Floridi, Luciano. The Ethics of Information. Oxford: Oxford University Press, 2013.
Hacking, Ian. The Social Construction of What? Cambridge, MA: Harvard University Press, 1999.
Harari, Yuval Noah. Homo Deus: A Brief History of Tomorrow. New York: Harper, 2015.
Paul, L.A. Transformative Experience. Oxford: Oxford University Press, 2014.
Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
Vallor, Shannon. Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford: Oxford University Press, 2016.

14h30-15h30
Klaus Gärtner, Paulo Castro, João Luís Cordovil (CFCUL/RG2)
Cardume

Seminário do Centro de Física Teórica e Computacional, por Ana Machado (IPMA, Lisboa, Portugal).

Título/data/local do evento e fotografia de estudante

Workshop no âmbito do Programa de Promoção da Saúde Mental e do Bem-Estar na ULisboa.

Planta

As candidaturas terminam a 20 de março, estando previstos vários eventos de matchmaking para ajudar os participantes a encontrar parceiros para os seus projetos.

Seminário de Lógica Matemática, por Luís Pereira (Universidade de Lisboa).

CIÊNCIAS celebra o segundo aniversário da Horta Solar, um projeto pioneiro que alia a produção de alimentos à geração de energia limpa.

Pintura abstrata em tons de azul, laranja e amarelo

Seminário do Centro de Física Teórica e Computacional, por Mariana Oliveira (ICECO - Aveiro Institute of Materials, University of Aveiro, Portugal).

Alunos de CIÊNCIAS

Uma iniciativa gratuita, dirigida aos estudantes do 1.º e 2.º ciclo de estudos de CIÊNCIAS, com inscrições até 20 de março.

Logótipo C-Academy

2.ª edição do curso, com candidaturas até 17 de março.

Representação de folhas de árvores

Concerto no âmbito do programa Música na Universidade de Lisboa.

Título "Cybersecurity Executive Program Edição 2025", sobre um fundo em tons de verde

Adotar boas medidas e práticas de Cibersegurança é fundamental nos dias de hoje, para qualquer empresa, para proteger a integridade, confidencialidade e disponibilidade de dados sensíveis e pessoais, reduzindo o risco de ataques e fraudes.

Título/data/local do evento e representação de floresta

Esta é a altura certa para fazer os últimos preparativos para uma agrofloresta viçosa e produtiva que nos dará fruta, biodiversidade e sombra nos meses mais quentes.

Logótipo da Semana da Sustentabilidade

O foco da da SDS’25 é abrir espaço à reflexão sobre como as nossas ações, hoje, poderão influenciar o amanhã, sendo, assim, o lema desta Edição “Pelo Futuro, o Amanhã começa Hoje“.

Sala de aula

Curso creditado para efeitos de progressão na carreira dos professores do Ensino Secundário dos grupos 500 e 550, com candidaturas até 25 de março.

Reitoria da ULisboa

O ato eleitoral decorrerá nos dias 31 de março e 01 de abril de 2025.

Fotografia de criança a observar plantas com uma lupa

This course aims to explore ways of communicating science to non-specialized audiences, such as policy makers, industry, general public (including students and teachers), through their engagement and participation in citizen science activities.

Fotografia de coleção de insetos

The course includes several case studies of insect adaptation, and the most recent overview on insect evodevo, plasticity, ecophysiological responses and conservation under global change.

A leading venue for presenting and discussing the latest research, industrial practice and innovations in dependable and secure computing.

O maior evento de empregabilidade de CIÊNCIAS, a decorrer nos dias 08 e 09 de abril.

Título/data/local do evento e fotografia da cidade de Lisboa

The conference aims to bring together students and young researchers working in Mathematics, Statistics, and Applications with a view to fostering discussions and collaborations amongst participants.

Título "Para um ensino humanista das ciências" e logótipos das entidades organizadoras

O evento tem como tema principal "Para um ensino humanista das ciências" e conta com a participação de vários professores de CIÊNCIAS.

Microplásticos em suspensão no oceano

O curso tem como objetivo dar formação sobre a problemática da contaminação por detritos de plástico dos nossos ecossistemas, bem como alertar para os potenciais efeitos deletérios nos organismos - candidaturas até 22 de março.

Banner do Dia de Ciências 2025

A 29 de abril assinalamos o 114.º aniversário de CIÊNCIAS.

Junte-se a nós no Grande Auditório de CIÊNCIAS para uma tarde de celebração que reúne toda a comunidade da Faculdade.

Fotografia de fábrica a emitir poluição para a atmosfera

The course aims at enabling the participants to use different methods to measure the impacts of pollutants on ecosystems.

Logótipo C-Academy

O curso oferece uma base sólida sobre os fundamentos e práticas essenciais para proteger sistemas e dados num mundo cada vez mais digital - candidaturas até 13 de abril.

Páginas