Lisbon AI Seminar

AI and the Future of Human Values

Feedback loops, techno-moral change and transformative experiences

Sala 2.2.21, Ciências ULisboa (com transmissão via Zoom)

Por Rui Vieira da Cunha (MLAG UPorto, Business School UCP).

The alignment problem in artificial intelligence, which concerns the challenge of ensuring that AI systems act in ways that are beneficial to humans, is often approached as a technical hurdle (Russell 2019). However, this paper posits that the true intractability of the problem lies less in its lack of objectivity and more in the dynamic nature of human values, which are continually reshaped by technological advancements (Vallor 2016).

The paper argues that as technology becomes deeply embedded in our lives, it not only serves as a tool but also actively shapes our understanding of the world and, consequently, our values. This fluidity of values in the face of technological change makes the static alignment of AI to a particular set of values a Sisyphean task (Bostrom 2014). In this regard, the views of Ian Hacking (1999) on the looping effects of human kinds can be used in the context of AI and technology, where the categorizations and understandings propagated by these systems can lead to a recursive effect on human self-conception and values.

Moreover, the insights of John Danaher on the process of techno-moral change underscore the fluidity and evolutionary nature of morality in the face of technological progress (Danaher&Skaug Saetra 2022).

A further and most relevant theoretical guide of the paper is the concept of transformative change, as introduced by L.A. Paul (2014). Paul’s exploration of life-altering decisions, where the very act of undergoing an experience can change one’s preferences and values, mirrors the challenges we face with AI and the possibility that they induce transformative changes in individuals and societies (Harari 2015), leading to shifts in values that are unpredictable and challenging to align with. Recognizing the intertwined nature of technology, values, and transformative experiences is crucial for understanding the profound challenges of the AI alignment problem (Floridi 2013).

Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
Danaher, J., and H. Sætra. “Mechanisms of Techno-Moral Change: A Taxonomy and Overview.” Ethical Theory and Moral Practice 2023.
Floridi, Luciano. The Ethics of Information. Oxford: Oxford University Press, 2013.
Hacking, Ian. The Social Construction of What? Cambridge, MA: Harvard University Press, 1999.
Harari, Yuval Noah. Homo Deus: A Brief History of Tomorrow. New York: Harper, 2015.
Paul, L.A. Transformative Experience. Oxford: Oxford University Press, 2014.
Russell, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. New York: Viking, 2019.
Vallor, Shannon. Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting. Oxford: Oxford University Press, 2016.

14h30-15h30
Klaus Gärtner, Paulo Castro, João Luís Cordovil (CFCUL/RG2)
Logótipos do Concurso Nacional para Jovens Cientistas e Investigadores e da Fundação da Juventude

Candidaturas até 15 de abril.

Logótipo e data do evento

Pensar global, agir local - Semana da Sustentabilidade Ciências ULisboa.

Título/data/local do evento

Lisbon AI Seminar, por Mattia Petrolo (CFCUL/RG1).

Seminário do Centro de Estatística e Aplicações da Universidade de Lisboa e do Centro de Matemática Computacional e Estocástica, por Taban Baghfalaki (Bordeaux University, Bordeaux, France).

Seminário do Departamento de Física de Ciências ULisboa, por Bruno Barros (IA).

Seminário Helena Avelar de Astronomia e Astrologia Antiga, por Levente László (Eötvös University).

BioISI Research Seminar, por Miguel Machuqueiro (BioISI - Ciências ULisboa).

Título/data/local do evento e pormenor de pintura representando uma mulher

Reasoning Seminar, por José Manuel Mestre (University of St. Andrews/Stirling).

Fotografia de três pessoas a apontarem para o teclado/ecrã de computador portátil

Workshop de participação gratuita, mediante inscrição até 16 de abril.

Hi-Phi Seminar, por Ignacio García-Pereda (CIUHCT), Silvia Di Marco (CFCUL), Hugo Soares (CIUHCT) e João L. Cordovil (CFCUL).

Seminário do Laboratório de Instrumentação e Física Experimental de Partículas, por Henrique Carvalho (LIP Minho).

Título/data/local do evento e imagem de arquivo do MUHNAC

Os estudantes de Ciências contra o regime ditatorial e colonialista - 1968-1974.

Título/data do evento, logótipo do projeto Ciências em Harmonia e título "Ninguém te vai amar como eu."

Uma sessão dinamizada e conduzida pelo GAPsi, a decorrer pelas 13h do dia 18 de abril.

O MUHNAC associa-se, uma vez mais, a estas comemorações, com um programa de atividades gratuitas subordinadas ao tema da edição de 2024 "Catástrofes e conflitos à Luz da Carta de Veneza".

Logótipos da Sociedade Portuguesa de Física e da comemoração do respetivo Jubileu

Nesta sessão, organizada em parceria com o NFEF-FCUL, será lançado um postal dos CTT evocativo dos 50 anos da SPF e será feito o lançamento do volume 47, n.º 1 da Gazeta de Física.

Mathematical Logic Seminar, por Jaime Ramos (IST - Universidade de Lisboa).

Seminário Doutoral I (Doutoramento em História e Filosofia das Ciências), por Joana Lima de Oliveira.

O programa inclui a atribuição de cartas de reconhecimento de mérito aos melhores alunos que concluíram a licenciatura em Geologia ano letivo 2023, seguida da apresentação do vídeo da excursão final integradora do Mestrado em Geologia da FCUL.

Logótipo de Ciências ULisboa, título "Dia de Ciências 2024" e frase apelando à participação

23 de abril. Virgínia Dignum, especialista Nações Unidas para IA, é oradora convidada.

Título/data/local do evento e logótipos das entidades organizadoras

An event specifically focused on technicalities & Data Science.

Comemorações do 30.º aniversário da VicenTuna - Tuna da Faculdade de Ciências da Universidade de Lisboa.

Título "Bolsas de Doutoramento Unite! ULisboa", logótipos das entidades promotoras e fotografia de jovem investigadora a utilizar um laptop na esplanada de um café

O 3.º concurso decorre até 30 de abril.

Talk @LASIGE, por Fernando Gallego Donoso (University of Malaga, Computational Intelligence in Biomedicine - ICB).
 

This 7th edition will once again gather specialists in the field of Combinatorial Optimization from several countries to present and discuss recent research work.

O encontro reúne cientistas, profissionais e estudantes de diferentes áreas e regiões do país focados em desenvolver a investigação marinha, em linha com a Década da Ciência Oceânica para o Desenvolvimento Sustentável, proclamada pelas Nações Unidas (2021-2030).

Páginas