Seminário

An Unethical Optimisation Principle

Sala 6.4.30, FCUL, Lisboa

Por Anthony Davison (Ecole Polytechnique Fédérale da Lausanne (EPFL)).

Abstract: Artificial intelligence (AI) is increasingly deployed in commercial situations.  Consider for example using AI to set prices of insurance products to be sold to a particular customer. There are legitimate reasons for setting different prices for different people, but it may also be profitable to game  their psychology or willingness to shop around. The AI has a vast number of potential strategies to choose from, but some are unethical --- by which we mean, from an economic point of view, that there is a risk that stakeholders will apply some penalty, such as fines or boycotts, if they subsequently understand that such a strategy has been applied. We consider this situation and show that if the AI is used to maximise risk-adjusted return, then under mild conditions it is disproportionately likely to pick an unethical strategy unless the objective function allows sufficiently for this risk.  Even if the proportion of unethical strategies is small, the probability of picking an unethical strategy can become large; indeed, unless returns are fat-tailed, this probability tends to unity as the strategy space becomes large.  We discuss this and related results, which involve classical results from the statistics of extremes.  The work is joint with Heather Battey, Nicholas Beale and Robert MacKay.​

17h00
CEAUL - Centro de Estatística e Aplicações da Universidade de Lisboa
Imagem ilustrativa do evento

Conversa no âmbito da exposição Variações Naturais, comissariada por Cristina Branquinho (Ciências ULisboa).

Seminário do Centro de Física Teórica e Computacional, por Pedro Reis (Institute of Mechanical Engineering, École Polytechnique Fédérale de Lausanne - EPFL, Switzerland).

Seminário do Laboratório de Instrumentação e Física Experimental de Partículas, por Rute Pedro (LIP).

Encontro Scientia, por Leonor Rodrigues (EE - cE3c).

Geometry Webinar, por François Petit (Univ. Paris).

Imagem ilustrativa do evento e várias informações úteis

Tal como as demais galáxias, este enorme conjunto de estrelas, gás e poeiras a que chamamos Via Láctea é hoje diferente do que foi num passado longínquo.

An overview of the different ways to measure biodiversity, and provides tips for the stratification of primary biodiversity data and the construction of variables that describe its various facets.

Logótipo do Encontro Ciência 2021

A Ciência que faz o Amanhã e transforma a Economia.

Colóquio de Matemática, por José Agapito Ruiz (Investigador no Centro de Análise Funcional, Estruturas Lineares e Aplicações da Universidade de Lisboa).

This course aims at enabling the participants to use different methods to measure the impacts of pollutants on ecosystems.

Título e data do evento

An overview of recent developments and applications of the algebraic and analytic theory of D-modules.

Desenho de campo e atividades agrícolas

Se tem um projeto inovador, candidate-se até 16 de julho.

How to predict the three-dimensional structure of nucleic acid and proteins from their sequence and use the acquired knowledge to improve or create new methodologies in molecular biology research and diagnostics?

Título, data e localização do evento

From experiments to foundations. Seeking more intelligible explanations for Quantum Phenomena.

Logótipo da Unite!

Summer School no âmbito da Rede UNITE! (University Network for Innovation, Technology and Engineering), de que faz parte a ULisboa.

O curso visa apresentar uma série de perspetivas sobre o desenvolvimento conceitual da estatística e sobre o uso de inferências e modelos estatísticos nas ciências empíricas.