Seminário

An Unethical Optimisation Principle

Sala 6.4.30, FCUL, Lisboa

Por Anthony Davison (Ecole Polytechnique Fédérale da Lausanne (EPFL)).

Abstract: Artificial intelligence (AI) is increasingly deployed in commercial situations.  Consider for example using AI to set prices of insurance products to be sold to a particular customer. There are legitimate reasons for setting different prices for different people, but it may also be profitable to game  their psychology or willingness to shop around. The AI has a vast number of potential strategies to choose from, but some are unethical --- by which we mean, from an economic point of view, that there is a risk that stakeholders will apply some penalty, such as fines or boycotts, if they subsequently understand that such a strategy has been applied. We consider this situation and show that if the AI is used to maximise risk-adjusted return, then under mild conditions it is disproportionately likely to pick an unethical strategy unless the objective function allows sufficiently for this risk.  Even if the proportion of unethical strategies is small, the probability of picking an unethical strategy can become large; indeed, unless returns are fat-tailed, this probability tends to unity as the strategy space becomes large.  We discuss this and related results, which involve classical results from the statistics of extremes.  The work is joint with Heather Battey, Nicholas Beale and Robert MacKay.​

17h00
CEAUL - Centro de Estatística e Aplicações da Universidade de Lisboa
Título do prémio

As candidaturas decorrem até ao dia 31 de maio.

Logótipo do Verão na ULisboa, sobre um fundo amarelo

Uma oportunidade única de conheceres e experimentares o ritmo e o espírito da vida académica!

Título/data do evento, logótipos das entidades organizadoras e fotografia de Lisboa (Castelo de S. Jorge e respetiva colina)

Inscrição (taxa reduzida) até 20 de abril.

Título/data/local do evento, logótipos das entidades organizadoras e várias fotografias da orla costeira e de pessoas

Escola de verão com um programa muito diversificado, com especialistas em vários tópicos, que vão falar sobre formas de olhar para o nosso planeta de uma forma integrada, juntando conhecimentos de várias disciplinas.

Vem investigar connosco!

Logótipo do evento, sobre um fundo branco

Um evento de reunião da comunidade nacional nas diversas vertentes da informática, com a ambição de ser o fórum de eleição para a divulgação, discussão e reconhecimento de trabalhos científicos.

Páginas