Seminário

An Unethical Optimisation Principle

Sala 6.4.30, FCUL, Lisboa

Por Anthony Davison (Ecole Polytechnique Fédérale da Lausanne (EPFL)).

Abstract: Artificial intelligence (AI) is increasingly deployed in commercial situations.  Consider for example using AI to set prices of insurance products to be sold to a particular customer. There are legitimate reasons for setting different prices for different people, but it may also be profitable to game  their psychology or willingness to shop around. The AI has a vast number of potential strategies to choose from, but some are unethical --- by which we mean, from an economic point of view, that there is a risk that stakeholders will apply some penalty, such as fines or boycotts, if they subsequently understand that such a strategy has been applied. We consider this situation and show that if the AI is used to maximise risk-adjusted return, then under mild conditions it is disproportionately likely to pick an unethical strategy unless the objective function allows sufficiently for this risk.  Even if the proportion of unethical strategies is small, the probability of picking an unethical strategy can become large; indeed, unless returns are fat-tailed, this probability tends to unity as the strategy space becomes large.  We discuss this and related results, which involve classical results from the statistics of extremes.  The work is joint with Heather Battey, Nicholas Beale and Robert MacKay.​

17h00
CEAUL - Centro de Estatística e Aplicações da Universidade de Lisboa
Logótipos Ciências ULisboa e C-Academy, títulos dos cursos

Um programa de formação avançada em Cibersegurança para a administração pública e o setor privado desenvolvido pelo Centro Nacional de Cibersegurança, no âmbito do Plano de Recuperação e Resiliência.

Logótipos Ciências ULisboa e C-Academy, títulos dos cursos

Um programa de formação avançada em Cibersegurança para a administração pública e o setor privado desenvolvido pelo Centro Nacional de Cibersegurança, no âmbito do Plano de Recuperação e Resiliência.

Logótipo do evento, sobre um fundo branco

Um evento de reunião da comunidade nacional nas diversas vertentes da informática, com a ambição de ser o fórum de eleição para a divulgação, discussão e reconhecimento de trabalhos científicos.

Imagem do evento

Extended enrolement date until July 12th.

Logótipo do Workshop

A participação na 3.ª edição do Workshop é gratuita, mediante inscrição prévia.

Are you ready for this year's edition?

Imagem do evento - título, local e data do evento

Investigação Ecológica ao Serviço da Conservação

A leading venue for presenting and discussing the latest research, industrial practice and innovations in dependable and secure computing.