Seminário

An Unethical Optimisation Principle

Sala 6.4.30, FCUL, Lisboa

Por Anthony Davison (Ecole Polytechnique Fédérale da Lausanne (EPFL)).

Abstract: Artificial intelligence (AI) is increasingly deployed in commercial situations.  Consider for example using AI to set prices of insurance products to be sold to a particular customer. There are legitimate reasons for setting different prices for different people, but it may also be profitable to game  their psychology or willingness to shop around. The AI has a vast number of potential strategies to choose from, but some are unethical --- by which we mean, from an economic point of view, that there is a risk that stakeholders will apply some penalty, such as fines or boycotts, if they subsequently understand that such a strategy has been applied. We consider this situation and show that if the AI is used to maximise risk-adjusted return, then under mild conditions it is disproportionately likely to pick an unethical strategy unless the objective function allows sufficiently for this risk.  Even if the proportion of unethical strategies is small, the probability of picking an unethical strategy can become large; indeed, unless returns are fat-tailed, this probability tends to unity as the strategy space becomes large.  We discuss this and related results, which involve classical results from the statistics of extremes.  The work is joint with Heather Battey, Nicholas Beale and Robert MacKay.​

17h00
CEAUL - Centro de Estatística e Aplicações da Universidade de Lisboa
Palavra(s) a pesquisar
Submit
Título/data/local do evento, logótipos das entidades organizadoras e fotografia de peixe

The event aims to facilitate the exchange of information and knowledge among professionals to advance the understanding, collaboration and capabilities of aquaculture to respond to the impact of climate change in a rapidly changing global environment.

Uma oportunidade única para interagir com a comunidade global de computação científica, com inscrições (preço reduzido) até 02 de maio.

Logótipo Moodle

Ação de formação para docentes e investigadores de CIÊNCIAS.

Título/data/local do evento e iconografia representativa de energias renováveis

Inscrições a partir de 07 de abril! Junta-te a esta revolução energética e faz a diferença!

Químico a escrever fórmulas num quadro

Curso acreditado para efeitos de progressão na carreira dos professores do Ensino Básico e Secundário do Grupo 510 (CCPFC/ACC-118288/22), com candidaturas até 18 de maio.

Título/data/local do evento e fotografia do mar

Quais são os conceitos-chave para enfrentar os atuais desafios marinhos e costeiros? 

Título da conferência, sobre um quadro de ardósia

The conference focuses on "Algebra and its role in Computer Science", with special emphasis on the areas of study related to the work of M. V. Volkov, such as semigroups and automata.

Logótipo do Verão na ULisboa, sobre um fundo azul

Candidaturas a partir de 07 de abril!

Computability in Europe (CiE) is an interdisciplinary series of international conferences organised by the Association Computability in Europe (ACiE).

A 10.ª edição do Ser Cientista realiza-se entre 21 e 25 de julho - vem investigar connosco!

Logótipo do evento, sobre fotografia dos Açores

An international symposium that convenes researchers specializing in various disciplines focused on the terrestrial and marine flora and vegetation of the Macaronesian region (Azores, Madeira, Selvagens, Canary Islands, and Cabo Verde).

Composição de imagens relativas à área das ciências forenses

O curso visa dotar os formandos, com formação universitária nas mais diversas áreas do saber, com os conhecimento necessários à integração de equipas profissionais multidisciplinares nas áreas Médico-Legais e Forenses, em Laboratórios ou Serviços Médico-Legais e Forenses.

Cientista a trabalhar com tubos de ensaio

Este curso forma profissionais para atividade na área das Análises Clínicas ou Patologia Clínica. Irão adquirir os conhecimentos essenciais à integração de equipas profissionais multidisciplinares na área das Análises Clínicas/Patologia Clínica, em laboratórios privados, públicos, hospitalares ou do Estado.

The conference aims to bring together key experts in the Medical Microwave Imaging (MMWI) field and will include invited talks, presentations and posters of peer-reviewed abstracts and conference papers, and workshops in satellite areas of research that are of interest to MMWI research.

Páginas