Lisbon AI Seminar

Is there a Black-Box Issue in AI Medicine?

Sala 8.2.19, Ciências ULisboa (com transmissão online)

Por Steven S. Gouveia (UPorto).

The challenge of comprehending how AI algorithms generate judgments or predictions on the one hand, and how they integrate particular inputs to create a particular result on the other, is usually referred to as the “black-box issue” in AI Medicine. Although this type of technology can produce results that are more accurate and efficient than what we can refer to as “Traditional Medicine,” that is, a medicine made by humans, the internal workings of these models are typically opaque or challenging for humans to interpret. Due to the unique structural characteristics of AI models, it can be challenging for clinicians and other healthcare professionals to understand why an AI model recommends a particular diagnosis or course of treatment. This can raise questions about the model’s validity, safety, and ethical implications. Furthermore, since new medical treatments and diagnoses are frequently based on mechanistic explanations that AI models do not allow access to, a lack of transparency can also delay their discovery. Take into account, for example, an illustration of an AI model built to identify malignant cells in medical imaging. Large datasets of medical images are used to train these models, which then utilize this information to predict the appearance of malignant cells in new, unobserved images. Although these models are remarkably accurate, they frequently function as “black boxes,” which prevent humans from seeing or easily understanding the decisions they make. For instance, it might not be evident what exact traits the model is employing to distinguish between malignant and normal cells, or how the model arrived at a specific diagnosis or treatment suggestion. This can be particularly problematic in healthcare settings where professionals and patients must comprehend the reasoning behind a diagnosis or treatment strategy. Furthermore, it is difficult to identify and stop potential biases and discrimination if the model is opaque, making its correction impossible. This talk aims to determine whether there is, in fact, a “black box” issue in AI medicine and, if so, how we may think of possible solutions to address it.

Transmissão via Zoom (pw: 864198).

11h30-12h30
CFCUL - Centro de Filosofia das Ciências da Universidade de Lisboa
Vista a partir de cima de pessoas a trabalharem sobre uma mesa de madeira

CIÊNCIAS desenvolve um conjunto de atividades de apoio aos Doutorandos, periodicamente enquadradas no âmbito do PhD Support Programme.

Ana Quintans

Concerto no âmbito do programa Música na Universidade de Lisboa.

Conversa com Cristina Luís (investigadora no CIUHCT - Centro Interuniversitário de História das Ciências e da Tecnologia / Ciências ULisboa).

Esta formação é oferecida como oportunidade de aprender sobre sustentabilidade do corpo à comunidade e ao ecossistema, perante uma situação global desesperante, sonhando utopicamente com futuros mais justos e equitativos. 

Logótipo do LIP Summer Internship Program

Um programa destinado a estudantes de Física e Engenharia com interesse em investigação científica e tecnológica, com candidaturas até 15 de maio (nova data).

O evento reunirá alunos de Ciências ULisboa e do ISCAL, proporcionando-lhes uma oportunidade única para apresentarem e defenderem os seus projetos empreendedores num formato de pitch.

Palestra de divulgação das atividades e oportunidades do IEEE (Institute of Electrical and Electronics Engineers).

Fotografia de Chapim-azul

The goal of this course is to provide the participants with the most recent and practical knowledge on the use of Functional Diversity.

Seminário do Centro de Física Teórica e Computacional, por Susana Barbosa (INESC TEC, Porto, Portugal).

Logótipo CQE Days 2025

O encontro tem como objetivo divulgar e promover os resultados da investigação produzidos nos dois pólos do Centro de Química Estrutural (CIÊNCIAS e IST), estimulando a criatividade, o trabalho interdisciplinar e o espírito científico.

Seminário de Lógica Matemática, por Eduardo Magalhães (Universidade do Porto).

Mão a segurar em globo de vidro

Curso acreditado pelo CCPFC para efeitos de progressão na carreira dos professores na dimensão cientifico-pedagógica dos grupos 230, 420, 510, 520 e 560, com candidaturas até 30 de abril.

The aim of this event is to illustrate the importance of interdisciplinarity. To do so the meeting will bring together researchers from different areas who work in interdisciplinary fields within Ciências ULisboa

Seminário de Geometria e Física, por Tomás Inácio (FCUL, Universidade de Lisboa).

Cardume

Seminário Doutoral I (Doutoramento em Biologia), por Eduardo Miguel Onofre Feijão.

Seminário de Análise e Equações Diferenciais, por João Pedro Ramos (Instituto Nacional de Matemática Pura e Aplicada).

“Coroa de Flores” cósmica

Seminário do Instituto de Astrofísica e Ciências do Espaço, por Federica Loiacono (INAF OAS Bologna, Italy).

Seminário do Centro de Física Teórica e Computacional, por João Amaral (Department of Physics and CICECO, University of Aveiro, Portugal).

Seminário de Análise e Equações Diferenciais, por Wladimir Neves (Universidade Federal do Rio de Janeiro).

Título/data/local do evento, logótipos das entidades organizadoras e fotografia de peixe

The event aims to facilitate the exchange of information and knowledge among professionals to advance the understanding, collaboration and capabilities of aquaculture to respond to the impact of climate change in a rapidly changing global environment.

Composição do logótipo da ULisboa e de representação do rosto humano à base de relógios

22 de maio - dois dos doze finalistas da competição são alunos de CIÊNCIAS.

Seminário de Análise e Equações Diferenciais, por Leonid Berlyand (Penn State University).

Seminário do Instituto de Astrofísica e Ciências do Espaço, por Pier-Stefano Corasaniti (Observatoire de Paris-Meudon, France).

Uma oportunidade única para interagir com a comunidade global de computação científica, com inscrições (preço reduzido) até 02 de maio.

Logótipo Moodle

Ação de formação para docentes e investigadores de CIÊNCIAS.

Páginas