Lisbon AI Seminar

Is there a Black-Box Issue in AI Medicine?

Sala 8.2.19, Ciências ULisboa (com transmissão online)

Por Steven S. Gouveia (UPorto).

The challenge of comprehending how AI algorithms generate judgments or predictions on the one hand, and how they integrate particular inputs to create a particular result on the other, is usually referred to as the “black-box issue” in AI Medicine. Although this type of technology can produce results that are more accurate and efficient than what we can refer to as “Traditional Medicine,” that is, a medicine made by humans, the internal workings of these models are typically opaque or challenging for humans to interpret. Due to the unique structural characteristics of AI models, it can be challenging for clinicians and other healthcare professionals to understand why an AI model recommends a particular diagnosis or course of treatment. This can raise questions about the model’s validity, safety, and ethical implications. Furthermore, since new medical treatments and diagnoses are frequently based on mechanistic explanations that AI models do not allow access to, a lack of transparency can also delay their discovery. Take into account, for example, an illustration of an AI model built to identify malignant cells in medical imaging. Large datasets of medical images are used to train these models, which then utilize this information to predict the appearance of malignant cells in new, unobserved images. Although these models are remarkably accurate, they frequently function as “black boxes,” which prevent humans from seeing or easily understanding the decisions they make. For instance, it might not be evident what exact traits the model is employing to distinguish between malignant and normal cells, or how the model arrived at a specific diagnosis or treatment suggestion. This can be particularly problematic in healthcare settings where professionals and patients must comprehend the reasoning behind a diagnosis or treatment strategy. Furthermore, it is difficult to identify and stop potential biases and discrimination if the model is opaque, making its correction impossible. This talk aims to determine whether there is, in fact, a “black box” issue in AI medicine and, if so, how we may think of possible solutions to address it.

Transmissão via Zoom (pw: 864198).

11h30-12h30
CFCUL - Centro de Filosofia das Ciências da Universidade de Lisboa
Física de altas energias

workshop é destinado a estudantes e investigadores em inicio de carreira que tenham interesse na aplicação de técnicas de machine learning à física de altas energias, com especial referência às experiências do LHC no CERN.

Logótipo da Unite! e fotografia de três estudantes

2nd Unite!-Ed Future Conference.

Logótipo do Dia Internacional da Matemática

Atividades a decorrerem em CIÊNCIAS nos dias 14 e 19 de março.

A Academia das Ciências de Lisboa e o Seminário de Jovens Cientistas celebram a Matemática no panorama científico nacional e em sua relação com a sociedade.

Fotografia de jovens investigadores

Inscrições até 15 de março.

Título "Jornadas de Matemática" e logótipos das entidades envolvidas

O Departamento de Matemática e o Núcleo de Estudantes de Matemática e Matemática Aplicada associam-se às celebrações do Dia Internacional da Matemática.

Cardume

Seminário do Centro de Física Teórica e Computacional, por Ana Machado (IPMA, Lisboa, Portugal).

Planta

As candidaturas terminam a 20 de março, estando previstos vários eventos de matchmaking para ajudar os participantes a encontrar parceiros para os seus projetos.

A Faculdade de Ciências da Universidade de Lisboa celebra o segundo aniversário da Horta Solar, um projeto pioneiro que alia a produção de alimentos à geração de energia limpa.

Pintura abstrata em tons de azul, laranja e amarelo

Seminário do Centro de Física Teórica e Computacional, por Mariana Oliveira (ICECO - Aveiro Institute of Materials, University of Aveiro, Portugal).

Logótipo C-Academy

2.ª edição do curso, com candidaturas até 17 de março.

Representação de folhas de árvores

Concerto no âmbito do programa Música na Universidade de Lisboa.

Título "Cybersecurity Executive Program Edição 2025", sobre um fundo em tons de verde

Adotar boas medidas e práticas de Cibersegurança é fundamental nos dias de hoje, para qualquer empresa, para proteger a integridade, confidencialidade e disponibilidade de dados sensíveis e pessoais, reduzindo o risco de ataques e fraudes.

Título/data/local do evento e representação de floresta

Esta é a altura certa para fazer os últimos preparativos para uma agrofloresta viçosa e produtiva que nos dará fruta, biodiversidade e sombra nos meses mais quentes.

Logótipo da Semana da Sustentabilidade

O foco da da SDS’25 é abrir espaço à reflexão sobre como as nossas ações, hoje, poderão influenciar o amanhã, sendo, assim, o lema desta Edição “Pelo Futuro, o Amanhã começa Hoje“.

Fotografia de criança a observar plantas com uma lupa

This course aims to explore ways of communicating science to non-specialized audiences, such as policy makers, industry, general public (including students and teachers), through their engagement and participation in citizen science activities.

Curso creditado para efeitos de progressão na carreira dos professores do Ensino Secundário dos grupos 500 e 550, com candidaturas até 25 de março.

Reitoria da ULisboa

O ato eleitoral decorrerá nos dias 31 de março e 01 de abril de 2025.

Fotografia de coleção de insetos

The course includes several case studies of insect adaptation, and the most recent overview on insect evodevo, plasticity, ecophysiological responses and conservation under global change.

A leading venue for presenting and discussing the latest research, industrial practice and innovations in dependable and secure computing.

O maior evento de empregabilidade de CIÊNCIAS, a decorrer nos dias 08 e 09 de abril.

Título/data/local do evento e fotografia da cidade de Lisboa

The conference aims to bring together students and young researchers working in Mathematics, Statistics, and Applications with a view to fostering discussions and collaborations amongst participants.

Título "Para um ensino humanista das ciências" e logótipos das entidades organizadoras

O evento tem como tema principal "Para um ensino humanista das ciências" e conta com a participação de vários professores de CIÊNCIAS.

Microplásticos em suspensão no oceano

O curso tem como objetivo dar formação sobre a problemática da contaminação por detritos de plástico dos nossos ecossistemas, bem como alertar para os potenciais efeitos deletérios nos organismos - candidaturas até 22 de março.

Páginas