Lisbon AI Seminar

Is there a Black-Box Issue in AI Medicine?

Sala 8.2.19, Ciências ULisboa (com transmissão online)

Por Steven S. Gouveia (UPorto).

The challenge of comprehending how AI algorithms generate judgments or predictions on the one hand, and how they integrate particular inputs to create a particular result on the other, is usually referred to as the “black-box issue” in AI Medicine. Although this type of technology can produce results that are more accurate and efficient than what we can refer to as “Traditional Medicine,” that is, a medicine made by humans, the internal workings of these models are typically opaque or challenging for humans to interpret. Due to the unique structural characteristics of AI models, it can be challenging for clinicians and other healthcare professionals to understand why an AI model recommends a particular diagnosis or course of treatment. This can raise questions about the model’s validity, safety, and ethical implications. Furthermore, since new medical treatments and diagnoses are frequently based on mechanistic explanations that AI models do not allow access to, a lack of transparency can also delay their discovery. Take into account, for example, an illustration of an AI model built to identify malignant cells in medical imaging. Large datasets of medical images are used to train these models, which then utilize this information to predict the appearance of malignant cells in new, unobserved images. Although these models are remarkably accurate, they frequently function as “black boxes,” which prevent humans from seeing or easily understanding the decisions they make. For instance, it might not be evident what exact traits the model is employing to distinguish between malignant and normal cells, or how the model arrived at a specific diagnosis or treatment suggestion. This can be particularly problematic in healthcare settings where professionals and patients must comprehend the reasoning behind a diagnosis or treatment strategy. Furthermore, it is difficult to identify and stop potential biases and discrimination if the model is opaque, making its correction impossible. This talk aims to determine whether there is, in fact, a “black box” issue in AI medicine and, if so, how we may think of possible solutions to address it.

Transmissão via Zoom (pw: 864198).

11h30-12h30
CFCUL - Centro de Filosofia das Ciências da Universidade de Lisboa

Oficina de Introdução à Estacaria.

Título, local e data do evento, acompanhados de fotografias dos oradores

TWIN2PIPSA Expert Seminars, por Francesco Pesce Matteo Cagiaga (University of Copenhagen).

Título/local/data do evento, logótipos das entidades promotoras e fotografia de árvore de natal

Dia 11 de dezembro, das 19h00 às 19h45, no Grande Auditório de Ciências ULisboa.

Título/data do evento e pormenor da exposição

Inez Wijnhorst (autora), Henrique Leitão e Pedro Freitas (curador) exploram a exposição "Cem Meias Medidas: desenhos e gravuras de Inez Wijnhorst".

Seminário do Centro de Física Teórica e Computacional, por Jesús Gómez-Gardeñes (University of Zaragoza, Spain).

Fotografia antiga de quatro ciclistas

Workshop no âmbito do projeto Hi-BicLab. Laboratório de História para as Mobilidades Urbanas Sustentáveis: Políticas Cicláveis de Lisboa.

Uma em cada três populações de aves portuguesas está ameaçada de extinção.

Título/data do evento e fotografia da oradora

Masterclass com a presença de Teresa Vieira, que irá elucidar os vários passos de criar uma empresa.

Seminário em Biologia Humana e Ambiente, por Ana Luísa Silva (CESAM - University of Aveiro).

Seminário Doutoral I no âmbito do Doutoramento em Biologia, por Celso José Miguel Paulo.

Ilustração representativa de produtos alimentares dentro de uma caixa

Participe nesta campanha solidária até ao dia 14 de dezembro.

Título, local e data do evento, acompanhados da fotografia da oradora

TWIN2PIPSA Expert Seminar, por Sandra Macedo-Ribeiro (Group Leader of the Biomolecular Structure & Function Lab at i3S - Instituto de Investigação e Inovação em Saúde da Universidade do Porto).

Conferência do Centro Interuniversitário de História das Ciências e da Tecnologia, por Gloria Clifton (Royal Museums Greenwich).

Seminário Helena Avelar de Astronomia e Astrologia Antiga, por Carolina Resende (Universidade de Lisboa).

2.ª edição do workshop organizado por Luís Ribeiro e Francisco Malta Romeiras (CIUHCT), com a participação de investigadores cujo trabalho incide sobre o "early modern knowledge."

Título da iniciativa a fotografia de planta

The second call for funding measures on Student Activities is open until 15 December 2023.

Logótipo do projeto, sobre uma fotografia do mar em tons de verde

Apresentação de candidaturas até 15 de dezembro de 2023.

Título/data do evento e fotografia de orquestra em tons natalícios

Concerto de Natal da ULisboa / Alumni ULisboa.

Fotografia de objetos pretos e laranjas, representando pontos de interrogação

Inquérito disponível até 18 de dezembro.

Título/data/local do evento, sobre uma fotografia do Cais das Colunas (Lisboa) ao amanhecer

Algebra, Combinatorics, Differential Equations, Geometry, Logic, Matrix Theory and Operational Research.

Logótipo do evento

Don’t forget to register until 10 December!

Logótipo do Jardim Matemático (ilustração de livro aberto, 2 flores e diversos símbolos matemáticos)

És aluno do secundário? Então este novo projeto é para ti!

Ilustração representativa de decoração de natal, composta por vários bens, em tons de vermelho

Recolha de bens para o CASA, a decorrer de 11 a 19 de dezembro de 2023.

Título da campanha, sobre uma fotografia da Ponte sobre o Tejo e de um ecrã de computador

Deposite os seus resíduos até ao dia 20 de dezembro e contribua para esta campanha.

Título "Gostarias de realizar uma mobilidade Erasmus+" e iconografia representativa de candidaturas e sessões de esclarecimento, sobre um fundo verde

Candidaturas até 31 de dezembro de 2023.

Páginas