Lisbon AI Seminar

Is there a Black-Box Issue in AI Medicine?

Sala 8.2.19, Ciências ULisboa (com transmissão online)

Por Steven S. Gouveia (UPorto).

The challenge of comprehending how AI algorithms generate judgments or predictions on the one hand, and how they integrate particular inputs to create a particular result on the other, is usually referred to as the “black-box issue” in AI Medicine. Although this type of technology can produce results that are more accurate and efficient than what we can refer to as “Traditional Medicine,” that is, a medicine made by humans, the internal workings of these models are typically opaque or challenging for humans to interpret. Due to the unique structural characteristics of AI models, it can be challenging for clinicians and other healthcare professionals to understand why an AI model recommends a particular diagnosis or course of treatment. This can raise questions about the model’s validity, safety, and ethical implications. Furthermore, since new medical treatments and diagnoses are frequently based on mechanistic explanations that AI models do not allow access to, a lack of transparency can also delay their discovery. Take into account, for example, an illustration of an AI model built to identify malignant cells in medical imaging. Large datasets of medical images are used to train these models, which then utilize this information to predict the appearance of malignant cells in new, unobserved images. Although these models are remarkably accurate, they frequently function as “black boxes,” which prevent humans from seeing or easily understanding the decisions they make. For instance, it might not be evident what exact traits the model is employing to distinguish between malignant and normal cells, or how the model arrived at a specific diagnosis or treatment suggestion. This can be particularly problematic in healthcare settings where professionals and patients must comprehend the reasoning behind a diagnosis or treatment strategy. Furthermore, it is difficult to identify and stop potential biases and discrimination if the model is opaque, making its correction impossible. This talk aims to determine whether there is, in fact, a “black box” issue in AI medicine and, if so, how we may think of possible solutions to address it.

Transmissão via Zoom (pw: 864198).

11h30-12h30
CFCUL - Centro de Filosofia das Ciências da Universidade de Lisboa

Seminário do Centro de Física Teórica e Computacional, por Rita Cardoso

(Instituto Dom Luiz, Universidade de Lisboa, Portugal).

Logótipo de Ciências ULisboa, título "Dia de Ciências 2024" e frase apelando à participação

23 de abril. Virgínia Dignum, especialista Nações Unidas para IA, é oradora convidada.

Logótipo da Marinha, título do programa e indicação dos cursos abrangidos

Sessão de divulgação dirigida aos alunos de Ciências das áreas das Engenharias, Matemática e Química.

Título/data/local do evento e logótipos das entidades organizadoras

An event specifically focused on technicalities & Data Science.

Earth Systems Seminar, por Rodrigo Amaro e Silva (IDL, Centre OIE - Mines Paris).

Árvore florida

"Em Busca do Transcendente" é o título que João Fontinha (aluno do Doutoramento em Matemática) escolheu para abrir o programa de primavera.

Seminário do Departamento de Física de Ciências ULisboa, por André Moitinho de Almeida (Center for Astrophysics and Gravitation, FCUL).

This 7th edition will once again gather specialists in the field of Combinatorial Optimization from several countries to present and discuss recent research work.

Talk @LASIGE, por Fernando Gallego Donoso (University of Malaga, Computational Intelligence in Biomedicine - ICB).
 

Comemorações do 30.º aniversário da VicenTuna - Tuna da Faculdade de Ciências da Universidade de Lisboa.

Cromeleque dos Almendres

Sessão no âmbito do ciclo de conversas "Aqui, no Universo", por Fábio Silva e Luís Tirapicos (moderação de Vânia Maia).

Título "Bolsas de Doutoramento Unite! ULisboa", logótipos das entidades promotoras e fotografia de jovem investigadora a utilizar um laptop na esplanada de um café

O 3.º concurso decorre até 30 de abril.

Fotografia de utente a interagir com um médico através de teleconsulta

O workshop, organizado pela redeSAÚDE da ULisboa, pretende explorar de que forma tecnologias de base digital emergentes na área da saúde podem contribuir para o bem-estar e para a melhoria da prestação de cuidados de saúde.

Logótipos do programa, de Ciências ULisboa e do GAPsi

Programa de Intervenção de Carreira, com inscrições até 26 de abril.

O encontro reúne cientistas, profissionais e estudantes de diferentes áreas e regiões do país focados em desenvolver a investigação marinha, em linha com a Década da Ciência Oceânica para o Desenvolvimento Sustentável, proclamada pelas Nações Unidas (2021-2030).

Formação modular de 13 de abril a 11 de maio - produção em permacultura.

Logótipo da ação CLEANFOREST

Forests are exposed to multiple global change drivers, wich can constrain their ability to continue providing several ecosystem services (including climate change mitigation). Assessing responses - and underlined mechanisms -  at the whole ecosystem scale is paramount for a holistic understanding of forest response to global change.

Título e data do evento, inseridos em fotografia de cinco jovens em contexto de investigação

Pré-inscrições já disponíveis!

Logótipo do evento

Evento final do Projeto iSEA, com inscrições até 30 de abril.

Título e data do workshop

Workshop no âmbito da recente adesão da Universidade de Lisboa à CoARA - Coalition for Advancing Research Assessment.

Título e datas de candidatura do programa, sobre um padrão em tons de roxo e laranja

Submissão de candidaturas até 14 de maio.

Título do curso

Curso Avançado CEAUL / Gades Solutions.

Logótipo do LIP Summer Internship Program e fotografia de jovem investigador

Os estágios podem ter uma duração entre duas semanas e dois meses e realizam-se nos três polos do LIP - candidaturas até 15 de maio.

Os oradores plenários irão falar sobre a importância da interdisciplinaridade de forma acessível para todos, estando previstas palestras e apresentação de pósteres por alunos.

Logótipo do EVM 2024

Candidaturas até 15 de maio.

Páginas