Inteligência artificial e saúde: ressituar o problema / Artificial intelligence and health: resituating the problem / Inteligencia artificial y salud: reubicar el problema

RESUMO

Diante dos avanços recentes da inteligência artificial, a presente nota de conjuntura busca recolocar questões fundamentais que emergem nesse contexto. Deslocando-se tanto das leituras salvacionistas quanto apocalípticas, argumentamos que a perda do privilégio do excepcionalismo humano pode ser uma oportunidade para repensar a inteligência a partir de uma perspectiva relacional e co-produzida entre humanos e outros-que-humanos. Tal perspectiva, no entanto, deve ser acompanhada de um olhar atento às relações de poder que em grande medida definem os destinos da IA. Sobre esse aspecto, apontamos as implicações do modelo epistêmico e de negócios hegemônico da IA, um modelo preditivo-aceleracionista dominado por grandes empresas de tecnologia. Finalmente, destacamos alguns riscos envolvidos na inclusão de máquinas inteligentes no campo da saúde, bem como os perigos da subordinação de valores e direitos públicos a interesses comerciais, o que demanda uma atenção e um cuidado coletivos e permanentes na construção dos arranjos sociotécnicos e políticos de implementação da IA nesse campo

ABSTRACT

In the face of artificial intelligence recent advances, this note seeks to reassess fundamental questions that emerge in this context. Moving away from both salvationist and apocalyptic readings, we argue that the human exceptionalism privilege loss can be an opportunity to rethink intelligence from a relational and co-produced perspective between humans and other-than-humans. Such an angle, however, must be accompanied by a careful examination of the power relations that largely define the fate of AI. On this aspect, we reflect on the implications of the hegemonic epistemic and business model of AI, a predictive accelerationist one dominated by large technology companies. Lastly, we highlight the risks involved in the inclusion of intelligent machines in the fields of health and care, as well as the dangers of subordinating public values and rights to commercial interests, which demands attentive, collective and permanent care in the construction of sociotechnical and political arrangements for the implementation of AI in this field.

RESUMEN

Ante los recientes avances de la inteligencia artificial, el presente informe busca plantear cuestiones fundamentales que surgen en este contexto. Alejándose tanto de las lecturas salvacionistas como apocalípticas, argumentamos que la pérdida del privilegio del excepcionalismo humano puede ser una oportunidad para repensar la inteligencia desde una perspectiva relacional y co-producida entre humanos y otros-que-humanos. Sin embargo, tal perspectiva debe ir acompañada de una mirada atenta a las relaciones de poder que en gran medida definen el destino de la IA. En este aspecto, señalamos las implicaciones del modelo epistémico y de negocios hegemónico de la IA, un modelo predictivo-aceleracionista dominado por grandes empresas tecnológicas. Por último, destacamos algunos riesgos de la inclusión de máquinas inteligentes en el campo de la salud, así como los peligros de subordinar valores y derechos públicos a intereses comerciales, lo cual requiere una atención y un cuidado colectivos y permanentes en la construcción de los ensamblajes sociotécnicos y políticos de implementación de la IA en este campo