RÉSUMÉ
Abstract The presence of artificial intelligence in healthcare is growing, helping in diagnosis and decision making. However, its application raises doubts, mostly related to ethics. This study aimed to identify its uses in health and its bioethical implications from a systematic literature review using the PRISMA guidelines. The ScienceDirect and Scopus databases were searched, using the descriptors "artificial intelligence," "bioethics" and "health." Works in English, published between 2017 and 2021 were considered, resulting in 102 articles found and, after applying the established criteria, 11 were selected. The studies reported on the bioethical principles of beneficence, non-maleficence, autonomy and justice, adding an element, explainability. Relationships were found between artificial intelligence in health and unpredictability, predictability, trust, physicians' role, systems development, privacy, data security, financial and social aspects. Developers, healthcare professionals and patients must maximize the benefits and limit the risks of tools that use this technology.
Resumen El uso de la inteligencia artificial en salud va en aumento por facilitar el diagnóstico y la toma de decisiones, pero sus implicaciones plantean dudas relacionadas con la ética. Esta revisión sistemática desde las directrices Prisma identificó los usos de la inteligencia artificial en salud y sus implicaciones bioéticas. Las búsquedas se realizaron en Science Direct y Scopus utilizando los descriptores "artificial intelligence", "bioethics" y "health". De los trabajos en inglés publicados entre 2017 y 2021, se obtuvo 102 artículos. Aplicados los criterios, quedaron 11. Los estudios abordaron los principios bioéticos de beneficencia, no maleficencia, autonomía y justicia, añadiendo el elemento explicabilidad. La inteligencia artificial se correlacionó con la imprevisibilidad, previsibilidad, confianza, papel de los médicos, desarrollo de sistemas, privacidad, seguridad de los datos y aspectos financieros y sociales. Los desarrolladores, los profesionales sanitarios y los pacientes deben maximizar los beneficios y limitar los riesgos que involucra esta tecnología.
Resumo A presença de inteligência artificial na saúde vem crescendo, ajudando em diagnósticos e tomadas de decisão, mas suas implicações geram dúvidas relacionadas à ética. Esta revisão sistemática, baseada nas diretrizes Prisma, identificou os usos de inteligência artificial na saúde e suas implicações bioéticas. Foi realizada busca nas bases de dados Science Direct e Scopus usando os descritores "artificial intelligence", "bioethics" e "health". Trabalhos em inglês, publicados entre 2017 e 2021 foram considerados, resultando em 102 artigos. Após aplicação dos critérios estabelecidos, 11 foram selecionados. Os estudos discutiram os princípios bioéticos da beneficência, não maleficência, autonomia e justiça, adicionando o elemento explicabilidade. Inteligência artificial mostrou correlação com imprevisibilidade, previsibilidade, confiança, papel do médico, desenvolvimento de sistemas, privacidade, segurança de dados, e aspectos sociais e financeiros. Desenvolvedores, profissionais da saúde e pacientes devem maximizar os benefícios e limitar os riscos das ferramentas que usam essa tecnologia.
Sujet(s)
Apprentissage machine , MégadonnéesRÉSUMÉ
Objetivo: O Sistema Único de Saúde (SUS) vem investido nas tecnologias da internet das coisas Internet of Things (IoT), em inglês para coletar dados dos pacientes. Esse artigo aponta as fragilidades quanto à privacidade de usuários do SUS e propor uma solução teórica, ainda a ser testada a partir de uma infraestrutura pautada em armazenamento pessoal de dados personal data stores (PDS), em inglês ou, a partir da segurança da blockchain. Metodologia: realizou-se revisão narrativa da literatura nacional e internacional relacionados a instrumentos, políticas e casos voltados a tecnologias de informação e comunicação na saúde a fim de apontar as fragilidades quanto à privacidade de usuários desse sistema. Resultados: percebeu-se que ainda existe uma falta de transparência no tratamento dos dados pessoais e pouco accountability por parte dos cidadãos, se fazendo necessária uma mudança de estratégia tecnológica e de governança. Conclusão: o PDS, de fato, empodera o usuário na medida que dá maior controle e transparência sobre o tratamento de seus dados. No entanto, essa solução, em um sistema como o utilizado pelo Departamento de Informática do SUS, pode comprometer a precisão dos dados usados nas políticas públicas, ao mesmo tempo que pode comprometer alguns direitos dos cidadãos, pois são dados salvos em registros e os metadados estão disponíveis publicamente. A implementação do PDS ainda não possui perspectiva de resultado ótimo. Ainda existem algumas restrições metodológicas quanto aos direitos dos cidadãos ou à eficiência do Estado, mas é um passo no empoderamento civil e uma melhoria exigida por lei quanto à privacidade e à proteção de dados pessoais.
Objective: Brazilian Unified Health System (SUS, in Portuguese) has invested in Internet of Things (IoT) technologies to collect data from patients. This article aims to point out the weaknesses regarding the privacy of users of the SUS and to propose a theoretical solution, yet to be evaluated, and based on a Personal Data Storages (PDS) infrastructure or on blockchain security. Methods: aA narrative review of national and international literature related to instruments, policies, and cases related to information and communication technologies in health was conducted to point out the weaknesses regarding the privacy of users of this system. Results: there is still a lack of transparency in the treatment of personal data and little accountability on the part of citizens, making it necessary to change the technological and governance strategy. Conclusion: PDS empowers users as it gives greater control and transparency over the treatment of data. However, this solution, in a system like the one used by their Computer Department, can compromise the accuracy of the data used in public policies, while it can compromise some citizens' rights, as this data is saved in records and the metadata is publicly available. The implementation of a solution like this does not yet have the prospect of an optimal result, without any methodological restriction on citizens' rights or the efficiency of the State, but it is a step in civil empowerment and an improvement required by law concerning privacy and protection of personal data. The implementation of the PDS does not yet have the prospect of an optimal result. There are still methodological restrictions regarding the rights of citizens or the efficiency of the State. But it is a step in civil empowerment and an improvement required by law in terms of privacy and the protection of personal data.
Objetivo: el Sistema Único de Salud de Brasil (SUS) ha invertido en tecnologías de Internet de las cosas (IoT) para recopilar datos de los pacientes. Este artículo tiene como objetivo señalar las debilidades con respecto a la privacidad de los usuarios del SUS y proponer una solución teórica, aún por probar basada en una infraestructura basada en Personal Data Storages (PDS) o almacenamiento personal de datos, basado en la seguridad de blockchain. Metodología: se realizó una revisión narrativa de la literatura nacional e internacional relacionada con instrumentos, políticas y casos relacionados con las tecnologías de la información y la comunicación en salud con el fin de señalar las debilidades en cuanto a la privacidad de los usuarios de este sistema. Resultados: se notó, entonces, que aún existe falta de transparencia en el tratamiento de estos datos personales y poca rendición de cuentas por parte de la ciudadanía, por lo que es necesario cambiar la estrategia tecnológica y de gobernanza. Conclusión: se concluye que PDS, de hecho, empodera a los usuarios ya que brinda un mayor control y transparencia sobre el tratamiento de sus datos. Sin embargo, esta solución, en un sistema como el utilizado por el Departamento de Computación del SUS, puede comprometer la precisión de los datos utilizados en las políticas públicas, al mismo tiempo que puede comprometer algunos derechos civiles, ya que estos datos se guardan en registros y metadatos están disponibles públicamente. La implementación de una solución como esta todavía no tiene la perspectiva de un resultado óptimo, sin ninguna restricción metodológica sobre los derechos de los ciudadanos o la eficiencia del Estado, pero es un paso en el empoderamiento civil y una mejora requerida por la ley con respecto a la privacidad y protección de datos personales. La implementación del PDS aún no tiene la perspectiva de un resultado óptimo. Aún existen algunas restricciones metodológicas en cuanto a los derechos de los ciudadanos o la eficiencia del Estado. Pero es un paso en el empoderamiento civil y una mejora requerida por la ley en términos de privacidad y protección de datos personales.
RÉSUMÉ
Resumen: El screening mamográfico ha ayudado a identificar el cáncer de mama en sus estadíos más tempranos, cuando los tratamientos son más efectivos. El empleo de la inteligencia artificial (IA) en el análisis de los mamogramas ha demostrado ser capaz de superar la habilidad del ojo humano para detectar lesiones en la mama sospechosas de cáncer. El objetivo del presente trabajo es realizar un aporte reflexivo sobre el avance de la tecnología digital y en particular de la IA en los screening mamográficos, desde el punto de vista técnico y bioético. Se analizan ventajas y limitaciones de la IA, explicando cómo se produce el aprendizaje de los sistemas computacionales. Se propone un debate bioético sobre cuestiones tales como la privacidad, la credibilidad, la responsabilidad y la educación permanente. Se resalta la importancia de establecer canales de diálogo entre todas las partes involucradas en la incorporación de las nuevas tecnologías en medicina.
Abstract: Mammographic screening has helped to identify breast cancer in its earliest stages, when treatment is most effective. The use of Artificial Intelligence in the analysis of mammograms has proved to be able to excel the human eye in detecting lesions in the breast that may be suspicious for cancer. The objective of this study is to make a reflective contribution on the advancement of digital technology and in particular, Artificial Intelligence in mammographic screening, from the technical and bioethical points of view. Advantages and limitations of Artificial Intelligence are analyzed explaining how machine learning occurs. A bioethical debate is proposed on issues such as privacy, credibility, accountability and continuous education. The importance of establishing channels of dialogue between all stakeholders in the incorporation of new technologies in medicine is highlighted.
Resumo: O rastreamento mamográfico ajuda a identificar o câncer de mama em seus estágios iniciais, quando os tratamentos são mais eficazes. O uso da Inteligência Artificial (AI) na análise de mamografias tem se mostrado capaz de superar a capacidade do olho humano em detectar lesões na mama suspeitas de câncer. O objetivo deste trabalho é fazer uma contribuição reflexiva sobre o avanço da tecnologia digital e, em particular, a AI em mamografia, do ponto de vista técnico e bioético. As vantagens e limitações da AI são analisadas explicando como o aprendizado de sistemas computacionais é feito. Propõe-se um debate bioético sobre questões como privacidade, credibilidade, responsabilidade e educação ao longo da vida. Destaca-se a importância do estabelecimento de canais de diálogo entre todas as partes envolvidas na incorporação de novas tecnologias na medicina.
Sujet(s)
Bioéthique , Tumeurs du sein/imagerie diagnostique , Intelligence artificielle/éthique , Mammographie , Dépistage de masseRÉSUMÉ
Objetivo: discutir as implicações bioéticas a partir do anúncio da Saúde Digital por parte da Organização Mundial da Saúde e do uso do big data na produção de sistemas preditivos de vigilância em saúde no Brasil. Metodologia: realizou-se revisão narrativa a partir da busca de artigos nas plataformas Scielo, Bireme, Jstor e na página da Organização Mundial da Saúde e do Ministério da Saúde do Brasil, com os descritores big data, bioética e ética, de maio a julho de 2020. Resultados:foram evidenciados limites no uso do big data como ferramenta de vigilância epidemiológica preditiva, notadamente com o seu uso durante a pandemia de Covid-19, apesar de justificável a partir da teoria da bioética da proteção e da ética da saúde pública. Os maiores limites observados foram ausência de legislação de proteção de dados adequada e viés dos dados obtidos. Conclusão: para análise dos impactos bioéticos do uso do big data na medicina do futuro é imprescindível aprofundar a discussão sobre os possíveis impactos que o uso dessas tecnologias pode gerar na vida em sociedade, com ênfase no desenvolvimento do capitalismo de vigilância, na interferência na vida social e no acirramento das desigualdades regionais.
Objective: to discuss the bioethical implications from the announcement of Digital Health by the World Health Organization and the use of big data in the production of predictive health surveillance systems in Brazil. Methods:conducted a narrative review based on the search for articles on Scielo, Bireme, Jstor platforms and at the World Health Organization and the Brazilian Ministry of Health webpages, with the keywords big data, bioethics and ethics, from May to July 2020. Results: limits were evidenced in the useof big data as an epidemiological forecasting surveillance tool, notably with its use during the Covid-19 pandemic, although justified by the Bioethics of Protection Theory and Public Health Ethics. The greatest limits observed were the absence of adequate data protection legislation and bias in the data obtained. Conclusion:in order to analyze the bioethical impacts of the use of big data in the medicine of the future, it is essential to deepen the discussion on the possible impacts that the use of thesetechnologies can have on life in society, with an emphasis on the development of surveillance capitalism, on interference in life and the intensification of regional inequalities.
Objetivo: discutir las implicaciones bioéticas del anuncio de la Salud Digital por laOrganización Mundial de la Salud y el uso de macrodatos en la producción de sistemas devigilancia predictiva de salud en Brasil. Metodología:se realizó una revisión narrativa a partirde la búsqueda de artículos en las plataformas Scielo, Bireme, Jstor y en la página de laOrganización Mundial de la Salud y el Ministerio de Salud de Brasil, con las palabras clavemacrodatos, bioética y ética, de mayo a julio, 2020. Resultados:se evidenciaron límites enel uso de macrodatos como herramienta de vigilancia epidemiológica predictiva, destacandosu uso durante la pandemia Covid-19, aunque justificado a partir de la teoría de la Bioéticade Protección y la Ética en Salud Pública. Los mayores límites observados fueron laausencia de una legislación de protección de datos adecuada y el sesgo en los datosobtenidos. Conclusión:para analizar los impactos bioéticos del uso de macrodatos en lamedicina del futuro, es fundamental profundizar la discusión sobre los posibles impactos queel uso de estas tecnologías puede tener en la vida en sociedad, con énfasis en el desarrollodel capitalismo de vigilancia, en la interferencia en la vida y la intensificación de lasdesigualdades regionales.
RÉSUMÉ
Resumen: El avance de la tecnología médica, el registro de salud electrónico (EHR, por sus siglas en inglés) y la producción compleja de datos biomoleculares están generando grandes volúmenes de información, en varios formatos y de múltiples fuentes, que se conocen como "Big Data". El análisis integrado de estos datos ha abierto una amplia posibilidad para explorar respuestas a problemas de salud. En pediatría, se han incrementado los estudios se analizan Big Data o se utilizan las herramientas infor máticas que se han desarrollado para analizar estos datos. Los propósitos de esos estudios han sido variados, por ejemplo: en la detección y prevención temprana de una amplia gama de afecciones médicas, mejoramiento de los diagnósticos, para especificar tratamientos o anticipar el resultado de alguna patología, etc. El presente documento tiene como objetivo revisar los conceptos principales involucrados en el análisis de Big Data o en las tecnologías informáticas asociadas, así como también examinar sus aplicaciones, potencialidades y limitaciones actuales. Este estudio se realizó sobre la base de una revisión bibliográfica no sistemática, centrada en el campo de la pediatría. En la selección de los ejemplos de aplicación, se consideró que eran fuentes primarias, publicadas en los últimos cinco años y con poblaciones infanto-juveniles.
Abstract: Medical technology advances, the Electronic Health Record (EHR), and the complex production of biomolecular data are generating large volumes of information, in various formats and from multiple sources, which are known as "Big Data". The integrated analysis of these data has opened up a wide possibility to explore answers related to health problems. In pediatrics, there has been an increase in the studies on Big Data, or the computer tools use that have been developed to analyze these data. The purposes of those studies have been diverse, for example, for earlier detection and prevention of a wide range of medical conditions, improvement of diagnoses, to specify treatments or anticipate the outcome of some pathology and so on. For this reason, this contribution aims to review the main concepts involved in the analysis of Big Data or its related computer technologies, as well as to exa mine their current applications, potentialities, and limitations. This study was carried out based on a non-systematic bibliographical review, focused on the field of pediatrics. In the selection of applica tion examples, it was considered that they were primary sources, published in the last five years and with child and youth populations.