Psychometric Evaluation of the Cardiology Certification Exam of the Brazilian Society of Cardiology. / Avaliação Psicométrica da Prova de Título de Especialista em Cardiologia da Sociedade Brasileira de Cardiologia.

BACKGROUND: The Cardiology Certification Exam is issued annually by the Brazilian Cardiology Society and set and applied by the Judging Committee for the Cardiologist Title (CJTEC). The psychometric analysis of the exam items using the Item Response Theory (IRT) may provide robust data that can help in the continuous improvement of this instrument. OBJECTIVES: To evaluate the psychometric properties of the 2019 Cardiology Certification Exam in relation to the IR parameters. METHODS: This was an observational study, with psychometric analysis of the 120 questions of the exam taken by 1,120 candidates for the title of Cardiologist in 2019. RESULTS: The IRT analysis revealed that 32.2% of the items had a "high" or "very high" discriminating power, 49.2% were categorized as "easy" or "very easy", and 41.5% showed a high probability of a correct guessing. Sixty-nine deficient items in terms of the IRT parameters were identified, which were then considered poorly effective in evaluating the candidate's ability. CONCLUSIONS: The psychometric analysis of the 2019 Cardiology Certification Exam by the IRT revealed a high percentage of easy questions, with nearly two thirds of the items with a high probability of correct guessing. These data may serve as a basis for a series of discussions and proposals for the elaboration of future certificate exams in Cardiology.

FUNDAMENTO: A Sociedade Brasileira de Cardiologia promove anualmente a prova para obtenção do título de especialista em Cardiologia, sendo a Comissão Julgadora do Título de Especialista em Cardiologia responsável pela sua organização e aplicação. A análise psicométrica dos itens de uma prova, por meio da Teoria de Resposta ao Item (TRI) pode fornecer informações robustas e contribuir para o aprimoramento contínuo dessa avaliação. OBJETIVOS: Avaliar as propriedades psicométricas da prova do Título de Especialista em Cardiologia no ano de 2019, em relação aos parâmetros da TRI. MÉTODOS: Estudo observacional, com a análise psicométrica das 120 questões da prova realizada por 1120 (mil cento e vinte) candidatos para a obtenção do título de especialista em Cardiologia, no ano de 2019. RESULTADOS: A análise da prova pela TRI mostrou 32,2% dos itens com poder de discriminação "alto" ou "muito alto", 49,2% dos itens categorizados como "fácil" ou "muito fácil" e 41,5% apresentavam alta probabilidade de acerto ao acaso . Foram identificados 69 itens com problemas em relação aos parâmetros da TRI e, portanto, com baixo poder de avaliar a proficiência do candidato. CONCLUSÕES: A análise psicométrica da prova de título de Especialista em Cardiologia pela TRI demonstrou um alto percentual de questões fáceis, com cerca de dois terços dos itens com alta probabilidade de acerto ao acaso. Esses dados poderão desencadear uma série de discussões e propostas para a construção das futuras provas em cardiologia.

Teaching of Clinical Reasoning Guided by Illness Script Theory. / Ensino do Raciocínio Clínico Orientado pela Teoria dos Scripts de Doenças.

BACKGROUND: Teaching of clinical reasoning (CR) can be facilitated by educational strategies guided by illness script theory. OBJECTIVE: To evaluate the effects of an educational strategy guided by illness script theory on the diagnostic accuracy of chest pain in medical students. METHODS: Experimental study in 3 phases, with 18 third-year medical students completing phase 3. Phases 1 and 2 had 27 students. In phase 1, each participant solved 8 clinical cases (6 of chest pain and 2 distractors). In phase 2, participants were divided into 2 groups, which distinctly trained 3 of the chest pain diagnoses from phase 1. In phase 3, after 1 week, each participant solved 8 new cases, with the same diagnoses as phase 1. Case resolution time and diagnostic accuracy were evaluated. The significance level adopted for statistical analysis was p < 0.05. RESULTS: In phase 3, both groups showed improved diagnostic accuracy and reduced case resolution time for the trained diagnoses, with no transfer of learning. For these diagnoses, the diagnostic accuracy scores in phases 1 and 3 were: group 1 = 1.00, IQR [0.00 to 1.00] versus 2.00, IQR [2.00 to 2.50], p = 0.017 and group 2 = 1.00, IQR [0.66 to 1.17] versus 3.00, IQR [1.33 to 3.00], p = 0.006. Case resolution times in seconds were: group 1: 485, IQR [450 to 583] versus 318, IQR [284 to 418], p = 0.027 and group 2: 655, IQR [543 to 740] versus 408, IQR [337 to 569], p = 0.010. CONCLUSION: The proposed strategy seems to contribute to improved diagnostic accuracy, and it may be considered for teaching CR.

FUNDAMENTO: O ensino do raciocínio clínico (RC) pode ser facilitado por estratégias educacionais orientadas pela teoria dos scripts de doenças (SD). OBJETIVO: Avaliar o efeito de uma estratégia educacional guiada pela teoria dos SD na acurácia diagnóstica (AD) da dor torácica (DT) em estudantes de medicina. MÉTODOS: Estudo experimental em 3 fases, com 18 estudantes do 3º ano concluindo a fase 3, visto que as fases 1 e 2 tiveram 27 alunos. Na fase 1, cada participante resolveu 8 casos clínicos (6 de DT e 2 distratores). Na fase 2,os participantes foram divididos em 2 grupos, que treinaram distintamente 3 dos diagnósticos de DT da fase 1.Na fase 3, após uma semana, cada participante resolveu 8 novos casos, com os mesmos diagnósticos da fase 1.O tempo de resolução dos casos (TRC) e a AD foram avaliados. O nível de significância adotado na análise estatística foi p < 0,05. RESULTADOS: Na fase 3, foram observadas melhora da AD e redução do TRC para os diagnósticos treinados em ambos os grupos, não ocorrendo transferência de aprendizagem. Para esses diagnósticos, os escores de AD nas fases 1 e 3 foram: grupo 1 = 1,00, IIQ [0,00-1,00] versus 2,00, IIQ [2,00-2,50]; p = 0,017 e grupo 2 = 1,00, IIQ [0,66-1,17] versus 3,00, IIQ [1,33-3,00]; p = 0,006. O TRC em segundos foram: Grupo 1: 485, IIQ [450-583] versus 318, IIQ [284-418]; p = 0,027 e grupo 2: 655, IIQ [543-740] versus 408, IIQ [337-569]; p = 0,010. CONCLUSÃO: A estratégia parece contribuir para melhora da AD e pode ser considerada para o ensino do RC.

Avaliação Psicométrica da Prova de Título de Especialista em Cardiologia da Sociedade Brasileira de Cardiologia / Psychometric Evaluation of the Cardiology Certification Exam of the Brazilian Society of Cardiology

Resumo Fundamento A Sociedade Brasileira de Cardiologia promove anualmente a prova para obtenção do título de especialista em Cardiologia, sendo a Comissão Julgadora do Título de Especialista em Cardiologia responsável pela sua organização e aplicação. A análise psicométrica dos itens de uma prova, por meio da Teoria de Resposta ao Item (TRI) pode fornecer informações robustas e contribuir para o aprimoramento contínuo dessa avaliação. Objetivos Avaliar as propriedades psicométricas da prova do Título de Especialista em Cardiologia no ano de 2019, em relação aos parâmetros da TRI. Métodos Estudo observacional, com a análise psicométrica das 120 questões da prova realizada por 1120 (mil cento e vinte) candidatos para a obtenção do título de especialista em Cardiologia, no ano de 2019. Resultados A análise da prova pela TRI mostrou 32,2% dos itens com poder de discriminação "alto" ou "muito alto", 49,2% dos itens categorizados como "fácil" ou "muito fácil" e 41,5% apresentavam alta probabilidade de acerto ao acaso . Foram identificados 69 itens com problemas em relação aos parâmetros da TRI e, portanto, com baixo poder de avaliar a proficiência do candidato. Conclusões A análise psicométrica da prova de título de Especialista em Cardiologia pela TRI demonstrou um alto percentual de questões fáceis, com cerca de dois terços dos itens com alta probabilidade de acerto ao acaso. Esses dados poderão desencadear uma série de discussões e propostas para a construção das futuras provas em cardiologia.

Abstract Background The Cardiology Certification Exam is issued annually by the Brazilian Cardiology Society and set and applied by the Judging Committee for the Cardiologist Title (CJTEC). The psychometric analysis of the exam items using the Item Response Theory (IRT) may provide robust data that can help in the continuous improvement of this instrument. Objectives To evaluate the psychometric properties of the 2019 Cardiology Certification Exam in relation to the IR parameters. Methods This was an observational study, with psychometric analysis of the 120 questions of the exam taken by 1,120 candidates for the title of Cardiologist in 2019. Results The IRT analysis revealed that 32.2% of the items had a "high" or "very high" discriminating power, 49.2% were categorized as "easy" or "very easy", and 41.5% showed a high probability of a correct guessing. Sixty-nine deficient items in terms of the IRT parameters were identified, which were then considered poorly effective in evaluating the candidate's ability. Conclusions The psychometric analysis of the 2019 Cardiology Certification Exam by the IRT revealed a high percentage of easy questions, with nearly two thirds of the items with a high probability of correct guessing. These data may serve as a basis for a series of discussions and proposals for the elaboration of future certificate exams in Cardiology.

Ensino do Raciocínio Clínico Orientado pela Teoria dos Scripts de Doenças / Teaching of Clinical Reasoning Guided by Illness Script Theory

Resumo Fundamento O ensino do raciocínio clínico (RC) pode ser facilitado por estratégias educacionais orientadas pela teoria dos scripts de doenças (SD). Objetivo Avaliar o efeito de uma estratégia educacional guiada pela teoria dos SD na acurácia diagnóstica (AD) da dor torácica (DT) em estudantes de medicina. Métodos Estudo experimental em 3 fases, com 18 estudantes do 3º ano concluindo a fase 3, visto que as fases 1 e 2 tiveram 27 alunos. Na fase 1, cada participante resolveu 8 casos clínicos (6 de DT e 2 distratores). Na fase 2,os participantes foram divididos em 2 grupos, que treinaram distintamente 3 dos diagnósticos de DT da fase 1.Na fase 3, após uma semana, cada participante resolveu 8 novos casos, com os mesmos diagnósticos da fase 1.O tempo de resolução dos casos (TRC) e a AD foram avaliados. O nível de significância adotado na análise estatística foi p < 0,05. Resultados Na fase 3, foram observadas melhora da AD e redução do TRC para os diagnósticos treinados em ambos os grupos, não ocorrendo transferência de aprendizagem. Para esses diagnósticos, os escores de AD nas fases 1 e 3 foram: grupo 1 = 1,00, IIQ [0,00-1,00] versus 2,00, IIQ [2,00-2,50]; p = 0,017 e grupo 2 = 1,00, IIQ [0,66-1,17] versus 3,00, IIQ [1,33-3,00]; p = 0,006. O TRC em segundos foram: Grupo 1: 485, IIQ [450-583] versus 318, IIQ [284-418]; p = 0,027 e grupo 2: 655, IIQ [543-740] versus 408, IIQ [337-569]; p = 0,010. Conclusão A estratégia parece contribuir para melhora da AD e pode ser considerada para o ensino do RC.

Abstract Background Teaching of clinical reasoning (CR) can be facilitated by educational strategies guided by illness script theory. Objective To evaluate the effects of an educational strategy guided by illness script theory on the diagnostic accuracy of chest pain in medical students. Methods Experimental study in 3 phases, with 18 third-year medical students completing phase 3. Phases 1 and 2 had 27 students. In phase 1, each participant solved 8 clinical cases (6 of chest pain and 2 distractors). In phase 2, participants were divided into 2 groups, which distinctly trained 3 of the chest pain diagnoses from phase 1. In phase 3, after 1 week, each participant solved 8 new cases, with the same diagnoses as phase 1. Case resolution time and diagnostic accuracy were evaluated. The significance level adopted for statistical analysis was p < 0.05. Results In phase 3, both groups showed improved diagnostic accuracy and reduced case resolution time for the trained diagnoses, with no transfer of learning. For these diagnoses, the diagnostic accuracy scores in phases 1 and 3 were: group 1 = 1.00, IQR [0.00 to 1.00] versus 2.00, IQR [2.00 to 2.50], p = 0.017 and group 2 = 1.00, IQR [0.66 to 1.17] versus 3.00, IQR [1.33 to 3.00], p = 0.006. Case resolution times in seconds were: group 1: 485, IQR [450 to 583] versus 318, IQR [284 to 418], p = 0.027 and group 2: 655, IQR [543 to 740] versus 408, IQR [337 to 569], p = 0.010. Conclusion The proposed strategy seems to contribute to improved diagnostic accuracy, and it may be considered for teaching CR.

Avaliação psicométrica da prova de título de especialista em cardiologia da Sociedade Brasileira de Cardiologia / Psychometric Evaluation of the Test for the Title of Specialist in Cardiology of the Brazilian Society of Cardiology

Introdução: A certificação profissional está cada vez mais presente no currículo médico, seja por exigências do mercado, seja por demandas jurídicas. Após longa jornada inicial para a formação, o médico pode escolher entre dois caminhos para obter o título de especialista, uma residência ou uma especialização médica, desde que chanceladas por entidades oficiais. Nesse último modelo, o médico precisa, após a conclusão da especialização, realizar uma prova para a obtenção do título de especialista. A Sociedade Brasileira de Cardiologia, com o auxílio da Comissão Julgadora do Título de Especialista em Cardiologia, promove, anualmente, uma prova com essa finalidade. Em relação à elaboração de itens, até o presente estudo, não havia sido feita nenhuma avaliação psicométrica da prova do Título de Especialista em Cardiologia (TEC), tendo em vista a Teoria Clássica dos Testes (TCT) e a Teoria de Resposta ao Item (TRI). Essas teorias buscam, de forma técnica, avaliar a qualidade dos itens envolvidos em um teste e, de forma estatística, mostram um perfil do teste em relação a grau de dificuldade, poder de discriminação e possibilidade de acertos ao acaso ("chute"), o que nos permite uma análise crítica da qualidade da prova realizada. Objetivos: Avaliar as propriedades psicométricas da prova do TEC no ano de 2019, em relação aos parâmetros da TCT e da TRI . Materiais e métodos: Estudo observacional, com a análise psicométrica das 120 questões da prova realizada por 1120 (mil cento e vinte) candidatos para a obtenção do título de especialista em Cardiologia, no ano de 2019. Resultados: A análise pela TCT demonstrou que a prova apresenta boa distribuição dos itens em relação ao grau de dificuldade, com uma tendência para maior facilidade. Pela TRI, foi possível verificar que, das 118 questões avaliadas, apenas 49 (41,5%) possuem um fator satisfatório de discriminação. Conclusão: Os resultados deste estudo apresentam uma visão inédita da prova do TEC e, para as entidades oficiais que organizam a prova, poderão desencadear uma série de discussões e propostas para as futuras construções de provas no âmbito da cardiologia e das demais especialidades médicas

Introduction: Professional certification is increasingly present in the medical curriculum, ei-ther due to market demands or due to legal demands. After a long initial journey to training, doctors can choose between two paths to obtain the title of specialist, a residency program or a medical specialization, provided they are certified by official entities. In the latter, upon completing the specialization, the doctor must perform a test to obtain the title of specialist. The Brazilian Society of Cardiology, with the assistance of the Judging Panel on Cardiology Specialist Titles, promotes annually a test for this purpose. Regarding the elaboration of items, until the present study, there had been no psychometric evaluation of the test for the Title of Specialist in Cardiology (TSC), considering the Classical Test Theory (CTT) and the Item Re-sponse Theory (IRT). These theories seek, in a technical way, to evaluate the quality of the items involved in a test and, statistically, yield a profile of the test regarding the degree of difficulty, power of discrimination, and possibility of scoring due to guessing, which allows us to critically analyze the quality of the test performed. Objectives: To evaluate the psycho-metric properties of the TEC test in 2019, considering the CTT and IRT parameters. Materials and methods: Observational study, with the psychometric analysis of the 120 questions of the test performed by 1,120 (one thousand and one hundred and twenty) candidates to obtain the Title of Specialist in Cardiology, in the year 2019. Results: The analysis using CTT demonstrated that the test presents a good distribution of the items regarding the degree of difficulty, with a tendency towards ease. Through the IRT, it was possible to verify that, of the 118 questions evaluated, only 49 (41.5%) have a satisfactory discrimination parameter. Conclusion: The results of this study present an unprecedented view of the TEC test and, for the official entities that organize the test, they may trigger a series of discussions and pro-posals for the future elaboration of tests in the scope of Cardiology and other medical special-ties