Interobserver reliability in the interpretation of three-dimensional gait analysis in children with gait disorders

Dev Med Child Neurol. 2019 Jun;61(6):710-716. doi: 10.1111/dmcn.14051. Epub 2018 Oct 15.

Abstract

Aim: To assess interobserver reliability in the interpretation of three-dimensional gait analysis (3DGA) of children with gait disorders within a single institution.

Method: Seven experienced interpreters in our institution participated in a quality-assurance program reviewing one unique patient's 3DGA data every 3 months. Between 2014 and 2017, 15 patients' data were interpreted (14 with spastic cerebral palsy, 1 with myelodysplasia). Interpreters were asked to select 'yes', 'no', or 'indeterminate' from a list of problems and treatment recommendations. Kappa and percent agreement calculations were performed to evaluate consistency.

Results: Average percentage agreement in problem identification and treatment recommendation was greater than 84 percent and 90 percent for all interpreters respectively. Average kappa for the 10 most consistently identified problems and recommended treatments were 0.69 and 0.59 respectively. Interpreter consistency was moderate or better for the most commonly performed operations at our institution (0.44-0.59). Sagittal plane abnormalities of the hip and knee had the highest consistency.

Interpretation: When institutional differences in data collection and regional variations in management philosophies are removed, interobserver consistency in 3DGA interpretation is moderate to substantial for many commonly selected items. Identification of areas with poor consistency may help address underlying causes and improve data processes.

What this paper adds: Consistency in three-dimensional gait analysis interpretation and treatment recommendation is high within a single institution. There is moderate or better consistency for most commonly identified problems and recommended treatments. Sagittal plane problem identification of the hip and knee have the highest consistency. Lower consistency is seen in areas with poor objective measures, such as dystonia and balance.

FIABILIDAD INTEREVALUADOR EN LA INTERPRETACIÓN DEL ANÁLISIS TRIDIMENSIONAL DE LA MARCHA EN NIÑOS CON TRASTORNOS DE LA MARCHA: OBJETIVO: Evaluar la fiabilidad interevaluador en la interpretación del análisis tridimensional de la marcha de niños con trastornos de la marcha, pertenecientes a una institución. MÉTODO: Siete evaluadores de la institución con experiencia participaron en un programa de aseguramiento de calidad, revisando los datos del análisis tridimensional de la marcha de un único paciente cada 3 meses. Entre 2014 y 2017, se interpretaron los datos de 15 pacientes (14 con parálisis cerebral espástica, 1 con mielodisplasia). Se solicitó a los intérpretes seleccionar “sí”, “no”, o “indeterminado” frente a una lista de problemas y recomendaciones de tratamiento. Se calculó el coeficiente de Kappa y el porcentaje de acuerdo, para evaluar la consistencia. RESULTADOS: El porcentaje de acuerdo promedio en la identificación de problemas y recomendaciones de tratamiento fue mayor que 8% y 90% para todos los intérpretes, respectivamente. El coeficiente de Kappa promedio para los 10 problemas y recomendaciones de tratamiento más identificados fue 0,69 y 0,59, respectivamente. La consistencia de intérpretes fue moderada o mejor para las operaciones más frecuentemente realizadas en nuestra institución (0,44-0,59). Los defectos en el plano sagital de la cadera y rodilla tuvieron la mayor consistencia. INTERPRETACIÓN: Cuando se elimina las diferencias en la recolección de datos y en las variaciones regionales de filosofías de manejo, la consistencia interobservador en la interpretación del análisis tridimensional de la marcha es moderada a buena, para las categorías seleccionadas más frecuentes. La identificación de áreas con baja consistencia podría ayudar a abordar causas subyacentes y mejorar el procesamiento de los datos.

CONFIABILIDADE INTER-EXAMINADORES NA INTERPRETAÇÃO DE ANÁLISE TRIDIMENSIONAL DA MARCHA EM CRIANÇAS COM DESORDENS DA MARCHA: OBJETIVO: Avaliar a confiabilidade inter-examinadores na interpretação de análise tridimensional da marcha (A3DM) em crianças com desordens de marcha de um único instituto. MÉTODO: Sete intérpretes experientes de nossa instituição participaram de um programa de avaliação de qualidade revisando os dados de A3DM de um único paciente a cada 3 meses. Entre 2014 e 2017, os dados de 15 pacientes foram intepretados (14 com paralisia cerebral espástica, 1 com mielodisplasia). Os intérpretes foram solicitados a selecionar “sim”, “não”, ou “indeterminado” a partir de uma lista de problemas e recomendações de tratamento. Cálculos de concordância kappa e porcentagens foram realizados para avaliar a consistência. RESULTADOS: A porcentagem média de concordância na identificação de um problema e recomendação de tratamento foi maior do que 84% e 90% para todos os intérpretes, respectivamente. O kappa médio para os 10 problemas mais consistentemente identificados e tratamentos mais recomendados foi 0,69 e 0,59, respectivamente. A consistência dos intérpretes foi moderada ou melhor para as operações mais comumente realizadas em nossa instituição (0,44-0,59). Anormalidades no plano sagital do quadril e joelho tiveram a maior consistência. INTERPRETAÇÃO: Quando diferenças institucionais na coleta de dados, e variações regionais em filosofias de manejo são removidas, a consistência inter-examinadores da interpretação da A3DM é de moderada a substancial para muitos dos itens comumente selecionados. A identificação de áreas com pobre consistência pode ajudar a abordar causas e melhorar processos de dados.

MeSH terms

  • Adolescent
  • Cerebral Palsy / complications
  • Child
  • Child, Preschool
  • Female
  • Gait Analysis / methods
  • Gait Analysis / standards*
  • Gait Disorders, Neurologic / diagnosis*
  • Gait Disorders, Neurologic / etiology
  • Humans
  • Male
  • Myelodysplastic Syndromes / complications
  • Reproducibility of Results