Identifying performance indicators for family practice: assessing levels of consensus

Can Fam Physician. 2005 May;51(5):700-1.

Abstract

Objective: To identify performance indicators for family practice that focus on organizational structures and clinical processes of care, to review evidence linking indicators to patient outcomes, to have providers select indicators they consider important for performance assessment, and to obtain provider views on challenges to developing a performance assessment system.

Design: Review of published and unpublished literature and contact with international experts resulted in a list of 131 structure and process indicators and associated evidence. This information was used in a two-round modified Delphi consensus process, which was followed by interviews with each of the 12 consensus panel members.

Setting: Ontario family practices.

Participants: Eleven family physicians and one nurse practitioner from Ontario.

Main outcome measures: Survey package with 131 indicators and associated evidence was mailed to panel members who rated each of the indicators on a Likert scale from 1 (not at all important for performance assessment) to 9 (essential for performance assessment). Interviews were conducted with panel members to discuss indicator feasibility and data sources. Consensus score and median importance score for each indicator were main outcome measures; interviews identified barriers to performance assessment.

Results: Fifty-one indicators achieved high consensus, 19 moderate consensus, and 38 low consensus. Clinical indicators that reached a high level of consensus were generally supported by grade A or B recommendations and level I to III evidence. Clinical indicators that achieved moderate consensus often had fair support in the literature. Low consensus was mainly associated with fair or equivocal evidence. During follow-up interviews, consensus panel members voiced frustration with inconsistencies in the evidence and practice guidelines upon which indicators are often based, and with poor transfer of patient information between health care providers. Lack of detail in patient care documentation and inconsistent documentation were mentioned frequently as threats to data quality.

Conclusion: Despite challenges to performance measurement noted by the panel, study results support the continued development, refinement, and testing of primary care performance indicators.

OBJECTIF: Identifier pour la médecine familiale les indicateurs de performance concernant notamment les structures organisationnelles et les processus cliniques de soins, relever les données qui relient ces indicateurs aux issues des patients, demander aux soignants de choisir les indicateurs qu’ils jugent importants pour cette évaluation et leur demander ce qu’ils pensent du défi que représente l’établissement d’un tel système d’évaluation.

TYPE D’ÉTUDE: Grâce à un relevé de la littérature publiée ou non et à des contacts avec des experts internationaux, une liste de 131 indicateurs portant sur les structures et les processus a été établie, incluant leurs données probantes. Cette information a été utilisée dans un processus consensuel Delphi modifié en deux étapes, suivi d’entrevues individuelles avec les membres du panel.

CONTEXTE: Milieux de pratique familiale de l’Ontario.

PARTICIPANTS: Onze médecins de famille et une infirmière soignante de l’Ontario.

PRINCIPAUX PARAMÈTRES ÉTUDIÉS: Les 131 indicateurs et les données probantes correspondantes ont été postés aux membres du panel, qui devaient les coter sur une échelle de Likert allant de 1 (aucunement important pour l’évaluation) à 9 (essentiel à l’évaluation). La faisabilité des indicateurs et la provenance des données associées ont été discutées avec les membres du panel au cours d’entrevues. Pour chaque indicateur, les principaux paramètres étudiés étaient le score de consensus et le score médian pour l’importance; les entrevues ont aussi permis d’identifier les obstacles à l’évaluation.

RÉSULTATS: Le consensus était élevé pour 51 indicateurs, moyen pour 19 et bas pour 38 autres. Les indicateurs cliniques de consensus élevé étaient généralement appuyés par des recommandation de catégorie A ou B et par des preuves de niveau I à III. Ceux de consensus moyen étaient relativement bien appuyés par la littérature. Les consensus bas étaient surtout reliés à des données passables ou équivoques. Au cours des entrevues, les membres du panel se sont dits frustrés du manque de cohérence entre les données et les directives de pratique sur lesquelles sont basés les indicateurs et du manque de communication de l’information clinique entre les soignants. On a fréquemment souligné que le manque de détails et les contradictions dans les dossiers constituaient une menace à la qualité des données.

CONCLUSION: Malgré les obstacles à l’évaluation de la performance signalés par le panel, les résultats de cette étude indiquent qu’il faut poursuivre le développement, l’amélioration et l’évaluation des indicateurs de performance pour les soins primaires.

Publication types

  • Research Support, Non-U.S. Gov't

MeSH terms

  • Consensus
  • Delphi Technique
  • Family Practice / organization & administration*
  • Family Practice / standards*
  • Guideline Adherence
  • Humans
  • Ontario
  • Outcome and Process Assessment, Health Care*
  • Practice Guidelines as Topic
  • Program Development
  • Quality Indicators, Health Care / statistics & numerical data*