martes, 24 de marzo de 2009

Las Evaluaciones Educativas que América Latina Necesita III

LOS PROPÓSITOS Y LOS USOS DE LOS RESULTADOS DE LAS EVALUACIONES ESTANDARIZADAS
Sea en la implementación de un sistema de evaluación o en su reforma, es necesario considerar algunas opciones básicas de acuerdo a lo que se espera de él.

El primer paso es definir cuál será el propósito del sistema de evaluación y para qué se usarán sus resultados

Es preciso considerar diversas opciones, que no son necesariamente excluyentes. Un sistema puede combinar varias de ellas, pero es importante tener conciencia de que cada opción requiere de un determinado diseño y tiene exigencias técnicas y de costos diferentes. Se debe analizar si el sistema nacional de evaluación será:
  • de carácter diagnóstico (para alumnos, escuelas o sistema educativo), sin consecuencias directas para los estudiantes, cuya finalidad principal es enriquecer con información de calidad las percepciones, decisiones y acciones de diversos actores del sistema –autoridades y cuerpos técnicos, supervisores, directivos, docentes, estudiantes y sus familias– para mejorar la enseñanza y el aprendizaje.
  • de certificación de los logros educativos de los estudiantes, cuyo propósito central es establecer quiénes han alcanzado los conocimientos y desempeños necesarios para aprobar un curso o nivel y, en consecuencia, aprueba o reprueba.


Es necesario también establecer un adecuado balance entre la implementación de pruebas nacionales y la participación en pruebas internacionales


Las pruebas nacionales pueden ofrecer una mirada más apropiada acerca de qué aprenden los estudiantes de aquello que se les está enseñando, mientras que las pruebas internacionales pueden servir para ubicar la situación del país en relación a lo que saben y son capaces de hacer los estudiantes en otras sociedades y enriquecer el debate sobre el currículo nacional y el enfoque de la enseñanza. Los países deberían analizar cuidadosamente en qué pruebas internacionales participar, teniendo en cuenta lo que cada una pretende evaluar y su pertinencia en relación a los objetivos nacionales. Parece recomendable participar periódicamente en al menos una evaluación regional o internacional, en el marco de la política de prioridades que cada país defina.


Evaluaciones para la certificación de los aprendizajes de los estudiantes

Un sistema de evaluación para certificar los aprendizajes de los estudiantes a través de exámenes nacionales de alta calidad técnica tiene ventajas asociadas a la transparencia y responsabilidad por los resultados


Hoy es común que dos estudiantes que han aprobado un mismo nivel educativo en dos regiones distintas de un país, posean en realidad niveles de conocimiento muy diferentes. Los sistemas de evaluación para la certificación dan transparencia al valor de los certificados educativos ante la sociedad. Además, dichos sistemas hacen responsables tanto a los docentes como a los propios estudiantes por alcanzar los conocimientos y capacidades que evalúa el examen, lo cual tiene impactos positivos sobre el aprendizaje. En todo caso, la evaluación externa con propósitos de certificación es más apropiada para los ciclos superiores del sistema educativo, sobre todo hacia el final de la educación media.


Un sistema de evaluación para la certificación implica algunos requerimientos que son costosos


Por una parte, las pruebas deben ser de carácter censal y cada estudiante debe tener más de una oportunidad para rendirla, lo cual requiere implementar varios operativos de evaluación cada año. Por otra parte, las pruebas deben tener una amplia cobertura curricular, lo cual requiere que sean extensas, en lo posible con preguntas de respuesta construida (que tienen un importante costo de codificación) y deben abarcar varias asignaturas o disciplinas.


Un sistema de evaluación para la certificación puede generar tensiones importantes que es necesario anticipar

Si las pruebas son exigentes, ello puede conducir a niveles de reprobación muy altos, que afectarían principalmente a los sectores sociales más vulnerables y podrían agudizar problemas como la deserción y el desempleo juvenil, lo cual las haría insostenibles desde el punto de vista social y político. Por ello, es preciso acompañar este tipo de evaluaciones (en realidad todo tipo de evaluaciones, pero estas en particular) con acciones pedagógicas de carácter complementario y compensatorio. Proponer estándares altos implica asumir responsabilidad sistémica por proporcionar todas las oportunidades para aprender: textos, materiales, instalaciones y preparación de maestros, entre otros. Existen diversos caminos para enfrentar este problema:

  • Establecer que la evaluación estandarizada constituya solo una parte del proceso de certificación de aprendizajes de los estudiantes (por ejemplo, el 40% de su calificación final). El resto de la nota correspondería a las evaluaciones que realizan los docentes a cargo de los estudiantes. Si bien en este caso se mantiene el problema respecto a la heterogeneidad de los criterios de evaluación empleados por los docentes, es una forma de combinar la evaluación externa y la interna, e incluso de aportar a los docentes una mirada externa que les permita reflexionar sobre sus propios criterios.
  • Establecer un periodo de transición hacia estándares únicos y universalmente aplicables. Durante dicho período, el foco principal se centra en la mejoría o progreso de los estudiantes de cada escuela respecto a su situación anterior, y no únicamente en el cumplimiento del estándar absoluto de certificación.


La peor respuesta que podría darse a este problema sería establecer un porcentaje fijo de reprobación, por ejemplo, no debe reprobar más del 10% de los estudiantes. Ello implica utilizar pruebas más fáciles y, por lo tanto, enviar a estudiantes, familias y educadores una señal equivocada respecto a las expectativas de aprendizaje.


Evaluaciones de carácter diagnóstico y formativo


Un sistema de evaluación de tipo formativo y sin consecuencias directas para los estudiantes tiene ventajas en términos de costos, posibilidades de diseño y de establecimiento de estándares altos, y aporte a una cultura de evaluación


Los costos de aplicación de estas pruebas pueden ser menores, dado que pueden hacerse en base a muestras y aplicarse solo en algunos grados claves y cada cierto número de años. Por otra parte, las pruebas pueden diseñarse con carácter matricial, en que no todos los estudiantes responden a las mismas preguntas sino a bloques de las mismas, lo cual permite trabajar con una cantidad muy grande de preguntas y obtener un análisis más detallado de los distintos aspectos del currículo. Estos sistemas permiten definir estándares o niveles de expectativa exigentes sin que ello produzca un fracaso generalizado. Asimismo, ayudan a construir una cultura de la evaluación y a acumular capacidad técnica, de modo que, cuando se analice la posibilidad de establecer un sistema con consecuencias, existan las condiciones para hacerlo apropiadamente. Una de las alternativas a considerar entre los usos de carácter formativo es la de “liberar” una prueba completa para que sea aplicada en forma autónoma por parte de los maestros, con el fin de ayudarles a identificar dificultades de alumnos individuales y de enriquecer su repertorio de instrumentos de evaluación.


El principal problema de estas evaluaciones es que pueden carecer de impacto si no se toman algunas acciones complementarias


Las evaluaciones de carácter diagnóstico y formativo pueden resultar intrascendentes si no van acompañadas de una estrategia precisa y de una inversión importante para asegurar la divulgación de los resultados y su uso en acciones educativas posteriores, puesto que su efectividad se juega en que los diferentes actores reciban, comprendan y utilicen los resultados. Por esto hay que tener presente que:

  • Para que los resultados de este tipo de evaluaciones tengan impacto sobre las políticas educativas, se debe invertir tiempo en el análisis y discusión de los mismos por parte de diversas áreas del Ministerio de Educación y otros actores relevantes, en la comprensión de los problemas y deficiencias que los resultados ponen de manifiesto y en la concepción de acciones e inversiones apropiadas para hacerles frente. Las autoridades deben estar dispuestas a someter sus políticas y decisiones al escrutinio de la ciudadanía, para lo cual es necesario también invertir en la comunicación apropiada y permanente de los resultados a la opinión pública.
  • Para que los resultados tengan impacto sobre las prácticas de enseñanza, es imprescindible asimismo invertir tiempo en el análisis e interpretación de sus implicancias didácticas: si los estudiantes no son capaces de resolver cierto tipo de situaciones, ¿qué es lo que se está haciendo de manera insuficiente o inapropiada en las aulas y qué es lo que se debería hacer? Este tipo de análisis debe ser realizado tanto por especialistas en la didáctica de las áreas evaluadas como por los docentes, creando para este último efecto espacios permanentes y sistemáticos de formación en servicio y de trabajo colectivo al interior de las escuelas. Es muy importante que los maestros puedan analizar la mayor cantidad posible de ítemes para poder identificar cuáles revelan un bloqueo importante para el desarrollo de nuevos conceptos o capacidades. Sin embargo, siempre será necesario conservar el carácter confidencial de una parte de los ítems para poder realizar mediciones comparables en el tiempo.
  • Para que los resultados tengan impacto sobre la motivación de los estudiantes y sobre la actitud de las familias hacia el aprendizaje escolar, es necesario proveerles de información apropiada y comprensible acerca de lo que se considera imprescindible haber aprendido en cada grado o nivel educativo y de las acciones que pueden contribuir al logro de dichos aprendizajes.

Evaluar con una perspectiva ampliada

Es muy importante que las pruebas no se limiten a evaluar los conocimientos y competencias correspondientes a un único grado (aquel en que se aplica la evaluación), sino que incluyan una perspectiva más amplia de niveles de desempeño –desde más básicos a más complejos– a lo largo de varios grados, de modo de identificar qué han aprendido los estudiantes en grados anteriores y qué necesitan ahora. De este modo, los docentes podrán constatar y subsanar las deficiencias en los aprendizajes de cursos previos, que impiden a los estudiantes continuar avanzando y los resultados serán útiles no sólo para los docentes del grado evaluado, sino también para los de grados anteriores. El énfasis no estará puesto en comunicar a los docentes que los estudiantes “aprueban” o “desaprueban”, sino en comunicar que están en diferentes puntos de un continuo de aprendizaje, en el que todos pueden y necesitan progresar.


Las pruebas de tipo diagnóstico pueden tener carácter muestral o censal, dependiendo de la estrategia de cambio educativo

El carácter censal o muestral tiene diversas implicancias, aunque también es posible combinar una aplicación por muestras controlada con una distribución censal de las pruebas para su aplicación en forma autónoma por parte de las escuelas, con fines formativos y de análisis de resultados e identificación de estudiantes que necesitan apoyos complementarios.

  • Las pruebas a base de muestras sirven para tener un diagnóstico global del sistema. Requieren de un cuidadoso diseño de la muestra, de modo de obtener información representativa para los niveles de desagregación en los que se desee actuar y tomar decisiones (regional, provincial, municipal; urbano y rural; escuelas indígenas, etc.). El impacto de los resultados de estas pruebas depende principalmente de las medidas de política educativa que se tomen a nivel central y de una estrategia de difusión apropiada que llegue a todas las escuelas.
  • Las pruebas censales sirven para obtener información de cada una de las escuelas e incluso de los alumnos. El impacto de sus resultados depende de la devolución de la información a cada comunidad educativa, con un enfoque y un formato adecuados para promover una mayor participación y compromiso a nivel local. La información también puede resultar muy útil para dirigir mejor las políticas hacia distritos o escuelas con mayores problemas, ya que se puede contar con un “mapa” de resultados de todas las escuelas, zonas, provincias, tipos de escuela, etc.


Uso de las evaluaciones para establecer incentivos
Además de las opciones examinadas, existen políticas de evaluación estandarizada dirigidas a establecer incentivos económicos en función de los resultados o a propiciar un mercado competitivo entre las escuelas


Tres son las principales modalidades en este tipo de políticas:

  • Utilizar los resultados para construir rankings de escuelas y hacerlos públicos, como forma de: fomentar la responsabilidad de las escuelas por sus resultados; entregar a las familias información para la toma de decisiones sobre la escuela a la cual enviar a sus hijos; promover la competencia entre los centros educativos por obtener mejores resultados.
  • Utilizar los resultados para entregar incentivos económicos a las escuelas que obtienen mejores resultados o mejoras en relación a sus resultados en evaluaciones anteriores.
  • Utilizar los resultados como indicador de la calidad del trabajo de cada docente y como criterio para otorgar incentivos económicos.

Estos enfoques de uso de la evaluación a veces se constituyen, con o sin intención deliberada, en un mecanismo por el cual el Estado renuncia a su responsabilidad por los resultados del sistema educativo


En ocasiones, el Estado limita su accionar a la realización de evaluaciones, la entrega de resultados y el establecimiento de incentivos en función de estos resultados, transfiriendo la responsabilidad por los resultados a la relación entre escuelas y familias, como si se tratase de un asunto entre actores privados, en lugar de ocuparse de crear las condiciones para que la enseñanza resulte efectiva proveyendo los recursos necesarios, constituyendo un elenco docente adecuadamente formado y estableciendo mecanismos idóneos para la evaluación y la orientación de la labor de las escuelas. Este modo de operar no considera la complejidad de la labor educativa, en especial en medios socialmente desfavorecidos, y la necesidad de invertir en la creación de capacidades como herramienta principal para la mejora de la enseñanza y el aprendizaje.


Criterios básicos para la divulgación y uso de los resultados
La responsabilidad por los resultados debe ser compartida por diversos actores
Debería evitarse todo uso de los resultados con el fin deliberado o implícito de culpabilizar o responsabilizar de manera exclusiva a ciertos actores. La responsabilidad debe ser compartida entre las autoridades nacionales y regionales, los cuerpos docentes, los estudiantes y sus familias.


La responsabilidad por los resultados requiere de una adecuada combinación entre las exigencias y los apoyos a las escuelas y a los docentes


Por un lado, es necesario que escuelas y docentes asuman su responsabilidad respecto al objetivo de que todos los estudiantes aprendan lo que se espera de ellos. Simultáneamente, es deber de las autoridades establecer las políticas de apoyo necesarias para que escuelas y docentes puedan desarrollar su labor de manera apropiada. Un esquema de exigencias altas sobre escuelas y docentes sin los correspondientes apoyos solo puede generar malestar y desánimo. Un esquema de apoyos sin contrapartes y exigencias puede generar autocomplacencia.
Es inapropiado utilizar los resultados de las pruebas estandarizadas como indicador principal de la calidad del trabajo del docente o de la escuela


Esto es importante, en particular si no se ha controlado el efecto de otros factores internos y externos al sistema educativo y si no se tiene en cuenta que el aprendizaje depende también de la motivación y esfuerzo personal del estudiante. Además, dado que los resultados de pruebas estandarizadas no son el único indicador de la calidad de la educación, es preciso considerarlos en conjunto con otros aspectos relevantes como la retención, la pertinencia y relevancia de lo que se enseña, la formación de valores y hábitos o la formación ciudadana. Debe evitarse la identificación del término “calidad” con resultados de pruebas estandarizadas.


Para facilitar la comprensión y uso de los resultados, no basta con ofrecer resultados numéricos


Es fundamental ilustrar a los distintos actores acerca del tipo de tareas que los estudiantes debieron resolver en las pruebas. Este criterio debe combinarse adecuadamente con la necesidad de mantener el carácter confidencial de un conjunto de preguntas, que puedan emplearse en futuras evaluaciones para establecer mediciones comparables en el tiempo. Si bien no se pretende que los docentes utilicen pruebas estandarizadas para evaluar a sus estudiantes, el conocimiento y la comprensión de las mismas pueden contribuir a mejorar sus modos de evaluar y a desarrollar una cultura de la evaluación.


Al reportar las diferencias de resultados en función de la composición sociocultural del alumnado de las escuelas, se debe cuidar de no crear un sistema de expectativas de logro diferenciado por grupos sociales
En todo caso, las diferencias deberían producirse en las políticas para crear condiciones apropiadas para enseñar a los grupos más desfavorecidos. Se debería descartar también cualquier tipo de uso de los resultados que, directa o indirectamente, propicie la selección de estudiantes por parte de las escuelas a los efectos de mejorar sus resultados.


Advertencias sobre la comparación de resultados entre escuelas
Aunque los resultados de pruebas estandarizadas no dan cuenta en forma exhaustiva de la calidad educativa de una escuela, sí aportan información relevante de los niveles de desempeño alcanzados


La información sobre resultados en dos pruebas estandarizadas –en general, lenguaje y matemática– no constituye por sí misma una evaluación de la “calidad educativa” de las escuelas ni debería presentarse al público como tal. La “calidad” de una escuela incluye otros aspectos relevantes y valorados por los docentes, estudiantes y familias, tales como el desarrollo emocional, las relaciones interpersonales, la formación cívica y en valores, entre otros. Aun así, la información comparativa acerca de los niveles de desempeño alcanzados por los estudiantes en una diversidad de escuelas puede ser relevante para los equipos docentes de las escuelas, en la medida en que enriquece la percepción de la propia labor, permitiéndoles ubicar los logros de sus estudiantes en el contexto de los alcanzados por los estudiantes en otras escuelas.


Para que la comparación entre los niveles de desempeño de los estudiantes sea apropiada, se deben considerar sus condiciones sociales de origen


Los resultados académicos de las escuelas deberían poder compararse con los de escuelas de similar composición social, dado que los retos y dificultades que implica enseñar a estudiantes de origen desfavorecido (o de lengua materna indígena) son muy diferentes que en el caso de estudiantes de familias con educación secundaria completa y/o terciaria. También hay que tener en cuenta las tasas de deserción de las escuelas y sus políticas de selección de estudiantes, dado que una escuela puede mejorar sus resultados a través de la exclusión de estudiantes con dificultades.


Las comparaciones entre escuelas deben considerar la diferencia entre medir el “logro educativo” y medir el “aprendizaje”


En rigor, si el propósito es entregar a las escuelas, familias y/o autoridades, información acerca de la capacidad de enseñar de los docentes y las escuelas, es necesario medir el progreso de los estudiantes a lo largo de un período lectivo (“aprendizaje”) y no únicamente el resultado final (“logro”). Las diferencias entre estos dos términos se expresan en que:

  • El aprendizaje puede ser definido como el cambio ocurrido en los conocimientos y capacidades de cada estudiante a lo largo del año lectivo. Su medición requiere la aplicación de dos pruebas, una al inicio y otra al final. De este modo es posible constatar el progreso realizado por cada alumno.
  • El “logro educativo” en cambio, se mide con una única prueba y refleja la acumulación de conocimientos y capacidades a lo largo de toda la vida del estudiante, lo cual incluye el capital cultural familiar y sus experiencias en otras escuelas o con otros docentes.


Debe tenerse siempre presente que el aprendizaje y el logro educativo de los estudiantes dependen tanto de lo que hacen las escuelas y docentes, como del esfuerzo de los propios estudiantes, del apoyo de las familias a la tarea escolar, del contexto comunitario y cultural y de las políticas educativas. Los problemas educativos no pueden ser resueltos apelando exclusiva ni principalmente a mecanismos de mercado.

Los resultados expresados en términos de rankings de escuelas deben ser mirados con precaución


La mayoría de rankings de escuelas transmiten una falsa imagen de ordenamiento. Una escuela puede ocupar el primer lugar y otra el número 40 y, sin embargo, las diferencias entre sus promedios pueden no ser estadísticamente significativos. Esto significa que no puede decirse si un promedio es realmente superior al otro, porque las diferencias entran dentro de los márgenes de error de la medición. Pero aun cuando las diferencias en los promedios sean estadísticamente significativas, pueden ser irrelevantes en términos de las proporciones de alumnos que logran los niveles de desempeño esperados.


Itinerario para la toma de decisiones
Considerando las alternativas existentes para una política de evaluación, antes de poner en marcha un sistema de evaluación (o de modificar uno existente) es indispensable seguir un itinerario de decisiones para definir las características del sistema que incluya al menos las siguientes preguntas básicas:

  • ¿Para qué se quiere evaluar?
  • ¿Quiénes usarán los resultados y con qué propósitos?
  • ¿Qué se espera saber que no se sepa ya?
  • ¿Cuáles serán las unidades de análisis para el reporte de resultados: estudiantes individuales, grupo de clase/maestros, escuelas, tipos de escuela, entidades subnacionales, sistema educativo?
  • De acuerdo a los propósitos definidos, ¿qué es más apropiado evaluar –aprendizaje o logro educativo– al egreso de determinados grados o ciclos?
  • ¿Qué tipo de consecuencias tendrán los resultados y para quiénes?
  • De acuerdo a los propósitos definidos, ¿es necesario trabajar en forma censal o son suficientes evaluaciones en base a muestras?
  • ¿Qué grados y qué disciplinas es importante evaluar?
  • ¿Cada cuánto tiempo es necesario y adecuado realizar las evaluaciones?

Las respuestas a estas preguntas deberían plasmarse en un plan de evaluación a corto, mediano y largo plazo, claro y explícito. En la elaboración de dicho plan es muy importante considerar los costos en dinero implicados en cada opción y los recursos humanos necesarios para su adecuada implementación. En particular, se debe balancear la inversión a realizar en la recogida de información con la inversión en la difusión y uso de los resultados. Muchos Ministerios de Educación destinan importantes sumas de dinero a recoger una gran cantidad de información todos los años, que luego casi no se analiza, ni se difunde ni se utiliza. Es absolutamente inconducente implementar un primer operativo de evaluación si no se ha elaborado un plan de trabajo de largo plazo.

“Mandatos” útiles al momento de tomar decisiones políticas respecto al sistema de evaluación:

  • “No harás daño”. Una de las primeras normas del juramento hipocrático señala que el médico se abstendrá de todo aquello que pueda generar daño o perjuicio a sus pacientes. Del mismo modo, a la hora de pensar en un sistema de evaluación es importante considerar los riesgos de efectos no deseados y perjudiciales que la estrategia de evaluación diseñada podría tener sobre el propio sistema educativo que se desea mejorar.
  • “El consumo excesivo de este producto puede resultar perjudicial para la salud”. La evaluación no puede estar por encima de la educación. El exceso de evaluaciones puede producir perjuicios para la salud del sistema educativo, en especial si solo hay evaluaciones pero no hay políticas para dar respuesta a los problemas que estas ponen de manifiesto.
  • “El consumo exclusivo de este producto también puede resultar perjudicial para la salud”. La evaluación no produce mejoras por sí misma. Debe estar alineada con otro conjunto de elementos para que aquellas se produzcan. Se debe evitar la ingenuidad de pensar que evaluando mucho – y poco más que eso – se va a mejorar la educación.
  • “No evaluarás en vano”. Se debe evitar recoger todos los años información que nunca será analizada ni utilizada. Para que un sistema de evaluación tenga impacto, debe tener una periodicidad que garantice que los datos puedan ser analizados, discutidos, comprendidos y utilizados. Incorporar la nueva información y traducirla en decisiones y acciones lleva tiempo. Los cambios en el sistema educativo requieren más tiempo aun.
  • “Vísteme despacio Sancho, que estoy apurado”. Es muy importante que quienes toman las decisiones en los Ministerios de Educación desestimen la creencia ingenua en la existencia de caminos fáciles y rápidos. No es posible montar un programa de evaluación serio en tres meses. No existe coyuntura ni “ventana de oportunidad” que lo justifique: las consecuencias de la improvisación se harán sentir tarde o temprano. La evaluación requiere reflexión cuidadosa acerca de sus fines y usos; discusión pública sobre qué es lo fundamental a evaluar; diálogo e involucramiento de diferentes actores; conformación de equipos técnicos competentes en diversos aspectos; e información previa para que los actores se involucren con la evaluación.


Extraído de
http://rinace.net/riee/numeros/vol1-num1/art4_htm.html
Pedro Ravela, Patricia Arregui, Gilbert Valverde, Richard Wolfe, Guillermo Ferrer, Felipe Martínez Rizo, Mariana Aylwin y Laurence Wolff

jueves, 19 de marzo de 2009

Las Evaluaciones Educativas que América Latina Necesita II

2. LA SITUACIÓN DE LA EVALUACIÓN ESTANDARIZADA EN AMÉRICA LATINA
Los sistemas nacionales de evaluación estandarizada se desarrollaron con fuerza en toda la región durante los años 90. Algunos países han mantenido sus sistemas en funcionamiento con continuidad, aun cuando se produjeran cambios de enfoque o variaciones en la institucionalidad de los mismos. Otros países han tenido importantes discontinuidades y han tenido que comenzar prácticamente desde cero en repetidas oportunidades o tendrán que hacerlo en el futuro próximo. Además de ello, actualmente:

  • Dieciséis países están participando en el Segundo Estudio Regional en 3° y 6° de primaria que lleva adelante la OREALC/UNESCO: Argentina, Brasil, Chile, Colombia, Costa Rica, Cuba, Ecuador, El Salvador, Guatemala, México, Nicaragua, Panamá, Paraguay, Perú, República Dominicana y Uruguay.


  • Seis de estos países participan en PISA 2006 y otros tres se incorporarían al ciclo PISA 2009.


  • Algunos países de la región han participado además (o lo están haciendo) en los estudios de Matemática y Ciencias (TIMSS), Lectura (PIRLS) y Educación Cívica que lleva adelante la International Association for the Evaluation of Educational Achievement (IEA).


  • Durante los últimos 12 años ha estado activa en la región la red de los sistemas de evaluación organizada en torno al Laboratorio Latinoamericano de Evaluación de la Calidad de la Educación (LLECE) de OREALC/UNESCO, en la que participan actualmente casi todos los países latinoamericanos. Esta red se reúne dos veces al año y es un espacio de intercambio de experiencias y formación en el ámbito de la evaluación.


  • Más recientemente se ha constituido el Grupo Iberoamericano de PISA, integrado por Argentina, Brasil, Chile, Colombia, España, México, Portugal y Uruguay.

    Las evaluaciones a gran escala en la región no solo son más frecuentes sino también están mejorando
    Los principales cambios y mejoras que se observan en los últimos años incluyen:


  • Mayor transparencia en la difusión de los resultados. Parece haberse superado la etapa en que las autoridades en varios países interferían en la divulgación de los resultados de las evaluaciones cuando estos no les parecían favorables.


  • Tendencia creciente a pasar de pruebas normativas –que tienen como propósito principal ordenar comparativamente a los estudiantes– a pruebas de criterios, que se enfocan en qué es lo que los estudiantes saben y son capaces de hacer. Asimismo, crecientemente se incluye en las pruebas de criterios una definición de cuál es el resultado que todos los estudiantes deberían alcanzar para que su desempeño pueda ser considerado satisfactorio.


  • Mejoría de las capacidades técnico-metodológicas para la construcción de pruebas y para el procesamiento de los datos. Existen esfuerzos por desarrollar pruebas que evalúen un rango de conocimientos y capacidades más amplio y que incluyan preguntas de respuesta construida. Se han ido incorporando también metodologías más sofisticadas para el tratamiento de datos, como la Teoría de Respuesta al Ítem y el Análisis Multinivel.


  • Creciente atención a la difusión y uso de los resultados. Se ha ido comprendiendo que no basta con implementar una evaluación y publicar un informe, sino que es necesario desarrollar una estrategia de divulgación y un conjunto de reportes apropiados a cada una de las audiencias a las que se quiere llegar. Las Unidades de Evaluación tienen una mayor conciencia acerca de los usos apropiados e inapropiados para cada tipo de evaluación, aunque esto muchas veces no está suficientemente claro entre quienes toman decisiones de política.


  • Mayor preocupación por la investigación de los factores que inciden sobre los aprendizajes. Si bien falta mucho por hacer en términos metodológicos e interpretativos para producir buenos trabajos de investigación, en la mayoría de los países hay conciencia de que es preciso avanzar en la investigación y la construcción de hipótesis sobre cómo las dinámicas de la gestión de los sistemas educativos, los procesos escolares, las prácticas de enseñanza y las decisiones de política educativa influyen en las oportunidades de aprendizaje de los niños y niñas.


  • Creciente participación de los países evaluaciones internacionales. Esto ha tenido consecuencias positivas en las Unidades de Evaluación y en la calidad de su trabajo: ha contribuido a la construcción y acumulación de capacidad técnica en evaluación, ha facilitado el intercambio y el desarrollo de un lenguaje común entre países y ha ayudado a mejorar la calidad de diversos procesos técnicos (elaboración de pruebas, incorporación de preguntas de respuesta abierta, muestreo, control de las aplicaciones, análisis de datos, modos de difusión, entre otros).



Las principales debilidades presentes en los sistemas de evaluación estandarizada en la región se observan en la estrategia de difusión, en el uso de los resultados y en la calidad técnica de las evaluaciones
A pesar de las mejoras previamente mencionadas, persiste un conjunto importante de debilidades que es preciso abordar:





  • Es frecuente que desde el nivel político se demande la implementación de grandes operativos de evaluación sin propósitos claramente definidos y en tiempos y con recursos absolutamente insuficientes para hacerlo técnicamente bien.


  • Aún no se tiene claro que no cualquier evaluación sirve para cualquier propósito y que es necesario diseñar cuidadosamente el sistema de evaluación para el largo plazo, en función de propósitos y usos claramente establecidos. Esto es determinante para las decisiones relativas a la utilización de censos o muestras, a los grados y disciplinas que serán evaluados, la periodicidad de las evaluaciones, el tipo de pruebas y escalas de reporte, entre otras.


  • Falta una mayor discusión pública sobre qué debe ser evaluado y qué aspectos del currículo deben haber sido enseñados a todos los estudiantes al concluir determinados niveles educativos. Como resultado de ello, las metas y/o estándares de aprendizaje no son claros. Mientras no exista claridad al respecto, tampoco existirá claridad ni para la enseñanza ni para la evaluación. Esta tarea requiere de un amplio debate social y de un trabajo técnico coordinado entre las unidades de currículo y de evaluación.


  • Para mejorar la investigación sobre los factores que explican los resultados, falta mejorar mucho los instrumentos complementarios que se aplican junto con las pruebas y concebir diseños de investigación más ambiciosos: estudios longitudinales, estudios de “valor agregado” y estudios cualitativos, entre otros.


  • Los Ministerios de Educación han tenido, por lo general, una limitada capacidad para concebir, formular e implementar políticas que den respuesta a los problemas identificados en las evaluaciones. Falta para ello mayor articulación entre las Unidades de Evaluación y otros actores educativos relevantes, dentro y fuera de los Ministerios de Educación, y mayor articulación entre la evaluación, el desarrollo curricular, la formación inicial y el desarrollo profesional de los docentes.


  • Las acciones para la divulgación y uso de los resultados de las evaluaciones aún son insuficientes, en particular para lograr que los docentes los comprendan y utilicen y para que los resultados se incorporen a la cultura escolar.


  • En la mayoría de los países perdura la práctica de divulgar resultados de tipos de escuela, escuelas individuales, estados o provincias, sin una adecuada consideración de los contextos socioculturales en que operan las instituciones y subsistemas educativos. Esto conduce a interpretaciones y conclusiones erróneas sobre la eficacia educativa de dichas instituciones o subsistemas. Para ello es necesario realizar evaluaciones de “valor agregado”, que implican dos mediciones sobre una misma población en distintos momentos. Sobre este aspecto la experiencia en la región es mínima.


  • En muchos países persisten importantes debilidades técnicas en el diseño de las evaluaciones: excesiva simplicidad de la mayor parte de las preguntas y dificultad para elaborar preguntas que permitan evaluar capacidades cognitivas complejas; focalización de las evaluaciones en los logros educativos correspondientes a un grado específico, lo que impide saber qué han aprendido quienes aún no logran lo esperado para dicho grado; deficiencias en la conformación de las muestras y en la forma de estimar y reportar los errores de medición; y debilidades para establecer mediciones que sean comparables en el tiempo.


  • No hay suficientes profesionales calificados para diseñar y conducir este tipo de evaluaciones, lo que se agrava por la falta de continuidad de los equipos técnicos de los países, muchas veces por razones de índole político-partidaria. Esto dificulta la acumulación de conocimiento y experiencia en la región y ha dado lugar a que muchos países tengan que comenzar desde “cero” con sus sistemas de evaluación, algunos años después de haber tenido uno en funcionamiento y haberlo desmantelado.

El riesgo de las malas evaluaciones
Sólo una evaluación técnicamente buena y cuyos resultados sean conocidos y utilizados de manera apropiada, puede tener algún impacto en la mejora de los aprendizajes. Como es obvio, una evaluación cuyos resultados son poco conocidos y utilizados supone un ejercicio estéril y un desperdicio de recursos.
Más graves aún son aquellas situaciones en que evaluaciones técnicamente malas son ampliamente difundidas o en que las evaluaciones son empleadas para fines diferentes de aquellos para los cuales fueron concebidas y diseñadas, lo cual puede tener efectos dañinos para el sistema educativo. El razonamiento según el cual lo que importa es evaluar y difundir resultados como mecanismo de rendición de cuentas, sin importar la calidad de la evaluación, es una falacia que puede hacer retroceder los sistemas de evaluación e imposibilitar una discusión seria de las ventajas y desventajas de la rendición de cuentas o responsabilización por los resultados.




Recuperado de

http://rinace.net/riee/numeros/vol1-num1/art4_htm.html

Pedro Ravela, Patricia Arregui, Gilbert Valverde, Richard Wolfe, Guillermo Ferrer, Felipe Martínez Rizo, Mariana Aylwin y Laurence Wolff

martes, 17 de marzo de 2009

Las Evaluaciones Educativas que América Latina Necesita I

1. INTRODUCCIÓN
La realización de evaluaciones estandarizadas como forma de conocer mejor la dinámica de procesos y resultados en los sistemas educativos es cada vez más frecuente a nivel regional y mundial, en países de muy diversas culturas y orientaciones ideológicas de gobierno. Prueba de ello es la creciente participación de los países en las evaluaciones internacionales como PISA, TIMSS y PIRLS, y regionales como SERCE (en América Latina) y SACMEQ (en África), así como el desarrollo de diferentes tipos de sistemas nacionales y subnacionales de evaluación.

En algunos casos, la evaluación está motivada por una preocupación por la formación ciudadana y la consolidación de una sociedad democrática; en otros, por la productividad de la fuerza de trabajo y la competitividad de la economía nacional, por las oportunidades para el desarrollo integral de las personas y sus posibilidades de participación en la sociedad del conocimiento, o por la equidad y la visión de la educación como uno de los caminos para superar la pobreza.

Muchos sistemas de evaluación parten de una combinación de los intereses anteriores. En casi todos los casos se asume que la evaluación puede servir:

  • como base para adoptar políticas educativas mejor fundamentadas;
  • para mejorar la gestión de los sistemas educativos;
  • como instrumento para la colaboración y el aprendizaje continuo al interior de los mismos.

A continuación se destacan los aportes principales de este tipo de evaluaciones.

La evaluación estandarizada ayuda a visualizar los resultados educativos del conjunto de estudiantes
La educación es una actividad “opaca”, en el sentido de que sus resultados no son directa ni inmediatamente observables. Un buen docente puede apreciar si sus estudiantes están aprendiendo o no y cómo, pero no todos los docentes tienen los mismos criterios de valoración, los cuales están fuertemente vinculados a su experiencia profesional: su formación general y específica, su conocimiento de la disciplina que enseña, su capacidad para percibir los procesos y dificultades de los estudiantes, su familiarización con diversos tipos de alumnos, etc. Dada la heterogeneidad del cuerpo docente de un país, no es posible obtener una visión de la situación del conjunto por la mera agregación de los puntos de vista individuales. La evaluación estandarizada apunta a lograrlo.

Las evaluaciones entregan información sobre el real acceso al conocimiento y a las capacidades que alcanzan los alumnos, más allá de la cantidad de años de estudio que tengan
En décadas pasadas, la equivalencia entre permanencia en el sistema educativo y acceso al conocimiento y a las capacidades simbólicas se daba por descontada y los indicadores para valorar a los sistemas educativos estaban relacionados con el acceso (matrícula, cobertura, retención, etc.). En esos tiempos, las mayorías más pobres y con menor capital cultural no accedían al sistema educativo o apenas cursaban unos pocos años de educación básica. Con la progresiva universalización del acceso al sistema educativo, hoy muchos estudiantes procedentes de los sectores sociales más desfavorecidos llegan en desventaja en términos de manejo del lenguaje oral (oficial) y escrito, con lo cual la equivalencia entre años de estudio y acceso al conocimiento y a las capacidades simbólicas ya no es tal. Por otra parte, el crecimiento del acceso a la profesión docente no fue acompañado por garantías de calidad en su formación, lo cual también cuestiona la mencionada equivalencia. Así, más años en el sistema educativo no necesariamente significa que todos los niños y jóvenes estén incorporando los conocimientos, actitudes y capacidades necesarias para la vida personal y social, los que son cada vez más sofisticados y complejos. Las evaluaciones buscan dar luces sobre lo que está ocurriendo al respecto.

Las evaluaciones estandarizadas ayudan a hacer visibles un conjunto de aspectos centrales de la labor educativa
Entre otras cosas, las evaluaciones estandarizadas aportan información sobre: en qué medida los alumnos están aprendiendo lo que se espera de ellos al finalizar ciertos grados o niveles;
  • cuál es el grado de equidad o inequidad en el logro de dichos aprendizajes;
  • cómo evolucionan a lo largo de los años, tanto los niveles de logro como la equidad en el acceso al conocimiento por parte de los diversos grupos sociales;
  • en qué medida y cómo las desigualdades sociales y culturales inciden sobre las oportunidades de aprendizajes de los estudiantes;
  • cuál es la diversidad de prácticas educativas existentes en escuelas y maestros y cómo las mismas se relacionan con los aprendizajes de los estudiantes en diversos contextos sociales;
  • cómo influyen las condiciones de la enseñanza (situación de los maestros, recursos disponibles, tiempos de estudio, etc.) en los progresos de los alumnos;
  • qué efecto tienen en los logros educativos las inversiones en programas educativos, los cambios en la estructura del sistema, los cambios curriculares, los programas de formación, la adquisición de material educativo, etc.

Un sistema de evaluación de aprendizajes y/o logros educativos puede aportar información importante diversos actores sociales
En la medida en que el sistema produzca y comunique adecuadamente información sobre los aspectos antes indicados, puede ser un instrumento clave de mejora, enriqueciendo la comprensión de la situación educativa y la toma de decisiones en diversos ámbitos:

  • Las autoridades y los encargados de formular políticas educativas pueden comprender mejor los problemas de la enseñanza y del aprendizaje; hacerse cargo de las carencias en que se desarrolla la labor docente y desarrollar políticas pertinentes para apoyar el trabajo de las escuelas. Las evaluaciones también les permiten valorar, sobre una base de evidencia empírica sólida, el impacto de las políticas y programas que han impulsado y los probables efectos de las que se proponen impulsar.
  • Los directivos y docentes pueden, a partir de una mirada externa sobre los logros educativos en el conjunto del sistema, comprender mejor lo que están logrando y lo que no están logrando sus propios estudiantes, cómo están aprendiendo y qué dificultades tienen. Pueden aprender de las experiencias de otros docentes y escuelas que trabajan con estudiantes de características tanto similares como diferentes a los propios. Pueden tomar decisiones más apropiadas acerca de qué aspectos del currículo enfatizar y enriquecer sus propios modos de evaluar el aprendizaje de sus estudiantes.
  • Los supervisores y encargados de la formación de docentes pueden apoyarse en la información sobre los logros y dificultades educativas en el conjunto del sistema para estudiar en profundidad las debilidades en el enfoque o en la práctica de la enseñanza que probablemente generan algunas de las insuficiencias constatadas en los aprendizajes. Desde esa nueva perspectiva, pueden mejorar su labor tanto de orientación a los docentes como de formación de los mismos. En particular, los supervisores pueden beneficiarse de contar, como instrumento de apoyo para su labor, con un mapa de las escuelas que las caracterice tanto en términos de la composición sociocultural de su alumnado como de sus logros educativos.
  • Los padres y madres de estudiantes, adecuadamente informados, pueden comprender mejor qué se espera que sus hijos aprendan, qué es lo que están logrando y qué pueden hacer para colaborar con la escuela y con el aprendizaje de sus hijos.
  • La ciudadanía en general estará mejor informada sobre lo que acontece al interior del sistema educativo y, por tanto, estará más atenta a los temas y problemas de la educación. Estará, además, en mejores condiciones para exigir, tanto a los poderes públicos como a los profesionales de la docencia, la mejora continua de la educación que se brinda a los niños, niñas y jóvenes, y el uso responsable de los recursos que se destinan a la educación.
    El desarrollo de un sistema nacional de evaluación estandarizada puede obligar a realizar una discusión informada sobre qué aspectos del currículo formal son exigibles a todos los estudiantes y a definir con claridad qué es lo que todos los estudiantes deberían haber aprendido al final de cada ciclo educativo

La mayoría de los currículos en la región están constituidos por largas listas de objetivos y temas, todos deseables pero no todos realizables. La elaboración de pruebas nacionales obliga a definir qué es lo que debe ser considerado como fundamental y, por tanto, lo que todos los estudiantes deben saber y ser capaces de hacer. Se pueden usar distintos términos para designar a estas definiciones: estándares, competencias fundamentales, indicadores de logro, niveles de desempeño, metas de aprendizaje, criterios de suficiencia, entre otros.

Para no confundir...
Al desarrollar estos sistemas nacionales de evaluación, es necesario explicitar tanto el rol que estos cumplen así como las funciones que no cumplen y cuáles son sus limitaciones, para evitar así los riesgos de mala interpretación respecto a lo que son y la información que recogen y difunden.

  • Una evaluación estandarizada aporta información fundamental e indispensable sobre la “calidad educativa”, aunque no es un indicador completo de la misma. No todos los objetivos valiosos de la educación están incluidos en este tipo de evaluaciones. Hay una gran cantidad de saberes, actitudes, valores y aprendizajes relevantes que no pueden – por la dificultad de medirlos de esta manera – o no deben – porque son propios de cada entorno local y, por tanto, no son exigibles a todos los estudiantes del país – formar parte de una evaluación estandarizada.
  • La evaluación estandarizada de aprendizajes y/o logros educativos es un componente esencial de un sistema integral de evaluación educativa, pero no es el único tipo de evaluación relevante. También tienen importancia la evaluación realizada en el aula por los docentes, la evaluación del desempeño docente, la evaluación de los centros educativos, la evaluación de las políticas educativas, la evaluación del uso de los recursos, la evaluación de la relevancia del currículo, etc.
  • La evaluación es condición necesaria, pero no suficiente, para mejorar la educación. Si bien existe alguna evidencia de que la mera existencia y difusión de información tiene algún impacto sobre ciertos actores, es necesorio recordar que la evaluación es apenas uno de varios elementos clave de la política educativa que debe procurarse estén adecuadamente alineados: la formación docente inicial y en servicio, la carrera y condiciones para el trabajo docente, la gestión escolar, la supervisión, los diseños curriculares, los libros y materiales educativos, una inversión de recursos proporcional a las necesidades de las diversas poblaciones y una acción decidida por parte de los responsables educativos para resolver los problemas detectados, entre otros.
  • La evaluación estandarizada externa solo tendrá efectos positivos sobre la educación si es concebida, percibida y empleada como un mecanismo de responsabilización pública de todos los actores vinculados al quehacer educativo. Existe siempre el riesgo de que la política educativa se concentre en la implementación de evaluaciones, pero que luego no se tomen acciones concretas para enfrentar y resolver los problemas que las mismas ponen de manifiesto. Muchas veces las autoridades se limitan a informar de los resultados y transferir toda la responsabilidad por la solución de los problemas detectados a las escuelas y familias, como si se tratase de un asunto privado entre ambas. Otras veces, toda la responsabilidad se atribuye a los docentes, quienes, por su parte, tienden a transferir toda la responsabilidad a los padres o al contexto. Lo importante es evitar ingresar en una dinámica de culpabilización y, por el contrario, intentar construir una lógica de responsabilidad compartida en torno a la educación.


    Extraído de
    http://rinace.net/riee/numeros/vol1-num1/art4_htm.html
    Pedro Ravela, Patricia Arregui, Gilbert Valverde, Richard Wolfe, Guillermo Ferrer, Felipe Martínez Rizo, Mariana Aylwin y Laurence Wolff

miércoles, 11 de marzo de 2009

Usos de la evaluación PISA

Queda claro que la principal función de toda evaluación educativa es la de “conocer para mejorar”, por sobre la de obtener acreditaciones.

Lamentablemente, en la realidad sucede lo inverso, se prioriza el valor de acreditación, como lo muestra el artículo aparecido en un diario mexicano.

Me parece oportuno destacar que el Secretario de Educación afirma estado “podemos lograr grandes resultados y salir con niveles de excelencia en este examen internacional”, dejando en claro lo que para él significa la evaluación. En otro párrafo se expresa “Por su parte, la directora de Evaluación y Control Educativo, Laura Martínez Márquez, delineó el plan de trabajo interinstitucional que se está aplicando con éxito a alumnos y maestros de diversas escuelas de nivel básico, medio y medio superior, con la idea de que se familiaricen con esta prueba de matemáticas, ciencias y lectura y así se obtengan los resultados positivos que reflejen el avance educativo que Veracruz ha conseguido en esta administración”, cabe preguntarse ¿Para esta funcionaria la evaluación ya está hecha? ¿Entonces PISA es una simple certificación?

Creo que es necesario una preparación para obtener un cierto compromiso con la evaluación, y para habituarse a este tipo de pruebas, evitando todo factor distorsionante que pudiera existir, pero de ahí a prepararse PARA la evaluación, hay un trecho muy importante. A continuación transcribo la nota del diario.

Exhorta Arredondo a estudiantes a prepararse para la prueba PISA
El titular de la SEV aseguró que en este trabajo previo al examen, es de suma importancia el papel que están jugando los programas detonadores como los Vehículos Vasconcelos, el Consorcio Clavijero y el Canal Educativo

NOTIVER EXPRESS XALAPA, VER. 10 de Marzo de 2009.-Con el exhorto a maestros, padres de familia y alumnos a prepararse con ahínco y conciencia para enfrentar la prueba del Programa Internacional de Evaluación de Estudiantes (PISA, por sus siglas en inglés) que será aplicada el 24 de marzo a cerca de 2 mil estudiantes de una premuestra de más de 8 mil 800 alumnos en diversas escuelas asentadas en lo largo y ancho del territorio veracruzano, el secretario de Educación, Víctor Arredondo Álvarez, sostuvo una reunión de trabajo con funcionarios de la Secretaría de Educación de Veracruz (SEV).

Bajo esta premisa, en la Sala de Consejo de la dependencia educativa, el secretario Arredondo, instruyó a directores, subdirectores y directivos de los subsistemas Conalep, Cobaev, Telebachillerato, preparatorias y a directores de educación básica a involucrarse a fondo y llevar el mensaje que haciendo un trabajo colaborativo e interinstitucional y con el apoyo de los programas detonadores y los institutos tecnológicos del estado “podemos lograr grandes resultados y salir con niveles de excelencia en este examen internacional”.

El titular de la SEV aseguró que en este trabajo previo al examen, es de suma importancia el papel que están jugando los programas detonadores como los Vehículos Vasconcelos, el Consorcio Clavijero y el Canal Educativo, sumado al gran trabajo que están desarrollando alumnos y maestros de los institutos tecnológicos de Veracruz dentro de las aulas de nivel básico, medio y medio superior.

Por ello, pidió a directivos, profesores, padres de familia y a todos los involucrados en el sistema educativo veracruzano que participarán en esta evaluación a brindar toda la atención y apoyo que se requiere para apuntalar el desempeño de los alumnos en este examen PISA que evalúa a estudiantes de 15 y 16 años que cursan principalmente la educación media superior, en bachillerato y sus modalidades de formación técnica, y también incluye alumnos de secundarias generales, técnicas y telesecundarias.

Por su parte, la directora de Evaluación y Control Educativo, Laura Martínez Márquez, delineó el plan de trabajo interinstitucional que se está aplicando con éxito a alumnos y maestros de diversas escuelas de nivel básico, medio y medio superior, con la idea de que se familiaricen con esta prueba de matemáticas, ciencias y lectura y así se obtengan los resultados positivos que reflejen el avance educativo que Veracruz ha conseguido en esta administración.

La evaluación PISA conocida en español como el Programa Internacional de Evaluación de Estudiantes es una prueba desarrollada por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) que mide cómo se educan los jóvenes para ser adultos plenos y capaces de construir una mejor sociedad y este 24 de marzo, por cuarta ocasión México participará en la aplicación de PISA, la cual tendrá énfasis en la lectura


Recuperado de http://www.notiver.com.mx/index.php?news=22413 el 11 de marzo de 2009

lunes, 16 de febrero de 2009

EL IMPACTO DE PISA EN POLÍTICA EDUCATIVA

El siguiente texto fue extraído de Fundamentos y cuestiones políticas subyacentes al desarrollo de PISA. Autor Andreas Schleicher
Jefe de la División de Indicadores y Análisis del Directorio para la Educación de la OCDE
Publicado en Revista de Educación, extraordinario 2006, pp. 21-43.
Re2006_04.pdf
Me interesa publicarlo ya que en mi país, Argentina, el impacto fue NULO, a pesar que mucho lo necesita. A continuación lo expresado por el autor:

La presentación selectiva en el presente artículo de algunos de los análisis y conclusiones procedentes de las dos primeras rondas de PISA (2000 y 2003) ilustran el modo en que PISA contribuye al debate político. Se puede encontrar un resumen más completo en la OCDE (2004b).

La simple comparación entre los rendimientos de los países es probablemente el análisis menos interesante, aun cuando es el que antes capta la atención de los medios de comunicación y del público, y también el que de forma más inmediata provoca el deseo de actuar cuando los resultados son decepcionantes. Se pueden elevar las expectativas nacionales con la prueba de que se están logrando más cosas en otros lugares.

Los resultados de PISA 2000 provocaron un intenso debate en muchos países. Una respuesta inmediata del Ministerio Federal Alemán de Educación e Investigación fue encargar un estudio multilateral, dirigido por Eckhard Klieme, quien reclutó colaboradores en países con los que Alemania deseaba una comparación más detallada, esto es, Canadá, Inglaterra, Finlandia, Francia, los Países Bajos y Suecia. Su estudio conecta los resultados de PISA 2000 con pruebas cualitativas en mediciones tales como estrategias para la reforma e innovación educativa; cuestiones de administración y asignación de recursos; enfoques nacionales para la determinación de estándares, evaluación y seguimiento del sistema; la organización de sistemas de apoyo; el desarrollo profesional de los profesores; y enfoques para tratar las diferencias socioeconómicas en los contextos de los alumnos (OECD, 2004e).

Dinamarca estaba asimismo decepcionada con sus resultados en PISA 2000 porque, respecto al rendimiento, se encontraba tan sólo en la media de la OCDE, a pesar de haber gastado por cada alumno de 15 años más que cualquier otro país (salvo dos), y ciertamente más que en muchos otros que habían obtenido resultados mucho mejores. Dinamarca invitó a la OCDE a realizar una revisión general de su política bajo los auspicios de su programa de revisiones de políticas educativas nacionales. En dicha crítica, llevada a cabo por un grupo de expertos, se concluyó que el sistema carecía de cultura de evaluación, y se señaló que el nivel general de satisfacción con el sistema dentro del país había sido socavado no sólo, y de forma más sustancial, por los resultados de PISA 2000, sino que ya había sido desafiado por comparaciones internacionales anteriores (OECD, 2004a). Tras discutir el informe con el grupo de expertos y el Comité de Educación de la OCDE, el ministro danés indicó que el gobierno llevaría a la práctica las reformas propuestas.

Estos no son más que dos de los muchos análisis y reflexiones posteriores emprendidos por países que han participado en PISA hasta la fecha. En la página web de PISA se pueden encontrar todos los detalles de los informes nacionales y de los informes temáticos internacionales encargados por países conjuntamente a través del Consejo Directivo de PISA.

El seguimiento de los resultados de PISA por parte de los medios de comunicación ha sido extraordinario en muchos países. En la presentación de los resultados de PISA 2003 se prestó menos atención a las comparaciones entre países y al orden en la clasificación que con PISA 2000, aunque por supuesto seguía estando presente. Muchos reportajes dedicaron su atención a los análisis más complejos, como aquéllos que relacionan calidad y equidad. A éstos están dedicando también su atención las administraciones educativas, tanto en discusiones nacionales como internacionales.

Cuando PISA 2006 aporte un tercer conjunto de datos para 28 de los 30 países de la OCDE, el análisis y la discusión se ampliarán, incluyendo en sus consideraciones las tendencias observables, y avanzarán más allá de los análisis de cambios ofrecidos por PISA 2000 y 2003 facilitando pruebas de la estabilidad de esos cambios.

martes, 10 de febrero de 2009

LA FIABILIDAD DE ENCUESTAS INTERNACIONALES A GRAN ESCALA

Muchas críticas siguen formulándose con respecto a las encuestas internacionales y en particular respecto a PISA. La explotación realizada sobre el plan político y por los medios de los resultados de PISA no suscita confianza en los medios educativos. También hay una serie de problemas metodológicos que resolver y esclarecer como, por ejemplo el modelo de medición utilizado, las condiciones de validez de los ítems del test, la reducción de distorsiones culturales, las cuestiones de traducción, etc. Han sido realizados adelantos considerables en el transcurso de los últimos cuarenta años sobre el plan metodológico y de organización.

La calidad de las últimas grandes encuestas internacionales como PISA, PIRLS, TIMSS (Trends in Mathematics and Science) es admirable. Estos estudios son una mina de información sobre los sistemas de enseñanza. Por otro lado, la exigencia de la comparación revela sus fallos. Sin embargo, son insustituibles, ya que no hay otros medios para documentarse sobre las prestaciones de servicios de enseñanza para realizar comparaciones que digan algo válido sobre el estado de salud de un sistema, produciendo datos empíricos que pueden ser discutidos, puestos a prueba o rechazados sin más.

El reverso de la moneda es la tentación de la clasificación para designar a «la chica más bella del reino». Sin embargo, este espejo que nos muestran los estudios internacionales no es perfecto. Es un espejo que deforma. Sólo un esfuerzo considerable y crítico sobre el plan científico podrá ayudar a corregir sus defectos.

Más que nunca, debemos tener un debate democráticamente abierto y una discusión transparente sobre la naturaleza y los límites de estas encuestas. Su calidad es indiscutible, la calidad de las evaluaciones es evidente, las técnicas de muestreo se han perfeccionado, el tratamiento estadístico ha avanzado, sobre todo en lo que se refiere a la metodología de comparaciones internacionales.

Conocemos mejor los límites y las trabas de estos estudios y empezamos a dominarlas mejor. Por lo tanto, una conclusión se impone: si queremos controlar los efectos de estas estrategias y dominar estas operaciones, poder pronunciarnos e influir en ellas, hay que participar, ya que sólo así haremos progresar la ciencia de la educación pero también podremos adquirir un conocimiento íntimo de mecanismos, de luchas de poder, de grupos de presión que bajo bastidores forjan estos estudios. Este conocimiento es indispensable para actuar con eficacia, sin cometer graves errores que restarían cualquier credibilidad a las quejas y a las tomas de posición que habrá que formular ante la comunidad científica.



Traducción: Claudine Corrocher
La más bella del reino: el mundo de la educación en alerta con la llegada de un príncipe encantador
Norberto Bottani
Consultor y analista de políticas de educación
Re2006.pdf
Número extraordinario PISA
http://www.revistaeducacion.mec.es/

domingo, 11 de enero de 2009

TIMSS Extremo Oriente deja atrás a Europa en Matemáticas y Ciencias

Esta noticia fue publicada en un periódico digital para docentes, allí analizan las causales de este fenómeno, aunque para mi, la ventaja se debe al prestigio social que tiene en el oriente lejano, el conocimiento de las matemáticas y ciencias

España se presentó en 1995, pero no ha vuelto a hacerlo, salvo el País Vasco, que participó en los años 2003 y 2007. Ahora, nuestro país baraja presentarse a la siguiente edición de TIMSS, la de 2011.
TIMSS, Trends in International Mathematics and Science Study, o Estudio Internacional de Tendencias en Matemáticas, es una evaluación internacional que se viene desarrollando desde 1995 e intenta mostrar el rendimiento de los alumnos de 4º (nuestro 4º de Primaria) y 8º curso (equivalente a 2º de ESO) en dos áreas fundamentales: Matemáticas y Ciencias. Si además decimos que las escalas tienen como media 500 y que participan 67 países de todo el mundo, usted dirá: “Ah, otro PISA”.Pues sí, pero no. TIMSS depende de la IEA (Asociación Internacional para la Evaluación del Rendimiento educativo), que es una organización basada en la Educación, y no en la economía (y la Educación como parte de ésta). Además, evalúa a los alumnos por curso, y no por edad, y es una prueba curricular, no de competencias básicas (es decir, los contenidos de las pruebas se desarrollan a partir de lo que dan los alumnos en el curso en esa materia).

Dicen los expertos que estos tipos de pruebas les vienen mejor a los alumnos españoles, pues nuestro sistema se basa fundamentalmente en el currículo. Sin embargo, nuestro país no se presenta desde 1995, aunque está valorando presentarse a las de 2011.

El País Vasco se ha presentado por su cuenta a dos evaluaciones TIMSS, las de 2003 y 2007, aunque sólo con los alumnos de ESO.Lo más interesante de los primeros resultados de TIMSS –y en lo que lleva bastante ventaja sobre PISA– es que permiten ver la evolución de los países que se han venido presentando en varias ediciones, pues las sucesivas pruebas aseguran la comparabilidad de resultados.

Extremo Oriente arrasa Lo primero que llama la atención de las tablas de resultados es que son los países asiáticos los que copan el podio en ambas pruebas: Taiwan, Corea, Singapur, Hong-Kong y Japón ocupan los cinco primeros lugares en la escala de Matemáticas, mientras que Singapur, Taiwan, Japón y Corea encabezan la escala de Ciencias.El primer europeo en Matemáticas es Hungría, seguido de Inglaterra, y en Ciencias es Inglaterra, seguido de Hungría. Pero en el caso de las Matemáticas, mientras que Hungría obtiene 517 puntos, Japón obtiene 570. No es una brecha pequeña.¿Cuál es el secreto de los orientales? No es la primera vez que se dice que tienen un sistema anticuado basado en la memorización, y hay quien habla de predisposición genética. Pues ni una cosa ni otra: los estudios sobre el sistema educativo taiwanés destacan como clave de su éxito la combinación de comprensión y memorización. La conclusión principal del estudio del investigador sueco Marton es que “el buen resultado depende de la combinación de una buena explicación, un trabajo individual, una ampliación de lo aprendido junto con un control; y, finalmente, de una asimilación del nuevo contenido que se integra en los conocimientos previos del estudiante [...]. En resumen, el secreto es una buena enseñanza combinada con un trabajo individual sistemático”.En los resultados de Primaria, los mismos países encabezan la clasificación: Singapur, Hong-Kong, Taiwan y Japón son los que lideran ambas escalas.

Seguro que le gustaría saber cómo hubiera quedado España. Es difícil saberlo, pero podemos hacernos una idea: España obtuvo, en 1995, 487 puntos en Matemáticas y 517 en Ciencias. El País Vasco, que en las evaluaciones internacionales suele quedar algo mejor que la media española, obtuvo seis años después 487 puntos en Matemáticas (idéntico resultado) y 489 en Ciencias (24 puntos por debajo). Claro que el País Vasco presentaba un déficit importante en Ciencias que está corrigiendo a gran velocidad. Seguro que con estos datos ya se ha hecho una idea.


Extraído de
http://www.magisnet.com/noticia.asp?ref=693
Por José M. Lacasa (jlacasa@magisnet.com)
Related Posts Plugin for WordPress, Blogger...

Busca en mis sitios