Análisis de corpus como método de
investigación cualitativa para el desarrollo
de exámenes: el ejemplo de la prueba de
nivel C2 de catalán
Laura Puigdomènech Farell ([email protected])
Secció d’Avaluació
Servei de Recursos Lingüístics
Laura Puigdomènech Farell
S
Preguntas que necesitan respuesta
¿Cuáles son los perfiles lingüísticos de cada nivel del MECR para
las dos habilidades productivas (hablar y escribir) y cuáles son los
rasgos lingüísticos distintivos de cada nivel del MECR para las dos
habilidades receptivas (escuchar y leer)?
¿Qué pueden hacer con la lengua los aprendices en cada nivel del
MECR y qué no pueden hacer?; ¿hay rasgos que aparecen en un
nivel y que no se consolidan hasta el siguiente, o incluso más allá?
¿Qué aspectos en común y qué diferencias presentan los perfiles
lingüísticos de los aprendices de lenguas extranjeras (aprendizaje
formal de la lengua fuera de la comunidad de habla) y los
aprendices de segundas lenguas (aprendizaje de la lengua dentro
de la comunidad de habla) en un mismo nivel del MECR?
2
El aprendiz fronterizo
Es el aprendiz que presenta el nivel de competencia mínimamente
aceptable.
Se considera el nivel crítico de dominio, porque las decisiones
tomadas en torno a este nivel tienen consecuencias importantes
para los examinandos: apto / no apto.
En pruebas criteriales, los examinandos diana no son los buenos,
sino los fronterizos.
Es vital tener bien descritas las competencias de los aprendices
fronterizos.
3
4
Análisis de muestras: finalidades
Detectar las características, los rasgos identificadores, de las
actuaciones de aprendices fronterizos, pero también de los
aprendices buenos y de los aprendices flojos (por tanto, aprendices
por debajo del nivel C2).
Determinar lo que contribuye a distinguir entre actuaciones de C1 y
de C2.
Identificar los conceptos evaluativos que nos podían resultar más
útiles para evaluar las tareas.
Utilizar tota la información obtenida para redactar criterios y
baremos efectivos, útiles y comprensibles, construidos a partir de
datos empíricos, reales.
Comentarios sobre los aprendices buenos
La sensación que tiene el lector es positiva; pueden, incluso, impresionar al
lector. La lectura es fluida; pueden despertar la curiosidad del lector y las
ganas de continuar leyendo; generan expectativas. Implican al lector en el
texto (por ejemplo, con preguntas retóricas).
Los conectores se usan de manera eficaz y correctamente. Evitan el efecto
lista o telegráfico. Los mecanismos de cohesión son buenos. No dependen
de ellos para organizar el texto, porque tienen otros recursos: matizadores
(sin embargo, más bien, al contrario), elementos léxicos plenos que
contribuyen directamente a explicitar la coherencia del texto (conclusión,
añadir, concluir, anterior, previo, etc.), dícticos textuales (por eso, en todos
estos casos, etc.).
Cumplen la tarea, aunque pueden tener un pequeño desliz en el género.
[etc.]
5
Comentarios sobre los aprendices fronterizos
Se centran en la información que tienen e intentan valorarla o destacarla,
pero no lo acaban de conseguir del todo.
Lectura más o menos fluida: no cansan al lector, que en algún momento
tiene que hacer algún esfuerzo para comprender el texto, pero no piden un
esfuerzo heroico al lector.
Cumplen la tarea con discreción y algunos pueden tener algún problema en
este aspecto. Arriesgan poco.
La sensación que tiene el lector es correcta pero no le impresionan. No
interactúan mucho con él. Se olvidan del lector con facilidad.
Conectan el discurso adecuadamente, con algún error (puntuación, falta de
conectores, conectores inadecuados). A veces abusan de los conectores
(aunque están bien usados) porque no se sienten seguros del todo y son
un elemento de apoyo.
La corrección es adecuada, pero puede haber algún error importante.
El léxico puede ser demasiado general o impreciso en algún momento del
discurso. Repeticiones controladas y aceptables.
[etc.]
6
Comentarios sobre los aprendices flojos
La impresión en el lector es mala o pésima. Además, no sitúan al lector y
presuponen que ha visto la información original a la que hacen referencia.
Lo ignoran a menudo o se dirigen a él de manera inadecuada.
Tienen problemas de registro (excesivamente coloquial, rayan la oralidad o
traspasan la línea de la oralidad sin manías) y a menudo de género. La voz
del autor acostumbra a aparecer de manera muy chapucera, nada
elegante, porque no dominan los mecanismos de modalización ni aciertan
el registro adecuado.
Hay problemas en la ordenación de las ideas y en el uso de los parágrafos
(no hay, hay pocos, son poco visibles, hay demasiados...). La impresión en
el lector es que el escritor no ha planificado el discurso y que escribe a
chorro. Los finales son precipitados o inexistentes.
Los errores de corrección son impropios del nivel. Impresión negativa en el
lector. Los errores de corrección restan credibilidad al escritor.
Interferencias con otras lenguas que crean extrañeza y confusión en el
lector. En los casos más extremos son tan impropios del nivel que llegan
irritar al lector.
[etc.]
7
8
Del enfoque intuitivo al enfoque empírico
Tradicionalmente, el proceso de elaboración de baremos para
evaluar habilidades productivas consistía en un enfoque
apriorístico, recurriendo tan solo a la teoría y al conocimiento
intuitivo de expertos.
Actualmente, los expertos en evaluación defienden un
procedimiento de abajo arriba, partiendo de la investigación
empírica como base principal de obtención de datos.
La adopción de este enfoque conlleva el análisis de muestras reales
de aprendices como base para la construcción de criterios y
baremos.
9
Características de los baremos
Reflejan los hallazgos obtenidos durante la fase de análisis de
muestras y recogen los rasgos distintivos y más relevantes de los
aprendices según su perfil de competencia.
El redactado de los descriptores se aproxima lo máximo posible a la
manera como estos hallazgos fueron verbalizados por el equipo de
desarrollo.
Los descriptores de cada banda representan una selección, una
síntesis de la actuación “modelo” de cada perfil de aprendiz (bueno,
fronterizo, flojo y muy flojo).
Los conceptos evaluativos (los que tradicionalmente conocemos
como corrección, coherencia...) no responden a conceptos teórico-
lingüísticos pensados a priori, sino a los atributos que más
destacaron al evaluar las muestras de aprendices.
10
Ejemplo de baremo
11
Muestras ilustrativas (estándar de oro)
Son muestras comentadas y evaluadas que ilustran actuaciones
flojas, fronterizas y buenas de aprendizes reales.
Para obtenerlas se lleva a cabo un proceso de establecimiento de
estándares (benchmarking).
Las muestras ilustrativas son uno de los pilares fundamentales para
poder interpretar los criterios y los baremos, estandarizar juicios
entre examinadores y correctores y garantizar la fiabilidad de la
evaluación.
Las muestras ilustrativas son el referente de la institución y forman
parte esencial del control de calidad de cualquier sistema de
certificados.
12
Comentarios
Execució de la tasca: C (8)
Tot i que intenta ordenar les dades i la informació és pertinent i està ben interpretada, hi ha dificultats
evidents per reelaborar-la, de manera que en alguna ocasió (3r paràgraf) usa el text de partida gairebé de
manera literal i transforma poc. En lloc de fer una notícia, en algun moment sembla un exercici de discurs
citat (ens diu que...).
El registre és inadequat i el to ratlla l’oralitat, sobretot a l’inici i al final del text, en què s’adreça de manera
massa directa al lector: ens diu, hem de llegir aquest llibre. Fins i tot, cau en la col·loquialitat anteposant
l’article davant del nom i el cognom (la Marta Espar) i acaba tractant l’autora de manera totalment
inadequada en el penúltim paràgraf, referint-s’hi només pel nom (la Marta).
La impressió general no és gaire bona, sobretot per les inadequacions de registre i els errors de normativa (v.
control de la norma); a més a més, no hi ha títol.
Construcció del discurs: C (4)
La introducció i el final són inadequats: la introducció no està ben resolta i el final és brusc. Hi ha una manca
de connexió general entre els paràgrafs i la puntuació desconcerta el lector en algun fragment, amb l’ús
anòmal del punt i coma, o la presència de comes entre subjecte i verb.
Sofisticació lingüística: C (4)
Usa un lèxic genèric, amb tendència a una certa imprecisió, tot i que hi ha termes molt precisos que
contrasten fortament amb el discurs propi i que evidencien, al capdavall, una dependència clara de les
expressions del text de partida. La sintaxi és bàsica per al nivell i poc àmplia. L’ús de connectors és
pràcticament inexistent.
Control de la norma: D (1)
Té errors de correcció sistemàtics, sovintejats, impropis del nivell, que causen una impressió negativa en el
lector.
13
14