1. Introducción
1.1. Objetivos de la aplicación
1.2. Requisitos mínimos
1.2.1. Darse de alta
1.2.2. Requisitos del navegador
1.2.3. Requisitos del equipo
1.2.4. Applets firmados
1.2.4.1 Netscape: 3
1.2.4.2 Internet Explorer 6
1.2.4.3 Otorgar privilegios al ejecutar en Netscape
1.2.4.4 Otorgar privilegios al ejecutar en Internet Explorer
2. Módulo del profesor
2.1. Menú de gestión
2.1.1. Gestionar Base de Datos
2.1.1.1 Banco de ítems
2.1.1.2 Tipos de ítem existentes en el programa
2.1.1.2.1 Verdadero/Falso
2.1.1.2.2 Opciones múltiples
2.1.1.2.3 Respuesta abierta
2.1.1.3 Añadir, Modificar, Borrar preguntas
2.1.1.3.1 Añadir
2.1.1.3.2 Modificar
2.1.1.3.3 Eliminar
2.1.1.4 Preguntas con imágenes
2.1.1.5 Buscar ítems con alguna característica
2.1.1.6 Banco de pruebas estandarizadas
2.1.1.6.1 Modificar un examen creado
2.1.1.6.2 Eliminar un examen
2.1.1.6.3 Imprimir un examen
2.1.1.6.4 Buscar pruebas
2.1.1.7 Carga de preguntas por lotes
2.2. Generar prueba
2.2.1. Todos sus ítems
2.2.2. Seleccionar algunos ítems
2.2.3. Manual
2.2.4. Automática
2.2.5. Orden
2.2.6. Tipo de evaluación
2.2.7. Presencial/ no presencial
2.2.8. Tipo de activación
2.2.9. Disponibilidad
2.2.10. Lugar
2.2.11. Tiempo
2.2.12. Calificación
2.3. Opciones avanzadas
2.3.1. Activar una prueba ya creada
2.3.2. Cambio de password personal
2.3.3. Solicitar la corrección de una prueba 2.3.3.1 Resultado de la corrección en excel 2.3.4. Solicitar la revisión de una prueba
2.3.5. Solicitar estadísticas básicas de los datos de exámenes
3. Módulo de alumno
3.1. En varias páginas
3.2. En una sola página
3.3. Resultado de una prueba formativa
3.4. Resultado de una prueba sumativa
4. Introducción a la escritura de tests
4.1. Características de un buen test
4.2. Definición de ítem
4.3. Criterios para construir ítems
5. Tipos de ítems presentes en el programa
5.1. Items de tipo Verdadero - Falso
5.1.1. Ventajas
5.1.2. Desventajas
5.2. Items de tipo múltiple choice
5.2.1. Ventajas
5.2.2. Desventajas
5.3. Items de tipo Pregunta Abierta
5.3.1. Ventajas
5.3.2. Desventajas
5.4. Especificar el objetivo de un ítem
5.4.1. Taxonomía de Bloom
5.5. Ejemplos de ítems
6. Revisión de los ítems
6.1. Consistencia entre las características de un ítem y su especificación
6.2. Verificar los resultados de las respuestas
 




1 Introducción

El sistema de generación de exámenes por Internet "Olite" (On Line Testing) es un sistema que permitirá a los alumnos examinarse desde cualquier ordenador conectado a Internet, mediante un Navegador convencional.

Contará con dos modalidades de examen, el examen formativo, que permita al alumno conocer el grado de aprendizaje alcanzado en la materia y el examen sumativo, para que el profesor evalúe los conocimientos adquiridos por sus alumnos.

A su vez, el profesor podrá confeccionar un Banco de Preguntas propio que abarque los contenidos de su materia para generar sus exámenes a partir del mismo.

Se le permitirá corregir automáticamente y si lo desea, conocer los resultados mediante su e-mail e incluso se podrán efectuar análisis estadísticos de las notas alcanzadas por el curso.

De esta manera podrá evaluar el grado de fiabilidad de sus preguntas y si están siendo bien comprendidas por el alumnado, si los distractores están siendo bien utilizados y otros datos de interés que puedan serle de utilidad para plantear la enseñanza de su materia.

1.1 Objetivos de la aplicación
      1. Dotar al profesor de un mecanismo idóneo para construir su propio Banco de Items, donde pueda tener almacenados los contenidos de su materia.
      2. Facilitar la tarea de confeccionar exámenes, usando las preguntas almacenadas.
      3. Permitir al alumno examinarse acerca de los conocimientos alcanzados en la materia, mediante el tipo de examen formativo.
      4. Facilitar la tarea docente en el momento de examinar, para que los alumnos puedan realizar su examen sumativo en los ordenadores y los exámenes se puedan corregir automáticamente.
      5. Permitir al profesor mantener los datos de las notas OBTENIDAS por sus alumnos, para posteriormente realizar análisis estadísticos del curso.
      6. Proveer una arquitectura estable y segura para futuras expansiones del sistema.
    1.2 Requisitos mínimos
    1.2.1 Darse de alta
El profesor que quiera darse de alta en el sistema deberá mandar un mail a olite@unav.es (accionando el enlace que aparece en la página http://www.unav.es/olite/menu_gestion.html ) especificando:
Cuando se le dé de alta, se le enviará un mensaje a la dirección de e-mail indicada.
        1.2.2 Requisitos del navegador

        Para acceder a los applets Java del módulo del profesor es necesario contar con un Navegador Netscape 4.05 o superior o Internet Explorer5.5 o superior.

        1.2.3 Requisitos del equipo

        El sistema no exige ninguna configuración especial del hardware, pero debido a la utilización de Java en el módulo de profesor, cuanto más potente sea el PC más rápido irá dicho módulo. La velocidad del módulo de alumno sin embargo no se ve afectada por la potencia del equipo utilizado.
         

        1.2.4. Applets firmados

        Algunos servicios de OLITE, como la impresión en impresora local de un examen o realizar FTP de una imagen al servidor, requieren de la firma digital de los applets. Se ha cambiado la firma digital que sirve para que los applets Java puedan hacer tareas fuera de su área propia, como imprimir o leer un archivo del ordenador donde se está ejecutando.
        Por ello es necesario cargar los nuevos certificados, para lo cual se debe ir a la página del Centro de Tecnología Informática, desde página principal, Servicios Informáticos. (http://www.unav.es/cti) . Una vez allí dirigirse a Seguridad y Criptografía, Certificado Raíz. O directamente a http://www.unav.es/cti/CA

         

        Es ahora cuando se bajarán del servidor los certificados necesarios para que el software funcione adecuadamente. Hay que seguir exactamente las indicaciones para obtenerlos, es necesario bajarse los cuatro certificados en el orden allí establecido.
         

        Será levemente diferente si usamos Netscape o Internet Explorer. Por lo tanto resumiremos en cada uno de ellos lo que ocurre:

        1.2.4.1 Netscape:

        Es importante hacer la importación de los certificados en el orden indicado.
        Primer certificado: Es el denominado UNAV-PCA-01 y al pinchar en el primer enlace, paso 1 aparece
        luego de cada paso daremos al Botón Siguiente

        y en el útlimo paso hay que colocar el nombre tal y como se indica UNAV-PCA-01
        Segundo certificado: Denominado UNAV-CA-11, seguimos los pasos anteriores y sin olvidar de pinchar en las opciones de certificación de usuarios y de correo electrónico, colocamos su nombre correspondiente en el último panel.

        Tercer certificado: Denominado UNAV-CA-01, seguir los pasos dados anteriormente.
        Cuarto certificado: Denominado UNAV-CA-OS, seguir los mismos pasos.
        ya podemos hacer uso de la impresora o realizar un FTP si dmaos permisos al ejecutar los applets (consultar sección )

        1.2.4.2   Internet Explorer 

        Detallaremos a continuación aquellos pasos necesarios para importar correctamente los cuatro certificados desde Internet Explorer.
        Primer Certificado
        Es el denominado UNAV-PCA Al pinchar sobre el enlace correspondiente aparece la siguiente ventana.
         
        La ventana siguiente será

        donde pincharemos en el botón Instalar certificado. Abrirá entonces el Asistente para la importación de certificados
         

        a partir de aquí seleccionaremos lo indicado y daremos al botón Siguiente
        aparece

        y al darle al botón Siguiente obtendremos
        donde nos indica que la operación fue realizada con éxito. Damos a Aceptar del mensaje y al otro botón Aceptar y hemos concluido con el primer certificado.

        Segundo certificado:

        Se trata de seguir los mismos pasos que para el anterior, sólo que comenzaremos del enlace del paso Nº2. Es el denominado UNAV-CA11.

         

        seguir con los pasos del asistente y dar al botón Siguiente cada vez.

        y finalizar la tarea.

         

        Tercer certificado:

        Es el que se denomina UNAV-CA01 y se siguen los mismos pasos anteriores para su importación.
        Cuarto certificado:
        Se trata de UNAV-CA-OS. Se siguen los mismos pasos
         

        seguir todos los pasos hasta obtener
         

        y hemos terminado de importar los cuatro certificados. Podemos ahora ejecutar limpiamente los applets.

        1.2.4.3 Otorgar privilegios al ejecutar en Netscape

        Cuando requiera de algún privilegio adicional abrirá una ventana para pedirlo. Hay que apretar el botón Grant o Autorizar para que se realice la acción.
        Un ejemplo es lo que sucede al intentar imprimir el texto de una prueba:

         
        esta ventana o una similar con el privilegio que se debe otorgar al applet aparecerá cuando éste necesite privilegios para realizar alguna acción.

        1.2.4.4 Otorgar privilegios al ejecutar en Internet Explorer

        Al iniciar la sesión del applet se abrirá una ventana como la siguiente:
        Hay que otorgar los privilegios y no los volverá a pedir durante esa sesión.

2 Módulo del profesor

El profesor accede a http://www.unav.es/olite/, donde aparecerá la siguiente ventana de comienzo:

Página de inicio del sistema

    2.1 Menú de gestión
Dentro del Menú de gestión el profesor podrá elegir entre gestionar su Base de Datos, Generar Prueba y Opciones Avanzadas.

Pantalla donde el profesor puede acceder a las diferentes opciones de trabajo

La opción Gestionar Base de Datos da acceso al banco de ítems o preguntas propio y al banco de pruebas, es decir a los exámenes previamente creados por el profesor.

La opción Generar prueba crea exámenes nuevos, permitiendo establecer características tales como tiempo de duración, lugar desde donde se permite al alumno examinarse, tipo de examen (sumativo o formativo), modo de ordenar las preguntas, modo de corregir, etc.

La opción Opciones avanzadas permite:

En cualquier caso, para comenzar a trabajar en el sistema debe colocar el nombre de usuario y password, elegir la opción y pulsar el botón enviar.

        2.1.1 Gestionar Base de Datos

        A partir de este menú el profesor podrá trabajar sobre sus Ítems (preguntas) o bien sobre los exámenes ya generados usando los mismos. Aparece una ventana en la que debe seleccionar la materia para la que crea las preguntas o verifica los exámenes. Y luego accionar el botón enviar.

        Pantalla donde el profesor debe seleccionar su asignatura y la opción de trabajo

          2.1.1.1 Banco de Ítems

          Si el usuario ha seleccionado esta opción, accede al conjunto de preguntas de la asignatura que haya seleccionado. Cada una tendrá un tipo determinado que puede ser Verdadero/Falso, Opciones Múltiples o Respuesta Abierta, que se selecciona mediante las distintas solapas que aparecen en la pantalla. Una vez seleccionado el mismo podrá observar el número de ítems o de preguntas de ese tipo que el usuario tiene registradas en su banco y que aparecerá en la parte superior derecha de la pantalla. El profesor puede moverse mediante los botones de navegación a través de las preguntas que en su día introdujo en la base de datos.

          2.1.1.2 Tipos de ítem existentes en el programa

          El sistema OLITE permite al profesor elaborar preguntas de tres tipos diferentes:

          2.1.1.2.1 Verdadero/Falso

          Esta solapa se refiere a preguntas que pueden ser verdaderas o falsas. Para elaborarlas, el profesor deberá completar cada uno de los campos que aparecen en pantalla. Introducirá el tema, los objetivos que espera que alcancen los alumnos con dicha pregunta. Podrá asimismo elegir el tipo de dificultad que tendrá la pregunta entre los siguientes niveles: fácil, muy fácil, intermedia, difícil y muy difícil. En la casilla de enunciado redactará el texto de la pregunta y en el espacio de archivo asociado podrá, pulsando el botón añadir, ilustrar la pregunta del examen con una imagen (Más información para hacerlo se encuentra en el apartado 2.1.1.3).

          Por último seleccionará el valor verdadero o falso asociado a dicha pregunta y al pulsar el botón Enviar se procederá al almacenamiento del ítem en la base de datos.

          Pantalla para una pregunta de tipo Verdadero/Falso

          2.1.1.2.2 Opciones múltiples

          Esta solapa permite al profesor elaborar una pregunta con varias respuestas posibles, de las cuales una o varias pueden ser verdaderas. Introducirá el tema, los objetivos que espera que alcancen los alumnos con dicha pregunta.

          Deberá también elegir el tipo de dificultad que tendrá la pregunta entre fácil, muy fácil, intermedia, difícil y muy difícil.

          En la casilla de enunciado redactará el texto de la pregunta y en el espacio de archivo asociado podrá, pulsando el botón añadir, ilustrar la pregunta del examen con una imagen (Más información para hacerlo se encuentra en el apartado 2.1.1.3).

          Debe colocar las opciones que desee, con su enunciado y su valor. Cada opción será una posible respuesta, a la que se otorgará el valor de verdadero o falso. Deberá pulsar el botón enviar una vez se haya finalizado la operación.

          Pantalla para una pregunta de tipo Opciones Múltiples

          2.1.1.2.3 Respuesta abierta

          Esta solapa permite al profesor elaborar una pregunta de respuesta libre. En este caso el examinador redactará el enunciado, elegirá la dificultad de la misma, el tema en el que se enmarca y los objetivos que desea cubrir con ella. Si desea agregar una imagen lo hará en Archivo asociado.

          Hay que tener en cuenta que será el propio profesor quien corregirá las respuestas una vez realizada la prueba, ya que el sistema no realiza la corrección de este tipo de pregunta.

          Pantalla para una pregunta de tipo Respuesta Abierta

          2.1.1.3Añadir, Modificar, Borrar preguntas

          Independientemente del tipo de pregunta de que se trate, aparecerán sobre ella tres botones que permiten la gestión del sistema: añadir, modificar y eliminar.

          2.1.1.3.1 Añadir

          Sirve para introducir en el banco de ítems una nueva pregunta. Sobre el cuadro de tema aparecerán tres nuevos botones: nuevo tema, modificar tema, añadir tema. Si pretende incluir un nuevo tema en su banco deberá escribirlo y quedará registrado junto a los que ya había introducido anteriormente, podrá además modificar uno ya existente o eliminar un tema que tuviera incluido en su banco haciendo clic con el ratón sobre los botones correspondientes. Si se elimina un tema, se borrarán automáticamente todos los ítems incluidos en ese tema. Si alguna de las preguntas del tema a eliminar está incluida en una prueba ya confeccionada, no se permitirá la eliminación del tema. Una vez seleccionada esta opción deberá completar el cuadro con todas las características de la pregunta a insertar.

          2.1.1.3.2 Modificar

          Presionando con el ratón sobre este botón tendrá la posibilidad de modificar alguna de las características correspondientes a cualquier ítem almacenado en su banco. Las modificaciones se realizarán sobre la pregunta que esté actualmente editada, por lo que debe seleccionar con las flechas situadas a la derecha de la pantalla el ítem que desea cambiar. Una vez introducidas las modificaciones deberá presionar el botón enviar para que las modificaciones queden almacenadas en el banco de ítems.

          2.1.1.3.3 Eliminar

          Este botón permite borrar una pregunta del banco de ítems. Una vez elegida la pregunta que pretende eliminar y tras seleccionar el botón enviar, aparecerá un cuadro de diálogo advirtiéndole que la operación de borrado se llevará a cabo. Sólo se podrán eliminar ítems que no estén incluidos en ninguna prueba almacenada en el banco de pruebas. Si los ítems que pretende eliminar forman parte de una prueba ya creada deberá eliminar la prueba.

          Ventana para confirmar la eliminación del ítem

          2.1.1.4 Preguntas con imágenes

          Enviar una imagen al servidor

          Estando en cualquier tipo de pregunta, se puede asociar una imagen a ella (la imagen debe ser de tipo gif o jpg). Para hacerlo se pulsa el botón Elegir de modo que aparecerá un cuadro de selección de archivo y el sistema se encargará de realizar la transferencia del archivo al servidor:


          Ventana donde se selecciona el archivo que se asociará con una pregunta


          Al apretar el botón Abrir aparecerán las ventanas donde se deben otorgar permisos para que el envío se realice correctamente. Esto es importante, ya que hay que otorgar los permisos para que la imagen sea trasladada al servidor.
          Los pasos a seguir son:

          pulsar el botón "autorizar" y el siguiente paso es

          Pulsando a "autorizar" transmitimos la imagen al servidor correctamente.
           
           

          Visualizar una imagen

          En el caso de que la pregunta tenga una imagen asociada y se desee observarla, lo que se hace es apretar el botón Ver.

          De esta forma aparece una ventana con la imagen propia de la pregunta. Se observa tal y como la podrá observar el alumno en su examen. Luego habrá que pulsar el botón Cerrar para volver a la ventana de la pregunta.

          Una imagen obtenida desde una pregunta


          2.1.1.5  Buscar ítems con alguna característica:

          Una mejora muy solicitada por los profesores era la posibilidad de buscar ítems de alguna forma, se ha agregado esta opción en Banco de Items.A continuación se observa el botón de Búsqueda y su ubicación:

          Al presionar sobre él aparecen dos nuevos botones y se quedan las casillas en blanco para que coloquemos los criterios de búsqueda.

          Por ejemplo, queremos buscar aquellos ítems que tengan como objetivo la palabra “analizar”. La escribimos en la casilla adecuada y presionamos el botón Localizar.


           

          Aparecerán todos aquellos ítems que cumplan las condiciones pedidas. Si se ha colocado más de una buscará aquellos que cumplan una condicióno bien la otra.

          Si no existe ningún ítem con la característica pedida aparecerá el siguiente aviso:

          Y cuando no se desee hacer otra búsqueda más se presionará el botón Ver todos, que permite regresar a todos los ítems disponibles en la Base de Datos.
           
           

          2.1.1.6 Banco de pruebas estandarizadas

          Una vez elegida la asignatura que imparte, el profesor hará clic sobre el icono enviar para acceder al banco de pruebas. Mediante la pantalla que aparece, el profesor podrá comprobar cómo ha quedado diseñada una prueba de su banco de pruebas. Para ello deberá seleccionar en primer lugar entre los exámenes que ha elaborado aquel que desea revisar, seleccionando uno entre los que aparecen en la parte superior derecha de la pantalla. Por tanto el banco de pruebas estandarizadas lo completará el profesor cuando proceda a generar la prueba. El usuario deberá retener el código de la prueba que aparece en la parte inferior de la pantalla, ya que deberá facilitarlo a los alumnos momentos antes de realizar la prueba.

          Ventana donde se aprecian las características de una prueba ya existente

            2.1.1.6.1 Modificar un examen creado

            El Banco de pruebas admite modificaciones, ya que si por ejemplo el profesor ha decidido cambiar la fecha del examen o las aulas donde los alumnos han de examinarse, el profesor podrá cambiarlo pulsando el botón modificar. Cuando el botón cambie de color significa que se pueden actualizar los valores de los campos que se desee. Posteriormente hará clic sobre enviar para que los cambios sean registrados en la Base de Datos.

            Pantalla donde se aprecia el cambio de una característica de una prueba

            2.1.1.6.2 Eliminar un examen

            Si por el contrario lo que se desea es eliminar la prueba podrá hacerlo pulsando sobre el botón eliminar. Aparece una ventana de confirmación de la operación.

            2.1.1.6.3 Imprimir un examen

Para imprimir el contenido de un examen el profesor dispone de un módulo de impresión, mediante el cual podrá ver las preguntas que componen un examen, en formato de texto. Esto significa que si es una pregunta con una imagen, en la impresión saldrá sólo el texto de la misma.

Para realizar una impresión el profesor dará al botón imprimir. Se abrirá entonces una ventana donde se visualiza el examen y se puede modificar parcialmente el aspecto, en lo que se refiere a la fuente, al estilo y al tamaño de letra.

Características propias de la impresión que se pueden modificar

Pantalla donde se observa la ventana de impresión

Una vez que se ha dejado el texto como se desea, hay que ir al menú Archivo/Imprimir. Esto producirá una serie de ventanas, donde se procederá a dar los permisos necesarios para llevar a cabo la impresión.

Ventana para otorgar permisos

       

      2.1.1.6.4 Buscar Pruebas
      Entre las mejoras de la nueva versión se encuentra la posibilidad de Buscar una prueba por código.El botón de búsqueda está situado en la parte superior, y dado un código efectúa la búsqueda, trayendo todos los detalles de la prueba en cuestión de la Base de Datos.

      2.1.1.7 Carga de preguntas por lotes

      El proceso de carga de preguntas en bloque se realizará mediante el uso de un Editor que permita pasar las preguntas de un formato de texto normal a un formato XML, para, a partir de allí, ingresarlas a la Base de Datos de Olite. El proceso de ingreso será el siguiente:
      Desde Menú de Gestión el usuario llega a 
      donde se elegirá Carga de Preguntas y se pasa a buscar el archivo que se tiene preparado de antemano con el editor y que contiene las preguntas que se van a ingresar a la Base de Items.
      En el paso siguiente se observa cómo será el proceso de insertar temas nuevos o bien de seleccionar alguno de los existentes en la Base de Datos para las preguntas que queremos ingresar.
      Este será el proceso para la Carga de Preguntas. Como no disponemos de la información acerca del Editor, una vez esté concluido y a disposición de los que lo requieran, también estará disponible la documentación pertinente.

      2.2 Generar prueba

      Se trata ahora de confeccionar el examen, para lo cual el profesor podrá hacer uso de todos los ítems que ha almacenado en el banco o por el contrario realizar búsquedas seleccionando algunos de ellos. Para ello, deberá ingresar al sistema con su nombre de usuario y su password, elegir esta opción y pulsar el botón enviar. Aparece una ventana en la que debe seleccionar la materia para la que genera los exámenes. Y luego accionar el botón enviar.

      Pantalla de acceso a los módulos del profesor

      Los exámenes podrán ser formativos o sumativos. Los formativos permiten al alumno examinarse acerca de sus progresos de aprendizaje, mientras que los sumativos permiten al profesor calificar al alumno en la materia. Los exámenes formativos realizados por los alumnos permanecerán almacenados en la Base de Datos un máximo de 30 días para que el profesor pueda pedir los datos de la corrección. Pasado este tiempo, se borrarán. Los resultados de los exámenes sumativos por su parte, son permanentes en la Base de Datos.

      Antes de proceder a la confección del examen de manera manual o automática, el usuario debe decidir si quiere disponer de todos sus ítems o prefiere limitar la búsqueda de preguntas disponibles.

      Pantalla para seleccionar algunos o todos sus ítems

        2.2.1 Todos sus ítems

        Una vez seleccionada esta opción, el usuario dispondrá de todas las preguntas existentes en la base de datos pertenecientes a la asignatura activa para confeccionar la prueba.

        2.2.2 Seleccionar algunos ítems

        Una vez seleccionada esta opción, aparecerán en la pantalla una serie de solapas, cada una de las cuales responde a una variable distinta por la que se pueden clasificar las preguntas que se han introducido en el banco de items: tipo de pregunta, profesores, temas disponibles y dificultad. De este modo el usuario tiene la opción de limitar la búsqueda de preguntas disponibles por medio de distintos parámetros o características.

        Pantalla donde debe seleccionar los ítems con los que hará su prueba

        Después de especificar los ítems que se desea que estén disponibles durante el proceso de confección de la prueba, se procederá de manera manual o automática a generar el examen con ellos.

        Pantalla para confeccionar la prueba de forma automática o manual

        2.2.3 Manual

        Se elige esta opción si se desea realizar la búsqueda personalmente, es decir que se comprobará qué preguntas de cada tipo se poseen y cuáles se desea que formen parte del examen. Aparecerá entonces en pantalla un cuadro con la clasificación de los ítems que se han seleccionado en el paso anterior, englobados en tema, tipo y dificultad. Es posible realizar la búsqueda seleccionando en cada solapa una opción, por ejemplo un único tema, una dificultad determinada o un tipo determinado de pregunta. Después de pulsar sobre el botón buscar, el ordenador buscará en el banco de datos los ítems que se posean según las características escogidas. En la parte inferior de la pantalla podrá visualizarse el ítem en formato HTML. Debajo de la casilla Datos de ítems visualizados aparece la cantidad de preguntas que se han encontrado con esas características, bastará con pulsar sobre las flechas para que se visualice la pregunta tal como aparecerá en el navegador. Haciendo uso del botón Agregar ítem, se agregan las preguntas que formarán parte del examen que se está diseñando, e irán apareciendo en el cuadro "Composición de la prueba" que aparece en la parte superior derecha de la pantalla.

        Pantalla de confección manual

        Una vez escogidas las preguntas se conoce el número total de ítems que compone la prueba. Si el número de preguntas es demasiado alto o alguna de ellas se quiere quitar de la prueba, se podrá hacer clic sobre el botón Eliminar ítem. Una vez confeccionado, se enviará pulsando el icono enviar examen.

        Parte de la pantalla donde aparecen los ítems ya seleccionados para una prueba

        2.2.4 Automática

        En el caso de elegir este tipo de búsqueda se determina el número de ítems que se desea buscar por cada una de las posibles variables, con la ventaja de que será el ordenador el que muestre el número de ítems del tipo requerido que existen almacenados en el banco de datos. Las búsquedas se podrán realizar de forma general, o bien seleccionando los ítems por tipo de pregunta, por dificultad o de forma más detallada. Cualquiera sea el caso, aparecerán los temas a los que pertenecen los ítems, lo que facilitará la clasificación de las preguntas. El número total de ítems disponibles que se posea en el banco de datos aparecerá en la pantalla, por lo que se deberá teclear el número de ítems requeridos con esas características. Tras elegir el número de ítems que se desea utilizar aparecerá el total de ítems solicitados y haciendo clic sobre enviar aparecerá un cuadro de diálogo informando al usuario que su prueba será enviada.

        Pantalla de confección automática de la prueba

        Una vez elegidas las preguntas que van a formar el examen (de manera manual o automática), se pasa a la pantalla de elección de características de la prueba. Esta pantalla permite seleccionar una serie de variables relacionadas con lugar, activación, calificación y opciones para el orden de las preguntas, el tipo y el tiempo en el que se desea que se realice la prueba.

        Opciones para definir características de la prueba

        2.2.5 Orden

        El programa permite al usuario elegir el tipo de orden que tendrán las preguntas en el examen del alumno por temas, de forma aleatoria (cada examen con diferente orden) o manual (orden especificado por el profesor al confeccionar la prueba).

        2.2.6 Tipo de evaluación

        Existen dos tipos de pruebas sumativas y formativas. La primera hace llegar al profesor una puntuación final correspondiente a la prueba realizada por el alumno, mientras que el alumno no recibe dicha información. La segunda permite a los alumnos evaluar ellos mismos su conocimiento de la asignatura. El ordenador ofrecerá al alumno un cuadro con la finalidad de que sepa el número de preguntas que ha respondido correctamente y en qué preguntas ha cometido errores.

        2.2.7. Presencial/No presencial

        Este campo permite a una prueba ser visualizada por el alumno sin la presencia del profesor (no presencial) o bien si la presencia del profesor es obligatoria se pondrá presencial en ese campo. De esta forma se consigue la integración total dentro del sistema que permitirá a los alumnos acceder a los foros de discusión de las materias, asi como a los exámenes disponibles. Este sistema estará en breve en funcionamiento.
        Ejemplo de examen que el alumno podrá realizar sin que el profesor esté presente:

        Ejemplo de examen que el alumno no podrá realizar cuando el profesor no esté presente:

         
         

        2.2.8 Tipo de activación

        Si es automática el usuario deberá especificar los parámetros temporales de disponibilidad (puntual, período o siempre). Si es manual, el usuario deberá activar personalmente la prueba a través de la utilidad ofrecida en el menú de opciones avanzadas Activar prueba. Una vez activada, la prueba estará disponible durante el tiempo de duración propio del examen. Este tipo de activación está orientado a la realización de exámenes sumativos.

        2.2.9 Disponibilidad

        Indica la disponibilidad temporal en el caso de que la activación sea automática. Según las distintas posibilidades que ofrece OLITE, la prueba puede estar disponible siempre o por el contrario el profesor introducirá el tipo de disponibilidad en fechas próximas al examen. Puede elegir un día y una hora puntual para que sus alumnos realicen el examen. Con esta opción deberá especificar la fecha exacta de su ejecución así como la hora en que los alumnos podrán activar la prueba. El examen puede también ser confeccionado para que los alumnos accedan a él durante unas fechas determinadas, no limitando su acceso a un único día. Se trata de la opción período, en la que el examinador determinará los días en los que el examen permanecerá visible para los alumnos.

        Pantalla donde se observa la disponibilidad de la evaluación

        2.2.10 Lugar

        En este caso, el usuario de OLITE tendrá que establecer el lugar en el que se desarrollará la prueba. Las posibilidades varían según el tipo de examen que se desea realizar: si la prueba es de tipo sumativo el ordenador sólo permitirá seleccionar una o varias aulas determinadas, si se trata de una prueba formativa se podrá seleccionar cualquiera de las variables posibles. Para ello podrá elegir la opción todo el campus, de esta forma los alumnos de dicha asignatura podrán realizar el examen en cualquiera de las aulas que posee el Centro de Tecnología Informática en la Universidad de Navarra. Para mayor facilidad del alumnado la opción lugar permite la selección de la variable toda la red, lo que hará posible que los alumnos realicen la prueba desde cualquier ordenador que se encuentre conectado a Internet. Existe, por otra parte, la posibilidad de seleccionar una serie de aulas para la prueba, en cuyo caso se escogerá la opción aulas seleccionadas o se escribirá el nombre de las mismas en la casilla correspondiente.

        Pantalla donde debe colocarse el lugar donde se tomará la prueba

        2.2.11 Tiempo

        El profesor podrá establecer el tiempo concreto en el que el alumno debe efectuar la prueba por ordenador, para ello bajo la palabra duración habrá que especificar el tiempo exacto, en minutos, que otorga a los alumnos para finalizar el examen. En caso contrario será el ordenador quien establezca un tiempo estándar. De cualquier forma, el ordenador enviará el examen del alumno una vez acabado el tiempo establecido de manera inmediata.

        2.2.12 Calificación

      Se ha comentado que el programa OLITE permite que sea el propio ordenador el que, a través de una serie de variables escogidas por el profesor, evalúe la prueba. Para ello, el examinador deberá establecer el tipo de evaluación que el ordenador utilizará durante la corrección de los trabajos. El usuario podrá elegir la opción personalizada en el caso de que desee establecer unos parámetros para cada fallo y cada acierto. Para ello deberá determinar las puntuaciones exactas que se aplicarán durante la corrección, según se trate de un fallo o acierto y variando según la dificultad de las mismas.

      Por otra parte, el examinador puede utilizar una calificación estándar, con la que se contabilizará un punto por cada acierto y ningún punto en caso de que la respuesta sea fallida. Otra opción que permite el programa es la denominada como aleatoria, con la cual el ordenador aplicará un punto por cada respuesta acertada, así como restará una cantidad proporcional al número de opciones existentes en la pregunta de modo que se anule la aleatoriedad de las respuestas.

      La última de las opciones es la calificación ponderada, a través de la cual el ordenador aplicará durante la corrección unos valores establecidos por el usuario al confeccionar la prueba según la dificultad de las preguntas.

      Tipo de corrección aplicable a la prueba

      Una vez seleccionadas todas las variables de la prueba, el examen debe ser creado, para lo que se pulsa el botón "Enviar Prueba". Aparecerá entonces en la pantalla una ficha con los datos íntegros de la prueba que se desea activar, si los datos son correctos se presiona sobre aceptar.

      Una prueba a punto de ser creada, con sus características

      Si por el contrario no lo son, se pulsa cancelar. Si se ha aceptado aparecerá otro cuadro de diálogo advirtiendo que la prueba ha sido generada con éxito.

      Además aparecerá el código de identificación de la prueba, que los alumnos deberán conocer en el momento en que necesiten acceder al examen.

      Ventana donde aparece el código de la prueba generada

      2.3 Opciones avanzadas

Las opciones avanzadas del sistema permiten al profesor acceder a una serie de utilidades que son las siguientes:
        Otra de las mejoras muy valoradas era la posibilidad de obtener los resultados de la corrección en un formato diferente del texto enviado a través del mail. Se pensó que un formato de hoja de cálculo cumpliría ampliamente las expectativas de los profesores en este sentido, permitiendo luego introducir a cada uno los cambios que considere oportunos, ordenando por algún campo, etcétera.
        Se efectúa la corrección como se venía haciendo, y en la última pantalla, dnde se anuncia que se ha enviado el resultado por e-mail, se permite ahora recibir en formato Excel los mismos resultados:
        Se recibe la ventana típica del visualizador externo, preguntando si se desea abrir directamente oguardar a disco. Cualquiera de las dos opciones es válida.
        Se obtendrá un archivo con los mismos datos que se recibían por e-mail, pero en un formato mucho más manejable y conocido por todos.
         

        2.3.4 Solicitar la revisión de una prueba

        Una vez que los alumnos han efectuado un examen es necesario contar con una revisión, que permita observar las respuestas dadas por cada alumno, para verificar los resultados de cada uno y que ellos puedan ver sus equivocaciones.

        De la lista desplegable se procede a elegir el alumno que en ese momento se dispone a revisar el examen:

        Ventana donde aparecen los alumnos que han efectuado el análisis ydonde se selecciona el deseado

        Al pulsar el botón enviar aparece el examen tal como esté almacenado en la base de datos:

        Ventana con los datos del alumno solicitado, y sus respuestas

        Ventana continuación de la anterior

        De esta manera se podrá hacer ver a cada alumno los aciertos y errores que haya tenido en el examen.

        2.3.5 Solicitar estadísticas básicas de los datos de exámenes

Para realizar esta tarea se pulsa el link correspondiente de Opciones Avanzadas
 

Link a pulsar para estadísticos básicos

En la pantalla siguiente hay que decir, mediante el código correspondiente, el examen deseado. Además habrá que colocar nombre de usuario y clave.
 

Ventana donde se coloca el código del examen a analizar

Y aparece la ventana con los estadísticos básicos correspondientes a ese examen:
 


Resultado de la operación anterior


3 Módulo de alumno

Mediante esta página el alumno podrá acceder a la prueba diseñada por el profesor y realizar el examen. Si la prueba es de tipo formativa conocerá el resultado del examen en cuanto lo envíe, si por el contrario es de tipo sumativa, el profesor conocerá el resultado de las pruebas de sus alumnos y se las comunicará.

Ventana de acceso para el alumno

Tanto los exámenes de tipo formativo como los de tipo sumativo pueden ser visualizados en una sola página o en varias páginas Una vez activada la prueba, el alumno deberá introducir sus datos personales: nombre, dos apellidos, credencial, e-mail y el código del examen que el profesor les ha facilitado para acceder a la prueba. Una vez finalizada esta operación, el usuario pulsará la opción enviar y aparecerá en pantalla el examen con un encabezado indicando la asignatura y la persona que realiza el examen.

Ventana donde el alumno elige si hace su examen en una o en varias páginas

    3.1 En varias páginas:

    Si el modo de visualización elegido es éste, en la parte superior de la pantalla aparecerán una serie de números que deberá accionar el usuario para contestar las diferentes preguntas. Los números van del 1 al 10, sin embargo la prueba se puede componer de tantas preguntas como desee el profesor. Si la prueba posee más de diez preguntas aparecerá tras el último número un botón con el texto: más preguntas. Para acceder a la siguiente tanda de cuestiones podrá pulsar el botón más preguntas. En el borde inferior de la pantalla se encuentra el botón enviar examen de manera que el alumno puede contestar la prueba en el orden que desee. Una vez accionado el botón enviar examen, aparecerá un cuadro de diálogo advirtiéndole que sólo puede existir un examen a su nombre, si es que el examen es sumativo.

    Vista de la pantalla de una pregunta en un examen de varias páginas

    3.2 En una sola página:

    Este tipo de visualización ofrece al alumno todas las preguntas en una misma página, de manera que la opción de enviar examen se encuentra en la parte inferior de la pantalla.

    Examen visualizado en una sola página

    Una vez el alumno ha realizado el examen y lo ha enviado, los datos que se le muestran dependerán del tipo de prueba realizada:

    3.3 Resultado de una prueba formativa:

    Una vez el alumno haya enviado su examen, el ordenador le facilitará en el momento el resultado de su prueba, apareciendo en pantalla cada una de las preguntas con la contestación dada en cada caso por él. Las preguntas de tipo abierto recogen el texto íntegro escrito por el alumno ya que el ordenador no corrige este tipo de cuestiones. Le ofrecerá también un resumen con el número de aciertos totales y la puntuación que hubiera obtenido, separada por tipo de preguntas.

    Corrección de una prueba formativa, como la recibe el alumno

    3.4 Resultado de una prueba sumativa

    El profesor que haya diseñado su prueba de este modo recibirá por correo electrónico los resultados de todas las pruebas realizadas por sus alumnos una vez lo haya solicitado mediante la utilidad solicitar corrección del menú de opciones avanzadas, y se encargará a su vez de hacer llegar, por el sistema que quiera, el resultado de las pruebas al alumnado.


4 Introducción a la escritura de tests

4.1 Características de un buen test

Al confeccionar un test comprobaremos que no siempre es fácil de escribir. Habrá que tener en cuenta si se están evaluando objetivos finales de una materia o bien objetivos a corto plazo. Aparte de eso se deberán escoger las preguntas para abarcar todo el contenido que se evalúa, teniendo en mente qué objetivos de aprendizaje tienen los ítems que se eligen.

Se llega entonces al nivel del ítem a elegir. ¿Y cómo está redactado? ¿Es correcto su sentido? Un alumno medio ¿entiende lo que se ha querido preguntar?

Todas estas son reflexiones que uno, como docente, seguramente se ha planteado infinidad de veces a lo largo del dictado de sus cursos.

Al intentar plasmar en el ordenador un examen también se deben tener en cuenta estos interrogantes, aún más por el hecho de cambiar de medio de evaluación, situación que puede llevar a la confusión a no pocos alumnos.

Habremos de ser pues, muy cuidadosos a la hora de escribir nuestras preguntas y cómo no, a la hora de armar el examen en el ordenador.

4.2 Definición de ítem

Un ítem de un test es una unidad de medida que cuenta con un estímulo (en este caso sería lo que llamamos enunciado) y una forma prescriptiva para responder (que serían las respuestas presentes, dependiendo del tipo de ítem de que se trate) que devuelve la respuesta del examinado, desde la cual es posible inferir su habilidad para resolver un cierto objetivo de aprendizaje (que vendrá dado por el tema, objetivo y dificultad del item).

4.3 Criterios para construir ítem

Se pueden dar una serie de criterios para ayudar a la construcción de ítems, que, siendo de sentido común, no está de más tener en cuenta.
      1. Debe ser congruente con el objetivo planteado
      2. Debe tener claramente planteado el objetivo
      3. Hay que considerar si ese ítem puede contribuir a errores de medida
      4. El formato debe ser apropiado para la finalidad del test
Al escribir los ítems propios sería bueno que los tuviéramos en cuenta, para mejorar la calidad de los tests que construimos.

5 Tipos de ítems presentes en el programa

5.1 Items de tipo Verdadero/Falso
5.1.1 Ventajas
Este tipo de ítem resulta atractivo porque es simple de escribir y ofrece una medida directa del contenido aprendido. Es posible aplicar este tipo de ítem desde objetivos que van desde una simple memorización a más sofisticados procesos cognitivos.

Ebel (1972) identificó 11 áreas donde es apropiado el uso de ítems de este tipo.

      1. Generalizaciones
      2. Comparaciones entre conceptos
      3. Proposiciones de causa o condición
      4. Aseveraciones acerca de relaciones entre conceptos, eventos, principios, hechos…
      5. Explicaciones acerca del por qué de fenómenos o eventos
      6. Ejemplos de conceptos o principios
      7. Sentencias de evidencias
      8. Predicciones acerca de fenómenos o eventos
      9. Pasos de un proceso o procedimiento
      10. Resultados numéricos luego de aplicar una serie de pasos
      11. Sentencias evaluativas acerca de eventos o fenómenos.
 

Se aprecia en la lista la flexibilidad de este tipo de preguntas, que, unida a la facilidad de escritura, al menos aparente, hace que uno pueda decantarse con facilidad por el tipo Verdadero - Falso.

        5.1.2 Desventajas
Como es de esperar, también los ítems de este tipo tienen sus inconvenientes. Según sus críticos preguntas de este tipo tienden a aislar hechos, por ejemplo, trivializando la importancia de entender las relaciones entre ellos. Y también hacen hincapié en el hecho de que la probabilidad que tiene un alumno de acertar, sin saber nada, es del 50%.

De todos modos dependerá del examen de que se trate, ya que algunos tienen características que llevan al uso de este tipo de ítem y por que no, de la habilidad alcanzada por el profesor a la hora de construir sus ítems.

5.2 Items de tipo opción múltiple

5.2.1 Ventajas

Este formato es particularmente útil para el desarrollo de preguntas de más alto nivel de conocimiento. Es sencillo y ofrece mucha variabilidad de contenido. Si se es cuidadoso al escribirlo puede facilitar la tarea al alumno, permitiendo exponer sus ideas sin necesidad de plasmarlas en una frase propia.

5.2.2 Desventajas

Al observar desde otro punto de vista la característica expuesta de que el alumno no tiene necesidad de escribir, se encuentra, como contrapartida, el hecho de que, de alguna manera, se está coartando la libertad de expresarse al alumno.

Como es cierto que aún quedan muchos tests construidos sin el suficiente estudio de sus ítems, también es cierto que los críticos del sistema puedan tener razón en algunos casos.

5.3 Items de tipo Pregunta Abierta
5.3.1 Ventajas

Con este tipo de ítem el profesor puede lograr que el alumno exprese sus ideas, manifieste sus pensamientos, de manera libre. Cuenta con un espacio donde el alumno escriba, plausible de ampliar.

Es muy útil para desarrollar la creatividad del alumno. Para ver su manera de pensar. Para verificar si lo que expresa acerca de un determinado tema de estudio corresponde con lo que deba ser en la realidad

5.3.2 Desventajas

Una primera desventaja que se podría expresar es que el programa no está preparado para corregir este tipo de ítem, por lo que el profesor debe corregirlos a mano.

Otro inconveniente es que si se piensa hacer un examen con muchas preguntas de este tipo, probablemente no sea este el medio idóneo, ya que el alumno puede estar más cómodo expresando sus ideas con los métodos tradicionales de lápiz y papel que delante de la pantalla del ordenador.

5.4 Especificar el objetivo de un ítem

5.4.1 Taxonomía de Bloom
 
Si bien no es una taxonomía escrita específicamente para crear ítems, puede servir de ejemplo acerca de los objetivos que se quieren alcanzar, y que estarán presentes en los ítems.
Mucho se ha dicho con respecto a esta taxonomía, que tiene seguidores y detractores. A partir de ella han surgido otras que pretenden ayudar más a la tarea del constructor de ítems.

De entre ellas citaremos el trabajo de Hannah and Michaelis, que presentaron un marco para objetivos de instrucción. Dividen en 4 dominios, que podríamos nombrar como "Recolección de información", "Proceso intelectual", "Skills" y "Valores y actitudes".

No pretende formar las bases de nuevas teorías, simplemente pretende servir de herramienta de apoyo.

5.5 Ejemplos de Ítem
A continuación se citan ejemplos de ítems creados mediante el programa, para que se pueda apreciar la variedad existente. Esto puede servir de ayuda en la tarea de construir los propios ítems.

En este ejemplo se observan preguntas típicas de "Conocimientos generales" de tipo Múltiple choice y Verdadero - Falso tal como el alumno las verá en al pantalla del ordenador.

Imagen donde se observan un ítem Múltiple choice y uno Verdadero - Falso

En este segundo ejemplo se observa el aspecto para una pregunta abierta con imagen asociada, que podría estar presente en una materia como "Literatura Hispánica"

Imagen donde se observa un ítem de Pregunta Abierta con su imagen asociada


6 Revisión de los ítems

    6.1 Consistencia entre las características de un ítem y su especificación

    Evidentemente, una de las primeras cuestiones que revisaremos es si el ítem en sí mismo evalúa los objetivos para los que fue escrito, junto con el grado de acierto de su redacción.

    6.2 Verificar los resultados de las respuestas

Al evaluar a un grupo de alumnos mediante un test obtendremos una serie de puntuaciones, ya sea con la corrección por medio del ordenador o bien por medio de la corrección hecha por el profesor.

¿Cómo asegurarnos que son correctas? Evidentemente hay que revisar el test en sí mismo, y por ende los ítems que lo componen.

La tarea puede parecer tediosa, pero es de suma importancia para prevenir cualquier tipo de equivocación que se haya cometido a la hora de generar el test.

Hay que recordar también que, haciendo la revisión del test con el alumno sirve para que el alumno aprenda de sus errores, ya que de eso se trata la educación.

Si la revisión del test se hace con toda la clase se puede apreciar si existen respuestas que habían sido etiquetadas como erróneas y sin embargo hay personas que, siguiendo un razonamiento correcto, han llegado a ellas. O bien si un ítem resulta tan ambiguo que los alumnos han respondido a él de muy variadas formas. O incluso estudiar el caso de algún ítem que nadie ha sido capaz de contestar correctamente. También puede darse el caso de un ítem que es contestado bien por aquellas personas que no suelen estar entre las mejores de la clase y es contestado erróneamente por personas cuyo rendimiento es de los más altos.

Estas revisiones deben llevar a una reestructuración de los ítems en donde se han dado problemas. O se modifican o se eliminan, para permitir que los próximos tests no traigan en su hechura esos inconvenientes.