¿El IA nos está haciendo tontos?
Investigadores de Microsoft y la Universidad Carnegie Mellon recientemente publicaron un estudio que examina cómo el uso de inteligencia artificial generativa en el trabajo afecta las habilidades de pensamiento crítico.
“Si se usa incorrectamente, las tecnologías pueden y lo hacen deteriorar las facultades cognitivas que deben preservarse,” afirma el estudio.
Cuando las personas confían en la inteligencia artificial generativa en el trabajo, su esfuerzo se desplaza hacia verificar que la respuesta del AI es adecuada para usarla, en lugar de utilizar habilidades de pensamiento crítico de mayor orden como crear, evaluar y analizar información. Si los humanos solo intervienen cuando las respuestas del AI son insuficientes, el estudio sostiene que los trabajadores se privan de “oportunidades rutinarias para practicar su juicio y fortalecer su musculatura cognitiva, lo que los deja atrofiados y preparados cuando surgen las excepciones.”
En otras palabras, cuando confiamos demasiado en la IA para que piense por nosotros, nos volvemos peores para resolver problemas por nosotros mismos cuando la IA falla.
En este estudio de 319 personas, que informaron haber utilizado inteligencia artificial generativa al menos una vez por semana en el trabajo, los participantes fueron invitados a compartir tres ejemplos de cómo utilizan la inteligencia artificial generativa en el trabajo, que se dividen en tres categorías principales: creación (escribir un correo electrónico formulario a un colega, por ejemplo); información (investigar un tema o resumir un artículo largo); y asesoramiento (pedir orientación o crear un gráfico a partir de datos existentes). Luego, se les preguntó si practican habilidades de pensamiento crítico al realizar la tarea y si el uso de la inteligencia artificial generativa los hace pensar más o menos criticamente. Para cada tarea mencionada por los participantes, también se les preguntó sobre su confianza en sí mismos, en la inteligencia artificial generativa y en su capacidad para evaluar las salidas del AI.
Alrededor del 36% de los participantes informaron que utilizan habilidades de pensamiento crítico para mitigar posibles efectos negativos del uso de la IA. Un participante mencionó que utilizó ChatGPT para escribir una revisión de desempeño, pero verificó la salida del AI por miedo a que accidentalmente enviara algo que podría suspenderla. Otro participante informó que tuvo que editar correos electrónicos generados por AI que enviaría a su jefe, cuya cultura da más importancia a la jerarquía y la edad, para no cometer un error. Y en muchos casos, los participantes verificaron las respuestas generadas por AI con búsquedas más generales en recursos como YouTube y Wikipedia, posiblemente derrotando el propósito de usar la IA en primer lugar.
Para que los trabajadores compensen las deficiencias de la inteligencia artificial generativa, deben entender cómo ocurren esas deficiencias. Pero no todos los participantes estaban familiarizados con los límites de la IA.
“Los posibles daños a largo plazo de las respuestas de GenAI pueden motivar el pensamiento crítico, pero solo si el usuario es conscientemente consciente de tales daños,” dice el estudio.
De hecho, el estudio encontró que los participantes que informaron tener confianza en la IA utilizaron menos esfuerzo de pensamiento crítico que aquellos que informaron tener confianza en sus propias habilidades.
Aunque los investigadores se abstienen de decir que las herramientas de inteligencia artificial generativa te hacen más tonto, el estudio muestra que la dependencia excesiva de las herramientas de inteligencia artificial generativa puede debilitar nuestra capacidad para resolver problemas de manera independiente.