La inteligencia artificial ha incursionado rápidamente en las actividades académicas, laborales y cotidianas de todas las personas. Esta inmersión no ha sido del todo voluntaria. Un día apareció un nuevo botón o aplicación en tu celular y en tu computadora preguntando qué puede hacer por ti, qué haremos hoy o dando sugerencias de lo que puede hacer por ti.
Al iniciar la conversación, por curiosidad, entras a la dinámica de la inteligencia artificial. Te das cuenta de lo fácil y sencillo que es responder a todas tus preguntas, ya no es necesario “googlear” y dar clic en un vínculo; te ahorras unos pasos. Este verbo ha pasado de moda, ahora todo intentamos resolver con un: “pregúntale a la inteligencia artificial”. Pero ¿qué significa preguntarle a la inteligencia artificial?
El auge de los chatbots de inteligencia artificial ha transformado la búsqueda de información, las tareas académicas y laborales. La interfaz crea un sentimiento de cercanía, de conversación. En poco tiempo, preguntar, escribir, resumir o buscar pasó de ser un proceso de exploración y contraste, a ser una interacción inmediata con sistemas que resuelven casi todo en una sola ventana. Estos chatbots han reordenado los hábitos intelectuales básicos y vuelven prescindibles pasos que antes eran parte del trabajo: buscar, leer, comparar, dudar y verificar.
La comodidad de recibir una respuesta sintética, articulada y ajustada a parámetros propios genera la sensación de que conocer algo es igual a obtener una respuesta rápida. El problema es que esta rapidez no siempre es igual a calidad y veracidad. La iA operan como sistemas que producen respuestas a partir de patrones probabilísticos del lenguaje. Esto puede dar origen a errores, inventar referencias, mezclar datos con afirmaciones falsas; alucinan y aun así dan la respuesta con total seguridad. Aquí radica uno de sus mayores riesgos: no solo se equivocan, también dificultan la identificación del error por parte de la persona usuaria.
Existen también otros límites que suelen pasar desapercibidos. La iA tiene restricciones de contexto, uso limitado de tokens, fallos en la predictibilidad. Además, su uso también plantea problemas éticos relacionados con el uso de recursos, la vulnerabilidad de la información, el reconocimiento de su uso y el tratamiento de datos. En este sentido, su uso y expansión suscita preguntas técnicas, académicas, éticas, académicas y políticas.
Un ejemplo concreto de estas limitaciones es que, aunque parezca que la inteligencia artificial lo sabe todo, aún no puede acceder en tiempo real a bases de datos oficiales como las del INEGI para obtener estimaciones actualizadas sobre población, economía o empleo. Si le preguntas por una cifra reciente, es capaz de responder con absoluta seguridad, tono fluido, adecuado y convincente que la caracteriza, y aun así estar equivocada, desactualizada o simplemente inventa.
Confiarle la búsqueda de datos duros es, quizás, uno de los usos más riesgosos que podemos darle. La apariencia de precisión no es precisión. Y cuando los datos erróneos se cuelan en un artículo, un trabajo o una decisión, el costo no lo paga la inteligencia artificial: lo pagamos nosotros. Por eso, más que rechazarla o adoptarla sin reservas, lo que se necesita es una relación crítica y consciente con estas herramientas. Saber qué pueden hacer, pero sobre todo, saber qué no pueden y que no deben hacer por nosotros.
