Harari advierte que la inteligencia artificial podría decidir sobre las finanzas sin que la entendamos

El riesgo de la inteligencia artificial no está necesariamente en máquinas armadas, sino en sistemas capaces de administrar el dinero y los trámites de una sociedad. Esa fue la advertencia del historiador Yuval Noah Harari durante una intervención en la televisión pública checa.

Para explicarla, recurrió a una comparación con las vacas: reconocen la presencia humana, pero no comprenden el dinero ni cómo influye en sus vidas. Según su planteo, las personas podrían quedar en una posición semejante frente a decisiones tomadas por tecnologías que ya no logren entender.

¿Por qué las finanzas y la burocracia?

Harari sostuvo que tareas como procesar datos, seguir expedientes o completar formularios resultan agotadoras para las personas, mientras que los sistemas de inteligencia artificial pueden operar con grandes volúmenes de información. Como ejemplo, señaló que una máquina podría retener el historial completo de transacciones de un banco, algo que excede la capacidad de un empleado.

A partir de esa ventaja, el historiador planteó que la tecnología podría crear estructuras legales y financieras cada vez más complejas. Su proyección es que, dentro de diez o veinte años, las personas podrían vivir bajo un sistema financiero construido por inteligencia artificial que no comprendan.

La cuestión, según su argumento, va más allá de la eficiencia. Las leyes, los bancos y los Estados permitieron organizar la cooperación humana a gran escala. Si otra inteligencia pasa a controlar esas herramientas, también puede cambiar quién toma las decisiones.

¿Qué pasa cuando un sistema falla?

La responsabilidad es uno de los puntos centrales de la advertencia. Harari señaló la dificultad de encontrar quién debe responder cuando falla un sistema de inteligencia artificial y planteó que no se puede sostener, al mismo tiempo, que existe control y que nadie lo ejerce.

En la Argentina, los datos sobre fraude digital muestran la importancia de esa discusión, aunque no indican por sí solos que esos delitos hayan sido cometidos con inteligencia artificial. La Unidad Fiscal Especializada en Ciberdelincuencia registra que más del 70 por ciento de las denuncias por ciberdelitos corresponden a fraude digital y suplantación de identidad. A su vez, un informe de CertiSur y D'Alessio IROL indicó que el 43 por ciento de los usuarios de internet del país sufrió una intrusión o un fraude digital entre 2025 y el primer semestre de 2026, frente al 33 por ciento del período anterior. El Banco Central acaba de exigir que los proveedores de pagos respondan cuando algo falla. Es un punto de partida, pero queda pendiente una pregunta más amplia: cómo garantizar que las decisiones automatizadas puedan entenderse y que haya responsables identificables cuando perjudiquen a las personas.

Emanuel Castillo, Educación y universidad.