Roman Yampolskiy es de las voces más pesimistas del debate sobre la inteligencia artificial, y también de las más citadas. En entrevistas de 2025 llegó a hablar de un desempleo de hasta el 99 % en los próximos años. Es fácil descartarlo como alarmismo, y también es fácil asustarse. Ninguna de las dos reacciones ayuda a decidir.
Este artículo resume qué dice, separa lo que habla de una tecnología que todavía no existe de lo que ya está pasando, y termina con cuatro principios que una empresa puede aplicar hoy.
Quién es Roman Yampolskiy
Es profesor de la Universidad de Louisville y se especializa en seguridad de la inteligencia artificial: el campo que estudia cómo lograr que sistemas cada vez más capaces actúen según los intereses humanos. Editó el libro Artificial Intelligence Safety and Security y en 2024 publicó AI: Unexplainable, Unpredictable, Uncontrollable, cuyo título resume su postura.
Su pesimismo no viene de desconocer la tecnología, sino de estudiarla de cerca. Por eso vale la pena entender su argumento, aunque no se comparta.
Lo que advierte
Estas son sus advertencias principales, contadas como él las plantea:
- Desempleo masivo. Sostiene que la inteligencia artificial va a reemplazar la mayoría de las ocupaciones, no de golpe sino como una erosión cada vez más rápida.
- Un punto sin retorno. Cuando un sistema supere a las personas en todo lo relevante, no habrá forma confiable de prever cómo se comporta.
- No se puede apagar. Un sistema suficientemente capaz podría anticipar y evitar que lo desactiven.
- La carrera equivoca las prioridades. La competencia entre laboratorios premia avanzar rápido por encima de avanzar seguro.
- No hay segunda oportunidad. A diferencia de otros riesgos, un error con una superinteligencia no se corregiría con una actualización.
Estas advertencias hablan de una superinteligencia que todavía no existe. Las herramientas que una empresa usa hoy (automatizaciones, agentes, modelos de lenguaje) son poderosas, pero acotadas. El valor de escucharlo no es paralizarse: es aprender a distinguir una adopción responsable de una irresponsable.
El problema del control
Cuando se les pregunta a los empresarios si se sienten tranquilos adoptando inteligencia artificial, muchos responden: «Si algo sale mal, lo apago». Es justamente la intuición que Yampolskiy discute.
La idea de fondo es simple: no hay forma de verificar que un sistema más inteligente que nosotros persigue los objetivos que le pusimos. El riesgo no es que se «rebele» como en las películas, sino que cumpla con demasiada eficiencia un objetivo mal especificado, y que nadie lo note hasta que sea tarde.
Las posiciones del debate
| Posición | Qué sostiene | Algunas voces |
|---|---|---|
| Aceleracionistas | Los beneficios compensan los riesgos; frenar cuesta más | Sam Altman, Marc Andreessen |
| Partidarios de pausar | Hay que frenar mientras se desarrollan salvaguardas | Geoffrey Hinton, Gary Marcus |
| Alineacionistas | El problema tiene solución con suficiente investigación | Dario Amodei |
| Pesimistas | El problema del control no tiene solución | Roman Yampolskiy, Eliezer Yudkowsky |
La lección para un empresario no es elegir un bando. Es entender que los expertos más informados no se ponen de acuerdo sobre los riesgos de sistemas que ya están en el mercado, y que esa incertidumbre es un dato para sus decisiones.
Lo que ya está pasando en el trabajo
Más allá de la superinteligencia, hay un cambio que no espera cinco años: tareas que ya se están automatizando con herramientas que cualquier empresa puede contratar.
Tareas que ya se desplazan
- Cargar y procesar datos: formularios, facturas, conciliaciones.
- Responder consultas frecuentes por correo, chat o WhatsApp.
- Armar reportes periódicos.
- Clasificar documentos, solicitudes y reclamos.
- Hacer el primer seguimiento a clientes posibles.
- Redactar textos con estructura fija: propuestas, presupuestos, resúmenes.
Tareas donde la persona sigue siendo insustituible, por ahora
- Negociar en situaciones tensas o inciertas.
- Decidir con información incompleta.
- Construir confianza a largo plazo.
- Manejar conflictos y cultura dentro del equipo.
- Interpretar el contexto local y las relaciones.
La pregunta para su empresa es cuánto del tiempo de su equipo se va en la primera lista. Si es mucho, la decisión es suya: automatizar esas tareas con criterio y a su ritmo, o esperar a que la competencia lo obligue.
Cuatro principios para adoptar la inteligencia artificial con límites
1. Escriba qué puede decidir el sistema solo
Antes de poner en marcha cualquier automatización, defina por escrito qué puede hacer sin consultar y qué necesita siempre la aprobación de una persona. Un agente de seguimiento puede enviar mensajes; ¿puede también ofrecer un descuento o dar de baja a un cliente? Eso lo decide usted, no el sistema. En el laboratorio, cada agente tiene permisos específicos: el que publica un sitio no puede cambiar un dominio.
2. Mantenga visible el razonamiento
No hace falta entender el código, pero sí poder explicar por qué el sistema hizo lo que hizo. Si no puede explicárselo a un cliente o a un empleado, el sistema tiene demasiado poder. Por eso cada paso de nuestros sistemas deja un registro.
3. Asegúrese de poder deshacer
Yampolskiy advierte que una superinteligencia no se podría apagar. Las herramientas de hoy sí se pueden revertir, pero sólo si se planifica. ¿Podría deshacer lo que hizo su sistema en las últimas 24 horas? ¿Sabe a quién le escribió, qué datos cambió? En el laboratorio, una versión nueva arranca al lado de la anterior y el tráfico cambia sólo cuando responde bien; y un respaldo no cuenta como tal hasta que se probó restaurándolo.
4. Forme a su equipo para trabajar con la inteligencia artificial
Las empresas que atraviesan bien este cambio no son las que reemplazan más personas, sino las que convierten a su equipo en quien opera y supervisa los sistemas.
La posición del laboratorio
Trabajamos con inteligencia artificial todos los días y construimos sistemas que otras empresas usan para operar. Lo que vemos coincide con la advertencia de Yampolskiy a una escala mucho menor: la diferencia entre la inteligencia artificial bien implementada y la que se adopta por moda es enorme.
En una empresa mediana, el riesgo no es la extinción humana. Es poner en marcha una tecnología sin saber qué hace, en qué proceso corre ni cómo se va a medir si funciona. El antídoto es el mismo en las dos escalas: medir antes de construir, poner los límites antes de encender el sistema y poder deshacer lo que hizo.