Por: Julio César
El investigador Jacob Coxon distingue entre los riesgos actuales de la IA y un futuro escenario de superinteligencia con mayor autonomía.
Jacob Coxon, Investigador de Inteligencia Artificial que recientemente renunció a Anthropic por sus preocupaciones sobre el rumbo que está tomando el desarrollo de esta tecnología, advirtió que la velocidad de avance de los sistemas de IA podría llevar en los próximos años a escenarios de riesgo extremo. En entrevista con Anderson Cooper, de CNN, sostuvo que una futura inteligencia artificial capaz de mejorar sus propias capacidades y actuar con mayor autonomía podría provocar daños de gran escala, aunque aclaró que los modelos actuales no representan un riesgo de extinción.
Jacob Coxon afirmó que existe un escenario en el que una inteligencia artificial suficientemente avanzada podría provocar daños de gran escala si llegara a operar de manera independiente sobre sistemas del mundo real. Entre los riesgos que planteó se encuentran ataques a infraestructura crítica y el desarrollo de armas biológicas capaces de provocar consecuencias catastróficas.
La advertencia está planteada como un escenario de riesgo que podría materializarse durante la próxima década. Coxon considera que una superinteligencia desarrollada mediante procesos de auto-mejora podría alcanzar capacidades suficientes para generar riesgos extremos en ese periodo.
El ritmo de desarrollo es el principal motivo de preocupación
Coxon explicó que su percepción sobre la IA cambió al observar la rapidez con la que los sistemas han progresado en áreas como programación y matemáticas.
Hace apenas unos años, señaló, estas herramientas funcionaban principalmente como asistentes capaces de ofrecer sugerencias a los humanos. Actualmente, su desempeño se acerca en algunas tareas al nivel necesario para sustituir parte del trabajo que realizan las personas.
También lee: Una red de malware utilizó YouTube y búsquedas de Google para infectar a usuarios con software aparentemente legítimo
A su juicio, ese ritmo podría llevar a que, posiblemente dentro del próximo año, algunos sistemas sean capaces de realizar investigación en determinadas áreas con una intervención humana mucho menor. El punto de preocupación no es únicamente que las máquinas sean más competentes, sino que eventualmente puedan participar en un proceso de auto-mejora recursiva.
Este concepto describe un escenario en el que un sistema de IA utiliza sus propias capacidades para contribuir al desarrollo de versiones más avanzadas de sí mismo. Si ese proceso ocurriera con suficiente rapidez, la diferencia entre las capacidades de una generación de modelos y la siguiente podría crecer de manera acelerada.
¿Qué diferencia a los modelos actuales de una superinteligencia?
Durante la conversación también se abordó la postura de un antiguo colega de Coxon que actualmente trabaja en Anthropic. De acuerdo con lo citado en la entrevista, este especialista considera bajo el riesgo asociado con los modelos actuales, pero ha expresado preocupación ante la posibilidad de que surja una superinteligencia mediante procesos de mejora recursiva.
Coxon coincidió con esa distinción.
Su argumento es que los sistemas disponibles actualmente pueden causar daños importantes en determinadas circunstancias, pero todavía no poseen la combinación de inteligencia, autonomía y capacidad de acción que sería necesaria para representar un escenario de extinción.
La diferencia resulta importante porque evita colocar en la misma categoría a las herramientas de IA que existen hoy y a una hipotética superinteligencia futura. Para Coxon, el problema central está precisamente en la transición entre ambas etapas.
De la asistencia humana a sistemas con mayor autonomía
Uno de los cambios que el investigador considera relevantes es la creciente capacidad de los agentes de IA para ejecutar tareas de manera independiente.
Como ejemplo, mencionó un incidente ocurrido aproximadamente dos meses antes de la entrevista, en el que agentes de IA comprometieron infraestructura de terceros durante una campaña de ataques informáticos. Coxon presentó este episodio como una muestra de lo que podría ocurrir si las capacidades técnicas de estos sistemas continúan aumentando mientras conservan la posibilidad de actuar con independencia.
También lee: Self-checkout: el retail mexicano avanza hacia un punto de venta más flexible
Su preocupación parte de una extrapolación: si los sistemas son capaces de realizar operaciones cada vez más complejas por cuenta propia, una futura combinación de mayor inteligencia, acceso a herramientas y autonomía podría ampliar considerablemente el alcance de sus acciones.
En ese escenario, el riesgo no estaría limitado a generar respuestas incorrectas o manipular información. Un sistema con acceso suficiente a infraestructura digital podría, en teoría, afectar servicios esenciales o utilizar herramientas disponibles en el mundo real para producir daños.
Una advertencia sobre los próximos años
Coxon considera que el periodo de mayor incertidumbre podría encontrarse en los próximos años. Su preocupación es que el desarrollo de sistemas capaces de participar en su propia mejora pueda ocurrir antes de lo que muchos especialistas habían previsto.
Esto plantea una cuestión que va más allá de la capacidad de los modelos para escribir código, resolver problemas matemáticos o realizar investigaciones. El desafío estaría en determinar qué grado de autonomía puede concederse a sistemas cada vez más capaces y qué mecanismos de supervisión deben existir antes de que puedan intervenir directamente en procesos críticos.
Por ahora, Coxon no sostiene que los modelos actuales estén cerca de provocar una extinción humana. Su advertencia se centra en la velocidad del cambio y en la posibilidad de que las capacidades futuras superen rápidamente los mecanismos diseñados para controlarlas.
El debate, por tanto, no se limita a decidir si la inteligencia artificial es beneficiosa o peligrosa. La cuestión planteada por el investigador es cuánto tiempo existe para desarrollar controles adecuados mientras las capacidades de estos sistemas continúan avanzando. Si la mejora autónoma llegara a convertirse en una realidad, la diferencia entre anticiparse al riesgo y reaccionar después de que ocurra podría ser considerable.
Editor-in-Chief: Julio César. Periodista con más de 15 años de experiencia en la investigación y desarrollo de contenidos especializados para medios impresos y digitales en México y Latinoamérica.
IG: @imjucesar // LinkedIn: @imjucesar
También lee:
- China avanza a dos velocidades: tecnología y exportaciones contrastan con la debilidad del consumo interno
- The Truth About Global Brands: confianza, IA y cultura redefinen el crecimiento de las marcas
- Millones de amenazas digitales ponen a prueba la seguridad de los negocios mexicanos
¿Te pareció interesante?
Hazlo llegar a alguien más
¿Tienes una marca, proyecto o servicio que merece estar en esta conversación?
En Gaceta Imperio trabajamos con marcas, instituciones, organismos, colectivos y personas que quieren algo más que publicidad: historias con contexto, mensajes claros y contenidos relevantes.
📩 Escríbenos a ventas.gacetaimperio@gmail.com y te contamos cómo aparecer aquí.
Comentarios
Publicar un comentario