🎧 Usa el reproductor para escuchar esta nota
Exclusivas MX
Jacob Coxon, investigador especializado en seguridad de inteligencia artificial que recientemente trabajó en Anthropic, anunció su renuncia a la compañía y lanzó una dura advertencia sobre el rumbo que está tomando el desarrollo de esta tecnología. El especialista sostiene que la competencia entre las principales empresas del sector está acelerando una carrera que podría tener consecuencias irreversibles para la humanidad.
A través de una publicación en X, Coxon aseguró que quienes trabajan en el desarrollo de sistemas avanzados de inteligencia artificial conocen internamente los riesgos que implica llevar estas tecnologías cada vez más lejos. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, afirmó.
Para el investigador, el problema no se limita a los posibles riesgos técnicos de los modelos, sino a que decisiones con consecuencias potencialmente globales están concentradas en un número reducido de empresas y personas. Según su postura, la presión por ser los primeros en alcanzar nuevos niveles de capacidad está provocando que la seguridad quede subordinada a la competencia.
Notas de interés
Coxon también estableció una diferencia entre OpenAI y Anthropic. De acuerdo con su experiencia, en OpenAI todavía existe una parte importante de la organización que no habría dimensionado completamente lo que está en juego a escala de civilización, mientras que en Anthropic sí existiría una mayor conciencia sobre el riesgo. Sin embargo, sostuvo que la compañía se encuentra atrapada en la misma carrera tecnológica porque sus competidores continúan avanzando.
El especialista rechazó la idea de que este tipo de advertencias sean simplemente una estrategia para llamar la atención o conseguir mayor inversión. Aseguró que algunos directivos moderan sus declaraciones públicas para proyectar una imagen de control, pese a que dentro de las compañías existen preocupaciones mucho más profundas sobre el futuro de la inteligencia artificial.
📌 Nota recomendada
 |
Documentos revelan que autoridades de Nueva York ocultaron información sobre la calidad del aire tras el 11-S |
La postura de Coxon recibió el respaldo de Evan Hubinger, quien anteriormente fue su jefe en Anthropic y trabaja en el área de investigación de alineación de sistemas de inteligencia artificial. Hubinger afirmó que la preocupación expresada por su excompañero es real y reconoció que considera posible un escenario de extinción humana provocado por una IA avanzada.
“De verdad creemos que la IA puede matar a todo el mundo”, escribió Hubinger, quien estimó personalmente que la probabilidad de que ocurra una catástrofe de este tipo durante la próxima década es superior al 10 por ciento. No obstante, aclaró que considera bajo el riesgo asociado con los modelos actuales y que su principal preocupación está relacionada con una futura superinteligencia capaz de mejorarse a sí misma.
El concepto de automejora recursiva se encuentra en el centro de estas advertencias. Se refiere a un escenario hipotético en el que sistemas de inteligencia artificial suficientemente avanzados podrían participar en el desarrollo de versiones posteriores de sí mismos, acelerando las mejoras de sus capacidades con una intervención humana cada vez menor.
Coxon sostiene que tanto OpenAI como Anthropic están avanzando hacia ese escenario sin que exista todavía suficiente certeza sobre la manera de controlar una tecnología de semejante capacidad. En su opinión, detenerse individualmente tampoco resulta sencillo, porque una empresa que reduzca su ritmo de desarrollo podría quedar en desventaja frente a competidores que decidan continuar acelerando.
El investigador calificó esta dinámica como una apuesta que no debería decidirse únicamente dentro de las empresas privadas y cuestionó que la humanidad esté entrando en una etapa de desarrollo tecnológico de consecuencias potencialmente irreversibles sin contar con garantías suficientes sobre sus resultados.
Las advertencias se producen en un momento de rápidos avances en inteligencia artificial, con modelos que han comenzado a mostrar capacidades cada vez más sofisticadas en áreas como matemáticas, programación, investigación y descubrimiento científico. Estos progresos han intensificado el debate entre investigadores y gobiernos sobre los beneficios de la tecnología y los riesgos asociados con sistemas cada vez más autónomos.
Coxon, de origen británico y con formación en matemáticas, trabajó previamente en OpenAI en proyectos relacionados con el desarrollo de GPT-4o antes de incorporarse a Anthropic, donde participó en tareas relacionadas con la seguridad de la inteligencia artificial. Su salida se suma a una serie de renuncias y advertencias provenientes de especialistas que han cuestionado el ritmo con el que avanza la industria.
El debate incluso llegó al Congreso de Estados Unidos. El senador Bernie Sanders reaccionó a las declaraciones de Coxon y afirmó que las propias personas involucradas en el desarrollo de esta tecnología reconocen que podría representar una amenaza para el futuro de la humanidad. El legislador adelantó que buscará impulsar una legislación para prohibir la superinteligencia y establecer una pausa en determinados desarrollos de inteligencia artificial.
Mientras crece la discusión sobre los riesgos existenciales, Anthropic también ha comenzado a analizar públicamente las consecuencias económicas que podría generar la automatización impulsada por la inteligencia artificial. La compañía advirtió que el avance de estas tecnologías podría modificar la distribución de los ingresos entre trabajadores y propietarios del capital.
Según el análisis publicado por la empresa, actualmente alrededor de 60 centavos de cada dólar generado en la economía corresponden al trabajo, mientras que los 40 centavos restantes están vinculados al capital. La automatización de determinadas actividades podría provocar que una proporción cada vez mayor de las ganancias termine concentrándose en los propietarios del capital.
Anthropic también planteó que, en escenarios de automatización significativa, los salarios de trabajadores con menor nivel de especialización podrían aumentar, mientras que los ingresos de trabajadores altamente cualificados podrían estancarse o incluso disminuir. Para la compañía, uno de los principales desafíos será conseguir que el crecimiento económico derivado de la inteligencia artificial beneficie a distintos sectores y que sus costos no recaigan de manera desproporcionada sobre una parte de la población.
