🎧 Usa el reproductor para escuchar esta nota
Exclusivas MX
La inteligencia artificial atraviesa una etapa de rápido desarrollo que ha comenzado a generar preocupación entre investigadores, especialistas y organismos internacionales. Mientras las principales empresas tecnológicas compiten por crear sistemas cada vez más capaces, algunas voces dentro de la propia industria han advertido que la velocidad del avance podría generar riesgos difíciles de controlar.
En las últimas semanas, estas advertencias han cobrado mayor fuerza después de que investigadores actuales y antiguos trabajadores de compañías dedicadas al desarrollo de inteligencia artificial cuestionaran la carrera tecnológica y señalaran posibles escenarios en los que los sistemas podrían superar la capacidad humana para supervisarlos.
Uno de los pronunciamientos que más llamó la atención fue el de Evan Hubinger, investigador especializado en alineación de inteligencia artificial, quien estimó que existe una probabilidad superior al 10 por ciento de que una IA pueda provocar la extinción de la humanidad durante la próxima década. El propio especialista ha aclarado que considera bajo el riesgo asociado con los sistemas actuales y que su preocupación está principalmente relacionada con una eventual superinteligencia capaz de mejorar sus propias capacidades.
La llamada alineación busca desarrollar sistemas que actúen de acuerdo con los objetivos y valores establecidos por los seres humanos. El temor de algunos investigadores es que, conforme las herramientas se vuelvan más autónomas y complejas, resulte cada vez más difícil garantizar que sus acciones permanezcan bajo control humano.
Notas de interés
Estas preocupaciones no son nuevas. Desde mediados del siglo XX, científicos como Alan Turing plantearon escenarios en los que las máquinas podrían alcanzar capacidades capaces de modificar la relación entre seres humanos y tecnología. Sin embargo, el debate adquirió una nueva dimensión con el desarrollo de modelos generativos capaces de producir textos, imágenes, código y realizar tareas cada vez más complejas.
Empresas como OpenAI y Anthropic han planteado como objetivo desarrollar sistemas avanzados que sean útiles para la sociedad y, al mismo tiempo, reducir los riesgos asociados con su funcionamiento. No obstante, algunos investigadores consideran que la competencia comercial entre las compañías puede generar incentivos para acelerar el desarrollo incluso cuando todavía existen interrogantes sobre seguridad.
Uno de los escenarios que genera mayor preocupación es la posibilidad de que una inteligencia artificial llegue a mejorar sus propias capacidades de manera cada vez más autónoma. La llamada automejora recursiva plantea la hipótesis de que un sistema pueda participar en el desarrollo de nuevas generaciones de modelos, acelerando el progreso tecnológico y reduciendo la intervención humana.
También existen temores relacionados con los llamados agentes de inteligencia artificial, sistemas diseñados para ejecutar tareas de manera autónoma. De acuerdo con investigadores especializados en seguridad, una tecnología de este tipo podría utilizarse para realizar actividades complejas sin que una persona supervise cada una de sus acciones.
Entre los escenarios planteados por especialistas se encuentran el uso de sistemas avanzados para facilitar ciberataques, espionaje, manipulación de información, operaciones militares o incluso actividades relacionadas con armas biológicas. Se trata, sin embargo, de posibilidades hipotéticas y no de hechos que necesariamente vayan a ocurrir.
Otros expertos consideran que centrar el debate exclusivamente en una posible extinción de la humanidad puede desviar la atención de problemas que ya existen. Entre ellos se encuentran la generación de imágenes falsas, los deepfakes utilizados sin consentimiento, la desinformación, las estafas y otras formas de abuso que actualmente pueden realizarse mediante herramientas de inteligencia artificial.
Ante este escenario, algunos líderes tecnológicos han pedido establecer mecanismos de regulación y desarrollar la IA de manera más gradual. Dario Amodei, director ejecutivo de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han hablado de la necesidad de introducir medidas de seguridad y evaluaciones externas conforme aumenten las capacidades de estos sistemas.}
La propuesta no implica necesariamente detener el desarrollo de la inteligencia artificial. La idea planteada por algunos de sus propios desarrolladores es que las compañías dediquen más tiempo a evaluar los riesgos, establecer controles y someter sus modelos a revisiones independientes antes de llevarlos a capacidades todavía mayores.
El debate también llegó a organismos internacionales. Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, advirtió que el desarrollo acelerado de esta tecnología puede representar riesgos para distintos derechos fundamentales y llamó a establecer mecanismos de control capaces de responder antes de que determinados efectos sean difíciles de revertir.
“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, señaló Türk en un comunicado.
Estados Unidos enfrenta además una dimensión geopolítica del problema. El gobierno de Donald Trump ha defendido el liderazgo estadounidense en inteligencia artificial frente a China y considera que esta tecnología representa un elemento estratégico tanto para la economía como para la seguridad nacional.
Trump ha rechazado las advertencias más extremas sobre una eventual destrucción de la humanidad a causa de la IA y ha defendido que Estados Unidos mantenga el liderazgo tecnológico. Durante una llamada con Jensen Huang, presidente y director ejecutivo de Nvidia, ambos coincidieron en la importancia de la inteligencia artificial como motor económico y estratégico para el país.
El mandatario incluso ha calificado como un “bulo” la posibilidad de que la inteligencia artificial llegue a dominar el mundo o destruir a la humanidad, al tiempo que ha cuestionado a quienes exigen mayores restricciones para las empresas del sector.
China, por su parte, también ha acelerado el desarrollo de sistemas de inteligencia artificial y ha impulsado tecnologías propias ante las restricciones estadounidenses para acceder a determinados chips y componentes. Al mismo tiempo, Beijing ha defendido una mayor gobernanza internacional de esta tecnología.
La discusión, por lo tanto, no se limita a determinar si una inteligencia artificial podría algún día representar una amenaza existencial. El debate inmediato gira en torno a qué controles deben establecerse, quién debe supervisar a las empresas que desarrollan estos sistemas y hasta dónde puede llegar una carrera tecnológica en la que Estados Unidos, China y compañías privadas buscan obtener una ventaja cada vez mayor.
Por ahora, no existe evidencia científica que permita afirmar que la inteligencia artificial vaya a destruir a la humanidad. Las probabilidades mencionadas por algunos investigadores son estimaciones sobre escenarios futuros y reflejan un nivel de incertidumbre considerable.
