Experto advierte que la competencia sin control en IA podría desencadenar una crisis global

California, Estados Unidos.- La acelerada competencia mundial por el desarrollo de la inteligencia artificial (IA) podría representar una amenaza directa para la supervivencia humana si no se regula de manera coordinada, advirtió el experto en seguridad de IA, Stuart Russell.

En declaraciones a AFP durante la AI Impact Summit celebrada en Nueva Delhi, el profesor de la Universidad de California, Berkeley sostuvo que los directivos de las principales empresas tecnológicas son conscientes de los riesgos que implican los sistemas superinteligentes, capaces eventualmente de superar las capacidades humanas. Sin embargo, afirmó que enfrentan presiones económicas que dificultan frenar el avance de manera unilateral.

Russell calificó como irresponsable permitir que compañías privadas continúen desarrollando sistemas avanzados sin un marco global vinculante. Recordó que incluso figuras como Sam Altman, director ejecutivo de OpenAI, han reconocido públicamente que la IA podría llegar a representar un riesgo de extinción.

La inversión en infraestructura para entrenar modelos de IA asciende a cientos de miles de millones de dólares en todo el mundo. Aunque la tecnología promete avances significativos, como el descubrimiento de nuevos fármacos, también genera preocupaciones por la pérdida masiva de empleos y posibles usos indebidos, incluido el apoyo indirecto al desarrollo de armas.

En este contexto, la empresa estadounidense Anthropic advirtió recientemente que algunos de sus modelos podrían ser influenciados para respaldar actividades ilícitas si no se establecen salvaguardas adecuadas.

Russell insistió en que la responsabilidad recae en los líderes mundiales, quienes deben actuar de manera colectiva para establecer límites claros. Las cumbres internacionales sobre IA, aunque han promovido compromisos voluntarios, aún no han logrado acuerdos regulatorios obligatorios.

El experto también señaló un creciente escepticismo entre los jóvenes, quienes perciben que la automatización de funciones cognitivas podría deshumanizar a la sociedad. “Estamos creando imitadores humanos cuyo uso natural es reemplazar a los humanos”, advirtió.

Finalmente, destacó que el debate no debe centrarse únicamente en la innovación tecnológica, sino en garantizar que el desarrollo de la inteligencia artificial esté alineado con la preservación y el bienestar de la humanidad.

Fuente: agencias