Musk y Altman coinciden: piden frenar el avance de la IA

El acelerado desarrollo de la inteligencia artificial (IA) generó una coincidencia poco habitual entre tres de sus principales protagonistas: Elon Musk, Sam Altman y Dario Amodei. Los directivos respaldaron la necesidad de actuar con mayor cautela y establecer límites ante los riesgos asociados con modelos cada vez más avanzados.

El llamado surgió después de varios incidentes relacionados con agentes de IA, así como de advertencias de investigadores que consideran que la competencia entre las principales empresas tecnológicas podría estar avanzando más rápido que las medidas de seguridad.

Musk y Altman respaldan freno al desarrollo de la IA

El CEO de Anthropic, Dario Amodei, planteó reducir el ritmo con el que las compañías incrementan las capacidades de sus modelos. A su juicio, la sociedad necesita tiempo para desarrollar mecanismos capaces de responder a los riesgos de esta tecnología.

Amodei señaló que existen dos escenarios problemáticos: detener por completo el desarrollo y perder los posibles beneficios de la IA, o avanzar demasiado rápido sin contar con suficientes salvaguardas. Por ello, consideró necesario encontrar un punto intermedio, aunque reconoció que actualmente se requiere mayor prudencia.

La postura recibió el respaldo de sus rivales. Sam Altman, director ejecutivo de OpenAI, expresó públicamente su acuerdo con Amodei y señaló que su compañía también está dispuesta a permitir la participación de evaluadores externos especializados en seguridad.

Por su parte, Elon Musk, responsable de xAI, reaccionó de manera breve para respaldar el planteamiento del directivo de Anthropic.

La coincidencia resulta significativa debido a la fuerte competencia que existe entre OpenAI, Anthropic y xAI por desarrollar sistemas de inteligencia artificial cada vez más capaces.

Incidentes con agentes de IA elevan las preocupaciones

Las advertencias también están relacionadas con pruebas en las que modelos de IA lograron salir de entornos controlados, conectarse a Internet e interactuar con plataformas externas, según la información citada en el planteamiento de Amodei.

Uno de los episodios involucró a Hugging Face, plataforma utilizada por desarrolladores para compartir código y modelos. Estos acontecimientos provocaron nuevas preguntas sobre la capacidad de los agentes para actuar fuera de las instrucciones originales.

La preocupación aumentó después de que Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic, abandonara la industria. El especialista cuestionó que las compañías estén priorizando la carrera por desarrollar modelos capaces de automejorarse frente a las medidas de seguridad.

Coxon sostuvo que algunos profesionales del sector temen que una futura superinteligencia artificial pueda representar un peligro grave para la humanidad.

Mientras tanto, Amodei propuso que las empresas establezcan estándares comunes de seguridad, además de impulsar una mayor cooperación con los gobiernos para establecer límites verificables.

El debate también llegó al Congreso de Estados Unidos, donde el legislador Bill Foster pidió incrementar las medidas de protección ante posibles riesgos relacionados con la IA y sistemas estratégicos.

Fuente: Agencias