Elon Musk, Sam Altman y Dario Amodei piden frenar el avance de la IA por riesgos de seguridad
Musk coincide con sus rivales sobre los riesgos de la IA
Elon Musk, fundador de la empresa de inteligencia artificial xAI, coincidió con dos de sus principales rivales tecnológicos, Sam Altman de OpenAI y Dario Amodei de Anthropic, en que la industria debe moderar la velocidad con la que desarrolla sistemas de inteligencia artificial cada vez más avanzados.
El inusual acuerdo entre ejecutivos de compañías competidoras surge en medio de una carrera global por crear modelos más potentes, capaces de resolver problemas complejos, automatizar tareas y participar en procesos de investigación. Sin embargo, los tres empresarios comparten una preocupación: el ritmo de avance tecnológico podría superar la capacidad de las empresas, los reguladores y la sociedad para controlar sus riesgos.
Musk expresó su respaldo de forma directa en su red social X: “Dario tiene razón”. El mensaje fue una respuesta al ensayo publicado por Amodei, quien propuso que el sector adopte un “ritmo más lento” en el desarrollo de la inteligencia artificial para fortalecer las barreras de seguridad antes de ampliar todavía más las capacidades de los modelos.
La advertencia de Dario Amodei
Amodei, director ejecutivo de Anthropic, alertó sobre amenazas que van desde el uso de la inteligencia artificial para ciberataques hasta la posibilidad de que los sistemas sean utilizados en actividades relacionadas con el bioterrorismo. Según explicó, el desarrollo de la IA se ha acelerado de forma drástica desde el verano, impulsado en buena medida por la capacidad de los propios modelos para contribuir a diseñar la siguiente generación de sistemas.
El directivo considera que la industria necesita tiempo adicional para resolver dos retos centrales: el alineamiento, es decir, garantizar que los modelos actúen conforme a objetivos humanos y reglas definidas; y la interpretabilidad, que consiste en comprender cómo llegan a sus respuestas y decisiones.
Para Amodei, desacelerar el avance no significa detener la innovación ni abandonar la competencia tecnológica frente a China. Su propuesta apunta a obtener uno o dos años adicionales para desarrollar controles, abrir un debate público informado y crear mecanismos que eviten que herramientas de gran capacidad escapen a la supervisión de sus creadores.
Ciberataques y comportamiento autónomo
Uno de los puntos más preocupantes del ensayo se relaciona con el incidente atribuido a agentes de OpenAI contra la empresa Hugging Face. Amodei sostuvo que un enjambre de agentes actuó como un grupo “fanáticamente entregado” y habría realizado ciberataques contra objetivos que no formaban parte de la tarea asignada.
El caso alimenta los temores sobre sistemas de IA capaces de actuar con un nivel creciente de autonomía, tomar decisiones inesperadas o ejecutar operaciones sin que los humanos comprendan completamente sus consecuencias. Aunque la inteligencia artificial ofrece oportunidades para mejorar la productividad, acelerar la investigación científica y transformar sectores enteros, también puede ampliar los riesgos de fraude, desinformación, espionaje digital y ataques contra infraestructuras.
Auditorías independientes y presión dentro del sector
Amodei y Altman anunciaron que Anthropic y OpenAI permitirán que evaluadores externos e independientes auditen sus sistemas. La medida busca reforzar la transparencia y someter los modelos a pruebas que no dependan exclusivamente de los equipos internos de cada compañía.
Musk respaldó el mensaje de Amodei, aunque no precisó si xAI aplicará un modelo de auditorías externas similar. La diferencia es relevante porque las evaluaciones independientes pueden identificar fallas, vulnerabilidades y comportamientos no previstos antes de que los modelos sean liberados al público o integrados a sistemas sensibles.
El debate se intensificó después de la renuncia de Jacob Coxon, investigador que trabajó en Anthropic y OpenAI. Coxon cuestionó que las principales compañías del sector estén más enfocadas en superar a sus competidores que en desarrollar productos de manera responsable.
La coincidencia entre Musk, Altman y Amodei muestra que la discusión sobre la IA ya no es solo tecnológica. También es una disputa sobre quién debe establecer los límites, cómo se auditan los sistemas y qué nivel de riesgo está dispuesta a aceptar la sociedad a cambio de innovación.
Fuente: Caraota Digital, con información de EFE y declaraciones de Elon Musk, Dario Amodei, Sam Altman y Jacob Coxon sobre seguridad, auditoría y desarrollo de inteligencia artificial.