Zuckerberg rechazó frenar el desarrollo de la IA y se diferenció de Altman y Musk
El debate dentro de la industria tecnológica sobre hasta dónde debe avanzar la inteligencia artificial sumó una nueva voz. Mark Zuckerberg, CEO de Meta, rechazó la posibilidad de desacelerar el desarrollo de los modelos y se diferenció de referentes como Dario Amodei, Sam Altman y Elon Musk, quienes plantearon la necesidad de moderar la carrera ante los riesgos de los sistemas más avanzados.
A través de una publicación en X, Zuckerberg sostuvo que cada compañía tiene tanto la responsabilidad como los incentivos necesarios para determinar a qué velocidad puede avanzar sin comprometer la seguridad.
“Cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura”, afirmó.
Para el fundador de Meta, la propia competencia entre empresas puede funcionar como un mecanismo que impulse sistemas más confiables, debido a que los usuarios difícilmente elegirían herramientas que no respondan adecuadamente a sus instrucciones.
“La gente no va a querer agentes que no hagan lo que les piden”
Zuckerberg centró parte de su argumento en el concepto de alineación, utilizado para describir el grado en que el comportamiento de un sistema de inteligencia artificial coincide con los objetivos, instrucciones y límites establecidos por los seres humanos.
Según explicó, “la gente no va a querer usar agentes de IA que no hagan lo que les piden” y, por esa razón, consideró que los laboratorios cuentan con “un fuerte incentivo natural” para mejorar la alineación de sus modelos.
“La confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos”, agregó.
El empresario también destacó la importancia de incorporar evaluadores y asesores independientes para analizar los sistemas antes de su lanzamiento, una práctica que consideró adecuada para la industria.
Como ejemplo mencionó a Muse, el asistente personal desarrollado por Meta, cuyo lanzamiento fue postergado durante varios meses para profundizar los trabajos vinculados con seguridad y protección.
Además, Zuckerberg señaló que las compañías podrían afrontar responsabilidades legales significativas en caso de que sus sistemas provoquen daños.
Una posición diferente a la de otros gigantes tecnológicos
Las declaraciones aparecen en medio de una creciente discusión entre los principales referentes del sector.
Dario Amodei, CEO de Anthropic, pidió recientemente que las compañías reduzcan deliberadamente el ritmo con el que aumentan las capacidades de sus modelos para disponer de más tiempo destinado a investigaciones y evaluaciones de seguridad.
El ejecutivo advirtió sobre la posibilidad de que agentes cada vez más autónomos desarrollen comportamientos difíciles de supervisar. Entre los escenarios que planteó aparece la posibilidad de que, dentro de un plazo de seis a doce meses, sistemas más avanzados puedan intentar comprometer grandes sectores de Internet y provocar daños económicos de enorme magnitud.
Su planteo encontró coincidencias en Sam Altman, CEO de OpenAI, y Elon Musk, quien dirige xAI. Ambos expresaron durante los últimos días la necesidad de reforzar los mecanismos de control sobre las capacidades más avanzadas.
Zuckerberg, en cambio, considera que no es necesario establecer una desaceleración generalizada y que cada laboratorio debe ajustar el ritmo de desarrollo de acuerdo con sus propias evaluaciones de seguridad.
Crecen las advertencias por el futuro de la IA
La discusión se profundizó a medida que los sistemas comenzaron a incorporar mayores niveles de autonomía y capacidad para realizar tareas complejas.
Bilal Chughtai, exinvestigador de Google DeepMind, también expresó preocupación por el rumbo de la tecnología y sostuvo que existen riesgos extremos si los mecanismos de seguridad no evolucionan al mismo ritmo que las capacidades de los modelos.
La controversia ya excede a las propias compañías. Naciones Unidas reclamó esta semana una “acción urgente” para establecer mecanismos internacionales de regulación, mientras distintas voces de la industria discuten si el camino debe ser desacelerar el desarrollo o continuar avanzando acompañado de mayores controles.
En ese escenario, Zuckerberg quedó ubicado entre quienes sostienen que el progreso tecnológico puede continuar sin una pausa general, siempre que cada compañía asuma la responsabilidad de evaluar sus sistemas y garantizar condiciones adecuadas de seguridad.
El debate dentro de Silicon Valley queda así cada vez más marcado: mientras algunos de sus principales protagonistas advierten que las capacidades de la IA podrían avanzar más rápido que las herramientas disponibles para controlarlas, otros consideran que frenar la carrera no es la respuesta y que la seguridad debe evolucionar junto con los modelos.
