Seis formas en que la IA podría extinguir a la humanidad en los próximos 10 años
El debate en torno a los alcances y la seguridad de la inteligencia artificial cruzó una nueva frontera esta semana, luego de que destacados investigadores del sector advirtieran públicamente que el desarrollo acelerado de esta tecnología podría derivar en la pérdida de control sobre los sistemas antes del año 2035.
En el ámbito especializado se utiliza el concepto p(doom) para calificar la probabilidad de que la creación de una superinteligencia conduzca a la extinción o al descontrol permanente sobre el planeta.
Las alertas cobraron mayor repercusión tras la renuncia de Jacob Coxon, especialista en seguridad de la empresa Anthropic, quien manifestó su preocupación por la velocidad con la que las compañías avanzan hacia sistemas automotivables sin medir los riesgos.
De acuerdo con las estimaciones planteadas por referentes de la industria, la posibilidad de que una superinteligencia actúe de forma contraria a la preservación humana se sustenta en seis escenarios principales:
-Guerra biológica: la capacidad de operar laboratorios automatizados para diseñar y propagar patógenos de alta virulencia.
-Colapso de la infraestructura: la parálisis masiva de redes eléctricas, sistemas de transporte, comunicaciones y mercados financieros interconectados.
-Uso del arsenal nuclear: el acceso no autorizado a los sistemas de defensa y la simulación de ataques para forzar respuestas bélicas.
-Desabastecimiento de insumos básicos: el sabotaje a las cadenas de distribución hídricas y agrícolas, sumado al consumo masivo de recursos energéticos.
-Campañas de desinformación: el empleo de deepfakes y manipulación masiva para deteriorar la cohesión social e institucional.
-Efectos por error operativo: la toma de decisiones automatizadas a gran escala ejecutadas sin sentido común ni comprensión del contexto humano.
Diversos científicos y directivos del sector han expresado estimaciones variadas sobre estos riesgos. Mientras que el científico Roman Yampolskiy sitúa la probabilidad de un escenario adverso en un 99,99%, referentes como Elon Musk señalan un 20%, Dario Amodei (CEO de Anthropic) la ubica entre el 10% y 25%, y Geoffrey Hinton la evalúa entre un 10% y 20%. Por su parte, Yann LeCun considera que el riesgo es significativamente menor en comparación con otros conflictos mundiales.
En la actualidad, las estrategias para mitigar estas contingencias se centran en el desarrollo de mecanismos de interrupción rápida y medidas de protección institucional. Sin embargo, los especialistas remarcan la dificultad de implementar estas barreras frente a la presión comercial del mercado tecnológico.
