En «The Coming Wave», Mustafa Suleyman alerta sobre el rápido avance de la inteligencia artificial y sus posibles impactos en la sociedad. En el libro, aborda una evolución de la IA hacia una «inteligencia artificial capacitada» (IAC), que supera una versión moderna del test de Turing, y presenta una potencial evolución hacia una superinteligencia descontrolada.
Suleyman describe cómo una IAC sería capaz de realizar tareas sofisticadas de forma autónoma, como ganar dinero en el mercado de Amazon a partir de una inversión inicial. Este tipo de inteligencia estaría al alcance del público general, ayudando a alcanzar una amplia gama de objetivos, desde la planificación de vacaciones hasta la asistencia en campañas electorales.
Sin embargo, también señala los peligros inminentes asociados con el desarrollo incontrolado de la IA. A nivel de seguridad, los estados-nación podrían enfrentarse a amenazas sin precedentes, desde ciberataques hasta la proliferación de armas automatizadas mejoradas con IA. Recuerda el devastador impacto del ataque WannaCry en 2017, destacando las tremendas vulnerabilidades en la ciberseguridad global.
El libro también argumenta que la tecnología está desgastando la estructura de los estados-nación, debilitándolos desde adentro y abriendo la puerta a posibles escenarios distópicos donde los gobiernos se convierten en «gobiernos zombi» o «Leviatanes recargados», concentrando un poder absoluto.
El estado actual de las democracias se está erodiendo, debido a múltiples crisis, incluyendo la pandemia de COVID-19, el cambio climático y el aumento de la desigualdad económica, exacerbadas por las tecnologías emergentes que están siendo utilizadas tanto para impulsar la desinformación como para crear divisiones sociales más profundas. Suleyman enfatiza la urgencia de abordar estos problemas antes de que se desencadene una catástrofe.
Suleyman concluye con una llamada a la acción, proponiendo una serie de soluciones posibles para mitigar los riesgos potencialmente catastróficos de la IA, incluyendo la implementación de controles de seguridad más rigurosos, la creación de una agencia internacional para la supervisión de la IA, y el fomento de la transparencia y la participación ciudadana en la gestión de la tecnología.
¿Estamos a tiempo de evitar una catástrofe tecnológica?: «The Coming Wave» ofrece una mirada penetrante y cautelar sobre el futuro de la inteligencia artificial, llamando a una regulación reflexiva y medidas preventivas para guiar su desarrollo de una manera que proteja a la sociedad y preserve los valores democráticos. El texto subraya que, aunque el camino exacto hacia el futuro sigue siendo incierto, la sociedad tiene aún la oportunidad de definir los contornos precisos del dilema y empezar a abordarlos hoy.