Las intervenciones ante el Consejo de Seguridad de la @ONU_es de @sama y @DarioAmodei La IA dejó de ser solamente un asunto tecnológico o económico. Ya es un asunto de seguridad global. Altman: La IA puede llevarnos hacia un nuevo Renacimiento de creatividad y descubrimiento o hacia una nueva Revolución Industrial marcada por la disrupción y el desorden. El progreso se aceleró: los beneficios son cada vez más concretos, pero los riesgos también son más inmediatos. Señaló dos grandes peligros: perder el control del futuro, especialmente si llegamos a sistemas capaces de mejorarse a sí mismos, y concentrar demasiado poder en pocas manos. Y fue contundente: no importa si alguien estima el riesgo de una catástrofe en 10%, 1% o 0,1%. Ninguno de esos niveles es aceptable. OpenAI afirma que ya ha desacelerado unilateralmente su desarrollo en el pasado y que está dispuesto a hacerlo nuevamente. La gobernanza de esta tecnología no puede quedar exclusivamente en manos de unos pocos laboratorios. Amodei: Si la trayectoria actual continúa, en uno o dos años, quizás menos, podríamos llegar a lo que denomina “un país de genios en un centro de datos”. Los beneficios potenciales son enormes. Pero identifica dos riesgos centrales: el uso indebido de los modelos , incluida la posibilidad de facilitar armas biológicas, y la pérdida de control sobre sistemas cuyas capacidades avancen más rápido que nuestra capacidad para gobernarlos. Por eso sostiene que este ya no es únicamente un tema para ministerios de tecnología o economía. Es un asunto para el Consejo de Seguridad. Ninguna empresa, ningún líder y ningún país puede manejar esto solo. ¿Y qué están proponiendo? Estándares internacionales comunes para medir capacidades y riesgos; mecanismos de verificación entre Estados; reporte rápido de incidentes; canales seguros para compartir amenazas; y comenzar por acuerdos concretos y verificables, como impedir el uso de IA para desarrollar armas biológicas. Hay una paradoja que vale la pena observar: quienes están acelerando la frontera de la IA son también quienes están pidiendo construir instituciones globales capaces de ponerle límites. La discusión sobre IA está en el terreno de la geopolítica y la seguridad internacional.

Han sido cuatro años de trabajo intenso, siempre enfocado en transformación digital, desarrollo e inteligencia artificial. Investigando, escribiendo y compartiendo ideas sobre cómo la tecnología puede contribuir al desarrollo económico, la sostenibilidad y, sobre todo, a mejorar la vida de las personas. Cinco publicaciones que recogen parte de ese camino. Y mucho por seguir construyendo.