¿La IA va a matarnos a todos? y otras preguntas más importantes
La tecnología y el capital deben servir a las personas. Todas las vidas humanas son dignas. El sistema político actual no garantiza ni puede garantizar nada de eso.
Por NICOLÁS LANTOS
Un exempleado de Anthropic llamado Jacob Coxon publicó un posteo en el que advierte sobre la posibilidad cierta de que la inteligencia artificial se salga del control humano y se espiralice con mejoras auto recursivas (es decir, programándose a sí misma) que nos pondrían en serio riesgo. "Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", sostuvo.
No fue el primero ni el último. Después de su publicación, el actual responsable de ciencia de alineamiento de Anthropic, Evan Hubinger, dijo que él cree que las chances de un evento de extinción son mayores al 10 por ciento "dentro de la próxima década". Samuel Marks, otro experto en seguridad que trabajó para OpenAI y ahora lo hace en Anthropic agregó que "cuanto más senior el empleado, más preocupado está" por esto.
Marks es uno de los 1386 empleados en empresas de tecnología de frontera que en julio de este año sacaron una carta pública pidiendo que se frene el ritmo de desarrollo de la inteligencia artificial y pide que el gobierno de Estados Unidos sostenga un esfuerzo global para desarrollar las herramientas técnicas y políticas que permitan mantener el control de la situación.
¿La inteligencia artificial nos va a matar a todos? No hay forma de saberlo, pero sí es evidente a esta altura que existe una posibilidad mayor que cero de un evento catastrófico en los próximos meses/años y una posibilidad mayor que cero de que ese evento involucre un riesgo existencial para la humanidad. Y que ese riesgo aumentará en la medida que se sigan acelerando la evolución de las IA sin ningún tipo de control.
Pero creo que estamos mirando el problema desde una perspectiva equivocada, que nos aleja de encontrar una solución. Es un error enfocarse exclusivamente en la tecnología, cuando el verdadero problema es la lógica deshumanizante del sistema, que ya nos llevaba por ese camino, aunque más despacio, sin necesidad de utilizar estas nuevas tecnologías.
Las bombas atómicas introdujeron en la historia la posibilidad técnica de que el ser humano cause su propia destrucción como especie. La IA, según creen quienes trabajan en ese área, suma otra novedad: estamos creando una inteligencia superior a la nuestra, lo cual significa, en la práctica, perder el control de nuestro destino como especie, en manos de un ente ajeno, que creamos pero no podemos comprender.
Ahora, ¿ustedes se imaginan qué hubiera pasado si después de 1945 la carrera nuclear, en vez de una competencia controlada entre un puñado de países, se hubiera gestionado como se gestiona ahora la IA, en una carrera desregulada y fuera de control, experimentando en vivo con la población del planeta? Seguramente nada bueno. Probablemente no estaríamos aquí.
La gran cuestión para la industria de la IA avanzada es el "alineamiento": si la super-inteligencia artificial va a ser benévola para la raza humana, es decir alineada a nuestros intereses. El problema es pensar que se trata de un problema técnico. Que el alineamiento de la IA depende de un montón de líneas de código, o de algunas reglas bien programadas en el corazón de un modelo.
En realidad deberíamos pensarlo como un problema político. Es imposible separar la conducta, las premisas, los límites de un modelo de las condiciones en las que fue creado. Esta carrera en la que la humanidad parece descartable le está diciendo a la IA: somos descartables. Lo único que importa es acelerar. Lo único que importa es acumular. Lo único que importa es llegar antes que el otro.
Cuando digo que es una pregunta política es porque hay que empezar por definir el "nosotros". ¿Alineada a nuestros intereses significa alineada a los intereses de quiénes? Hoy, al menos en occidente, la meta del sistema no pasa por el bienestar general sino por la acumulación infinita. El "nosotros" no es la humanidad, sino un número cada vez más pequeño de personas cada vez más ricas y más poderosas.
Imaginemos que Silicon Valley logra desarrollar una super inteligencia artificial que esté alineada. Que no nos lleve a la extinción sino que desarrolle tecnología para que los seres humanos puedan curar todas sus enfermedades y resolver todos sus problemas. ¿Eso va a ponerse al servicio de todos o sólo de esta casta de supermillonarios? Sospecho que el tratamiento para la inmortalidad no va a estar cubierto por OSDE.
¿De qué sirve la capacidad técnica de trazar líneas rojas si los dueños de la tecnología no las tienen y el resto de la humanidad carece de herramientas para imponerles límites? Ellos lo plantean como una situación en la que podés salir perdiendo mucho o ganando mucho. Para la enorme mayoría de nosotros, ese es un falso dilema, entre la extinción o la esclavitud eterna en manos de esta casta.
A eso hay que agregarle una capa de complejidad: la IA, tal como se está desarrollando en occidente, incluso si no deriva en una catástrofe por su propio desarrollo, es una tecnología que nos lleva a la guerra. Todas las señales están ahí: el manifiesto de Palantir, la nuevas doctrinas que asume Estados Unidos, el aumento nunca antes visto de presupuesto militar.
¿Por qué? En primer lugar porque están perdiendo la carrera con China, y cuando estás perdiendo una carrera que considerás existencial, vas a hacer cualquier cosa para cambiar ese resultado. La avidez por los recursos naturales y el control de los pasos estratégicos es una etapa temprana de este proceso que puede terminar en una guerra mundial. El mundo está en ese camino.
Al mismo tiempo, los lumpen-oligarcas de Silicon Valley están convencidos de que la IA en el corto plazo va a reemplazar a toda la fuerza de trabajo, o casi toda. Entonces necesitan terminar de matar el capitalismo sostenido en el consumo para reconstruir el Estado (y el capitalismo) alrededor de la maquinaria militar, un demandante casi infinito que permitirá mantener el sistema andando y la plata fluyendo.
Hoy el destino de Silicon Valley y el de la Casa Blanca están entrelazados de tal forma que es una alianza imposible de deshacer, de la que también hicieron socios necesarios al sector de la energía y al de las finanzas. Es un sistema que opera con incentivos, ahora sí, bien alineados. Si todo se percibe como una carrera existencial, cualquier disidencia será considerada una traición.
Entonces, más que preguntarnos si la IA nos va a matar a todos yo me haría otras preguntas, cuyas respuestas pueden orientarnos respecto a qué hacer para que no suceda. Preguntas que tienen que ver no con las condiciones técnicas que ofrece la investigación más avanzada sino con las condiciones sociales y políticas que están mucho más al alcance de la mano y la comprensión de todos.
La primera es la más sencilla: ¿si estos asuntos, de los que depende ya no la vida o la muerte de millones sino la supervivencia de la humanidad o su rol en el mundo, se deciden más allá de cualquier tipo de consulta a la voluntad de las personas, tiene sentido seguir llamándolo democracia? ¿Puede haber una verdadera democracia mientras esas decisiones se tomen de espaldas a los pueblos y naciones del mundo?
Si los riesgos existenciales son compartidos, y la tecnología se montó sobre el trabajo de generaciones, y sobre toda la producción escrita de la historia, y sobre los datos que nos extraen a diario sin darnos mucho a cambio, ¿entonces cuál es el sentido de que las decisiones no pasen por mecanismos de control democráticos y de que los beneficios no se distribuyan entre todos sino que engrosen las cuentas de unos pocos?
La pregunta, entonces, es si la IA va a matarnos a todos o qué vamos a hacer, ahora mismo, mientras todavía estamos a tiempo, para detener un proceso que nos lleva en esa dirección, y que no tiene que ver con la tecnología sino con sus dueños, que no necesitaron una superinteligencia para el genocidio en Gaza, ni para financiar el fascismo en medio planeta; ni para someternos a todos a sus plataformas.
Si queremos detener este proceso hay que recuperar el poder del que se apropiaron para ponerlo en manos de los pueblos y de las naciones. El camino es construir una democracia soberana en cada país y una comunidad organizada de naciones soberanas que pueda ponerle un límite a la acumulación infinita y reconducir esos recursos en el desarrollo pacífico e igualitario de toda la humanidad.
Hoy esas herramientas existen, sin necesidad de apurarse por alcanzar una singularidad que puede matarnos. La investigación de avanzada puede seguir, a pasos seguros, con metas definidas de forma transparente y con los seguros adecuados para que la ecuación riesgo beneficio siempre resulte aceptable para todos. Se empieza por correr los límites que nos hicieron creer que no podíamos cruzar.
Puede sonar utópico, sí cuando la alternativa se parece tanto a la peor de las distopías, construir un nuevo realismo profundamente humano, que se concentre en las condiciones necesarias para garantizar la continuidad de la especie, es lo única posición verdaderamente racional para 8 mil millones de personas que habitan la tierra. Todos menos un puñado.
La tecnología y el capital deben servir a las personas. Todas las vidas humanas son dignas. El sistema político actual no garantiza ni puede garantizar nada de eso. Es imperioso imaginar un sistema que gire en torno a esos valores. Sólo entonces podemos volver a pensar en una verdadera democracia, en tener libertad, en ejercer nuestra soberanía de forma plena.
Llevamos treinta años repitiendo que es más difícil imaginar el fin del mundo que el fin del capitalismo. A esta altura del partido, seguir haciéndolo es pereza intelectual. Desde hace rato está claro que la opción está sobre la mesa: hay que ponerle un límite a la acumulación infinita de poder y de dinero que no hace más que acelerarse codo a codo con el avance tecnológico.
Por eso mismo, la acumulación infinita tiene que ser considerada un delito de lesa humanidad. Las naciones y los pueblos del mundo que quieran volver a ser democráticos, libres y soberanos deberán encargarse de hacer cumplir esos límites, como condición para que cualquier otra conquista sea sostenible en el tiempo. Sólo así podremos evitar el fin del mundo y otros finales igualmente terroríficos.
Fuente:
https://www.eldestapeweb.com/politica/ia-va-matarnos-todos-otras-preguntas-importantes-20269108576