Renunció un importante investigador de Anthropic y dejó una advertencia sobre la IA: "Nos matarán"
Uno de los investigadores más importantes de Anthropic que trabajó en el desarrollo de Claude, la IA de la compañía, anunció este martes que decidió dar un paso al costado por diferencias "en cuanto al rumbo del desarrollo" tecnológico.
El destacado investigador de Anthropic, Jacob Coxon, anunció este martes que renunció a la empresa por diferencias con el manejo "irresponsable" que hacen de la inteligencia artificial. Coxon, que además hizo trabajos de pre entrenamiento tecnológico para Open AI, advirtió hoy que "ninguna de las dos compañías actúa de manera responsable" y denunció que están dirigiéndose a un desarrollo que podría afectar a la vida humana en los próximos años. Lo comentó a través de un hilo en su cuenta de X que publicó hace algunas horas.
"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de pre entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas. Más pensamientos a continuación", comenzó su mensaje el ex investigador de las dos gigantes tecnológicas.
Qué dijo Coxon y qué advertencia dejó: "A finales de la década"
Coxon afirmó que nadie debe "subestimar el poder de esta tecnología". Agregó que "pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales". En esa línea, agregó: "Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando."
El investigador aseguró que hoy "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década". Y enfatizó: "Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro".
"Una respuesta común es: «si realmente creen esto, ¿por qué siguen construyéndolo?». En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo", agregó el ex investigador en su hilo.
Sin embargo, aseguró que él "está optimista" sobre "el potencial para la coordinación".
"Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos", agregó al final Coxon.
Fuente: