Un investigador de inteligencia artificial que había renunciado a OpenAI para trabajar en Anthropic, decidió dejar la industria y advirtió en redes sociales que la tecnología "podría matarnos a todos antes de que termine la década".
Jacob Coxon, un británico de 27 años, trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben grandes cantidades de información, primero en OpenAI y luego, desde este año, en su mayor rival, Anthropic.
Fue a través de su cuenta de X que señaló que "ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas. No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del avance en cada uno de estos ámbitos, y dicho progreso no se está desacelerando".
El joven enfatizó que "quienes desarrollan la IA creen sinceramente que esta podría matarnos a todos antes de que termine la década. No se trata de una maniobra publicitaria".
"Es más, muchos ejecutivos e investigadores de alto nivel suelen matizar sus declaraciones ante la prensa para parecer sensatos, pero he escuchado a esas mismas personas expresar temor en privado. Ninguna otra actividad humana entraña un peligro de esta magnitud", agregó Coxon.
Además, matizó las diferencias entre ambas empresas y afirmó que "una reacción habitual es: 'Si realmente creen esto, ¿por qué siguen construyéndolo?'. En OpenAI, muchos no han interiorizado a fondo lo que está en juego para la civilización. En Anthropic, sí comprenden bien la magnitud de lo que está en juego, pero están inmersos en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, por lo que deben hacerlo ellos mismos, a pesar del riesgo".
Según consignó AFP, en febrero pasado Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
A finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Anthropic, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió en redes sociales que "el momento actual llama por extrema precaución" y solicitó coordinación internacional.
