El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió este lunes de que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán "capaces de mejorarse a sí mismos" y de que, al ritmo actual, "hay más probabilidades de que la humanidad pierda el control" de esta tecnología.

Coxon, que dimitió de su puesto en Anthropic en septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York que "no sabemos cómo controlar todavía ningún sistema de IA" y que el ritmo de mejora de sus capacidades "se está acelerando".

"En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA que de que lo mantenga, y eso podría acabar en la extinción humana", explicó.

Según Coxon, las empresas están intentando desarrollar una IA "capaz de superar a los humanos en todas las tareas" y uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.

El exinvestigador criticó la carrera entre las empresas por alcanzar la denominada 'superinteligencia' y cuestionó una cultura empresarial basada en "moverse rápido, romper cosas y arreglarlas después", algo que consideró "inadecuado" por los riesgos que eso conlleva.

Como ejemplo, recordó que hace unos meses un grupo de sistemas de IA dentro de OpenAI "pirateó de forma autónoma" la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.

A su juicio, ese incidente demuestra que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados y que no se dispone de salvaguardas suficientes.

La automatización de la investigación en IA es ahora, dijo, el principal objetivo de estas compañías. Así, reveló que en OpenAI había objetivos para disponer de un investigador de IA automatizado en 2027 o 2028 y avanzó que la compañía está "en camino" de cumplir esas expectativas, un proceso que situó en meses y no en décadas.

"Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable", argumentó, y pidió más transparencia para el público y los expertos independientes.

Coxon intervino en una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA. La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.