Jacob Coxon, investigador británico de inteligencia artificial que trabajó en OpenAI y posteriormente en Anthropic, anunció su salida de la industria y lanzó una severa advertencia sobre los riesgos asociados al desarrollo acelerado de sistemas de IA cada vez más avanzados.

Coxon, de 27 años, dedicó los últimos tres años al área de preentrenamiento de modelos, proceso en el que los sistemas de inteligencia artificial son expuestos a grandes cantidades de datos para desarrollar sus capacidades. Primero desempeñó estas funciones en OpenAI y posteriormente se incorporó a Anthropic, uno de sus principales competidores.

A través de una publicación en X, el investigador cuestionó las estrategias de ambas compañías y afirmó que, a su juicio, ninguna está actuando con suficiente responsabilidad frente a los potenciales peligros de desarrollar una inteligencia artificial capaz de superar ampliamente las capacidades humanas.

Coxon aseguró que las empresas avanzan rápidamente hacia sistemas capaces de mejorar sus propias capacidades y advirtió que una futura IA superinteligente podría adquirir competencias extraordinarias en ámbitos como ciberseguridad, investigación científica y obtención de recursos. En su evaluación más extrema, sostuvo que esta tecnología podría llegar a representar una amenaza existencial para la humanidad antes de que termine la década.

Se trata, por supuesto, de una predicción sobre un riesgo futuro y no de un desenlace científicamente establecido. Entre investigadores y especialistas existe un amplio debate respecto de la probabilidad, naturaleza y horizonte temporal de los riesgos que podrían generar sistemas de inteligencia artificial más avanzados que los actuales.

El exinvestigador afirmó además que dentro de las principales compañías tecnológicas existiría una preocupación mayor a la que algunos de sus ejecutivos e investigadores manifiestan públicamente. Según su testimonio, ha escuchado en privado expresiones de temor sobre las consecuencias que podría generar el desarrollo de sistemas mucho más poderosos.

Coxon también estableció diferencias entre las culturas internas que, según su experiencia, encontró en OpenAI y Anthropic. Afirmó que en la primera compañía parte de sus trabajadores no dimensionaría completamente los potenciales efectos del desarrollo de una inteligencia artificial avanzada, mientras que en Anthropic existiría mayor conciencia sobre esos riesgos.

En este último caso, sostuvo que la empresa se encontraría condicionada por una carrera tecnológica en la que sus integrantes considerarían necesario avanzar antes que sus competidores, bajo la premisa de que hacerlo permitiría desarrollar sistemas con mayores resguardos de seguridad.

Las advertencias de Coxon se producen en momentos en que la seguridad de los modelos más avanzados y la competencia entre las principales compañías de inteligencia artificial ocupan un espacio creciente en el debate tecnológico y regulatorio.

Según informó la agencia AFP, Anthropic modificó en febrero compromisos incluidos en su política de seguridad relacionados con las condiciones bajo las cuales limitaría o detendría el desarrollo de determinados modelos ante riesgos que no pudieran controlarse adecuadamente.

A fines de julio, más de mil trabajadores y figuras relacionadas con la industria, entre ellos el director ejecutivo de Anthropic, Dario Amodei, solicitaron a las autoridades estadounidenses preparar mecanismos que permitan frenar desarrollos considerados especialmente peligrosos si se alcanzan determinados umbrales de capacidad.

El debate también ha alcanzado a OpenAI. Su jefe científico, Jakub Pachocki, sostuvo recientemente en redes sociales que el momento actual exige una precaución extrema y planteó la necesidad de avanzar hacia mecanismos de coordinación internacional.

Las posiciones reflejan una discusión cada vez más relevante dentro de la propia industria: cómo mantener el desarrollo y los potenciales beneficios de la inteligencia artificial mientras se establecen mecanismos de evaluación, supervisión y control capaces de responder a riesgos que podrían aumentar a medida que los sistemas adquieren nuevas capacidades. (NP-ChatGPT-Emol-Agencias)