Un exinvestigador de OpenAI y Anthropic decidió dejar la industria de la inteligencia artificial y lanzó críticas sobre la forma en que ambas empresas están desarrollando modelos cada vez más avanzados. Jacob Coxon, de 27 años, sostuvo que los laboratorios están avanzando hacia sistemas capaces de superar las capacidades humanas sin suficientes medidas de seguridad.
Coxon, quien trabajó en el área de preentrenamiento de modelos de IA durante los últimos tres años, señaló que existe una preocupación dentro de la propia industria sobre los posibles riesgos de desarrollar sistemas capaces de mejorar sus capacidades de manera autónoma. También pidió una mayor intervención gubernamental y una coordinación internacional para establecer límites.
El debate ocurre mientras las principales empresas de IA aceleran el desarrollo de nuevas tecnologías. Desde Anthropic, su responsable de seguridad, Evan Hubinger, ha reconocido que existe un riesgo potencial para la humanidad, mientras que investigadores y directivos de distintas compañías han llamado a extremar las precauciones y fortalecer la coordinación internacional frente al avance de estos sistemas.