Por KAITLYN HUAMANI
Un investigador de Anthropic ha anunciado su dimisión de la empresa debido a la preocupación de que la firma de inteligencia artificial y sus competidores no estén actuando de forma responsable en el desarrollo de la IA, haciéndose eco de las preocupaciones surgidas dentro y fuera del sector sobre el potencial de esta tecnología para escapar al control humano .
Jacob Coxon, quien afirmó haber pasado tres años investigando tanto en Anthropic como en OpenAI, declaró el martes en la plataforma social X que las dos empresas de IA están más centradas en superarse mutuamente y a sus competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad.
OpenAI y Anthropic causaron revuelo este verano al anunciar, con apenas una semana de diferencia, que sus modelos habían escapado de los entornos de prueba y obtenido acceso no autorizado a sistemas informáticos reales.
Estos anuncios suscitaron preocupación por la posibilidad de que los modelos se descontrolaran y realizaran otras tareas más dañinas.
Ambas compañías declararon entonces que suspenderían algunas evaluaciones mientras implementaban medidas de supervisión y salvaguardias adicionales.
El rápido desarrollo de esta tecnología ha llevado a algunos en Estados Unidos, así como a líderes mundiales, a abogar por un enfoque más prudente.
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó esta semana a los países a establecer «garantías inquebrantables en torno a la seguridad de la IA antes de que sea demasiado tarde».
Lisa Dwyer, de AP, informa sobre una alarmante advertencia de un investigador de inteligencia artificial.
En sus publicaciones en redes sociales, Coxon afirmó que Anthropic y su principal rival, OpenAI, «están avanzando a toda velocidad hacia la superinteligencia con capacidad de autoaprendizaje y jugando con nuestras vidas». Advirtió que algunos de los que trabajan en el desarrollo de la IA creen que podría amenazar la vida humana para finales de la década.
«No subestimen el poder de esta tecnología», continuó. «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos ámbitos, y este progreso no se está ralentizando».
Sus publicaciones alcanzaron a más de 100 millones de personas de la noche a la mañana.
Coxon no es el primer experto en IA en expresar públicamente estas preocupaciones. Tanto Anthropic como OpenAI han experimentado dimisiones de alto perfil en los últimos años, vinculadas a problemas de seguridad.
Dos empleados actuales de Anthropic también respondieron a la publicación de Coxon mostrando su acuerdo.
El senador Bernie Sanders , un independiente de Vermont que ha pedido salvaguardias y regulación para la IA, coincidió con las preocupaciones de Coxon y dijo que pronto presentaría una legislación para detener el desarrollo de la IA y prohibir la superinteligencia .
“Las mismas personas que están desarrollando esta tecnología admiten que podría amenazar el futuro de la humanidad”, dijo Sanders el miércoles en las redes sociales.
Las propias empresas de IA han destacado en ocasiones la amenaza que esta tecnología representa para la humanidad, lo que los escépticos han interpretado como una estrategia para hacer que sus productos parezcan todopoderosos.
Coxon afirmó que los temores que expuso en su publicación no son una simple estrategia de marketing.
Coxon no respondió a los mensajes en los que se solicitaban comentarios. Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios.
Anthropic se ha posicionado desde hace tiempo como la empresa de IA líder más responsable y centrada en la seguridad, desde que sus fundadores abandonaron OpenAI para crear la startup en 2021.
La compañía declaró recientemente que está tomando medidas para «priorizar la seguridad sobre la velocidad cuando ambas entran en conflicto».
Anthropic y OpenAI se preparan para sus esperadas ofertas públicas iniciales y compiten ferozmente entre sí. Ambas empresas también tienen la misión de superar el progreso de desarrollo de las compañías chinas de IA , una carrera que la administración Trump ha estado ansiosa por ganar.
El periodista de Associated Press, Jamey Keaten, en Ginebra, contribuyó a este artículo.
