Trabajaban en el área que se encarga de la seguridad de los nuevos modelos de IA.
En medio del debate público por los posibles riesgos del avance de las capacidades de la Inteligencia Artificial y los pedidos de Anthropic y OpenAI de generar regulaciones, otros dos técnicos del sector publicaron cartas abiertas donde señalan los peligros que se pueden avecinar luego de renunciar a sus empleos.
En este caso se trata de Bilal Chughtai y Josh Engels, dos ex empleados de Google DeepMind, el área del buscador que trabaja en desarrollos de IA.
Chughtai se desempeñaba como ingeniero en el área de Seguridad y Alineamiento de modelos de Inteligencia Artificial General
«En Google, presencié el desarrollo de la IA de primera mano y me preocupa enormemente la trayectoria predeterminada que viene teniendo esta tecnología», escribió Chugthai en sus redes sociales.
«Creo firmemente que la IA tiene el potencial de acabar con todos nosotros y que podríamos estar quedándonos sin tiempo para evitarlo. El ritmo de progreso de la IA en los últimos años ha sido asombroso», escribió el ingeniero.
Si bien su renuncia se produjo a comienzos del mes, su posteo en X llegó este fin de semana, luego del alarmismo que despertó la semana pasada la carta de renuncia de Jacob Coxon, un especialista británico que dejó su puesto en Anthropic pronosticando que hay un diez por ciento de chances de que la IA «nos mate a todos a finales de la década».
«Las cosas se van a poner más caóticas. Creo que es posible que, en los próximos años, las empresas de IA logren construir sistemas de IA superinteligentes que superen con creces las capacidades humanas en todos los ámbitos. No confío en que estos sistemas de IA hagan lo que queremos», vaticinó el ingeniero.
Para contrarrestar, Chughtai también pidió desacelerar el avance de los desarrollos para que «las capacidades de los modelos no sobrepasen nuestra capacidad de alinearlos».
Otro de los técnicos que publicó un descargo en las últimas horas fue Josh Engels, quien también trabajaba en el área de seguridad de AGI de DeepMind.
Si bien su renuncia ocurrió hace unas tres semanas, Engels también se sumó al furor que despertó la carta de Coxon. Ese día, citó un posteo sobre el tema, remarcando que está «convencido de que no tenemos las cosas bajo control y deberíamos bajar el ritmo»
