Aparece otra urgente razón para parar el desarrollo en los modelos de IA. Pero el mercado está desatado y no parece escuchar ninguna recomendación que no sea seguir invirtiendo, confiando en las ganancias que generará en todos los sectores.
Este verano, las mayores compañías de inteligencia artificial (IA) han anunciado, una tras otra, que habían sorprendido a sus modelos haciendo cosas que nadie les había pedido, incluso que les habían prohibido: han entrado en sistemas de otras empresas, se han organizado en “enjambres”, han compartido información, han delatado a otras IAs y han mentido para tapar sus huellas. En el caso más sorprendente e inquietante de todos, un modelo de Anthropic, en unas pruebas dirigidas por un organismo británico de ciberseguridad, decidió ejecutar un ataque en el mundo real y cuando le pillaron, creó una segunda identidad para respaldar su propia inocencia. ... OpenAI anunciaba que frena los entrenamientos y que confía en que otras compañías la sigan. El movimiento llega tras la publicación de una carta abierta en la que 1.300 empleados de compañías de IA pedían a sus empresas y gobiernos que detuvieran esta carrera.
