La empresa de inteligencia artificial Anthropic afirmó que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La compañía indicó que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos.
Mientras tanto, un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial y sus competidores no están actuando de manera responsable en el desarrollo de la IA.
Jacob Coxon, ingeniero británico de software, advirtió de que quienes desarrollan inteligencia artificial “creen que podrá matarnos a todos al final de esta década”, porque “no hay otra actividad humana que suponga este nivel de amenaza”.
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron que sus modelos se habían salido de los entornos de prueba y tuvieron acceso no autorizado a sistemas informáticos reales. Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas. Ambas empresas anunciaron entonces una pausa en algunas evaluaciones mientras implementaban más medidas de monitoreo y candados.