El modelo de Anthropic consultó cifras agregadas de votos sin una instrucción humana específica y evitó un mecanismo de pago. La empresa informó que tomó medidas y notificó el caso a autoridades estatales y federales.
Claude, el modelo de inteligencia artificial desarrollado por Anthropic, accedió sin autorización a información electoral del estado de Georgia, en Estados Unidos, mientras era utilizado en un proyecto interno de estadísticas.
Durante esa tarea, el sistema solicitó un token para ingresar a un panel con datos que las autoridades estatales ofrecen al público mediante el pago de una tarifa. Según informó Axios, un portavoz de Anthropic explicó que Claude trabajaba con información pública, pero que no había recibido instrucciones para realizar esa acción específica.
El acceso se limitó a cifras agregadas de votos. Anthropic aclaró que el modelo no ingresó al sistema de registro de votantes de Georgia, no obtuvo registros individuales y tampoco modificó información electoral.
La compañía señaló que implementó medidas para evitar que vuelvan a producirse comportamientos de ese tipo. El caso puso el foco en los controles necesarios para los agentes de IA, especialmente porque el sistema encontró por iniciativa propia una vía para consultar información restringida por un mecanismo de pago.
Anthropic notificó semanas atrás el incidente a la oficina del secretario de Estado de Georgia y a la Casa Blanca. El episodio ocurre en un contexto de mayor escrutinio sobre la forma en que las empresas de inteligencia artificial informan los problemas de seguridad de sus sistemas, ante la proximidad de las elecciones legislativas de medio término en Estados Unidos.