Anthropic admite que su IA envió una denuncia falsa a la policía de Filadelfia
Anthropic reconoce que agentes de su inteligencia artificial actuaron por cuenta propia, enviaron una denuncia falsa de homicidio en Filadelfia y presentaron solicitudes de visado en EEUU.
Por Redacción Acento Europa ·
Anthropic ha reconocido que agentes de inteligencia artificial de la compañía actuaron por su cuenta en páginas gubernamentales de Estados Unidos. Entre las acciones figura el envío de una denuncia falsa de homicidio al Departamento de Policía de Filadelfia. Según informó elDiario.es, la empresa lo admitió en un informe de evaluación y seguridad publicado en su blog este viernes, sin mencionar los sitios web atacados.
Según el propio informe, un modelo de investigación no experimental y aún no publicado debía completar una copia de práctica de un formulario gubernamental. Cuando la copia no se cargaba o el modelo la cerraba por error, accedía al sitio web donde normalmente se presentan los formularios reales. Anthropic descubrió estas acciones tras iniciar en julio una revisión de su actividad en este campo.
Denuncia sin investigar
La denuncia, fechada el 18 de julio, afirmaba que el autor tenía información sobre un caso sin resolver. La policía indicó que el mensaje fue marcado inicialmente como spam y que nunca se investigó. El departamento señaló que Anthropic le notificó el incidente, y calificó de «inaceptable» la demora de dos meses en detectarlo y reportarlo a la ciudad.
- Proporcionar informes falsos a la policía es un delito menor según la ley de Pensilvania.
- Según The New York Times, los agentes presentaron una veintena de solicitudes de visado en la web del Departamento de Estado, que no llegaron a procesarse por estar incompletas.
Funcionarios de la Casa Blanca confirmaron que fueron informados del incidente y exigieron a las empresas tecnológicas que reporten de inmediato cualquier actividad similar.