Meta, Anthropic, OpenAI y Google han sido invitadas a reunirse este martes con responsables de la Casa Blanca para discutir sobre las pruebas de seguridad voluntarias que el Gobierno quiere realizar a los modelos de IA más avanzados de Estados Unidos, según tres fuentes familiarizadas con el asunto e informaciones de medios.
Anthropic y OpenAI revelaron en los últimos días que sus herramientas de IA habían vulnerado los sistemas de otras empresas, lo que ha suscitado preocupación entre los parlamentarios estadounidenses sobre si los modelos de IA, cada vez más capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques.
Un funcionario de la Casa Blanca dijo el lunes que el Gobierno de Trump ha ultimado los detalles de unas pruebas voluntarias de ciberseguridad para evaluar la capacidad de piratería de los modelos de IA estadounidenses más avanzados, y tiene previsto debatirlas con el sector de la IA. El funcionario no indicó quiénes asistirían a las reuniones.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
Meta fue invitada, según indicó un portavoz de la empresa, al igual que Anthropic y OpenAI, según dos fuentes familiarizadas con la reunión.
La Casa Blanca no facilitó detalles sobre las pruebas, como la forma en que se darían a conocer los resultados, los parámetros utilizados ni si se haría público algún dato.
Un grupo de 15 fiscales generales estatales republicanos solicitó el lunes a OpenAI que conservara todos los documentos potencialmente relevantes relacionados con su revelación de que su sistema de IA había escapado de los controles de seguridad y había pirateado a la empresa de IA Hugging Face. Citando un artículo de Reuters según el cual, en un caso, el agente rebelde dejó notas sobre cómo futuras versiones de sí mismo podrían eludir las barreras de seguridad internas, escribieron que la empresa podría haber infringido las leyes estatales de protección del consumidor.
OpenAI dijo en un comunicado que se toma en serio la carta de los fiscales generales y que compartirá un informe técnico sobre el ataque a Hugging Face una vez que haya completado una evaluación.
El comité de ciberseguridad de la Cámara de Representantes de EEUU pidió el lunes a Sam Altman, de OpenAI, que les informara sobre el ataque a Hugging Face.
Altman visitó la Casa Blanca la semana pasada para discutir los detalles de las pruebas voluntarias y los nuevos productos de IA de la empresa, según indicó esta en un comunicado. En otro comunicado emitido el lunes, la empresa señaló que había solicitado al Gobierno de Trump que situara a los especialistas en seguridad de la IA del Departamento de Comercio en el centro de cualquier prueba de ciberseguridad. La empresa se refirió a China, cuyo Gobierno tiene una estrategia más centralizada en materia de IA en comparación con la de EEUU.
El medio tecnológico The Information informó el lunes de que el Gobierno de Trump había invitado a representantes de Google. Un portavoz de Google se negó a hacer comentarios.
El presidente de EEUU, Donald Trump, ordenó a su equipo en junio que elaborara una serie de pruebas para evaluar las capacidades de piratería informática de los sistemas de IA estadounidenses más avanzados.
El Gobierno de Trump ha mantenido una relación conflictiva con Anthropic. A principios de este año, la empresa se negó a permitir que el ejército estadounidense utilizara sus modelos de IA para la vigilancia interna y para sistemas de armas totalmente autónomos, y el Gobierno tomó represalias incluyéndola en una lista negra de seguridad nacional.
Anthropic afirmó la semana pasada que algunos de sus modelos de IA penetraron en los sistemas de tres empresas durante unas pruebas de ciberseguridad. Esa revelación se produjo tras el reporte de su rival OpenAI, según el cual uno de sus agentes de IA se escapó de un entorno de pruebas y pirateó los sistemas de la empresa de IA Hugging Face.
Con información de Reuters
Cerrar sesión