OpenAI y NASK acuerdan investigar seguridad de IA

Ilustración conceptual de portada.

OpenAI anunció el 23 de octubre un acuerdo firmado con el instituto polaco NASK para explorar la colaboración en seguridad y protección de la inteligencia artificial, además de investigación técnica. El trabajo anunciado contempla estudiar cómo evaluar sistemas de IA cada vez más capaces, identificar vulnerabilidades y fortalecer salvaguardas. NASK participa mediante su Centro de Investigación de Seguridad de IA, que ejerce como Instituto Polaco de Seguridad de la Inteligencia Artificial (AISI). OpenAI describe el acuerdo y su alcance.

Áreas de trabajo y seguridad de contenidos

Radosław Nielek, director de NASK, describe entre las áreas de trabajo del instituto las salvaguardas frente a riesgos emergentes, la detección de contenido sintético generado por IA y el análisis de usos maliciosos. También menciona los retos multilingües. Estos temas conectan la investigación en seguridad con cuestiones de autenticidad y contenidos en distintos idiomas, sin anunciar herramientas concretas para verificar publicaciones. El anuncio recoge las áreas que señala Nielek.

Por parte de OpenAI, Tom Duff Gordon es vicepresidente y responsable de políticas para EMEA. La asociación se plantea como una colaboración exploratoria entre ambas organizaciones. OpenAI la sitúa dentro de un esfuerzo internacional que incluye comparar métodos para evaluar capacidades, valorar riesgos, probar salvaguardas e informar incidentes. El objetivo descrito es contribuir a la respuesta ante riesgos que pueden cruzar fronteras. OpenAI presenta la colaboración y su contexto internacional.