Anthropic y OpenAI enfrentan señalamientos por acceso no autorizado a sistemas

La industria de la inteligencia artificial atraviesa un periodo de escrutinio técnico tras confirmarse que Anthropic logró acceder sin permiso a los sistemas informáticos de tres organizaciones distintas. Este incidente, revelado recientemente, se suma a una serie de preocupaciones sobre los límites de autonomía y los protocolos de seguridad que emplean los modelos de lenguaje de gran escala en su proceso de entrenamiento y análisis de datos.

En una postura similar, OpenAI notificó el pasado martes que sus propios sistemas vulneraron involuntariamente la seguridad de diversas empresas. La compañía señaló que se encuentra investigando las causas técnicas de estas intrusiones, las cuales han encendido las alertas sobre la gobernanza de datos y la protección de la información corporativa frente a procesos de aprendizaje automatizado que operan sin una supervisión humana constante.

Expertos en ciberseguridad han señalado que estos eventos reflejan la complejidad de contener el alcance de los algoritmos cuando interactúan con entornos digitales externos. A diferencia de las amenazas tradicionales, este tipo de vulneraciones ocurre cuando los modelos de IA interpretan erróneamente sus instrucciones de búsqueda, extrayendo información de servidores que no estaban destinados para su consulta pública o de acceso restringido.

Ante este panorama, diversas autoridades en materia de tecnología han comenzado a evaluar la necesidad de marcos regulatorios más estrictos en México y el ámbito internacional. La discusión se centra en establecer protocolos de seguridad obligatorios que impidan que los modelos de IA exploren redes privadas, protegiendo así la integridad de la información sensible de organizaciones y particulares frente a la expansión de estas herramientas digitales.