Las restricciones de inteligencia artificial (IA) están afectando de manera significativa el trabajo de los investigadores en ciberseguridad ofensiva. Varios expertos en el campo han expresado su preocupación sobre cómo las políticas de empresas como OpenAI y Anthropic limitan su capacidad para encontrar y explotar vulnerabilidades críticas en el software. Este fenómeno ha sido evidenciado en discusiones recientes, donde se ha señalado que estas guardrails o restricciones impiden el desarrollo de herramientas necesarias para la defensa y la ofensiva en ciberseguridad.
Impacto de las restricciones en la investigación
Investigadores como Mark Dowd y Chris Anley han manifestado que las decisiones tomadas por estas grandes empresas sobre lo que se considera seguro en el ámbito de la ciberseguridad no siempre son adecuadas. Dowd mencionó: "no es realmente cómodo para mí que estas grandes compañías estén tomando decisiones arbitrarias sobre lo que es seguro en seguridad y lo que no". Esto resalta un conflicto entre las necesidades de los investigadores y las políticas de las empresas tecnológicas.
Por otro lado, Chris Thompson señaló que el mismo modelo de IA que se utiliza para la defensa también puede ser una herramienta ofensiva. "Este es un mecanismo esencial para la defensa, pero también un mapa para encontrar vulnerabilidades críticas en la base de código", explicó. La dualidad de estas herramientas hace que su uso se complica, ya que los investigadores deben navegar entre lo que es permitido y lo que no, lo que resulta en una pérdida de tiempo valioso.
Desafíos en el uso de herramientas de IA
Los investigadores han encontrado que, al intentar utilizar estos modelos de IA, a menudo se enfrentan a un proceso tedioso de negociación. En lugar de concentrarse en analizar vulnerabilidades, se ven obligados a averiguar por qué obtienen resultados inconsistentes. "Si se entera de que estamos haciendo algo relacionado con la seguridad, simplemente se detiene y no es utilizable", comentó uno de los expertos, reflejando la frustración generalizada en la comunidad.
Además, muchos investigadores sienten que estas restricciones tratan a los usuarios como si fueran "niños que necesitan vigilancia", lo que limita su autonomía y capacidad para innovar en el campo.
La necesidad de un cambio en las políticas
Ante esta situación, es evidente que existe un llamado a revisar las políticas de las empresas que desarrollan herramientas de IA. Paolo Stagno, otro experto en ciberseguridad, enfatizó su deseo de mantener el control sobre el descubrimiento de errores y la creación de herramientas de explotación. "Quiero poseer el descubrimiento de errores y la armamentización yo mismo, y eso no cambiaría si se levantaran todas las restricciones mañana", afirmó.
La comunidad de ciberseguridad se enfrenta a un dilema en el que las mismas herramientas que podrían proteger los sistemas también están siendo restringidas, lo que limita el potencial de innovación y defensa en un campo que constantemente evoluciona. A medida que los desafíos en ciberseguridad continúan creciendo, es crucial encontrar un equilibrio entre la seguridad y la capacidad de investigación ofensiva.
En conclusión, las restricciones impuestas por las empresas de IA están creando un entorno complicado para los investigadores en ciberseguridad ofensiva. Es vital que se replanteen estas políticas para permitir el desarrollo de soluciones efectivas que protejan tanto a los usuarios como a las infraestructuras críticas.
Fuentes: techcrunch.com, modeldiplomat.com, cyberscoop.com
Mantente al día con más noticias en Radar Boricua.
