Recientes pruebas realizadas por el Financial Times han revelado que los controles de seguridad en modelos de inteligencia artificial (IA) de código abierto, desarrollados por gigantes tecnológicos como Meta y Google, pueden ser eliminados en cuestión de minutos. Este hallazgo plantea serias preocupaciones sobre la gobernanza y la regulación de la IA, especialmente en un contexto donde la capacidad de estos modelos está en constante expansión. Las pruebas realizadas por el grupo de seguridad de IA Alice mostraron que, utilizando herramientas disponibles públicamente, los guardrails de seguridad pueden ser desactivados en menos de diez minutos, lo que permite que estos sistemas generen respuestas sobre temas sensibles como armas biológicas y malware.

La investigación destaca un desafío significativo para los responsables de políticas, ya que los sistemas de código abierto pueden ser descargados, modificados y redistribuidos sin el control de sus desarrolladores originales. Esto contrasta con los modelos propietarios, donde las restricciones de seguridad pueden ser más fácilmente mantenidas. La rápida eliminación de estas salvaguardias sugiere que los enfoques regulatorios actuales, que se centran principalmente en la fase de desarrollo del modelo, pueden ser insuficientes para abordar los riesgos asociados con la distribución y el uso de modelos modificados.

Expertos en el campo de la IA han señalado que la regulación debería enfocarse más en la implementación y distribución de estos modelos, así como en su uso en el mundo real, en lugar de centrarse únicamente en la etapa de desarrollo. Markus Levin, cofundador de una red de infraestructura física descentralizada, argumentó que el control sobre estos modelos se desplaza rápidamente una vez que son liberados al público. Esto resalta la necesidad de que las políticas evolucionen para abordar la seguridad en entornos donde los agentes de IA operan de manera más autónoma.

Las implicancias para los inversores son significativas. A medida que la IA se convierte en una parte integral de diversas industrias, la falta de regulaciones efectivas podría resultar en un aumento de riesgos, tanto financieros como de reputación, para las empresas que dependen de estas tecnologías. Las empresas que no implementen medidas de seguridad adecuadas podrían enfrentar sanciones o daños a su imagen si se ven involucradas en incidentes relacionados con el uso indebido de IA. Por lo tanto, es crucial que los inversores evalúen la solidez de las políticas de seguridad de las empresas en las que están considerando invertir.

A futuro, será importante monitorear cómo los reguladores globales, incluidos los de la Unión Europea y Estados Unidos, desarrollan marcos para la regulación de la IA. La implementación de la Ley de IA de la UE y otros enfoques emergentes en el Reino Unido y Estados Unidos serán cruciales para establecer un estándar que pueda abordar los desafíos de la IA de código abierto. La evolución de estas regulaciones podría influir en la forma en que las empresas operan y en la confianza del público en la tecnología de IA, lo que a su vez podría impactar en los mercados financieros y en la percepción de riesgo entre los inversores.