Las empresas de inteligencia artificial en Estados Unidos anticipan una etapa de mayor vigilancia estatal sobre el desarrollo y lanzamiento de sus modelos. La discusión se reactivó después de que el presidente Donald Trump firmara un decreto para que las compañías compartan voluntariamente sus modelos avanzados hasta 30 días antes de habilitar el acceso a socios o usuarios.

El CEO de Databricks, Ali Ghodsi, sostuvo que la industria deberá adaptarse a este nuevo escenario. "Veremos a más gobiernos interviniendo en cómo se usa la IA. Considero que es algo con lo que tendremos que aprender a vivir", afirmó.

Según la Casa Blanca, la medida busca equilibrar innovación y seguridad, además de consolidar el liderazgo de Estados Unidos en inteligencia artificial y ciberseguridad.

Ghodsi señaló que la inteligencia artificial dejó de ser solo una tecnología empresarial para convertirse en un tema político y geopolítico. "La IA se analiza ahora bajo la lente de la seguridad del Estado", expresó.

Desde OpenAI, el director global de asuntos públicos, Chris Lehane, consideró que el decreto representa un avance importante y remarcó que la seguridad y la innovación deben avanzar juntas para sostener el liderazgo estadounidense en la materia.

El cambio de postura del Gobierno se aceleró después de la presentación del modelo Mythos, de Anthropic, que encendió alarmas por su capacidad para explotar vulnerabilidades de ciberseguridad.

Esta semana, Anthropic suspendió el acceso a Fable 5, una versión limitada de Mythos, luego de que el Gobierno lo considerara un riesgo para la seguridad nacional.

Preocupación por el código abierto

Aunque Ghodsi se mostró dispuesto a convivir con una mayor supervisión estatal, advirtió que una intervención excesiva podría afectar al código abierto, una herramienta clave para la investigación científica y la transparencia tecnológica.

"Si el código abierto se restringe, la investigación científica y el control de la IA quedarían limitados a unas pocas empresas", sostuvo.

Para el ejecutivo, el código abierto permite que universidades, especialistas y desarrolladores de todo el mundo comprendan mejor cómo funcionan los sistemas de inteligencia artificial y puedan auditar su comportamiento.

En ese sentido, remarcó que estos modelos también ayudan a mejorar la gobernanza de datos, la ciberseguridad y el desarrollo de sistemas con criterios éticos más sólidos.

Ghodsi también advirtió que la expansión de los agentes de IA, capaces de acceder a sistemas y ejecutar procesos, vuelve imprescindible un monitoreo constante.

Según explicó, las empresas deberán implementar controles más estrictos para evitar que estos sistemas realicen acciones indebidas o respondan preguntas controvertidas que puedan entrar en conflicto con normativas internas o regulaciones externas.

Así, la industria tecnológica se prepara para una etapa en la que el desarrollo de inteligencia artificial estará cada vez más condicionado por la seguridad, la supervisión gubernamental y el debate sobre los límites de la innovación.