01Una discusión que parece lejana pero ya nos alcanza

La Ley de Inteligencia Artificial de la Unión Europea puede interpretarse como una respuesta propia de países con instituciones sólidas, mercados tecnológicos desarrollados y autoridades con capacidad efectiva de supervisión. Desde Bolivia, donde todavía se identifican vacíos importantes en protección de datos personales, privacidad y ciberseguridad, hablar de una regulación integral de inteligencia artificial podría considerarse prematuro.

No obstante, esa aparente distancia es engañosa.

La inteligencia artificial ya está siendo utilizada en el país por entidades públicas, empresas, universidades, medios de comunicación, profesionales y ciudadanos. Se emplea para redactar documentos, analizar información, atender clientes, evaluar solicitudes, generar imágenes, vigilar espacios, seleccionar candidatos y apoyar decisiones.

Debemos entender, por tanto, que la pregunta ya no es si Bolivia utilizará inteligencia artificial, sino bajo qué condiciones lo hará, quién asumirá los riesgos y qué mecanismos tendrá una persona cuando una decisión automatizada afecte sus derechos.

La experiencia demuestra que la tecnología no espera a que el Estado termine de comprenderla.

02El principal aporte del modelo europeo: regular según el riesgo

El aspecto más relevante del enfoque europeo no es la intención de controlar toda forma de inteligencia artificial. Su principal aporte consiste en reconocer que no todos los sistemas generan el mismo nivel de riesgo.

En esa línea, la regulación europea clasifica los usos en categorías de riesgo inaceptable, alto riesgo, riesgo de transparencia y riesgo mínimo, y a partir de esa clasificación establece prohibiciones, obligaciones de documentación, controles humanos, requisitos de calidad de datos, trazabilidad, ciberseguridad y mecanismos de supervisión. En el fondo, opera la misma lógica de las normas de gestión de riesgos como ISO 31000: la intensidad del control se ajusta a la magnitud del riesgo, no a la tecnología en sí.

Este enfoque introduce una diferencia fundamental entre regular la tecnología y regular sus consecuencias. No se exige el mismo nivel de control para un filtro de correo no deseado que para un sistema que participa en la selección de personal, la asignación de créditos, el acceso a servicios públicos, la identificación biométrica o la administración de justicia.

Categoría de riesgo	Tratamiento regulatorio
Riesgo inaceptable	Usos prohibidos, por vulnerar derechos de manera evidente.
Alto riesgo	Documentación, control humano, calidad de datos, trazabilidad y ciberseguridad.
Riesgo de transparencia	Obligación de informar que se está interactuando con una máquina.
Riesgo mínimo	Sin exigencias específicas más allá de las obligaciones generales.

Notemos que la regulación no busca impedir el conocimiento ni prohibir la innovación. Busca evitar que una herramienta tecnológica se convierta, de manera silenciosa, en un mecanismo de discriminación, vigilancia, manipulación o exclusión.

03La percepción de que regular significa frenar

En Bolivia se repite una percepción según la cual regular una tecnología equivale a limitar su desarrollo. Desde esa mirada, exigir controles, evaluaciones, autorizaciones o responsabilidades reduciría la innovación, desalentaría inversiones e impediría aprovechar nuevas oportunidades. El razonamiento suele ordenarse así: primero utilizar la tecnología, aprender de ella y permitir que se desarrolle; cuando aparezcan los problemas, recién regularla.

El argumento contiene una parte razonable. Una regulación excesivamente rígida, redactada sin conocimiento técnico o diseñada para tecnologías que cambian con rapidez, puede convertirse en una barrera burocrática.

Sin embargo, el problema surge cuando la ausencia temporal de regulación se transforma en una ausencia permanente. Regular después del daño es parecido a redactar las normas de construcción después del derrumbe: puede ayudar a prevenir futuros accidentes, pero no repara las consecuencias del primero.

04El problema no es solamente jurídico

Bolivia no parte de una página en blanco. La Constitución reconoce derechos vinculados con la privacidad, la intimidad y la protección de la información personal, y existen además disposiciones sectoriales, instrumentos técnicos y proyectos normativos. La propia AGETIC ha promovido materiales, propuestas y procesos de socialización, mientras que en la Asamblea Legislativa se han presentado distintos proyectos de ley.

Debemos entender que la dificultad no consiste únicamente en aprobar una norma. Una regulación efectiva necesita instituciones con autonomía, personal especializado, procedimientos de fiscalización, capacidad técnica, coordinación interinstitucional y legitimidad pública. Necesita también reglas claras para el sector público, por cuanto el Estado es uno de los mayores recolectores y usuarios de información personal.

Sin estas condiciones, una ley corre el riesgo de convertirse en una declaración formal que reconoce derechos pero no ofrece mecanismos reales para ejercerlos. El desafío boliviano es, en ese sentido, jurídico, institucional, político, técnico y cultural a la vez.

05La polarización como obstáculo para regular

Uno de los mayores riesgos para Bolivia es que cualquier propuesta de regulación digital se interprete de inmediato desde la confrontación política. Cuando el planteamiento surge del Gobierno, sectores de oposición pueden leerlo como un instrumento de vigilancia, censura o persecución. Cuando proviene de organizaciones civiles, el oficialismo puede interpretarlo como un intento de limitar la gestión pública o de proteger intereses privados.

Esta desconfianza no es irracional. En sociedades polarizadas, una norma redactada con términos ambiguos puede aplicarse de manera selectiva. Conceptos como seguridad nacional, desinformación, contenido dañino, orden público o uso indebido de la tecnología pueden transformarse en argumentos para restringir derechos legítimos.

Por tanto, la regulación no debería construirse sobre la confianza en un gobierno determinado, sino sobre límites que funcionen con independencia de quién ejerza el poder. Una buena ley no es la que entrega herramientas a una autoridad considerada confiable, sino la que incorpora controles suficientes para impedir que una autoridad futura las utilice de manera abusiva.

06La advertencia de las redes sociales

El debate sobre las redes sociales constituye una advertencia útil. Durante años, estas plataformas fueron presentadas sobre todo como instrumentos de democratización, libertad de expresión, participación ciudadana y acceso a la información. Esos beneficios son reales. Sin embargo, con el tiempo aparecieron también problemas de desinformación, acoso, manipulación política, perfiles falsos, explotación de datos personales, violencia digital y afectación a niñas, niños y adolescentes.

Cuando surgieron propuestas de control, la discusión se volvió política. Regular contenidos podía interpretarse como censura; solicitar identificación, como vigilancia; exigir responsabilidades a las plataformas, como una amenaza a la libertad de expresión. Como resultado, muchos problemas quedaron atrapados entre dos posiciones extremas: permitir todo o controlar todo.

Con la inteligencia artificial puede repetirse este patrón, aunque con una diferencia decisiva. Las redes sociales influyen en lo que vemos y compartimos. La inteligencia artificial puede además participar en decisiones que determinan quién accede a un empleo, un crédito, una beca, un servicio de salud, un beneficio estatal o una investigación penal.

El riesgo ya no se limita al contenido. Se extiende a la decisión.

07La inteligencia artificial dentro del Estado

La adopción de inteligencia artificial en el sector público puede generar beneficios significativos. Puede mejorar la atención ciudadana, reducir tiempos de respuesta, detectar irregularidades, organizar expedientes, optimizar recursos y apoyar la formulación de políticas públicas.

No obstante, también puede amplificar los problemas existentes. Un sistema entrenado con datos incompletos, desactualizados o sesgados reproduce desigualdades históricas. Una herramienta utilizada sin supervisión humana convierte una recomendación técnica en una decisión automática. Un algoritmo adquirido a un proveedor externo puede operar sin que la institución comprenda adecuadamente sus criterios.

Tomemos en cuenta que este riesgo es particularmente sensible en Bolivia, donde persisten brechas territoriales, culturales, económicas y digitales. Un sistema desarrollado con información predominantemente urbana puede interpretar de forma incorrecta situaciones rurales; un modelo entrenado en español puede tener dificultades con lenguas indígenas; una base de datos incompleta puede considerar anómala a una persona simplemente porque el Estado no registró adecuadamente su realidad.

La automatización no elimina la desigualdad institucional. Puede ocultarla detrás de una apariencia matemática.

En ese sentido, resaltamos la necesidad de que toda entidad pública que utilice sistemas automatizados para apoyar decisiones sensibles documente su finalidad, evalúe sus riesgos, proteja los datos y garantice una revisión humana efectiva.

08Privacidad y protección de datos como cimiento

La inteligencia artificial depende de datos. Por ello, intentar regularla sin una base sólida de protección de datos personales genera una debilidad estructural. Antes de discutir modelos avanzados, conviene responder preguntas elementales: quién puede recopilar información personal, con qué finalidad, por cuánto tiempo, con quién puede compartirla, cómo puede una persona corregir información incorrecta, qué sucede cuando los datos son filtrados o utilizados para un fin distinto y quién responde cuando una decisión automatizada causa un daño.

En Bolivia se han desarrollado guías y propuestas que reconocen la necesidad de avanzar hacia un tratamiento legítimo, controlado e informado de los datos. También se ha señalado que aún no existe un marco integral plenamente consolidado que articule derechos, obligaciones, supervisión y sanciones para todos los sectores.

Debemos entender que, sin protección efectiva de datos, la regulación de inteligencia artificial comienza por el último piso del edificio cuando todavía no se han construido los cimientos.

09La ciberseguridad como condición de la inteligencia artificial

La regulación europea exige que los sistemas de alto riesgo incorporen robustez, precisión y ciberseguridad, además de obligaciones de registro, documentación, seguimiento y notificación de incidentes. Este punto resulta especialmente relevante para Bolivia y se alinea con marcos ampliamente reconocidos como ISO 27001 y NIST CSF 2.0.

Un sistema de inteligencia artificial puede estar correctamente diseñado y, aun así, ser peligroso si la infraestructura que lo sostiene es vulnerable. Bases de datos expuestas, credenciales compartidas, servidores sin actualización, proveedores sin controles, conexiones inseguras o ausencia de registros comprometen el conjunto. La inteligencia artificial aumenta la capacidad de procesamiento, pero también amplía la superficie de ataque.

Notemos la diferencia de impacto. Un incidente de ciberseguridad sobre un sistema tradicional puede provocar indisponibilidad o pérdida de información. En un sistema automatizado de alto impacto, el mismo incidente puede alterar decisiones, modificar resultados, generar información falsa o afectar de forma simultánea a miles de personas.

Por cuanto, la ciberseguridad no debería considerarse un componente técnico adicional, sino una condición necesaria para que una solución de inteligencia artificial sea confiable.

10El riesgo de copiar una regulación extranjera

Bolivia no debería reproducir de forma literal el modelo europeo. La Unión Europea cuenta con autoridades especializadas, capacidad regulatoria, recursos técnicos, mecanismos de cooperación y mercados con un nivel de madurez distinto. Una copia normativa crearía obligaciones que las instituciones bolivianas no tendrían capacidad de fiscalizar, y el resultado sería una ley formalmente avanzada pero prácticamente inaplicable.

Lo aprovechable del modelo europeo no está en copiar cada artículo, sino en adoptar sus principios:

• Clasificar los sistemas según su riesgo.
• Prohibir los usos que vulneren derechos de manera evidente.
• Exigir transparencia cuando una persona interactúe con una máquina.
• Mantener supervisión humana en las decisiones sensibles.
• Documentar cómo funciona el sistema y para qué se utiliza.
• Proteger la calidad, la seguridad y la trazabilidad de los datos.
• Establecer responsabilidades para proveedores y entidades usuarias.
• Crear mecanismos de reclamación y revisión.
• Permitir espacios controlados de experimentación.
• Aplicar mayores exigencias a los usos de mayor impacto.

Estos principios pueden adaptarse de manera gradual a la capacidad institucional boliviana.

11Regular no significa impedir

El falso dilema entre innovación y regulación debe superarse. Es cierto que una regulación puede frenar una tecnología cuando impone trámites sin relación con el riesgo, prohíbe sin comprender o exige condiciones imposibles para organizaciones pequeñas. Pero también puede facilitar su desarrollo cuando establece reglas previsibles.

Analicemos los incentivos. Una empresa innova con mayor seguridad cuando conoce las obligaciones que debe cumplir; una institución pública adopta tecnología con mayor confianza cuando existen criterios de evaluación; un ciudadano acepta con mayor facilidad una herramienta cuando sabe cómo se utilizan sus datos y cómo puede cuestionar una decisión.

La ausencia de regulación no elimina los costos. Simplemente los traslada: a las personas afectadas, a las instituciones que deben responder de manera improvisada, a las empresas que enfrentan incertidumbre y al Estado que pierde legitimidad cuando el problema se vuelve público.

Regular bien no significa colocar un freno. Significa construir una carretera con señalización, límites, responsabilidades y mecanismos de emergencia.

12Una ruta posible para Bolivia

Bolivia no necesita comenzar con una ley excesivamente compleja. Puede avanzar mediante una estrategia gradual, ordenada por prioridades:

1. Consolidar una ley integral de protección de datos personales, con una autoridad técnicamente competente, procedimientos claros y garantías de independencia.
2. Fortalecer un marco nacional de ciberseguridad que defina responsabilidades, estándares mínimos, gestión de incidentes, protección de infraestructuras críticas y coordinación entre entidades públicas y privadas.
3. Aprobar principios específicos para el uso de inteligencia artificial en el sector público, de modo que toda entidad que emplee sistemas automatizados para decisiones sensibles registre el sistema, evalúe sus riesgos, documente su finalidad, proteja los datos y garantice revisión humana.
4. Crear un inventario público de sistemas de inteligencia artificial utilizados por el Estado, salvo en casos con justificación legal de reserva, para que la ciudadanía conozca qué sistemas se utilizan, con qué finalidad, qué institución es responsable y qué mecanismos de reclamación existen.
5. Implementar espacios controlados de prueba, donde universidades, empresas e instituciones públicas experimenten con soluciones innovadoras bajo condiciones de supervisión, seguridad y aprendizaje.
6. Promover la alfabetización en inteligencia artificial, entendida no solo como capacitación técnica, sino como comprensión de los sesgos, la privacidad, la propiedad intelectual, la seguridad, la responsabilidad y los límites de la automatización.

Debemos entender que esta secuencia no es rígida. Es un orden lógico que coloca primero los cimientos, los datos y la seguridad, y recién después las exigencias sobre los usos de mayor impacto.

13Recomendación central

Bolivia no debería esperar a contar con un ecosistema tecnológico avanzado para comenzar a regular la inteligencia artificial. Consideramos que debe empezar por construir capacidades y principios básicos antes de que los sistemas de alto impacto se vuelvan difíciles de identificar, controlar o reemplazar.

La regulación tendría que ser gradual, basada en riesgos, tecnológicamente neutral y construida mediante participación plural, incorporando al Estado, empresas, universidades, sociedad civil, pueblos indígenas, organizaciones de derechos humanos y especialistas técnicos.

14Reflexión final

La Ley de Inteligencia Artificial de la Unión Europea puede parecer lejana para Bolivia, pero los riesgos que intenta atender ya están presentes. La diferencia es que Europa procura anticiparse mediante reglas, autoridades, responsabilidades y mecanismos de supervisión, mientras que Bolivia todavía se encuentra en una etapa en la que el uso tecnológico avanza más rápido que la construcción institucional.

Nuestra tendencia ha sido utilizar primero y regular después. El problema es que ese después suele quedar atrapado en la polarización, la desconfianza y la falta de acuerdos. Cuando finalmente se intenta establecer controles, unos los interpretan como censura y otros como obstáculos al desarrollo, mientras la tecnología sigue avanzando sin responsabilidades claramente definidas.

La decisión no consiste en elegir entre conocer y controlar. Consiste en decidir si aprenderemos a utilizar la inteligencia artificial con reglas construidas democráticamente o si esperaremos a que los daños, los conflictos y los abusos definan esas reglas por nosotros.

La innovación sin regulación puede avanzar más rápido, pero no necesariamente en la dirección correcta. La regulación sin capacidad institucional puede quedar en una formalidad. En esa línea, y siguiendo la lógica de innovación continua que sostiene el modelo MICAC, el verdadero desafío para Bolivia consiste en construir ambas al mismo tiempo: innovación con responsabilidad y regulación con legitimidad.