Diseño Sensible al Valor (Value-Sensitive Design)

1. Introducción: El mito de la tecnología neutral

Durante décadas, prevaleció en la ingeniería de sistemas y el desarrollo de software una creencia que hoy sabemos profundamente equivocada: la tecnología es neutral. Según esta visión, los sistemas informáticos serían simples herramientas —como un martillo o una calculadora— sin valores propios, cuya moralidad dependería exclusivamente del uso que le dieran sus operadores humanos.

Esta premisa comenzó a desmoronarse cuando los investigadores en ciencias de la computación, filosofía y sociología empezaron a documentar algo incómodo: los sistemas tecnológicos no son espacios en blanco. Cada decisión de diseño —qué datos se recolectan, quién tiene acceso, qué se considera un error, qué se registra en logs— es en sí misma una decisión cargada de valores. A veces esos valores son conscientes. Muchas veces, no.

“El diseño tecnológico nunca es neutral. Siempre encarna suposiciones sobre cómo debe ser el mundo, quiénes son sus usuarios y qué importa preservar.” — Batja Friedman, 1996

Fue precisamente para abordar esta realidad que la científica de la computación Batja Friedman, de la Universidad de Washington, desarrolló el marco del Diseño Sensible al Valor (DSV). Su propuesta es radical en su sencillez: si la tecnología siempre incorpora valores, lo responsable es hacerlo de manera deliberada, reflexiva y participativa.

2. ¿Qué es el Diseño Sensible al Valor?

2.1 Origen y contexto

El DSV nació en los años 90 como respuesta a una serie de casos documentados donde sistemas informáticos —diseñados con buenas intenciones técnicas— producían daños sociales no previstos. Entre los casos que motivaron la reflexión de Friedman se encontraban sistemas de vigilancia laboral que erosionaban la privacidad de los trabajadores, algoritmos de crédito que reproducían discriminación racial, y plataformas de comunicación diseñadas sin mecanismos para prevenir el acoso.

La pregunta de Friedman no era si estos sistemas eran malos. La pregunta era: ¿cómo es posible que ingenieros brillantes, con buenas intenciones, construyan sistemas que generan tanto daño? Su respuesta apuntó a una falla metodológica estructural: el proceso de diseño no contemplaba formalmente los valores humanos como un requisito de ingeniería.

2.2 Definición y componentes

El DSV puede definirse como un enfoque teórico y metodológico para el diseño de sistemas tecnológicos que toma en serio los valores humanos de manera proactiva y sistemática durante todo el proceso de desarrollo. No es una lista de reglas, sino una forma de pensar el diseño.

El marco DSV estructura el trabajo de diseño a través de tres tipos de investigación complementarias:

Investigación conceptual: ¿Qué valores están en juego? ¿Cómo se definen? ¿Existen conflictos entre ellos? Por ejemplo: privacidad versus seguridad, autonomía versus protección.
Investigación empírica: ¿Cómo entienden los usuarios reales estos valores? ¿Qué comportamientos exhiben? ¿Qué contextos culturales, económicos o sociales moldean sus expectativas?
Investigación técnica: ¿Cómo las propiedades del sistema —su arquitectura, sus algoritmos, sus interfaces— apoyan o socavan los valores identificados?

La integración de estos tres tipos de investigación es lo que distingue al DSV de otros marcos éticos: no se queda en lo filosófico ni en lo técnico, sino que los articula de manera continua durante el ciclo de vida del sistema.

2.3 Los valores que considera el DSV

Friedman y sus colaboradores identificaron un conjunto de valores recurrentes que deben considerarse en el diseño tecnológico. Entre los más relevantes para la ciberseguridad encontramos:

Privacidad: el derecho de las personas a controlar información sobre sí mismas.
Seguridad: la protección frente a daños físicos, psicológicos, financieros o reputacionales.
Autonomía: la capacidad de tomar decisiones informadas sin manipulación.
Justicia: la distribución equitativa de beneficios y cargas del sistema.
Dignidad humana: el respeto a la persona independientemente de sus características.
Responsabilidad: la posibilidad de atribuir acciones y consecuencias a actores identificables.
Confianza: la certeza razonable de que el sistema se comportará como se espera.

Transparencia: la comprensibilidad de cómo el sistema toma decisiones

3. DSV y Security by Design: Una alianza natural

En la clase anterior exploramos el principio de Security by Design, que postula que la seguridad no debe ser un añadido posterior al desarrollo sino una propiedad que se incorpora desde la arquitectura inicial del sistema. Al examinar este principio junto al DSV, emerge una relación profunda y mutuamente reforzante.

Ambos marcos comparten tres premisas fundamentales:
Primero, la anticipación es superior a la remediación. Es incomparablemente más barato y efectivo incorporar seguridad y valores desde el diseño que intentar corregirlos una vez que el sistema está en producción. Una vulnerabilidad estructural descubierta a los cinco años de operación puede costar millones en remediación; diseñarla bien desde el inicio puede costar horas de trabajo conceptual.

Segundo, el diseño nunca es inocente. Todo sistema codifica suposiciones. Security by Design nos dice que esas suposiciones deben incluir modelos de amenazas reales. El DSV nos dice que también deben incluir los valores de las personas que el sistema afectará.
Tercero, los stakeholders importan. Tanto el análisis de impacto de privacidad (Privacy Impact Assessment) como el DSV exigen identificar a todos los actores afectados por el sistema —no solo los usuarios directos, sino también los indirectos y los excluidos— y considerar sus intereses en el diseño.

Un sistema de monitoreo de transacciones financieras diseñado solo para detectar fraudes puede, simultáneamente, crear perfiles de comportamiento de los ciudadanos que erosionen su privacidad. Security by Design diría: proteged el sistema. DSV preguntaría: ¿a quién protege realmente y a quién vigilar?

4. Casos de tensión: Cuando los valores colisionan

4.1 El dilema privacidad-seguridad

El caso más debatido en ciberseguridad es la tensión entre privacidad y seguridad. Los sistemas de detección de intrusiones necesitan analizar el tráfico de red —lo que puede incluir contenidos privados de comunicaciones. Los sistemas antifraude necesitan perfiles de comportamiento —lo que construye historiales de la vida privada de las personas.
Desde el DSV, la respuesta no es elegir un valor sobre el otro, sino diseñar para la mínima erosión de ambos. Esto puede implicar técnicas como el cifrado homomórfico, la privacidad diferencial o arquitecturas de datos que permitan la detección de anomalías sin acceder al contenido de las comunicaciones.

4.2 El caso de los sistemas de monitoreo en redes sociales
En Bolivia, y en toda la región latinoamericana, los gobiernos han mostrado creciente interés en plataformas de monitoreo masivo de redes sociales para propósitos declarados como la seguridad pública o el análisis de tendencias sociales. Estos sistemas presentan un caso de estudio paradigmático para el DSV.
Un análisis DSV de tales sistemas preguntaría: ¿quiénes son los stakeholders afectados? ¿Qué valores están en juego? ¿El diseño del sistema permite la rendición de cuentas? ¿Existen mecanismos de auditoría independiente? ¿Se ha considerado el impacto diferenciado en grupos vulnerables como periodistas, activistas o minorías políticas?
La respuesta a estas preguntas rara vez aparece en los documentos de licitación técnica, y esta omisión es precisamente lo que el DSV señala como una falla de diseño, no un detalle menor.

4.3 Inteligencia Artificial y sesgo algorítmico
Los sistemas de IA representan el desafío más agudo para el DSV en la actualidad. Los modelos de aprendizaje automático pueden perpetuar —e incluso amplificar— los sesgos presentes en sus datos de entrenamiento. Un sistema de scoring crediticio entrenado con datos históricos que reflejan discriminación histórica producirá decisiones discriminatorias, incluso si ninguna variable protegida (raza, género, origen) aparece explícitamente en el modelo.
Esto ha llevado a la formulación del concepto de Fairness by Design, una extensión del DSV aplicada específicamente a sistemas de IA, que exige auditorías de equidad algorítmica como parte del proceso de certificación de sistemas.
.

5. El DSV en el contexto boliviano y latinoamericano

5.1 Retos normativos
Bolivia carece aún de una Ley de Protección de Datos Personales integral, lo que crea un vacío normativo que los profesionales de seguridad deben navegar con criterio ético propio. En ausencia de normas que obliguen, el DSV ofrece un marco de responsabilidad profesional voluntaria: no hacer solo lo que la ley exige, sino lo que los valores humanos demandan.
Las regulaciones sectoriales existentes —como las normas de la ASFI para el sistema financiero— abordan principalmente la seguridad técnica de los sistemas, pero raramente incorporan consideraciones de diseño ético o protección de valores como la privacidad de los clientes o la equidad en el acceso a servicios financieros.

5.2 Implicaciones para el profesional de seguridad
Para el consultor o auditor de ciberseguridad latinoamericano, el DSV tiene implicaciones prácticas directas. Cuando se evalúa la arquitectura de seguridad de una organización, no basta con verificar que los controles técnicos están implementados correctamente. La pregunta más profunda es: ¿este sistema respeta los valores de las personas que afecta?
Esto implica incorporar en los informes de auditoría no solo hallazgos técnicos, sino también análisis de impacto en privacidad, evaluaciones de equidad en el acceso a controles, y recomendaciones sobre transparencia hacia los usuarios finales.

6. Críticas al Diseño Sensible al Valor

Ningún marco académico está exento de críticas, y el DSV no es una excepción. Para fomentar el pensamiento crítico, presentamos a continuación las objeciones más relevantes:

6.1 La objeción de la universalidad
¿Pueden los valores ser universales? Los críticos señalan que el DSV, desarrollado en un contexto académico anglosajón, puede imponer valores culturalmente específicos como universales. La privacidad tal como se concibe en Europa Occidental puede no tener el mismo peso en culturas donde lo colectivo prima sobre lo individual. ¿Es el DSV en realidad un vector de imperialismo cultural disfrazado de ética?

6.2 La objeción de la practicabilidad
Incorporar investigación conceptual, empírica y técnica de manera rigurosa en cada proyecto de diseño es costoso en tiempo y recursos. Los críticos argumentan que el DSV es un lujo que solo las grandes corporaciones o los proyectos académicos pueden permitirse, y que para startups o equipos pequeños resulta impracticable.

6.3 La objeción del conflicto irresoluble
Cuando los valores entran en conflicto —privacidad versus seguridad, autonomía versus protección— el DSV ofrece un marco para identificar el conflicto pero no siempre un algoritmo para resolverlo. Los críticos señalan que esto puede llevar a debates interminables sin resolución práctica.
6.4 La defensa del DSV ante estas críticas
Los defensores del marco responden que la universalidad no es un requisito del DSV —el marco explícitamente contempla la investigación empírica para entender los valores en contextos culturales específicos. Respecto a la practicabilidad, argumentan que la omisión de consideraciones éticas genera costos mucho mayores a largo plazo en remediación, litigios y daño reputacional. Y sobre el conflicto irresoluble, señalan que la responsabilidad del diseñador no es eliminar los conflictos de valores sino hacerlos visibles y tomar decisiones informadas sobre ellos.

7. Hacia una práctica del DSV en ciberseguridad

¿Cómo se traduce el DSV en acciones concretas para el profesional de ciberseguridad? Proponemos un itinerario práctico de cinco pasos:

Paso 1 — Identificación de stakeholders: Antes de diseñar cualquier control de seguridad, mapear exhaustivamente a todos los actores que el sistema afecta: usuarios directos, usuarios indirectos (por ejemplo, familiares de un cliente bancario), grupos excluidos (personas sin acceso digital) y actores institucionales.

Paso 2 — Elicitación de valores: Mediante entrevistas, grupos focales o análisis de contexto, identificar qué valores son prioritarios para cada grupo de stakeholders. Este ejercicio frecuentemente revela tensiones no anticipadas.

Paso 3 — Análisis de impacto en valores: Para cada decisión de diseño importante, evaluar sistemáticamente cómo impacta en los valores identificados. Esta evaluación debe documentarse como parte del expediente técnico del proyecto.

Paso 4 — Diseño sensible: Incorporar en la arquitectura técnica los mecanismos que minimizan la erosión de valores: minimización de datos, controles de acceso granulares, mecanismos de auditoría, opciones de consentimiento significativo.

Paso 5 — Evaluación continua: Los valores y sus implicaciones técnicas cambian con el tiempo. El análisis DSV no es un entregable puntual sino un proceso continuo a lo largo del ciclo de vida del sistema.

8. Conclusión: La ética como competencia técnica

El Diseño Sensible al Valor nos invita a superar una falsa dicotomía que ha dominado el pensamiento tecnológico: la idea de que lo técnico y lo ético son esferas separadas, que la segunda es un lujo filosófico y la primera el trabajo real del ingeniero.
La ciberseguridad, más que cualquier otra disciplina tecnológica, opera en la intersección exacta entre lo técnico y lo humano. Proteger sistemas es, en última instancia, proteger a las personas que dependen de ellos. Y las personas no son solo entidades a autenticar o sesiones a proteger: son seres con valores, derechos y dignidad que el diseño tecnológico puede respetar o vulnerar.
El profesional de seguridad del siglo XXI no puede permitirse ser solo un experto en firewalls y criptografía. Debe ser también un experto en los valores humanos que su trabajo protege o amenaza. El DSV no es un complemento opcional a la formación técnica: es parte integral de la competencia profesional.
“Los ingenieros de sistemas no son solo técnicos. Son, quieran o no, diseñadores de experiencias humanas, arquitectos de relaciones sociales y, en muchos casos, custodios de derechos fundamentales.” — Langdon Winner, 1980