Áreas de trabajo
Tecnología responsable e IA
La tecnología amplía lo que las personas y las organizaciones pueden hacer. También reproduce errores, desigualdades y malas decisiones más rápido y a mayor escala. Las preguntas vivas son si conviene usarla, cómo gobernarla y quién responde cuando se equivoca. Las respuestas dependen menos de la tecnología que de los incentivos, la información, las competencias y las prácticas de trabajo en las que aterriza.
La ambición técnica es la parte fácil
Una decisión tecnológica sólida se apoya en la evidencia, el criterio humano, la gobernanza y las personas a las que afecta. La primera pregunta es si la herramienta aporta algo, no si se puede construir. La siguiente es cómo puede alguien cuestionarla, entender sus límites y reaccionar cuando su resultado no encaja con el caso que tiene delante. Son preguntas de diseño y de gobernanza, y responderlas cuesta mucho menos antes de que la herramienta esté instalada.
Las preguntas que le hacemos a una tecnología
Criterio humano y responsabilidad
Mantener una revisión humana real, una responsabilidad clara y la posibilidad de objetar en torno a las tecnologías usadas en la investigación o en la decisión pública.
Datos, trazabilidad y límites
Permitir saber de dónde viene una información, cómo se ha tratado y qué implican sus límites para su uso.
Efectos desiguales y acceso
Considerar los sesgos, la accesibilidad, la inclusión digital y las formas en que un sistema funciona de otra manera según la situación.
Gobernanza e integridad de la información
Examinar la gobernanza de datos, la privacidad y la seguridad, los riesgos de desinformación y las condiciones institucionales de un uso responsable.
El papel de NoviThea
Partir de la finalidad, no de la herramienta
NoviThea aporta investigación, diseño responsable, desarrollo de capacidades y experimentación a las decisiones sobre si conviene usar una tecnología, cuándo y cómo. El trabajo parte de la finalidad y de las personas afectadas. A veces la conclusión honesta es que la tecnología no es la respuesta.
Antes de elegir la herramienta
¿Qué tiene que lograr esa herramienta, sobre quién recae y qué pasa el día en que se equivoca?